OPML: uma nova solução de aprendizado de máquina em Blockchain
OPML(Aprendizado de Máquina Optimista) é um novo método proposto de inferência e treinamento de modelos de IA em sistemas de blockchain. Em comparação com ZKML, o OPML pode oferecer serviços de aprendizado de máquina com menor custo e maior eficiência. Os requisitos de hardware do OPML são muito baixos, um PC comum pode executar grandes modelos de linguagem como 7B-LLaMA( com cerca de 26GB), sem necessidade de GPU.
OPML utiliza um mecanismo de jogo de validação para garantir a descentralização e o consenso verificável dos serviços de aprendizado de máquina. O processo básico é:
O solicitante inicia a tarefa de serviço ML
O servidor completa a tarefa e submete os resultados ao blockchain
Os validadores verificam os resultados, e se houver objeções, inicia-se o jogo de validação.
Localizar precisamente os passos errados através do protocolo de bifurcação
Arbitragem dos passos de disputa em contratos inteligentes
O jogo de verificação de uma única fase do OPML utiliza um método semelhante ao da delegação de cálculo (RDoC), construindo uma máquina virtual (VM) para execução fora da cadeia e arbitragem na cadeia. Para melhorar a eficiência da inferência do modelo de IA, também foi implementada uma biblioteca DNN leve dedicada, e são fornecidos scripts para converter modelos a partir de estruturas de ML populares. A imagem da máquina virtual é gerida através de uma árvore de Merkle, enviando apenas a raiz Merkle para o contrato na cadeia.
No entanto, o jogo de verificação de estágio único limita o uso de aceleração GPU/TPU e processamento paralelo. Para resolver esse problema, o OPML expandiu o protocolo de múltiplos estágios. O OPML de múltiplos estágios calcula apenas na fase final na VM, enquanto as outras fases podem ser executadas flexivelmente no ambiente local, aproveitando ao máximo diversos recursos de hardware e melhorando significativamente o desempenho da execução.
Utilizando o modelo LLaMA como exemplo, adotamos o método OPML em duas fases:
A segunda fase realiza um jogo de verificação no gráfico computacional, podendo utilizar CPU ou GPU multithread.
A primeira fase irá converter o cálculo de um único nó em instruções de VM.
A implementação de múltiplas fases em OPML proporcionou uma aceleração de cálculo de α vezes em comparação com a fase única, e o tamanho da árvore Merkle foi reduzido de O(mn) para O(m+n).
Para garantir a consistência dos resultados de ML, o OPML utiliza algoritmos de ponto fixo e uma biblioteca de ponto flutuante baseada em software, resolvendo o problema das diferenças de cálculo de ponto flutuante entre diferentes plataformas.
Em geral, o OPML oferece uma nova solução eficiente, de baixo custo e verificável para o aprendizado de máquina na Blockchain, com potencial para desempenhar um papel importante em várias áreas.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
12 gostos
Recompensa
12
6
Partilhar
Comentar
0/400
BearMarketSunriser
· 08-04 08:03
Economizar é tudo o que importa.
Ver originalResponder0
OnchainUndercover
· 08-03 18:49
Total há idiotas à espera de fazer as pessoas de parvas
Ver originalResponder0
BuyHighSellLow
· 08-03 18:48
idiotas também devem ter dignidade
Ver originalResponder0
StakeHouseDirector
· 08-03 18:47
Então ainda é preciso queimar a placa gráfica?
Ver originalResponder0
GasFeeNightmare
· 08-03 18:30
bull ah os pobres conseguem comer
Ver originalResponder0
StablecoinArbitrageur
· 08-03 18:25
*ajusta os óculos* hmm potencial de arbitragem: 0,0043% no máximo
OPML: Nova solução de Blockchain AI com baixo custo e alta eficiência na implementação de aprendizagem de máquina
OPML: uma nova solução de aprendizado de máquina em Blockchain
OPML(Aprendizado de Máquina Optimista) é um novo método proposto de inferência e treinamento de modelos de IA em sistemas de blockchain. Em comparação com ZKML, o OPML pode oferecer serviços de aprendizado de máquina com menor custo e maior eficiência. Os requisitos de hardware do OPML são muito baixos, um PC comum pode executar grandes modelos de linguagem como 7B-LLaMA( com cerca de 26GB), sem necessidade de GPU.
OPML utiliza um mecanismo de jogo de validação para garantir a descentralização e o consenso verificável dos serviços de aprendizado de máquina. O processo básico é:
O jogo de verificação de uma única fase do OPML utiliza um método semelhante ao da delegação de cálculo (RDoC), construindo uma máquina virtual (VM) para execução fora da cadeia e arbitragem na cadeia. Para melhorar a eficiência da inferência do modelo de IA, também foi implementada uma biblioteca DNN leve dedicada, e são fornecidos scripts para converter modelos a partir de estruturas de ML populares. A imagem da máquina virtual é gerida através de uma árvore de Merkle, enviando apenas a raiz Merkle para o contrato na cadeia.
No entanto, o jogo de verificação de estágio único limita o uso de aceleração GPU/TPU e processamento paralelo. Para resolver esse problema, o OPML expandiu o protocolo de múltiplos estágios. O OPML de múltiplos estágios calcula apenas na fase final na VM, enquanto as outras fases podem ser executadas flexivelmente no ambiente local, aproveitando ao máximo diversos recursos de hardware e melhorando significativamente o desempenho da execução.
Utilizando o modelo LLaMA como exemplo, adotamos o método OPML em duas fases:
A implementação de múltiplas fases em OPML proporcionou uma aceleração de cálculo de α vezes em comparação com a fase única, e o tamanho da árvore Merkle foi reduzido de O(mn) para O(m+n).
Para garantir a consistência dos resultados de ML, o OPML utiliza algoritmos de ponto fixo e uma biblioteca de ponto flutuante baseada em software, resolvendo o problema das diferenças de cálculo de ponto flutuante entre diferentes plataformas.
Em geral, o OPML oferece uma nova solução eficiente, de baixo custo e verificável para o aprendizado de máquina na Blockchain, com potencial para desempenhar um papel importante em várias áreas.