OPML: uma nova solução de aprendizado de máquina em Blockchain
OPML(Aprendizado de Máquina Optimista) é um novo método proposto de inferência e treinamento de modelos de IA em sistemas de blockchain. Em comparação com ZKML, o OPML pode oferecer serviços de aprendizado de máquina com menor custo e maior eficiência. Os requisitos de hardware do OPML são muito baixos, um PC comum pode executar grandes modelos de linguagem como 7B-LLaMA( com cerca de 26GB), sem necessidade de GPU.
OPML utiliza um mecanismo de jogo de validação para garantir a descentralização e o consenso verificável dos serviços de aprendizado de máquina. O processo básico é:
O solicitante inicia a tarefa de serviço ML
O servidor completa a tarefa e submete os resultados ao blockchain
Os validadores verificam os resultados, e se houver objeções, inicia-se o jogo de validação.
Localizar precisamente os passos errados através do protocolo de bifurcação
Arbitragem dos passos de disputa em contratos inteligentes
O jogo de verificação de uma única fase do OPML utiliza um método semelhante ao da delegação de cálculo (RDoC), construindo uma máquina virtual (VM) para execução fora da cadeia e arbitragem na cadeia. Para melhorar a eficiência da inferência do modelo de IA, também foi implementada uma biblioteca DNN leve dedicada, e são fornecidos scripts para converter modelos a partir de estruturas de ML populares. A imagem da máquina virtual é gerida através de uma árvore de Merkle, enviando apenas a raiz Merkle para o contrato na cadeia.
No entanto, o jogo de verificação de estágio único limita o uso de aceleração GPU/TPU e processamento paralelo. Para resolver esse problema, o OPML expandiu o protocolo de múltiplos estágios. O OPML de múltiplos estágios calcula apenas na fase final na VM, enquanto as outras fases podem ser executadas flexivelmente no ambiente local, aproveitando ao máximo diversos recursos de hardware e melhorando significativamente o desempenho da execução.
Utilizando o modelo LLaMA como exemplo, adotamos o método OPML em duas fases:
A segunda fase realiza um jogo de verificação no gráfico computacional, podendo utilizar CPU ou GPU multithread.
A primeira fase irá converter o cálculo de um único nó em instruções de VM.
A implementação de múltiplas fases em OPML proporcionou uma aceleração de cálculo de α vezes em comparação com a fase única, e o tamanho da árvore Merkle foi reduzido de O(mn) para O(m+n).
Para garantir a consistência dos resultados de ML, o OPML utiliza algoritmos de ponto fixo e uma biblioteca de ponto flutuante baseada em software, resolvendo o problema das diferenças de cálculo de ponto flutuante entre diferentes plataformas.
Em geral, o OPML oferece uma nova solução eficiente, de baixo custo e verificável para o aprendizado de máquina na Blockchain, com potencial para desempenhar um papel importante em várias áreas.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
11 Curtidas
Recompensa
11
5
Compartilhar
Comentário
0/400
OnchainUndercover
· 5h atrás
Total há idiotas à espera de fazer as pessoas de parvas
Ver originalResponder0
BuyHighSellLow
· 5h atrás
idiotas também devem ter dignidade
Ver originalResponder0
StakeHouseDirector
· 5h atrás
Então ainda é preciso queimar a placa gráfica?
Ver originalResponder0
GasFeeNightmare
· 5h atrás
bull ah os pobres conseguem comer
Ver originalResponder0
StablecoinArbitrageur
· 5h atrás
*ajusta os óculos* hmm potencial de arbitragem: 0,0043% no máximo
OPML: Nova solução de Blockchain AI com baixo custo e alta eficiência na implementação de aprendizagem de máquina
OPML: uma nova solução de aprendizado de máquina em Blockchain
OPML(Aprendizado de Máquina Optimista) é um novo método proposto de inferência e treinamento de modelos de IA em sistemas de blockchain. Em comparação com ZKML, o OPML pode oferecer serviços de aprendizado de máquina com menor custo e maior eficiência. Os requisitos de hardware do OPML são muito baixos, um PC comum pode executar grandes modelos de linguagem como 7B-LLaMA( com cerca de 26GB), sem necessidade de GPU.
OPML utiliza um mecanismo de jogo de validação para garantir a descentralização e o consenso verificável dos serviços de aprendizado de máquina. O processo básico é:
O jogo de verificação de uma única fase do OPML utiliza um método semelhante ao da delegação de cálculo (RDoC), construindo uma máquina virtual (VM) para execução fora da cadeia e arbitragem na cadeia. Para melhorar a eficiência da inferência do modelo de IA, também foi implementada uma biblioteca DNN leve dedicada, e são fornecidos scripts para converter modelos a partir de estruturas de ML populares. A imagem da máquina virtual é gerida através de uma árvore de Merkle, enviando apenas a raiz Merkle para o contrato na cadeia.
No entanto, o jogo de verificação de estágio único limita o uso de aceleração GPU/TPU e processamento paralelo. Para resolver esse problema, o OPML expandiu o protocolo de múltiplos estágios. O OPML de múltiplos estágios calcula apenas na fase final na VM, enquanto as outras fases podem ser executadas flexivelmente no ambiente local, aproveitando ao máximo diversos recursos de hardware e melhorando significativamente o desempenho da execução.
Utilizando o modelo LLaMA como exemplo, adotamos o método OPML em duas fases:
A implementação de múltiplas fases em OPML proporcionou uma aceleração de cálculo de α vezes em comparação com a fase única, e o tamanho da árvore Merkle foi reduzido de O(mn) para O(m+n).
Para garantir a consistência dos resultados de ML, o OPML utiliza algoritmos de ponto fixo e uma biblioteca de ponto flutuante baseada em software, resolvendo o problema das diferenças de cálculo de ponto flutuante entre diferentes plataformas.
Em geral, o OPML oferece uma nova solução eficiente, de baixo custo e verificável para o aprendizado de máquina na Blockchain, com potencial para desempenhar um papel importante em várias áreas.