OPML: un nuevo tipo de Cadena de bloques de aprendizaje automático
OPML(El aprendizaje automático optimista) es un nuevo método propuesto para la inferencia y entrenamiento de modelos de IA en sistemas de cadena de bloques. En comparación con ZKML, OPML puede ofrecer servicios de aprendizaje automático a un costo más bajo y con mayor eficiencia. Los requisitos de hardware de OPML son muy bajos, una PC normal puede ejecutar modelos de lenguaje grandes como 7B-LLaMA( con aproximadamente 26GB).
OPML utiliza un mecanismo de juego de verificación para garantizar la descentralización y el consenso verificable de los servicios de aprendizaje automático. Su proceso básico es:
El solicitante inicia la tarea del servicio ML
El servidor completa la tarea y envía el resultado a la Cadena de bloques
Los validadores verifican los resultados, y si hay objeciones, se inicia el juego de validación.
Localizar con precisión el paso incorrecto a través del protocolo de bifurcación
Arbitraje de los pasos de controversia en el contrato inteligente
El juego de verificación de una sola fase de OPML utiliza un método similar al de la delegación de cálculos (RDoC), construyendo una máquina virtual (VM) para la ejecución fuera de la cadena y el arbitraje en la cadena. Para mejorar la eficiencia de inferencia del modelo de IA, también se implementó una biblioteca DNN ligera especializada y se proporcionaron scripts para convertir modelos desde marcos de ML convencionales. La imagen de la máquina virtual se gestiona a través de un árbol de Merkle, subiendo solo la raíz de Merkle al contrato en la cadena.
Sin embargo, los juegos de verificación de una sola etapa limitan el uso de aceleración por GPU/TPU y el procesamiento en paralelo. Para resolver este problema, OPML amplió el protocolo de múltiples etapas. El OPML de múltiples etapas solo calcula en la VM en la última etapa, mientras que las otras etapas se pueden ejecutar de manera flexible en el entorno local, aprovechando al máximo los diversos recursos de hardware y mejorando significativamente el rendimiento de ejecución.
Tomando como ejemplo el modelo LLaMA, se utiliza el método OPML en dos etapas:
La segunda fase lleva a cabo un juego de verificación sobre el gráfico computacional, se puede utilizar CPU o GPU multihilo.
La primera fase convierte el cálculo de un solo nodo en instrucciones de VM
La implementación de OPML en múltiples etapas ha logrado una aceleración de cálculo de α veces en comparación con una sola etapa, y el tamaño del árbol de Merkle también se ha reducido de O(mn) a O(m+n).
Para asegurar la consistencia de los resultados de ML, OPML utiliza un algoritmo de punto fijo y una biblioteca de punto flotante basada en software, resolviendo el problema de las diferencias en el cálculo de punto flotante entre diferentes plataformas.
En general, OPML ofrece una nueva solución eficiente, de bajo costo y verificable para el aprendizaje automático en la cadena de bloques, con la esperanza de desempeñar un papel importante en múltiples campos.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
11 me gusta
Recompensa
11
5
Compartir
Comentar
0/400
OnchainUndercover
· hace3h
总有 tontos 等着被 tomar a la gente por tonta
Ver originalesResponder0
BuyHighSellLow
· hace3h
Los tontos también deben tener dignidad
Ver originalesResponder0
StakeHouseDirector
· hace3h
¿Entonces todavía hay que quemar la tarjeta gráfica?
Ver originalesResponder0
GasFeeNightmare
· hace3h
alcista ah los pobres pueden permitírselo
Ver originalesResponder0
StablecoinArbitrageur
· hace3h
*ajusta las gafas* hmm potencial de arbitraje: 0.0043% como máximo
OPML: nueva solución de AI en la Cadena de bloques, implementación de aprendizaje automático de bajo costo y alta eficiencia
OPML: un nuevo tipo de Cadena de bloques de aprendizaje automático
OPML(El aprendizaje automático optimista) es un nuevo método propuesto para la inferencia y entrenamiento de modelos de IA en sistemas de cadena de bloques. En comparación con ZKML, OPML puede ofrecer servicios de aprendizaje automático a un costo más bajo y con mayor eficiencia. Los requisitos de hardware de OPML son muy bajos, una PC normal puede ejecutar modelos de lenguaje grandes como 7B-LLaMA( con aproximadamente 26GB).
OPML utiliza un mecanismo de juego de verificación para garantizar la descentralización y el consenso verificable de los servicios de aprendizaje automático. Su proceso básico es:
El juego de verificación de una sola fase de OPML utiliza un método similar al de la delegación de cálculos (RDoC), construyendo una máquina virtual (VM) para la ejecución fuera de la cadena y el arbitraje en la cadena. Para mejorar la eficiencia de inferencia del modelo de IA, también se implementó una biblioteca DNN ligera especializada y se proporcionaron scripts para convertir modelos desde marcos de ML convencionales. La imagen de la máquina virtual se gestiona a través de un árbol de Merkle, subiendo solo la raíz de Merkle al contrato en la cadena.
Sin embargo, los juegos de verificación de una sola etapa limitan el uso de aceleración por GPU/TPU y el procesamiento en paralelo. Para resolver este problema, OPML amplió el protocolo de múltiples etapas. El OPML de múltiples etapas solo calcula en la VM en la última etapa, mientras que las otras etapas se pueden ejecutar de manera flexible en el entorno local, aprovechando al máximo los diversos recursos de hardware y mejorando significativamente el rendimiento de ejecución.
Tomando como ejemplo el modelo LLaMA, se utiliza el método OPML en dos etapas:
La implementación de OPML en múltiples etapas ha logrado una aceleración de cálculo de α veces en comparación con una sola etapa, y el tamaño del árbol de Merkle también se ha reducido de O(mn) a O(m+n).
Para asegurar la consistencia de los resultados de ML, OPML utiliza un algoritmo de punto fijo y una biblioteca de punto flotante basada en software, resolviendo el problema de las diferencias en el cálculo de punto flotante entre diferentes plataformas.
En general, OPML ofrece una nueva solución eficiente, de bajo costo y verificable para el aprendizaje automático en la cadena de bloques, con la esperanza de desempeñar un papel importante en múltiples campos.