OPML : un nouveau type de Blockchain pour l'apprentissage machine

OPML(Optimistic apprentissage automatique) est une nouvelle méthode proposée pour l'inférence et l'entraînement de modèles AI dans un système Blockchain. Comparé à ZKML, OPML peut fournir des services d'apprentissage automatique à moindre coût et avec une plus grande efficacité. Les exigences matérielles d'OPML sont très faibles, un PC ordinaire peut faire fonctionner des modèles de langage de grande taille comme 7B-LLaMA( d'environ 26GB).

OPML utilise un mécanisme de jeu de validation pour garantir la décentralisation et le consensus vérifiable des services d'apprentissage automatique. Son processus de base est :

1. Le demandeur lance une tâche de service ML
2. Le serveur termine la tâche et soumet le résultat sur la Blockchain
3. Les validateurs vérifient les résultats, et en cas de désaccord, ils lancent le jeu de validation.
4. Localiser précisément les étapes d'erreur via le protocole binaire
5. Arbitrage des étapes de litige sur un contrat intelligent

Le jeu de validation à une seule étape d'OPML utilise une méthode similaire à la délégation de calcul (RDoC), construisant une machine virtuelle (VM) pour l'exécution hors chaîne et l'arbitrage sur chaîne. Pour améliorer l'efficacité de l'inférence des modèles d'IA, une bibliothèque DNN légère spécialisée a également été mise en œuvre, et des scripts ont été fournis pour convertir des modèles à partir de frameworks ML populaires. L'image de la machine virtuelle est gérée par un arbre de Merkle, ne téléchargeant que la racine de Merkle sur le contrat de chaîne.

Cependant, le jeu de validation à une seule étape limite l'utilisation de l'accélération GPU/TPU et du traitement parallèle. Pour résoudre ce problème, OPML a étendu le protocole multi-étapes. Le OPML multi-étapes ne calcule dans la VM qu'à la dernière étape, les autres étapes pouvant être exécutées de manière flexible dans un environnement local, tirant pleinement parti des diverses ressources matérielles et améliorant considérablement les performances d'exécution.

Prenons le modèle LLaMA comme exemple, en utilisant la méthode OPML en deux étapes :

1. La deuxième phase consiste à effectuer un jeu de validation sur le graphique de calcul, pouvant utiliser un CPU multithread ou un GPU.
2. La première étape consiste à convertir le calcul d'un nœud unique en instructions VM.

La méthode OPML multi-étapes a permis un accélération des calculs par un facteur α par rapport à la méthode à une seule étape, et la taille de l'arbre Merkle est passée de O(mn) à O(m+n).

Pour garantir la cohérence des résultats ML, OPML utilise un algorithme à virgule fixe et une bibliothèque de flottants basée sur un logiciel, résolvant ainsi les problèmes de différence de calcul à virgule flottante entre les différentes plateformes.

Dans l'ensemble, OPML propose une nouvelle solution efficace, à faible coût et vérifiable pour l'apprentissage automatique sur la blockchain, avec des perspectives de jouer un rôle important dans plusieurs domaines.