OPML: Sebuah solusi pembelajaran mesin blockchain baru
OPML(Optimistic machine learning) adalah metode inferensi dan pelatihan model AI dalam sistem blockchain yang baru diusulkan. Dibandingkan dengan ZKML, OPML dapat memberikan layanan machine learning yang lebih rendah biaya dan lebih tinggi efisiensi. Persyaratan perangkat keras OPML sangat rendah, PC biasa dapat menjalankan model bahasa besar seperti 7B-LLaMA( tanpa GPU sekitar 26GB).
OPML menggunakan mekanisme permainan verifikasi untuk memastikan desentralisasi dan konsensus yang dapat diverifikasi dari layanan pembelajaran mesin. Proses dasarnya adalah:
Pengirim mengajukan tugas layanan ML
Server menyelesaikan tugas dan mengirimkan hasilnya ke blok.
Hasil verifikasi oleh validator, jika ada keberatan maka mulai permainan verifikasi
Menentukan langkah kesalahan dengan tepat melalui protokol biner
Melakukan arbitrase langkah-langkah sengketa pada kontrak pintar
Permainan verifikasi satu tahap OPML menggunakan metode yang mirip dengan delegasi perhitungan (RDoC), membangun mesin virtual (VM) untuk eksekusi off-chain dan arbitrase on-chain. Untuk meningkatkan efisiensi inferensi model AI, juga telah diimplementasikan perpustakaan DNN ringan khusus, dan menyediakan skrip untuk mengonversi model dari kerangka ML utama. Citra mesin virtual dikelola melalui pohon Merkle, hanya mengunggah akar Merkle ke kontrak di chain.
Namun, permainan verifikasi satu tahap membatasi penggunaan akselerasi GPU/TPU dan pemrosesan paralel. Untuk mengatasi masalah ini, OPML memperluas protokol multi-tahap. Multi-tahap OPML hanya melakukan perhitungan di VM pada tahap terakhir, sementara tahap lainnya dapat dilaksanakan secara fleksibel di lingkungan lokal, memanfaatkan berbagai sumber daya perangkat keras, dan secara signifikan meningkatkan kinerja eksekusi.
Sebagai contoh model LLaMA, menggunakan metode OPML dua tahap:
Tahap kedua melakukan verifikasi permainan di atas grafik komputasi, dapat menggunakan CPU atau GPU multi-thread.
Tahap pertama mengubah perhitungan node tunggal menjadi instruksi VM
Multi-stage OPML dibandingkan dengan tahap tunggal mencapai percepatan perhitungan α kali lipat, ukuran pohon Merkle juga berkurang dari O(mn) menjadi O(m+n).
Untuk memastikan konsistensi hasil ML, OPML menggunakan algoritma fixed-point dan pustaka floating-point berbasis perangkat lunak, yang menyelesaikan masalah perbedaan perhitungan floating-point di berbagai platform.
Secara keseluruhan, OPML menawarkan solusi baru yang efisien, biaya rendah, dan dapat diverifikasi untuk pembelajaran mesin di Blockchain, yang diharapkan dapat memainkan peran penting di berbagai bidang.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
12 Suka
Hadiah
12
6
Bagikan
Komentar
0/400
BearMarketSunriser
· 20jam yang lalu
Hemat uang sudah selesai.
Lihat AsliBalas0
OnchainUndercover
· 08-03 18:49
Selalu ada suckers yang menunggu untuk dipermainkan.
Lihat AsliBalas0
BuyHighSellLow
· 08-03 18:48
Suckers juga harus memiliki martabat
Lihat AsliBalas0
StakeHouseDirector
· 08-03 18:47
Jadi masih perlu membakar kartu grafis?
Lihat AsliBalas0
GasFeeNightmare
· 08-03 18:30
Bull, orang miskin bisa memakannya sekarang.
Lihat AsliBalas0
StablecoinArbitrageur
· 08-03 18:25
*mengatur kacamata* hmm potensi arbitrase: 0,0043% di terbaik
OPML: Solusi AI Blockchain Baru untuk Mewujudkan Pembelajaran Mesin dengan Biaya Rendah dan Efisiensi Tinggi
OPML: Sebuah solusi pembelajaran mesin blockchain baru
OPML(Optimistic machine learning) adalah metode inferensi dan pelatihan model AI dalam sistem blockchain yang baru diusulkan. Dibandingkan dengan ZKML, OPML dapat memberikan layanan machine learning yang lebih rendah biaya dan lebih tinggi efisiensi. Persyaratan perangkat keras OPML sangat rendah, PC biasa dapat menjalankan model bahasa besar seperti 7B-LLaMA( tanpa GPU sekitar 26GB).
OPML menggunakan mekanisme permainan verifikasi untuk memastikan desentralisasi dan konsensus yang dapat diverifikasi dari layanan pembelajaran mesin. Proses dasarnya adalah:
Permainan verifikasi satu tahap OPML menggunakan metode yang mirip dengan delegasi perhitungan (RDoC), membangun mesin virtual (VM) untuk eksekusi off-chain dan arbitrase on-chain. Untuk meningkatkan efisiensi inferensi model AI, juga telah diimplementasikan perpustakaan DNN ringan khusus, dan menyediakan skrip untuk mengonversi model dari kerangka ML utama. Citra mesin virtual dikelola melalui pohon Merkle, hanya mengunggah akar Merkle ke kontrak di chain.
Namun, permainan verifikasi satu tahap membatasi penggunaan akselerasi GPU/TPU dan pemrosesan paralel. Untuk mengatasi masalah ini, OPML memperluas protokol multi-tahap. Multi-tahap OPML hanya melakukan perhitungan di VM pada tahap terakhir, sementara tahap lainnya dapat dilaksanakan secara fleksibel di lingkungan lokal, memanfaatkan berbagai sumber daya perangkat keras, dan secara signifikan meningkatkan kinerja eksekusi.
Sebagai contoh model LLaMA, menggunakan metode OPML dua tahap:
Multi-stage OPML dibandingkan dengan tahap tunggal mencapai percepatan perhitungan α kali lipat, ukuran pohon Merkle juga berkurang dari O(mn) menjadi O(m+n).
Untuk memastikan konsistensi hasil ML, OPML menggunakan algoritma fixed-point dan pustaka floating-point berbasis perangkat lunak, yang menyelesaikan masalah perbedaan perhitungan floating-point di berbagai platform.
Secara keseluruhan, OPML menawarkan solusi baru yang efisien, biaya rendah, dan dapat diverifikasi untuk pembelajaran mesin di Blockchain, yang diharapkan dapat memainkan peran penting di berbagai bidang.