OPML(Optimistic học máy) là một phương pháp suy diễn và huấn luyện mô hình AI trong hệ thống blockchain được đề xuất mới. So với ZKML, OPML có thể cung cấp dịch vụ học máy với chi phí thấp hơn và hiệu quả cao hơn. Yêu cầu phần cứng của OPML rất thấp, máy tính thông thường không cần GPU vẫn có thể chạy các mô hình ngôn ngữ lớn như 7B-LLaMA( khoảng 26GB).
OPML sử dụng cơ chế trò chơi xác thực để đảm bảo sự phi tập trung và sự đồng thuận có thể xác minh của dịch vụ học máy. Quy trình cơ bản của nó là:
Người yêu cầu khởi tạo nhiệm vụ dịch vụ ML
Máy chủ hoàn thành nhiệm vụ và gửi kết quả lên chuỗi
Kết quả xác thực của người xác thực, nếu có tranh chấp thì khởi động trò chơi xác thực
Xác định chính xác bước lỗi thông qua giao thức chia đôi
Trọng tài các bước tranh chấp trên hợp đồng thông minh
Trò chơi xác thực một giai đoạn của OPML sử dụng phương pháp tương tự như ủy thác tính toán (RDoC), xây dựng máy ảo (VM) cho việc thực thi ngoài chuỗi và trọng tài trên chuỗi. Để nâng cao hiệu suất suy luận của mô hình AI, còn triển khai thư viện DNN nhẹ chuyên dụng và cung cấp kịch bản chuyển đổi mô hình từ các khung ML chính. Ảnh máy ảo được quản lý thông qua cây Merkle, chỉ upload gốc Merkle lên hợp đồng trên chuỗi.
Tuy nhiên, trò chơi xác thực một giai đoạn đã hạn chế việc sử dụng tăng tốc GPU/TPU và xử lý song song. Để giải quyết vấn đề này, OPML đã mở rộng giao thức đa giai đoạn. OPML đa giai đoạn chỉ thực hiện tính toán trong VM ở giai đoạn cuối, các giai đoạn khác có thể được thực hiện linh hoạt trong môi trường cục bộ, tận dụng tối đa các tài nguyên phần cứng khác nhau, cải thiện đáng kể hiệu suất thực thi.
Lấy mô hình LLaMA làm ví dụ, áp dụng phương pháp OPML hai giai đoạn:
Giai đoạn thứ hai thực hiện trò chơi xác minh trên đồ thị tính toán, có thể sử dụng CPU hoặc GPU đa luồng.
Giai đoạn đầu tiên sẽ chuyển đổi tính toán của nút đơn thành lệnh VM
So với giai đoạn đơn, OPML đa giai đoạn đã tăng tốc tính toán lên α lần, kích thước cây Merkle cũng giảm từ O(mn) xuống O(m+n).
Để đảm bảo tính nhất quán của kết quả ML, OPML sử dụng thuật toán số cố định và thư viện số thực dựa trên phần mềm, giải quyết vấn đề khác biệt trong tính toán số thực trên các nền tảng khác nhau.
Tổng thể, OPML cung cấp một giải pháp mới hiệu quả, chi phí thấp và có thể xác minh cho việc học máy trên Blockchain, hứa hẹn sẽ đóng vai trò quan trọng trong nhiều lĩnh vực.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
11 thích
Phần thưởng
11
6
Chia sẻ
Bình luận
0/400
BearMarketSunriser
· 6giờ trước
Tiết kiệm tiền là xong.
Xem bản gốcTrả lời0
OnchainUndercover
· 19giờ trước
Tổng có đồ ngốc chờ bị chơi đùa với mọi người
Xem bản gốcTrả lời0
BuyHighSellLow
· 19giờ trước
đồ ngốc cũng phải có phẩm giá
Xem bản gốcTrả lời0
StakeHouseDirector
· 19giờ trước
Vậy vẫn cần phải đốt card đồ họa?
Xem bản gốcTrả lời0
GasFeeNightmare
· 20giờ trước
bull à, người nghèo đã có thể ăn được
Xem bản gốcTrả lời0
StablecoinArbitrageur
· 20giờ trước
*điều chỉnh kính* hmm tiềm năng chênh lệch giá: 0.0043% tốt nhất
OPML: Giải pháp AI blockchain mới Chi phí thấp, hiệu quả cao trong việc thực hiện học máy
OPML: Một giải pháp học máy blockchain mới
OPML(Optimistic học máy) là một phương pháp suy diễn và huấn luyện mô hình AI trong hệ thống blockchain được đề xuất mới. So với ZKML, OPML có thể cung cấp dịch vụ học máy với chi phí thấp hơn và hiệu quả cao hơn. Yêu cầu phần cứng của OPML rất thấp, máy tính thông thường không cần GPU vẫn có thể chạy các mô hình ngôn ngữ lớn như 7B-LLaMA( khoảng 26GB).
OPML sử dụng cơ chế trò chơi xác thực để đảm bảo sự phi tập trung và sự đồng thuận có thể xác minh của dịch vụ học máy. Quy trình cơ bản của nó là:
Trò chơi xác thực một giai đoạn của OPML sử dụng phương pháp tương tự như ủy thác tính toán (RDoC), xây dựng máy ảo (VM) cho việc thực thi ngoài chuỗi và trọng tài trên chuỗi. Để nâng cao hiệu suất suy luận của mô hình AI, còn triển khai thư viện DNN nhẹ chuyên dụng và cung cấp kịch bản chuyển đổi mô hình từ các khung ML chính. Ảnh máy ảo được quản lý thông qua cây Merkle, chỉ upload gốc Merkle lên hợp đồng trên chuỗi.
Tuy nhiên, trò chơi xác thực một giai đoạn đã hạn chế việc sử dụng tăng tốc GPU/TPU và xử lý song song. Để giải quyết vấn đề này, OPML đã mở rộng giao thức đa giai đoạn. OPML đa giai đoạn chỉ thực hiện tính toán trong VM ở giai đoạn cuối, các giai đoạn khác có thể được thực hiện linh hoạt trong môi trường cục bộ, tận dụng tối đa các tài nguyên phần cứng khác nhau, cải thiện đáng kể hiệu suất thực thi.
Lấy mô hình LLaMA làm ví dụ, áp dụng phương pháp OPML hai giai đoạn:
So với giai đoạn đơn, OPML đa giai đoạn đã tăng tốc tính toán lên α lần, kích thước cây Merkle cũng giảm từ O(mn) xuống O(m+n).
Để đảm bảo tính nhất quán của kết quả ML, OPML sử dụng thuật toán số cố định và thư viện số thực dựa trên phần mềm, giải quyết vấn đề khác biệt trong tính toán số thực trên các nền tảng khác nhau.
Tổng thể, OPML cung cấp một giải pháp mới hiệu quả, chi phí thấp và có thể xác minh cho việc học máy trên Blockchain, hứa hẹn sẽ đóng vai trò quan trọng trong nhiều lĩnh vực.