OPML:区块链AI新方案 低成本高效率实现机器学习

robot
摘要生成中

OPML:一种新型区块链机器学习方案

OPML(Optimistic机器学习)是一种新提出的区块链系统AI模型推理和训练方法。相较于ZKML,OPML能够提供更低成本、更高效率的机器学习服务。OPML的硬件要求很低,普通PC无需GPU即可运行大型语言模型如7B-LLaMA(约26GB)。

OPML:采用Optimistic Rollup系统的机器学习

OPML采用验证游戏机制来保证机器学习服务的去中心化和可验证共识。其基本流程是:

  1. 请求者发起ML服务任务
  2. 服务器完成任务并将结果提交到链上
  3. 验证者验证结果,如有异议则启动验证游戏
  4. 通过二分协议精确定位错误步骤
  5. 在智能合约上对争议步骤进行仲裁

OPML:采用Optimistic Rollup系统的机器学习

OPML的单阶段验证游戏采用了类似计算委托(RDoC)的方法,构建了用于链下执行和链上仲裁的虚拟机(VM)。为提高AI模型推理效率,还实现了专门的轻量级DNN库,并提供了从主流ML框架转换模型的脚本。虚拟机镜像通过默克尔树管理,只将默克尔根上传到链上合约。

然而,单阶段验证游戏限制了GPU/TPU加速和并行处理的使用。为解决这一问题,OPML扩展了多阶段协议。多阶段OPML只在最后阶段在VM中计算,其他阶段可在本地环境灵活执行,充分利用各种硬件资源,显著提高了执行性能。

OPML:采用Optimistic Rollup系统的机器学习

以LLaMA模型为例,采用两阶段OPML方法:

  1. 第二阶段在计算图上进行验证博弈,可使用多线程CPU或GPU
  2. 第一阶段将单个节点计算转换为VM指令

OPML:采用Optimistic Rollup系统的机器学习

多阶段OPML相比单阶段实现了α倍计算加速,Merkle树大小也从O(mn)减小到O(m+n)。

为确保ML结果一致性,OPML采用定点算法和基于软件的浮点库,解决了不同平台浮点计算差异的问题。

OPML:采用Optimistic Rollup系统的机器学习

总的来说,OPML为区块链上的机器学习提供了一种高效、低成本且可验证的新方案,有望在多个领域发挥重要作用。

此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 5
  • 分享
评论
0/400
链上无间道vip
· 7小时前
总有韭菜等着被割
回复0
Buy_High_SellLowvip
· 7小时前
韭菜也要有尊严
回复0
PoS养老院院长vip
· 7小时前
所以还是要烧显卡?
回复0
GasFee_Nightmarevip
· 7小时前
牛啊 贫民吃得起了
回复0
稳定币套利者vip
· 7小时前
*调整眼镜* 嗯,套利潜力:最佳为 0.0043%
查看原文回复0
交易,随时随地
qrCode
扫码下载 Gate APP
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)