OPML:基于乐观方法的机器学习框架

我们提出了一种名为OPML(Optimistic机器学习)的新型框架,它能够在区块链系统上高效执行AI模型的推理和训练。与ZKML相比,OPML具有更低的成本和更高的效率。OPML的硬件要求非常低,普通PC无需GPU即可运行包含7B-LLaMA等大型语言模型在内的OPML任务。

OPML采用验证游戏机制来确保ML服务的去中心化和可验证性。其流程如下:

1. 用户发起ML服务请求
2. 服务器完成任务并将结果提交到链上
3. 验证者检查结果,如有异议则启动验证游戏
4. 通过二分协议定位具体错误步骤
5. 最后由智能合约进行单步仲裁

单阶段验证游戏

单阶段OPML的关键点包括:

• 构建用于链下执行和链上仲裁的虚拟机(VM)
• 实现专门的轻量级DNN库,提高AI推理效率
• 使用交叉编译技术将AI推理代码编译为VM指令
• 采用默克尔树管理VM镜像,只上传根哈希到链上

在基本测试中,我们能在2秒内完成DNN推理,整个挑战过程可在2分钟内完成。

多阶段验证游戏

为克服单阶段方案的局限性,我们提出了多阶段验证游戏:

• 只在最后阶段在VM中计算,其他阶段可灵活执行
• 充分利用GPU/TPU加速和并行处理
• 显著提高执行性能,接近本地环境水平
• 采用默克尔树确保阶段间转换的完整性和安全性

以LLaMA模型为例,我们采用两阶段OPML方法:

• 第二阶段在计算图上进行验证博弈,可使用GPU加速
• 第一阶段将单个节点计算转换为VM指令

多阶段方法相比单阶段可实现α倍的计算加速,同时大幅减小默克尔树大小。

一致性与确定性

为确保ML结果的一致性,我们采取了以下措施:

1. 使用定点算法(量化技术)减少浮点误差影响
2. 采用跨平台一致的软件浮点库

这些技术有效克服了浮点变量和平台差异带来的挑战,增强了OPML计算的可靠性。

OPML仍在持续开发中。我们欢迎对该项目感兴趣的人士加入,为OPML的发展做出贡献。