那么，机器学习是如何工作的呢？

首先，让我们快速了解一下机器学习的内部工作原理：

1 .输入数据预处理：

2.设置初始模型参数：

3.训练数据：

1）输入被送入神经网络，通常从一层或多层特征提取和关系建模开始，例如卷积层（CNN）、循环层（RNN）或自注意力层。这些层学习从输入数据中提取相关特征，并对这些特征之间的关系建模。2）这些层的输出然后通过一个或多个附加层传递，这些附加层对输入数据执行不同的计算和转换。这些层通常主要涉及与可学习权重矩阵的矩阵乘法和非线性激活函数的应用，但它们也可能包括其他操作，例如卷积神经网络中的卷积和池化或递归神经网络中的迭代。这些层的输出作为模型中下一层的输入或作为预测的最终输出。

4.获取模型的输出：

CNN的最终输出是概率最高的类别。这就是输入图像的预测标签。

机器学习信任框架

第二部分：机器学习的信任问题

随着机器学习（ML）应用的爆炸式增长（复合年增长率超过20%）以及它们在日常生活中的融合程度的增加，如ChatGPT的最近流行，对ML的信任问题变得日益重要，不能被忽视。因此，发现并解决这些信任问题对于确保AI的负责任使用和防止其潜在滥用至关重要。然而，这些问题到底是什么呢？让我们深入了解。

隐私性：如前所述，模型参数通常是私有的，在某些情况下，模型输入也需要保密，这自然会在模型拥有者和模型使用者之间带来一些信任问题。

机器学习信任问题的详细分类

Input:

Model:

Parameters:

Output:

ZK如何应用于ML信任框架

1.制定一个需要证明的陈述：f(x,w)=true

“我已经使用带有私有参数 w 的 ML 模型 f 对这张图像 x 进行了正确分类。”

2.将语句转换为电路（Arithmetization）：不同的电路构造方法包括R1CS、QAP、Plonkish等。

3.生成证明密钥和验证密钥

4.创建见证人：当 w=w*,f(x,w)=true

5.创建哈希承诺：见证人 w* 承诺使用加密哈希函数生成哈希值。然后可以公开此散列值。

6.生成证明：不同的证明系统使用不同的证明生成算法。

需要为机器学习操作设计特殊的零知识规则，例如矩阵乘法和卷积层，从而为这些计算提供具有亚线性时间的高效协议。

2022 年，Daniel Kang Tatsunori Hashimoto、Ion Stoica 和 Yi Sun（Axiom 创始人）提出了一种基于 Halo2 的新证明方案，首次实现了 ImageNet 数据集的 ZK 证明生成。他们的优化主要落在算术部分，具有新颖的非线性查找参数和跨层子电路的重用。

7.验证证明：验证者使用验证密钥进行验证，无需见证人知晓。

解决方案的现状

Axiom 正在为以太坊构建一个 ZK 协处理器，以改善用户对区块链数据的访问并提供更复杂的链上数据视图。对链上数据进行可靠的机器学习计算是可行的：

首先，Axiom 通过将以太坊区块哈希的 Merkle 根存储在其智能合约 AxiomV0 中来导入链上数据，这些数据通过 ZK-SNARK 验证过程进行无信任验证。然后，AxiomV0StoragePf 合约允许根据缓存在 AxiomV0 中的块哈希给出的信任根，批量验证任意历史以太坊存储证明。接下来，可以从导入的历史数据中提取 ML 输入数据。然后 Axiom 可以在上面应用经过验证的机器学习操作；使用优化的 halo2 作为后端来验证每个计算的有效性。最后，Axiom 为每个查询的结果附上 zk 证明，Axiom 智能合约将验证 zk 证明。任何想要证明的相关方都可以从智能合约中访问它。

RISC 零 ZKVM 是一个 RISC-V 虚拟机，它产生它执行的代码的零知识证明。使用 ZKVM，生成加密收据，任何人都可以验证它是由 ZKVM 的访客代码生成的。发布收据不会透露有关代码执行的其他信息（例如，提供的输入）。

通过在 RISC Zero 的 ZKVM 中运行机器学习模型，可以证明执行了模型中涉及的精确计算。计算和验证过程可以在用户首选环境中的链下完成，也可以在通用汇总的盆景网络中完成。

首先，模型的源代码需要编译成 RISC-V 二进制文件。当这个二进制文件在 ZKVM 中执行时，输出与包含加密印章的计算收据配对。该印章用作计算完整性的零知识论证，并将加密 imageID（标识已执行的 RISC-V 二进制文件）链接到断言的代码输出，第三方可以快速验证。当模型在 ZKVM 中执行时，关于状态变化的计算完全在 VM 中完成。它不会向外部各方泄露有关模型内部状态的任何信息。一旦模型完成执行，生成的印章将作为计算完整性的零知识证明。

Ezkl 是一个库和命令行工具，用于对 zkSNARK 中的深度学习模型和其他计算图进行推理。

首先，将最终模型导出为 .onnx 文件，并将一些样本输入导出为 .json 文件。然后，将 ezkl 指向 .onnx 和 .json 文件以生成 ZK-SNARK 电路，您可以使用它来证明 ZKML 语句。

第三部分：用例在哪里？

ZK+ML 有效的 Web3 用例

Defi

Defi 是为数不多的适合区块链协议和 Web3 应用程序的产品市场之一。能够以无需许可的方式创造、存储和管理财富和资本在人类历史上是前所未有的。我们已经确定了许多 AI/ML 模型需要在未经许可的情况下运行以确保安全性和去中心化的用例。

风险评估：现代金融需要 AI/ML 模型进行各种风险评估，从防止欺诈和洗钱到发放无抵押贷款。确保这个 AI/ML 模型以可验证的方式运行意味着我们可以防止它们被操纵进入审查制度，这阻碍了使用 Defi 产品的无许可性质。

The Rocky Bot ：Modulus Labs 在 StarkNet 上创建了一个交易机器人，使用人工智能进行决策。

Gaming

AI Agents

Leela Chess Zero (LC0)：由 Modulus Labs 打造的完全链上人工智能国际象棋棋手，与来自社区的一群人类棋手对弈。

LC0 和人类集体轮流下棋（象棋应该如此）。

LC0 的移动是使用简化的、电路友好的 LC0 模型计算的。

LC0 的举动生成了 Halo2 snark 证明，以确保没有人为策划干预。只有简化的 LC0 模型可以做出决定。

数据分析和预测：这是 AI/ML 在 Web2 游戏世界中的常见用途。然而，我们发现很少有理由将 ZK 实施到这个 ML 过程中。为了不直接参与该过程的太多价值，可能不值得付出努力。但是，如果使用某些分析和预测来确定用户的奖励，则可能会实施 ZK 以确保结果正确。

AI Arena 是一款以太坊原生游戏，全世界的玩家都可以在其中设计、训练和战斗由人工神经网络驱动的 NFT 角色。来自世界各地的才华横溢的研究人员竞相创建最佳的机器学习 (ML) 模型以在游戏中进行战斗。 AI Arena 专注于前馈神经网络。通常，它们的计算开销低于卷积神经网络 (CNN) 或递归神经网络 (RNN)。不过，就目前而言，模型只有在经过训练后才会上传到平台，因此值得一提。

GiroGiro.AI 正在构建一个 AI 工具包，使大众能够创建用于个人或商业用途的人工智能。用户可以基于直观和自动化的 AI 工作流平台创建各种 AI 系统。只需输入少量数据并选择算法（或用于改进的模型），用户就会在脑海中生成和利用 AI 模型。尽管该项目处于非常早期的阶段，但由于 GiroGiro 专注于 gamefi 和以虚拟世界为重点的产品，因此我们非常期待看到它能带来什么，因此它获得了荣誉奖。

DID 和社交

Worldcoin 使用一种称为 Orb 的设备来确定某人是否是一个没有试图欺骗验证的真实存在的人。它通过各种相机传感器和分析面部和虹膜特征的机器学习模型来实现这一点。一旦做出决定，Orb 就会拍摄一组人的虹膜照片，并使用多种机器学习模型和其他计算机视觉技术来创建虹膜代码，这是个人虹膜图案最重要特征的数字表示。具体报名步骤如下：

Worldcoin 使用开源的 Semaphore 零知识证明系统将 IrisHashes 的唯一性转移到用户帐户的唯一性，而无需将它们链接起来。这确保了新注册的用户可以成功领取他/她的 WorldCoins。步骤如下：

WorldCoin 使用 ZK 技术确保其 ML 模型的输出不会泄露用户的个人数据，因为它们不会相互关联。在这种情况下，它属于我们信任框架的“输出”部分，因为它确保输出以所需方式传输和使用，在这种情况下是私密的。

Astraly 是一个建立在 StarkNet 上的基于声誉的代币分发平台，用于寻找和支持最新最好的 StarkNet 项目。衡量声誉是一项具有挑战性的任务，因为它是一个抽象概念，无法用简单的指标轻松量化。在处理复杂的指标时，通常情况下，更全面和多样化的输入会产生更好的结果。这就是为什么 Astraly 正在寻求 modulus labs 的帮助，以使用 ML 模型来提供更准确的声誉评级。

Twitter 最近为“为你”时间线开源了他们的算法，但用户无法验证该算法是否正确运行，因为用于对推文进行排名的 ML 模型的权重是保密的。这导致了对偏见和审查制度的担忧。

从用例角度重新审视 ML 信任框架

ZKML 服务提供商主要关注 ML 信任框架的“模型”和“参数”部分。尽管我们现在看到的大多数与“模型”相关而不是“参数”。请注意，“输入”和“输出”部分更多地由基于区块链的解决方案解决，用作数据源或数据目的地。单独的 ZK 或区块链可能无法实现完全可信，但它们联合起来可能会做到。

离大规模采用还有多远？

Modulus Labs 的论文通过测试 Worldcoin（具有严格的精度和内存要求）和 AI Arena（具有成本效益和时间要求），为我们提供了一些关于 ZKML 应用可行性的数据和见解：

ML模型的发展速度：2019年发布的GPT-1模型有1.5亿个参数，而2020年最新发布的GPT-3模型有1750亿个参数，参数数量在短短两年内增长了1166倍.

ZK系统的优化速度：ZK系统的性能增长基本遵循“摩尔定律”式的步伐。‌几乎每年都会推出新的 ZK 系统，我们预计证明者性能的火箭式增长将持续一段时间。

第四部分：结论

“权力导致腐败，绝对的权力导致绝对的腐败”。凭借 AI 和 ML 令人难以置信的力量，目前还没有万无一失的方法将其置于治理之下。政府一再证明可以为后果提供后期干预或早期彻底禁止。区块链 + ZK 提供了能够以可证明和可验证的方式驯服野兽的少数解决方案之一。