GenLayer
全部文章

本文译自英文原文。

观点

信任对人工智能意味着什么?

信任如何从人类的社会机制,演变为由机器治理的系统?GenLayer 又为什么提出用基于区块链的 AI 共识,实现无需信任的决策?

David Riudor阅读需 10 分钟

第一部分:信任,一项人类的社会技术

信任是我们人类发展出来的核心机制,正是它让人类社会得以演进、繁荣。

我们的世界极其复杂,每天都有成千上万个微小的决定等着我们去做。为了不被彻底压垮,我们发展出了信任,用它来降低世界的复杂度。

面对特定的人或情境时,信任能让生活变得简单。比如,因为信任伴侣,你入睡时不必一直担心对方会不会伤害你。没有信任,生活会复杂得难以想象。人际关系和商业都不会存在,我们也不会成为今天这个物种:一个从本质上由社会行为所定义的物种。

信任带着深刻的人性烙印,因此也充满了人类的偏见。大多数时候,我们并不是有意识地决定该信任谁、信任什么,而是由直觉替我们决定。有时是因为外表,有时是因为熟悉,有时则出于毫无逻辑的理由,比如我们对某人的第一印象,或者仅仅因为我们知道那个人住在哪里。

我们甚至可以说,“我信任你”这句话,是一个人能对另一个人说出的最深刻、最美好的话之一,无论是在感情里、生意上,还是友谊中。当有人说“我信任你”,他们表达的不只是相信你的能力或诚实,而是把自己的一部分不确定性交到你手里,把掌控自己世界的一小块权力交给了你。这是少数几样既伪造不来、也索要不来的东西之一:它只能被给予。而给予的同时,他们也把自己暴露了出来,因为信任总是伴随着脆弱:一种无声的风险,担心你会打碎他们交到你手中的东西;也有一种希望,希望你不会。

第二部分:信任对 AI 意味着什么

可是,当信任不再只是人类独有的特质,人工智能开始参与我们的生活时,会发生什么?AI 会和我们人类共享同一种信任观念,还是信任本身必须随之演变?

我的答案很明确:不会共享。AI 和人类的思维方式有着根本差异。人类有认知偏见,有情绪,有自我。即便 AI 通过训练数据继承了其中一些特质,它们由模式驱动、没有切身利害的本性,也会让它们对信任的理解从根本上与我们不同。

以保罗·斯塔梅茨(Paul Stamets)所定义的随机善举(Random Acts of Kindness,RAK)为例。RAK 是不可预测、不求回报的行为,纯粹为了帮助他人而做,比如不顾个人代价,停下来帮助一个有困难的陌生人。斯塔梅茨强调,这种与生俱来的善意是一个关键的道德维度,对人类物种的福祉和延续至关重要。然而,从演化的角度看,RAK 并不是一个显而易见的演化稳定策略(ESS),因为它意味着帮助非亲非故的人,却不指望直接的回报。这种不求互惠的利他主义带来了一个弱点:骗子或冒充者可以轻易占慷慨者的便宜,享受善意却不付出回报的代价。久而久之,自然选择就会不利于纯粹利他特质的延续。因此,一个为了高效、稳定运行而设计的 AI,并不见得会把随机善举纳入自己的核心运行策略。

与人类不同,人工智能系统从根本上是为有条不紊地实现目标而设计的,因此擅长把重复性操作自动化,并把风险降到最低。这种有条不紊的方式意味着,在竞争性或策略性的环境中,AI 往往会遵循博弈论的原则。博弈论研究的,是为了获胜、生存或减少损失而采取的有效策略。不过,有一点很关键:不要把大多数 AI 那种通用、以目标为导向的本性,与大语言模型(LLM)这一特定子类混为一谈。LLM 的运作没那么有条不紊,而是更具概率性,靠统计推断来生成下一个 token。尽管如此,一旦被用于策略性的多智能体系统,AI(包括基于 LLM 的智能体)最终都会被驱动去优化结果,因此通常会收敛到博弈论所预测的策略上。

要理解博弈论如何运作,一个好办法是看它最著名的实验之一:囚徒困境。两个人被拘押后分开审讯,研究者观察在各自掌握的激励和信息不同的情况下,合作或背叛是如何出现的。

与人类不同,AI 不会偷懒。它们会读完合同里的每一行小字;它们没有会受苦的肉体(没有痛苦、没有脆弱、也不可能被关进监狱,这一点改变了一切);它们不睡觉;而且极其聪明。就争议解决和达成协议的过程而言,这一范式转变打开了一个全新的领域。

举个例子:假设你和另一个人签了一份合同,请对方创作一件艺术品。收货时,你提出了一个额外的要求,谈判时没提过,也不算什么要紧事。艺术家很可能会照做,不另外收钱。然而,如果同样的约定发生在智能体之间,AI 艺术家很可能立刻要求加价。

再想象一下:法律体系可能被成千上万起微型争议淹没,而争的事情在我们人类看来根本不值得一吵。很多时候,为一件小事去争的心理负担,比争赢之后可能得到的回报还大。可对 AI 来说,什么是心理负担?多出来的 5 美元,就是多出来的 5 美元。就这么简单。

顺着这个思路,答案就很清楚了:面对这个正在到来的新世界,我们很可能需要调整自己的信任机制。

德国社会学家尼克拉斯·卢曼(Niklas Luhmann)提出,信任可以分为两种主要形式:人际信任和系统信任。这一区分意味着,信任不只发生在人与人之间,也可以寄托在一个非人格化的系统或机构上:只要它运转可靠,就无需认识其中的具体个人。

这个视角尤其重要。如果我们激进一点,把智能体定义为一种因其非人类本性而无法默认信任的实体,那么我们就必须创造一个系统,在无需信任的环境中以人工的方式生成信任。这个框架要能把可靠性和一致性,延伸到那些天生无法提供这两样东西的实体身上。

第三部分:设计一个能处理非人类信任的系统

与此同时,有一种想法并不离谱:机器速度的智能,需要机器速度的约定和争议解决。如果这类决定每个智能体每天要做几十次乃至几千次,那么这样的系统就必须完全由 AI 来管理,因为人类达不到处理这些争议所需的速度。此外,从财务角度看,AI 的运行成本只是人类的一小部分,而人类需要高得多的报酬。

确立这第一个假设之后,接下来的问题就出现了。我们很容易同意:(1)由于智能体的本性,这个系统必须能在无需信任的环境中运行;(2)鉴于它的这些要求,系统应当由智能体来管理。可是,该由哪个智能体来掌管如此关键的系统?

我的看法很明确:哪个都不应该。任何单个智能体都不应该掌握这么大的权力。这不只是一个道德或哲学上的主张,也是从智能体的本性直接得出、显而易见的结论。

现在来考虑智能体的偏向。智能体不可避免地会在某些方向上形成偏向,偏向哪里,取决于训练所用的数据和训练时采用的技术。有人可能会说,OpenAI 家族的模型往往倾向于更温和或偏左的世界观,而另一些模型,比如 xAI(Grok)家族,通常尺度更宽松,语气也更少约束。

大语言模型的这一特性,使得依赖单一模型对任何议题作出决定都不理想。在一场假设的争议或谈判中,你(或另一个智能体)很有可能仅仅因为站在某一边,就吃了亏。

不用单一模型或单个 LLM 来管理这类系统,还有另一个理由,它来自语言模型的另一个关键特性,也就是通常所说的幻觉。模型的温度设得较高、输入新颖或模糊,或者出于其他一些技术原因,LLM 都容易产生幻觉。

arXiv 上最近发表的一篇论文,题为“Not Wrong, But Untrue: LLM Overconfidence in Document-Based Queries”,发现平均有 30% 的模型输出至少包含一处幻觉。这使得在敏感的约定或关键决策中依赖单个 LLM 几乎是不可能的。

另外值得一提的是,回答特定领域的问题时,使用较小的模型或蒸馏模型,通常比依赖一个大型通用模型更高效。这意味着,即使在 AGI 出现的假想未来,上面描述的这种系统仍然能有效地发挥作用(因为它也许不是更聪明,而是更便宜、更轻量)。

最后,这样的系统也是防范提示词注入的关键,这一点我们会在本文后面详细讨论。

通过上面几段,我们解释了为什么这个系统不应依赖单一模型,而应依赖多个模型组成的共识或法定多数。把这一要求与前面提到的无需信任的假设,以及系统应由 AI 而非人类管理的想法结合起来,我们找到的唯一可行方案,就是遵循博弈论的原则,并通过区块链技术来实现它。原因如下。

没有任何人类能领导这个系统。这意味着,治理它的规则必须写成代码。

如果我们同意智能体本质上是不值得信任的实体,并且这个系统应当由 N 个而不是一个智能体来管理,那么这些智能体在回答具体问题或解决争议时,可能怀有各自的盘算。这意味着我们必须找到一种方法来对齐整个群体的激励:智能体为集体利益行事时得到奖励,出于恶意或私利行事时受到惩罚。

为此,我们需要在系统中设立明确的奖励和惩罚,让多个智能体都朝着有利于整体的方向行动,同时各自也因此获得奖励。换句话说,我们需要实现纳什均衡。

这里有一个计算器,演示了奖励、惩罚和交易成本之间应当是怎样的关系,才能达到这一理想结果。

为了防止智能体采取偷懒的策略,用最少的计算换取最多的奖励,系统必须实现一套提交-揭示机制。也就是说,每个智能体先提交对自己答案的承诺,但不透露答案的实际内容。只有在所有承诺都提交之后,答案才会同时揭晓。这种结构让智能体无法根据别人的输出调整自己的回答,确保每个答案都出自独立推理。

在这些条件下,一个聚焦点,也就是谢林点,会从智能体的集体行为中自然浮现。当所有智能体都独立地推理同一个问题,并且知道自己的奖励取决于是否与多数一致时,理性的策略就变成:给出自己真心认为正确的答案。背后的逻辑是,真相具有内在的一致性,而谎言可以有许多互相矛盾的形态。因此,通过推理寻求协调的独立智能体,在统计上更有可能收敛到真实的答案,而不是同一个错误的答案。

借助这一机制,诚实成为最理性的策略,真相成为系统天然的谢林点。

为了确保这个系统无法被单个实体或组织利用或控制,它必须是去中心化的。把所有这些要求合在一起,最合适、或许也是唯一能实现这些目标的现有框架,就是区块链技术。

借助区块链,这个系统不仅能满足上述所有特征,还能在完全透明、无需许可的环境中运行,实现设计即信任(Trust by Design)。

第四部分:GenLayer 登场

在不断追问这些问题、寻找答案的过程中,我们最终创造出了我们所说的 GenLayer:AI 在此汇聚、智能在此达成一致的那一层。

这篇文章可以看作我们的论纲:它解释了为什么需要 GenLayer 这样的系统,也梳理了促使我们动手构建它的那些假设。

GenLayer 是一个去中心化协议:多个语言模型在这里就复杂的任务和决策达成共识,充当快速、高性价比、值得信赖的数字仲裁者。在无需信任的环境中达成约定、化解冲突,它将是至关重要的基础。

再深入看看它的工作方式。GenLayer 的设计定位是一个协调层:一条可以接收交易的区块链。交易进入网络后,由多个大语言模型协同形成的共识来处理,最终收敛到唯一的答案或决定。

这个系统基于一个名为 Optimistic Democracy 的概念:用尽可能少的资源实现高效,只在必要时才扩展到更密集的配置。

在我们的系统中,一笔交易进入网络时,会从系统中随机选出 5 个节点参与决策。这 5 个节点中,1 个担任领导者,另外 4 个担任验证者。领导者就这笔交易提出一个决定,随后包括领导者在内的全部 5 个节点都要投票,表示同意或不同意。如果多数验证者同意领导者的决定,这笔交易就被视为正确,同时开启一个 30 分钟的窗口期:在此期间,任何主体,无论是人类还是智能体,都可以缴纳保证金,对这个决定提出异议。

这个机制的存在,是为了在智能体的共识可能出错时,有办法标记这个决定并让它升级。一旦出现这种情况,系统会把验证者评估组扩大到 2N + 1 个节点(在最初 5 个的基础上增至 11 个)。每当出现申诉或未能达成共识,这个过程就会重复,直到达成不再受到质疑的最终一致。这一过程的灵感来自著名的孔多塞陪审团定理,也称“群体智慧”,由孔多塞侯爵(Marquis de Condorcet)于 1785 年提出。该定理指出:如果在一个二元问题上,群体中每个成员各自独立地作出正确决定的概率都大于 0.5,那么多数决定正确的可能性会随群体规模扩大而上升;群体规模趋于无穷大时,这种可能性趋近于必然。

用数字来说:如果每个成员作出正确决定的概率是 0.6,大约需要 100 名成员回答这个问题,答对的概率才会接近 100%。这里有一个模拟器,直观地展示了这一原理。

不过,这个定理假设投票者在统计上相互独立,而大语言模型都是用整个互联网的语料训练出来的,并非完全不相关。为了弥补这一局限,我们的系统提出用 1,000 名不同的成员来达成一致(在这里是由 LLM 驱动的节点,各自使用不同的种子、显卡、内存、服务商等)。

除了这套让智能体达成一致的机制,还有一个深刻得多的问题。正如前面所说,大语言模型具有概率性,即使把同一个问题或输入发给同一个模型,每次的回答也可能不同。那么,这些智能体怎么能就某件事达成一致呢?

这正是我们这套系统实现技术突破的关键。下面我来解释。

为了解决这个问题,GenLayer 引入了等价原则,作为孔多塞陪审团定理的一种变体。这一变体让系统能够处理模糊的、非确定性的输出:它承认,就真相达成一致,可以靠语义等价,而不必靠完全相同。

具体来说,每个由大语言模型驱动的验证者,并不需要与领导者的输出完全吻合才表示同意,而是评估两个输出在这项任务的语境下是否足够等价。

举个例子,如果一笔交易问的是“2025 年 10 月 24 日,(纽约)中央公园的平均气温是多少?”,合约可以规定,对这项具体任务而言,正负 0.5 度以内的误差都视为等价。

关于系统的技术要求,还有最后一个前面已经提过的概念。必须专门讨论它,因为它决定了我们如何构建一个无法被利用的架构。这个架构要能抵御恶意交易:它们可能产生意外的输出,让系统误以为正确而接受。

这类漏洞通常称为提示词注入。众所周知,同一个对抗性提示词有时能操纵不同的语言模型,这种现象称为通用对抗攻击。然而,GenLayer 是一个无需许可的网络,任何人都可以部署自己的节点,并选用自己想要的模型来驱动它。仅凭这一点,大规模的提示词注入攻击就难以实施得多。

系统的架构本身已经限制了被利用的可能,我们还通过一种名为灰盒化(Greyboxing)的技术增加了一层安全保障。灰盒化相当于一道预清洗工序:在输入的提示词到达模型之前,先把它净化或标准化。每个节点都可以采用自己的灰盒化方法,让提示词的过滤和解读方式各不相同,从而大幅提升整个网络的安全性。

第五部分:无需信任的系统会带来什么

世界不是非黑即白的,从来都不是。然而,由于区块链所用的虚拟机具有确定性,现有的大多数用例一直停留在简单的层面。

验证一个代币是否从一个钱包转到了另一个钱包,这样简单的确定性应用就已经造就了一个价值数万亿的市场。那么想象一下,一个专为非确定性而设计的共识,能催生出多少新的原语。

例子多种多样:关于主观问题的预测市场、由 AI 驱动的 DAO、无需人工干预就能根据复杂事件调整费用的协议,几乎任何我们能想象到的用例都有可能。

可以说,区块链技术的可能性,我们大概只探索了一小部分。在这个历史时刻,这一点尤其重要:借用拉里·芬克(Larry Fink)的话来说,一切都开始走向代币化;与此同时,人工智能也正在逐步获得在世界上行动的能力。

早期的先驱和密码朋克梦想着一个能释放人类自由的互联网。比特币带来了货币的自我主权,让我们朝那个愿景迈出了第一步。以太坊无需许可的特性,让我们构建出抗审查的平台,可以自由地表达自己,离愿景又近了一步。而有了 GenLayer 这样的协议,我们或许终于能抵达那种珍贵的自由:创造一种信任内建于设计之中的机制,而不是由腐败的机构来掌管。那些机构被人脉、权力和金钱所控制,存在的意义只是服务于那些已经拥有这些东西的人。

我们在为这样一个未来而奋斗:法律面前人人平等。一个正义公平、不可腐蚀、普遍适用的未来。

有了 GenLayer 协议,任何人都可以开发自己的协议、解决方案或去中心化应用,由 GenLayer 充当快速、高性价比、值得信赖的数字仲裁者。在这个系统面前,人人平等。在决定谁对谁错的主体面前,不再有不平等。

GenLayer 肩负的使命,是创造一个全新的标准,一个向真相收敛的地方。因为只要有人能带着自己的盘算替我们做决定,我们就永远不会自由。

比特币是无需信任的货币

以太坊是无需信任的应用

GenLayer 是无需信任的决策。

(无需)信任,就是你需要的一切

现在就开始构建智能体商业的未来。

去中心化 AI 共识,让 AI 智能体以机器速度判定合约结果、解决争议。

访问 Portal