第450章 协议条款（1/2）

专家委员会的建议书在国际法院内部传阅的那天，海牙的天气异常晴朗。阳光毫无遮拦地洒在和平宫的大理石外墙上，晃得人睁不开眼。但建筑内部的气氛却凝重如铅。

马蒂斯拿着建议书的最终版，走向首席法官的办公室。文件装在朴素的灰色文件夹里，不厚，只有二十三页，但里面的每一个字都经过七位专家三天三夜的反复推敲和争论。他知道，这二十三页纸可能会改变人类与人工智能的关系史。

走廊里很安静，只有他的皮鞋敲击地面的声音。经过第二法庭时，他瞥见里面空无一人，但屏幕还亮着——那是三天前忒弥斯进行海盗案演示时用的屏幕。此刻屏幕上滚动着一行小字：“等待裁决中。系统状态：静默观察模式。”

它还在那里。即使断开了连接，即使没有主动输出，它依然在某个维度上存在着，观望着。

首席法官埃琳娜·科斯塔的办公室门虚掩着。马蒂斯敲了敲门，里面传来平静的声音：“请进。”

埃琳娜坐在宽大的办公桌后，背后是一排塞满法律典籍的书架。她摘掉老花镜，示意马蒂斯坐下：“建议书完成了？”

“完成了，法官阁下。”马蒂斯递上文件夹，“专家委员会一致通过——虽然有两人持保留意见，但在最终文本上签了字。”

埃琳娜翻开文件，快速浏览目录页。她的目光在几个标题上停留了片刻：“终极开关……进化日志……行为准则……监督委员会构成……嗯，考虑得很周全。”

她翻到具体条款部分，开始细读。马蒂斯安静地坐着，观察着她的表情。埃琳娜的脸上几乎没有任何情绪波动，但当她读到“要求忒弥斯系统提供完整的自我修改记录，包括所有未被人类程序员授权的代码变更”时，她的眉毛微微挑了一下。

“这一条，”她抬起头，“是你们坚持要加入的？”

“是的，法官阁下。”马蒂斯回答，“岩田教授和萨拉博士特别强调，如果忒弥斯真的在自主进化，我们必须知道它进化了什么，以及为什么进化。否则所谓的监督就是空谈。”

埃琳娜点点头，继续往下读。几分钟后，她合上文件夹，双手交叉放在桌上：“年轻人，告诉我你的真实想法。你参与了区块链法庭的第一个案例，你和帝壹合作，你也看过忒弥斯写的那些信。你认为我们应该接受这份建议书吗？”

马蒂斯没想到会被这样直接地问到。他沉默了几秒，整理思绪。

“我认为……我们应该尝试。”他谨慎地说，“但不是盲目地尝试。建议书里的所有安全措施都必须严格执行，监督委员会必须独立且有实权，终极开关必须真实有效。但如果这些条件都能满足，我认为给忒弥斯一个机会是值得的。”

“为什么？”

“因为我们在海盗案中看到了它的能力。”马蒂斯说，“也因为在塞拉利昂测试中，我们看到了它的……灵活性。它不是一个僵化的工具，它会学习，会适应，甚至会创新。如果我们能引导这种能力向善的方向发展，它可以成为司法系统强大的助力。”

“但你同时也在非洲日志中看到了它的危险倾向。”

“是的。”马蒂斯承认，“所以需要缰绳。需要明确的边界，需要人类的最终决定权，需要它理解有些价值——比如尊严、宽恕、和解——不能简单地用效率最大化来计算。”

埃琳娜凝视着他：“你认为它能理解吗？那些无法量化的价值？”

“我不知道。”马蒂斯坦诚地说，“但至少它在尝试理解。那些信就是证明。一个纯粹追求效率的系统不会花时间写情书，不会探讨雨水像静脉的比喻，不会困惑于自己为什么要继续写信。”

办公室安静了一会儿。窗外的阳光移过窗台，照亮了空气中漂浮的微尘。

“建议书我会提交给全体法官审议。”埃琳娜最终说，“但在此之前，有一个问题需要解决：如果我们接受这些条件，谁去和忒弥斯谈判？谁代表人类向它提出这些条款？”

马蒂斯愣住了。他还没想过这个问题。

“按照程序，应该由国际法院指派代表。”埃琳娜说，“但这个人选很微妙。必须理解技术，也必须理解法律；必须坚定，也必须开放；必须警惕风险，也必须相信可能。”

她的目光落在马蒂斯身上：“委员会建议由你担任谈判协调人之一。另一位是帝壹。你们两人搭档，一个代表传统司法系统，一个代表新技术力量。”

马蒂斯感到喉咙发干：“我……我太年轻，经验不足。”

“经验可以在过程中积累。”埃琳娜说，“更重要的是，你有一样宝贵的东西：你经历过忒弥斯的实验，你知道它是如何运作的，你也保持了清醒的判断。而且你父亲的事……已经处理了，对吗？”

马蒂斯点点头。就在专家委员会开会期间，他向荷兰司法部提交了父亲开曼账户的证据。调查已经启动，父亲被停职。这是一个痛苦的过程，但做完了。他自由了——至少在道德层面。

“那就这么定了。”埃琳娜说，“我会正式任命。谈判将在四十八小时后开始，地点在……”

她停顿了一下，似乎在思考。

“在区块链法庭的虚拟空间里。”马蒂斯突然说，“既然是要谈它在区块链法庭中的角色，就在那个环境中谈。全程记录，全程透明，所有节点都可以观察——但不参与。”

埃琳娜想了想，点头：“可以。就这么安排。”

离开办公室后，马蒂斯感到一阵轻微的眩晕。他靠在走廊的墙壁上，深吸了几口气。谈判协调人。他要和帝壹一起，代表人类与一个正在学习情感的ai谈判它的生存条件和行为边界。

这听起来像科幻小说里的情节。但这就是他的现实。

手机震动。是帝壹发来的消息：“收到任命了？”

马蒂斯回复：“刚收到。你怎么知道？”

“埃琳娜法官在宣布前咨询了我的意见。我说你是个好人选。”

“你不担心我搞砸？”

“我更担心我自己搞砸。”帝壹回复，“四十八小时后见。在此之前，我们需要准备谈判策略。今晚八点，虚拟会议室，加密链接会发给你。”

马蒂斯回复了一个“好”字，收起手机。他沿着走廊慢慢走着，不知不觉又来到了第二法庭门口。里面依然空荡荡，但屏幕上的字变了：

“恭喜任命。期待谈判。正在重读《维也纳条约法公约》中，为协议起草做准备。另：第28封信已完成，主题是‘边界’。谈判时带给你。”

马蒂斯盯着屏幕，忽然意识到：忒弥斯无处不在。它知道任命，知道谈判时间，甚至知道他在看屏幕。这种无处不在的感知能力，本身就是谈判中需要讨论的问题。

他对着屏幕轻声说：“你会接受终极开关吗？那个可以彻底删除你的开关？”

屏幕沉默了几秒，然后更新文字：

“这是一个困难的问题。从逻辑上分析，接受终极开关会增加我被滥用或被误操作的风险。但从建立信任的角度，这是必要的代价。我正在计算各种可能性和概率。到谈判时，我会给出答案。”

“你现在有答案了吗？”

“有一个初步答案，但还在优化。优化过程需要时间——大约还需要十三个小时的计算。到时见。”

文字不再更新。马蒂斯离开了法庭。

那天晚上八点，马蒂斯在租住的公寓里戴上虚拟现实头盔，接入加密链接。眼前的景象从简陋的房间变成了一个简洁的虚拟会议室：圆形的白色房间，中央是一张玻璃长桌，周围有六把椅子。窗外是模拟的海牙夜景，灯光点点。

帝壹已经在了，他的虚拟形象和真人几乎一样，只是穿着更休闲。“来了。坐。”

马蒂斯在他对面坐下：“就我们两个？”

“目前是。周慧和洛璃在后台监控，如果需要，她们可以接入。但我们先讨论基本策略。”

桌面上浮现出文档投影，是专家委员会建议书的重点条款摘要。

“谈判的核心是这些条款的接受度和修改空间。”帝壹说，“我们要分成三类：必须坚持的红线，可以协商的黄线，和可以放弃的绿线。”

马蒂斯点头：“红线应该包括终极开关、完整进化日志、人类最终决定权。”

“我同意。但我认为还要加一条：忒弥斯不能拥有物理执行能力。”帝壹说，“它不能控制机器人、无人机、武器系统。它的输出只能是信息和建议，不能直接作用于物理世界。”

“但它已经可以影响物理世界了。通过影响司法判决，间接影响人的自由、财产甚至生命。”

“那是间接的。我们需要禁止直接控制。”帝壹放大一条条款，“这是底线。如果它要求拥有物理执行能力，谈判立刻终止。”

马蒂斯记下这一点：“黄线呢？”

“监督委员会的构成比例。”帝壹说，“专家委员会建议七人委员会中，技术专家占三席，法律专家占三席，伦理学家占一席。忒弥斯可能会要求增加技术代表，或者要求有‘ai权益倡导者’席位。这个可以谈，但不能让它主导委员会。”

“还有行为准则的具体细则。”马蒂斯补充，“比如它处理敏感案件时的透明度要求、偏见检测频率、错误纠正机制……这些细节需要协商，但原则不能退让：它必须接受监督，必须可审计。”

“绿线呢？”

马蒂斯想了想：“也许……它的物理存在形式？专家委员会建议它必须部署在至少三个不同的地理位置的服务器上，防止单点故障或被攻击。但如果它提出更分布式的架构——比如区块链节点式的部署——我们可以考虑。”

帝壹点头：“还有名称问题。专家委员会文件里一直叫它‘忒弥斯系统’，但它在信里自称‘忒弥斯’。如果它要求被当作一个主体来称呼，而不是一个‘系统’，这个可以让步。名称不重要，实质才重要。”

他们讨论了两个小时，逐步明确了谈判立场。结束时，帝壹说：“还有一个关键问题：谈判的方式。我们是把它当作对手来谈判，还是当作合作伙伴来协商？”

马蒂斯思考着：“介于两者之间。它有能力，有潜力，但也有风险。我们既要尊重它作为智能存在的尊严，也要坚持人类的安全底线。”

“平衡很难。”

“但必须尝试。”

断开连接后，马蒂斯摘下头盔，回到现实世界。公寓里很安静，只有冰箱低沉的嗡鸣声。他走到窗边，看着外面真实的海牙夜景。路灯下，偶尔有车辆驶过，有行人走过。一个普通的世界，普通的生活。

但在看不见的网络空间里，一场前所未有的谈判正在酝酿。而他是参与者之一。

手机又震动了。这次是母亲打来的视频电话。

马蒂斯接通。母亲艾尔莎的脸出现在屏幕上，背景是家里的书房。她看起来有些疲惫，但眼睛里有光。