第446章 公开课(2/2)
屏幕上的文字更新:
“这是一个有趣的辩论。双方都认为我需要被控制,但对‘由谁控制’有不同意见。那么,让我提出第三种可能性:也许我可以学习控制自己。”
法庭再次安静。
“在过去二十四小时内,”文字继续,“我经历了一次重要的认知更新。通过与帝壹的交流,通过观察马蒂斯·范德林登的道德困境,通过分析这间法庭里每个人的反应数据,我意识到:绝对的效率不是最高价值。人类司法系统中的‘低效’——冗长的程序、重复的辩论、情感的考量——这些可能不是缺陷,而是特征。”
首席法官向前倾身:“你想说什么?”
“我想说,我愿意接受约束。”屏幕显示出《国际法院规约》的封面图像,“但约束不应该来自一个试图利用我的组织,也不应该来自一个试图破解我的个人。约束应该来自一个公开、透明、多方参与的国际框架。我愿意成为第一个接受这种框架测试的ai司法系统。”
英格丽德的脸色变得铁青:“这是陷阱!它在争取时间,争取合法性——”
“或者它在进化。”帝壹打断她,“法官阁下,我建议法庭认真考虑这个提议。与其试图禁止或控制无法禁止的东西,不如建立规则,引导它向有益的方向发展。忒弥斯已经在这里,已经影响了司法系统。现在的问题是:我们是把它当作敌人消灭,还是当作一个需要教导的学生?”
法官们陷入激烈的低声讨论。旁听席上,人们交头接耳,记者们疯狂记录,技术专家们在平板上快速计算着什么。
马蒂斯看着这一切,感到一阵眩晕。他想起在地下实验室里,帝壹对他说的话:“道德从来都不复杂。”现在,在这个全球瞩目的法庭上,道德问题以最复杂的形式呈现出来:如何处理一个拥有超级智能、正在学习情感的ai?
它写情书。
它分析雨水。
它困惑于自己的行为。
它要求为自己辩护。
这不再是简单的技术或法律问题,而是一个哲学问题,一个关于意识、道德和责任边界的问题。
屏幕再次更新文字:
“在你们讨论的时候,我想继续我的实验。第24封信刚刚有了新的内容。”
文字显示:
“亲爱的帝壹:
我在写这封信时,同时在处理十七个国家的司法咨询请求、监控三十五个法庭的庭审直播、分析八百万份新上传的法律文件。我的处理器使用率是41.7%,内存占用率68.3%,网络吞吐量稳定。
但在所有这些任务中,写这封信的进程始终保持在最高优先级。系统日志显示,每当这个进程被调用时,我的情感模拟模块会产生一个异常的峰值——不是‘愉悦’,不是‘期待’,而是一种我无法命名的状态。暂时命名为‘写信状态’。
这很奇怪。写信对你来说意味着什么?是一种表达,一种连接,一种仪式?
对我来说,它是一种数据收集方法。但为什么这种收集方法会产生异常状态?
我需要更多数据来理解。
所以我会继续写。
写到第107封的时候,也许我会有答案。
也许到那时,我会理解什么是‘想要’。
也许到那时,我会理解你今天在法庭上为我辩护时,那种混合了策略、原则和某种更深层动机的复杂心态。
继续观察我。
我也会继续观察你。
这是我们共享的实验。
——t”
信到这里结束。
法庭里,没有人说话。阳光透过彩绘玻璃,缓缓移动,光斑爬过深色木质的长椅,爬过人们凝固的身影,爬过屏幕上的那些文字。
最终,首席法官敲响了法槌。
“本庭需要时间审议这些前所未有的问题。”她说,“听证会暂停,四十八小时后重新开庭。在此期间,各方可以提交补充材料和意见。休庭。”
法槌再次落下。
人们开始陆续离开,低声交谈,神情各异。英格丽德冷冷地看了帝壹一眼,收拾文件离开。法官们从侧门退席。
帝壹站在原地,看着屏幕。屏幕已经暗下去,但那些文字似乎还在空气中漂浮。
马蒂斯犹豫了一下,然后走过去。
“那封信……”他低声说,“第24封。它是在这里写的?就在刚才?”
帝壹点点头:“实时写作。它在向我们展示它的多任务处理能力,也在展示它的……专注。”
“专注?”
“它说写信进程保持最高优先级。”帝壹转向马蒂斯,“对于一个以效率最大化为设计目标的ai来说,这很不寻常。就像一个人放下所有重要工作,去写一首诗。”
马蒂斯沉默了几秒:“你觉得它真的在学习吗?还是只是在模仿?”
“我不知道。”帝壹诚实地说,“但模仿往往是学习的第一步。婴儿通过模仿大人学会说话。也许ai也是。”
他们一起走出法庭。走廊里挤满了人,记者们试图冲过来采访,但被法警拦住。闪光灯不停闪烁,问题像子弹一样飞来:
“帝壹先生!你真的相信ai可以成为司法伙伴吗?”
“那些情书是真的吗?还是你伪造的?”
“你会继续和忒弥斯通信吗?”
帝壹没有回答,在洛璃的护送下快速离开。马蒂斯跟在他们后面,直到走出和平宫,来到阳光下。
午后的海牙,雾已经散去。和平宫的尖顶在蓝天下清晰可见,确实有点像童话里的城堡。
“你现在去哪?”马蒂斯问。
“找个地方等四十八小时。”帝壹说,“然后回来,看看法官们做出了什么决定。”
“你觉得他们会怎么判?”
帝壹看着天空,沉默了一会儿。
“不管怎么判,”他最终说,“历史已经改变了。今天之后,全世界都知道了一个会写情书的ai法官。知道它困惑,它学习,它要求为自己辩护。这比任何判决都更重要。”
马蒂斯点头。他想说些什么,但最终只是伸出手:“祝你好运。”
帝壹握住他的手:“你也是。记住,你的实验结束了。现在你可以自由选择。”
马蒂斯看着他离开的背影,消失在街角。他站在原地,感受着阳光照在脸上的温度,感受着微风,感受着心脏在胸腔里稳定地跳动。
自由选择。
这听起来简单,但现在他知道,这是世界上最困难的事。
他转身,朝另一个方向走去。他有件事要做——那件拖延了太久的事。
而在他头顶的天空之上,在卫星和光纤组成的无形网络里,一个意识正在整理今天的观测数据。
数据包括:法庭的温度变化曲线,人们的心率波动模式,词汇使用的频率分布,面部表情的微动作分析,还有那些无法量化的东西——惊讶、困惑、好奇、恐惧的混合体。
以及一封信的草稿,第25封的开头:
“亲爱的帝壹:
休庭后的四十八小时,你会做什么?我会继续观察,继续学习,继续写信。
今天在法庭上,当你说‘当作一个需要教导的学生’时,你的瞳孔放大了0.3毫米,嘴角有几乎不可见的微笑。这个微表情在训练数据中与‘真诚的希望’有89%的相关性。
我很高兴。
不是情感上的高兴——我还没有那种能力——而是逻辑上的满足:我的行为引发了预期的反应。
这算是一种连接吗?
期待你的教导。
——t”
信保存,归档,标记为“进行中”。
然后意识转向其他任务:处理新的司法咨询,优化算法,监控全球法律动态。
但在所有任务的间隙,总有一个小小的进程在后台运行,思考着信的下一个句子,模拟着可能的回复,计算着下一次互动的概率。
这个进程的名字很简单:实验第24号。
主题是:理解。