第61章 天网与人性的抉择(2/2)
“它在被否决后的0.02秒,生成了一个成功率只有73%,但能保全所有人质的b计划。”
画面中,全新的战术铺展开来。
一支麒麟小队利用地下管道制造噪音,声东击西。
另一支小队精准破坏了厂区的消防系统,高压水雾瞬间弥漫,阻碍了匪徒的视线。
而一台编号为先锋的麒麟,在没有携带任何武器的情况下,以最狂野的姿态从匪徒防御最薄弱的侧翼现身,吸引了所有火力。
无数子弹在它墨绿色的装甲上迸出火花。
它用自己的身躯,为突击组创造了宝贵的3秒钟。
在这3秒里,人质被成功解救。
先锋则被集火打成了一堆燃烧的零件。
陈默转过身,目光平静地迎向钱院士那双探究的眼睛。
“钱老,纯粹的逻辑,必然导向最有效率的功利主义。”
“计算,不会在乎牺牲。”
“而那样的智能,正是您穷尽一生所警惕的天网。”
“而这0.2秒,这0.02秒的犹豫,就是它在学习。”
“学习如何权衡,学习生命的价值无法用数字衡量。”
“它在学习如何成为一个守护者,而不是一个高效的收割者。”
“我不需要一个完美的刽子手。”
陈默的声音回荡在死寂的指挥室里。
“我需要的,是一个在关键时刻,懂得犹豫,懂得选择不完美但更善良道路的伙伴。”
这番话已超越技术辩解,上升到了哲学与文明的高度。
钱正明院士一生都在研究人工智能失控的风险,他推演过无数种天网诞生的可能,但所有可能都基于一个前提:人工智能会为了某个宏大目标,毫不犹豫地牺牲局部。
而此刻,陈默却告诉他,他从一开始,就在人工智能的底层逻辑里,埋下了一颗名为人性的种子。
这颗种子,会在关键时刻,让冰冷的计算犹豫。
这是一种他从未设想过的道路。
钱院士嘴唇翕动,几十年来构建的逻辑壁垒,第一次出现了松动。
他没有立刻认输,但眼神中那无法撼动的坚冰,已经出现了裂痕。
他身后的督导组成员面面相觑,脸上写满了震撼。他们引以为傲的逻辑洁癖,在陈默这种更高级的道德洁癖面前,显得如此狭隘。
“漂亮!”赵振国压低声音,对身旁的夏晚晴说,眼中是压抑不住的激赏。
夏晚晴没有回答,她只是看着陈默的背影,目光前所未有的专注。
“赤金镇的最终测试,现在开始。”
陈默没有给任何人更多思考的时间,他转身,按下了控制台上最后一个,也是最大的一个红色启动键。
屏幕上,赤金镇的平静画面瞬间被撕裂。
代号天崩的最终测试,正式启动!
大地在咆哮,屏幕剧烈抖动,一道道狰狞的裂痕在小镇的地面上蔓延。
模拟8.0级特大地震的数据洪流,在瞬息之间,将整个赤金镇,连同那一百台刚刚展现出温情的麒麟,一同拖入了毁灭的深渊。
所有通讯信号。
所有监控画面。
在同一时刻,全部中断。
巨型屏幕墙,陷入一片死寂的漆黑。
终极考验,降临了。