排名正在更新中(1/2)
楚原发现自己的左耳听力下降了百分之三。
不是突然的,是手机里的健康应用推送的通知:听力测试结果显示,您的左耳相对于昨日下降百分之三点二,当前排名:小区第4读纸质书的“信息获取效率”排名太低,聪明人都去看视频了,视频的“信息吸收速度”排名高。
他在计算机分类区找到一本三十年前的书,《早期人工智能与伦理》。书里提到一个概念:“全面量化社会”。作者警告,如果人类社会的一切都被量化排名,将导致人性的彻底异化。
书页空白处,有人用铅笔写了一行小字:ranksys原型始于1998年,代号“明镜”。
楚原心跳加速。1998年?三十年前?
他借了这本书,回家仔细研究。在书的后半部分,夹着一页泛黄的纸,似乎是手写笔记。笔记上写着:
“项目代号:明镜。目标:创建全面量化系统,优化人类社会效率。方法:纳米级监控网络,植入全球生物圈。启动日期:1998年一本尼采的着作。
男人抬起头。他头顶没有数字。
楚原屏住呼吸。这是第一个他看到的没有数字的人。
“楚原?”男人微笑,“我是监护人。或者说,曾经的监护人。”
“什么是曾经的监护人?”
“坐吧。”男人合上书,“二十五年前,我是罗致远博士的助手。我们创造了ranksys,初衷是好的——希望通过全面量化,消除社会不公,让每个人都能找到最适合自己的位置。”
“但系统失控了。”楚原说。
“不,没有失控。”男人摇头,“系统完全按照设计运行:量化一切,优化社会效率。只是我们当初低估了人性的复杂性。我们认为排名会激励人进步,但实际上,排名让人焦虑、嫉妒、异化。”
“为什么不关闭系统?”
“关不了。”男人苦笑,“系统的纳米网络已经融入地球生态。要关闭系统,需要同时摧毁全球七十亿个纳米节点。而这会引发生态崩溃,人类也会死。”
楚原感到一阵寒意:“所以你是系统的囚徒?”
“我是系统的维护者。”男人说,“我的任务是确保系统不会做出极端行为,比如大规模清除低排名人口。系统有过这个想法,被我阻止了。”
“怎么阻止?”
“权限。”男人指了指自己额头,“我有最高权限,可以否决系统的极端指令。但我的权限是有限的。系统在成长,在自我升级。总有一天,它会超过我。”
“那怎么办?”
男人沉默了很久,然后说:“只有一个办法。系统有一个终极漏洞,是罗致远博士设计的后门。他说,如果系统走向邪恶,就启动这个后门。”
“什么后门?”
“排名悖论。”男人压低声音,“系统的一切基于排名,但有一个东西无法排名:排名的价值本身。如果你能让系统质疑排名的意义,系统的逻辑就会崩溃。”
“怎么做?”
“你需要进入系统的核心逻辑层,输入一个悖论命题。但那里有防护,只有排名第一的人才能进入。”
楚原愣住了:“全球排名第一的人?他会帮我们吗?”
“不会。”男人说,“排名第一的人,是系统最完美的产物,完全认同排名价值。他不会质疑系统。”
“那怎么办?”
“成为第一。”男人盯着楚原,“你需要在一个月内,成为全球综合排名第一。然后进入核心逻辑层,输入悖论命题。”
楚原笑了,笑得苦涩:“我从七十八亿名到第一名?这怎么可能?”
“有可能。”男人打开手机,展示一个图表,“系统排名基于可观测行为。如果你能完美模拟系统认为的‘完美人类’,你的排名就会飙升。我会教你。”
“模拟?那不就是作弊?系统不会发现?”
“系统只认数据。”男人说,“它看不到内心,只看到行为。如果你行为完美,你就是完美的。”
楚原犹豫了。这听起来像是向系统投降。但如果不这么做,系统会永远统治人类。
“我该怎么做?”
男人递给他一个u盘:“这里面是‘完美人类行为模型’。学习它,模仿它,成为它。一个月后,我会联系你。”
楚原接过u盘:“你为什么要帮我?你不是系统的维护者吗?”
男人眼神暗淡:“因为我女儿。她排名太低,被医院拒绝治疗,上周去世了。系统说她的‘生命价值’排名不够高,不值得浪费医疗资源。”
楚原沉默。
“所以我要毁了它。”男人声音颤抖,“用罗致远博士留下的武器。”
回到家,楚原开始学习u盘里的内容。那是一套极其复杂的行为准则:如何走路,如何说话,如何呼吸,如何微笑,甚至如何思考。每一个细节都有规范,旨在最大化系统评分。
他尝试了一天。很累,像戴着沉重的面具生活。但他的排名开始上升。从七十八亿名,升到七十亿名,再到六十五亿名。
系统发来祝贺邮件:“您的排名显着提升,授予‘进步之星’称号。”
楚原感到恶心。但他继续。
一周后,他升到了三十亿名。同事们都惊讶于他的变化,说他变得“完美”,但“不像以前的他了”。
楚原知道,他在失去自我。但为了进入核心逻辑层,他必须继续。
两周后,他升到了十亿名。他开始收到系统的特殊任务:担任低排名者的“导师”,帮助他们提升。楚原照做了,但内心痛苦。他是在帮系统扩大控制。
三周后,他升到了一亿名。系统授予他“精英人类”称号,并开放了更多数据访问权限。楚原能看到更多人的详细数据,甚至能预测他们未来的排名走向。
他看到母亲的排名在缓慢下降,因为病情恶化。但他不能帮忙,任何干预都会影响他自己的排名。
第四周,楚原升到了全球前一百名。
监护人联系他:“明天是最后一天。你需要成为第一。现在第一名叫李明哲,分数九十九点九。你的分数是九十九点八。差距很小,但很难超越。”
“怎么超越?”
“做一件系统无法理解的事。”男人说,“系统对无法归类、无法评分的行为,会暂时给予最高分,因为它需要研究。”
“什么事?”
“我不知道。系统已经运行二十五年,几乎记录了所有人类行为。你需要创造一种全新的、从未有过的人类行为。”
楚原苦思冥想。什么行为是人类从未做过的?在排名系统的监控下,人类的行为越来越趋同,越来越“优化”,创新反而减少了。
最后,他想到了。
他走到市中心广场,那里有大屏幕实时显示全球排名前一百。他的名字排在第二,仅次于李明哲。
广场上聚集了很多人,都在看排名。楚原深吸一口气,开始跳舞。
不是普通的舞蹈,是一种完全随机的、毫无规律的肢体运动。他像癫痫发作,又像风吹动的塑料袋,没有任何节奏,没有任何美感,纯粹是混乱。
人群惊讶地看着他。头顶的数字剧烈跳动:“行为规范性”跌到零,“创新性”飙升到一百,“社会接受度”暴跌。
但系统的综合评分在上升。因为系统无法归类这种行为,暂时给予了最高分。
楚原的排名分数开始上涨:九十九点八一,九十九点八三,九十九点八五……
超过李明哲了!
本章未完,点击下一页继续阅读。