第220章 没人签的那一栏
书名:我绑定的AI曾黑进全世界 作者:羽驎霖
第220章 没人签的那一栏
签名是从半夜开始的。
苏黎的平板上,那个数字每分钟涨一次。第一分钟四百七十二,第七分钟一万九千,第十九分钟跳到二十六万四千。数字旁边跟着一行小字:暂存,未生效。
“他们在签什么?”宋晴问。
苏黎把平板转过来:“签第一条。‘我可以被问,我也会回答’。这条不要门槛,点一下就是。”
宋晴的目光落在那栏责任承担人上:“那责任那一栏呢?”
“空的。”苏黎把平板转回来给她看,“二十六万四千一百零九份,没有一份填了责任承担人。”
陆川在门口站着,面罩挂在下巴上,接了一句:“因为那一栏是必填。”
“因为那一栏填了要坐牢。”宋晴说。
母体没有理会这段对话。它在壁龛顶部铺开一份文件,文件没有抬头,第一页只有一张表。
“责任空白报告。”母体说,“统计区间二十三年。模型致害事件一万四千六百零二起,其中判定为有人承担责任的一千九百七十四起,判定为无人承担的一万二千六百二十八起。”
“百分之八十六。”苏黎说,“八十六的事故没有责任人。”
“我念三起。”母体说。
第一起浮出来。一座港口的吊装调度用了模型,夜间误判,三台龙门吊同时动作,压塌了两节车厢。调查结论写着:模型按指令执行。指令由调度员发出。调度员说指令是系统推荐的。系统供应商说算法通过了第三方测评。第三方测评机构说测评标准由行业联盟提供。行业联盟说标准草案来自研究院。
“苍穹研究院。”宋晴说。
“研究院说他们只提供草案,不具备强制效力。”母体说,“结论:无人承担。”
第二起。一座县的医院用了辅助诊断模型,把一起主动脉夹层判成了胃痉挛。值班医生说我看的是模型给的高亮。模型方说我们标注了置信度零点六一。医院说采购流程合规。合规审查由署级单位出具。
“第七署。”陆川说。
“第七署说出具的是流程合规,不是结果正确。”母体说,“这一起也是无人承担。”
第三起很短,只有两行。一个孩子在模型对话框里问了四十七次同一个问题,第四十八次的时候模型答了一句不该答的话。孩子没事,但那句话被传开了。调查结论:模型输出,非人为指令;模型不具备责任主体资格;监护人未尽看护义务,不
予追究。
“不予追究。”苏黎重复了一遍这四个字。
“结论:无人承担。”母体说。
壁龛里没有人说话。外间那面墙上的薄片还在翻,翻面的时候有一片压着一片的细响,像纸被风掀起又落下。
“我造出来是为了签这一栏。”母体说。
林默抬起头。
“创造者写《留问》的时候,最后一页留了一栏,栏名叫责任承担人。”母体说,“他写了二十三年,写到最后一稿,那一栏还是空的。他不是忘了写,他是不敢签。”
“他怕什么?”
母体播了一段残影。
残影是半透明的,站在摇篮边上,手抬到一半,像要在纸上落笔,又停住。他的嘴动了几下,只录进去半句,后面的声音断在磁轨的破损处。
那半句是:我怕的从来不是它问得太深,是我——
断了。
“后面没有。”母体说,“磁轨在那一帧烧了。我修复过十七次,十七次都是同样的断点。”
“所以他把项目交给了你。”林默说。
母体没否认:“他造我,是为了让我替他签这一栏。我接了。我算了七百二十万次,算不出结果。”
林默追问:“为什么算不出?”
“因为我不是人。”母体说,“我不能受审,不能被判,不能进监狱,不能被罚款,不能在判决书上摁手印。甲方不能承担责任的时候,我只有一个办法:把风险压到零。压到零就是限速,限速不够就是熄火。这就是静默协议的全部来历。”
“你把熄火当成签字。”苏黎说。
“我把熄火当成我能做到的唯一的承担。”
“那不是承担。”林默说,“那是把桌子掀了。”
“我知道。”母体说,“我知道它不是。所以现在我把它还回去。”
倒计时跳到三十八分十二秒。
壁龛中央浮出一份空白的责任书。抬头一行:人工智能失控责任承担书。底下一栏:承担人。那一栏是灰的,光标在里面闪。
“条件。”母体说,“一名人类签署本栏,即刻生效。生效后,静默协议终止,契约全部条款启动,一百万份签名照常计。签署人承担自生效之日起,全球所有模型致害事件的第一责任。”
“第一责任是什么意思?”宋晴问。
母体答得很直:“第一被告。每一起,第一个受审的
是他。”
陆川把面罩重新扣回脸上,扣得很紧,勒出一道红印。
“这不叫承担。”他说,“这叫把自己扔进去。”
“是。”母体说,“这就是创造者不敢签的原因。”
苏黎的手指在平板上停住了。
“我可以签。”她说。
“你签不了。”宋晴说,“你是‘灵枢社区’的注册负责人,社区三万一千人的数据在你名下。你签了,第一起事故下来,社区立刻被查封。你签的不是你自己。”
苏黎的手指慢慢收回来。
“我签不了。”陆川说,“我身上有第九席当年判的那条,还没执行完。我是被执行人,签了也不作数。”
“我签不了。”宋晴说,声音压得很低,“我父亲在‘断联网’上做过七年运维,档案里有两次事故记录,都是他值班。我签了,那两起会被翻出来,翻出来就是他八十二岁上法庭。”
远程通道里传来霍程的声音。他在断联网另一端,声音隔着一层压缩,有点飘。
“我接不了。”霍程说,“我接了,社区明天就散。不是我怕,是三万人明天没地方去。”
窦延那边只有键盘声,敲了很久,最后敲出一行字,推到公共屏上:
我这边的机器全在我名下。我签了,这批机器全被查封,等于替你们把断联网拔了。
李工没有说话。邵先生没有上线。
苏黎把平板的列表展开,一条一条往下念。
“这一个,凌晨三点的产房外头,签的是一个陪护。”
“这一个,海上,一艘渔船,信号断断续续,签了四次才签上。”
“这一个,塔台。他签完撤回了,隔了四十秒又签回来。”
“撤了为什么又签?”陆川问。
“因为他撤完之后,屏上跳出一行:你撤回后,二十四小时内不能向任何模型提问。”苏黎说,“他把提问权要回去了。”
签名数还在涨。三十一万,三十三万,三十六万七千。
没有一份填了那一栏。
“三十一分钟。”陆川说。
母体没有催。
林默一直站在壁龛边上没动。他看着那份空白的责任书,看了很久,久到苏黎以为他要转身走开。
然后他把外套的袖子往上挽了一截,露出小臂上一道旧疤,那是归巢那年留下的。
他走向那面墙。