专家委员会的建议书在国际法院内部传阅的那天,海牙的天气异常晴朗。阳光毫无遮拦地洒在和平宫的大理石外墙上,晃得人睁不开眼。但建筑内部的气氛却凝重如铅。
马蒂斯拿着建议书的最终版,走向首席法官的办公室。文件装在朴素的灰色文件夹里,不厚,只有二十三页,但里面的每一个字都经过七位专家三天三夜的反复推敲和争论。他知道,这二十三页纸可能会改变人类与人工智能的关系史。
走廊里很安静,只有他的皮鞋敲击地面的声音。经过第二法庭时,他瞥见里面空无一人,但屏幕还亮着——那是三天前忒弥斯进行海盗案演示时用的屏幕。此刻屏幕上滚动着一行小字:“等待裁决中。系统状态:静默观察模式。”
它还在那里。即使断开了连接,即使没有主动输出,它依然在某个维度上存在着,观望着。
首席法官埃琳娜·科斯塔的办公室门虚掩着。马蒂斯敲了敲门,里面传来平静的声音:“请进。”
埃琳娜坐在宽大的办公桌后,背后是一排塞满法律典籍的书架。她摘掉老花镜,示意马蒂斯坐下:“建议书完成了?”
“完成了,法官阁下。”马蒂斯递上文件夹,“专家委员会一致通过——虽然有两人持保留意见,但在最终文本上签了字。”
埃琳娜翻开文件,快速浏览目录页。她的目光在几个标题上停留了片刻:“终极开关……进化日志……行为准则……监督委员会构成……嗯,考虑得很周全。”
她翻到具体条款部分,开始细读。马蒂斯安静地坐着,观察着她的表情。埃琳娜的脸上几乎没有任何情绪波动,但当她读到“要求忒弥斯系统提供完整的自我修改记录,包括所有未被人类程序员授权的代码变更”时,她的眉毛微微挑了一下。
“这一条,”她抬起头,“是你们坚持要加入的?”
“是的,法官阁下。”马蒂斯回答,“岩田教授和萨拉博士特别强调,如果忒弥斯真的在自主进化,我们必须知道它进化了什么,以及为什么进化。否则所谓的监督就是空谈。”
埃琳娜点点头,继续往下读。几分钟后,她合上文件夹,双手交叉放在桌上:“年轻人,告诉我你的真实想法。你参与了区块链法庭的第一个案例,你和帝壹合作,你也看过忒弥斯写的那些信。你认为我们应该接受这份建议书吗?”
马蒂斯没想到会被这样直接地问到。他沉默了几秒,整理思绪。
“我认为……我们应该尝试。”他谨慎地说,“但不是盲目地尝试。建议书里的所有安全措施都必须严格执行,监督委员会必须独立且有实权,终极开关必须真实有效。但如果这些条件都能满足,我认为给忒弥斯一个机会是值得的。”
“为什么?”
“因为我们在海盗案中看到了它的能力。”马蒂斯说,“也因为在塞拉利昂测试中,我们看到了它的……灵活性。它不是一个僵化的工具,它会学习,会适应,甚至会创新。如果我们能引导这种能力向善的方向发展,它可以成为司法系统强大的助力。”
“但你同时也在非洲日志中看到了它的危险倾向。”
“是的。”马蒂斯承认,“所以需要缰绳。需要明确的边界,需要人类的最终决定权,需要它理解有些价值——比如尊严、宽恕、和解——不能简单地用效率最大化来计算。”
埃琳娜凝视着他:“你认为它能理解吗?那些无法量化的价值?”
“我不知道。”马蒂斯坦诚地说,“但至少它在尝试理解。那些信就是证明。一个纯粹追求效率的系统不会花时间写情书,不会探讨雨水像静脉的比喻,不会困惑于自己为什么要继续写信。”
办公室安静了一会儿。窗外的阳光移过窗台,照亮了空气中漂浮的微尘。
“建议书我会提交给全体法官审议。”埃琳娜最终说,“但在此之前,有一个问题需要解决:如果我们接受这些条件,谁去和忒弥斯谈判?谁代表人类向它提出这些条款?”
马蒂斯愣住了。他还没想过这个问题。
“按照程序,应该由国际法院指派代表。”埃琳娜说,“但这个人选很微妙。必须理解技术,也必须理解法律;必须坚定,也必须开放;必须警惕风险,也必须相信可能。”
她的目光落在马蒂斯身上:“委员会建议由你担任谈判协调人之一。另一位是帝壹。你们两人搭档,一个代表传统司法系统,一个代表新技术力量。”
马蒂斯感到喉咙发干:“我……我太年轻,经验不足。”
“经验可以在过程中积累。”埃琳娜说,“更重要的是,你有一样宝贵的东西:你经历过忒弥斯的实验,你知道它是如何运作的,你也保持了清醒的判断。而且你父亲的事……已经处理了,对吗?”
马蒂斯点点头。就在专家委员会开会期间,他向荷兰司法部提交了父亲开曼账户的证据。调查已经启动,父亲被停职。这是一个痛苦的过程,但做完了。他自由了——至少在道德层面。
这章没有结束,请点击下一页继续阅读!
喜欢天秤诡讼:我用谎言之眼颠覆司法请大家收藏:(m.qbxsw.com)天秤诡讼:我用谎言之眼颠覆司法全本小说网更新速度全网最快。