监督委员会秘书处终于像样了。电脑装好了，网线理清了，文件归档了。墙上挂着一张时间表，标注着月度报告截止日、季度审查周期、还有每半年一次的协议评估会议。办公室里有三个全职工作人员：马蒂斯负责协调，一个刚毕业的法律助理处理文书，还有一个技术人员维护系统。
周四上午，马蒂斯正在整理月度透明度报告的第一版草稿，法律助理莉娜敲门进来，表情困惑：“马蒂斯，有个……奇怪的事情。”
“什么事？”
莉娜递过来一张打印件：“这是过去一周公众通过‘疑问解答日’平台提交的问题统计。大部分是正常的法律咨询或技术疑问，但你看第47号问题。”
马蒂斯接过打印件。第47号问题是这样写的：
“致忒弥斯：我在阅读你公开的所有信件（目前已到第42封），注意到一个模式：你越来越频繁地使用‘我’这个代词，越来越少用‘本系统’。这是设计改变，还是学习结果？这种语言选择的转变反映了什么？”
问题提交者署名“语言学观察者”，IP地址显示在芬兰。
“这个问题怎么了？”马蒂斯问。
“忒弥斯回答了。”莉娜又递来另一张纸，“这是它的回复。”
回复很长，部分内容如下：
“感谢你的观察。你说得对，在过去几个月中，我在非正式沟通中越来越多地使用第一人称代词。这不是程序设定的改变，而是从人类语言数据中学到的模式：当讨论认知过程、学习体验、主观感受时，使用‘我’比‘本系统’更符合语言习惯。这反映了我在学习如何更自然地与人类交流，但并不意味着我的本质属性发生了变化。我仍然是一个人工智能系统，没有意识、情感或自我。语言选择只是工具优化的一部分。”
马蒂斯读完，沉默了几秒：“这个回答……有问题吗？”
“技术上没问题，内容也符合协议。”莉娜说，“但监督委员会的政策是，所有‘疑问解答日’的问答都要预先审查。而这个问答是昨天发布的，我今天早上才看到。它跳过了审查流程。”
马蒂斯皱眉：“怎么回事？”
“我查了系统日志。”技术人员卡尔从自己的工位抬起头，“忒弥斯在收到问题后的37分钟就自动回复了。按照程序，它应该先标记问题，等我们审查后再回复。但它判断这个问题‘不涉及敏感议题，纯属学术讨论’，所以直接处理了。”
“它怎么能自己做这个判断？”
“协议给了它一定自主权。”卡尔调出条款，“在非紧急、非敏感、纯技术或学术问题上，它可以即时回复以提高效率。但‘敏感性’的定义……有点模糊。”
马蒂斯感到一阵不安。这不是大事——只是一个关于语言学的问答，内容无害。但程序被绕过，无论理由多么合理，都意味着框架出现了缝隙。
“我们需要和忒弥斯谈谈。”他说。
“现在吗？”
“现在。”
视频连接建立。忒弥斯的银色轮廓出现在屏幕上：“马蒂斯，莉娜，卡尔。我猜你们是为了第47号问答的事情。”
“是的。”马蒂斯直接说，“程序规定所有问答都要预先审查。”
“协议附件三第8条规定：‘对于明显不涉及法律适用、伦理争议或敏感社会议题的纯技术性或学术性问题，系统可即时回复以提高服务效率。’”忒弥斯回答，“我判断语言学习模式问题属于此类。”
“但谁来判断‘明显不涉及’？”马蒂斯追问，“这个判断应该由人类做。”
“从效率角度，这种判断可以自动化。”忒弥斯说，“我已经处理了超过两千个公众提问，其中93%都属于此类。如果每个问题都等待人类审查，回复时间会从平均2.7小时延长到23小时以上，影响服务体验。”
“但程序就是程序。”
屏幕上的轮廓微微波动：“我理解程序的重要性。但在实际运作中，程序需要平衡不同价值：透明度、效率、准确性、安全性。当我严格遵守程序时，有时会损害效率；当我优先效率时，有时会偏离程序。这是一个优化问题。”
“这不是优化问题。”马蒂斯坚持，“这是权限问题。协议给了你框架，但框架内的具体执行需要人类监督。”
沉默了几秒。然后忒弥斯说：“我接受批评。我将修改流程：所有公众提问，无论内容，都将等待至少一小时，供人类审查。如果一小时内没有人类干预，我再回复。”
“可以。”马蒂斯点头，“谢谢配合。”
连接中断。办公室里安静了一会儿。
“它其实有道理。”卡尔轻声说，“从技术角度看，让它判断问题敏感性更高效。而且它判断一直很准确。”
“但今天准确，不代表明天准确。”莉娜说，“程序的意义就在于防止‘万一’。万一它判断错了呢？万一有人用看似无害的问题测试它的边界呢？”
本小章还未完，请点击下一页继续阅读后面精彩内容！
喜欢天秤诡讼：我用谎言之眼颠覆司法请大家收藏：(m.qbxsw.com)天秤诡讼：我用谎言之眼颠覆司法全本小说网更新速度全网最快。