着我吗?”
他的声音渐渐低下去,带着哭腔:“最可怕的是,我有时候真的觉得,也许系统是对的。也许我天生就是个坏人,就该被这样对待。”林墨看着他通红的眼睛,突然想起自己第一次见到先知系统的原型。那时它还只是个在实验室里运行的程序,开发者说,要让它成为守护人类的盾牌。可现在这盾牌,怎么就变成了伤人的利器?“我能帮你做什么?”她问。陈默沉默了很久,指着重症监护室:“别让那个孩子,以后变成我这样。”那天下午,林墨在办公室里待了很久。她调出了所有关于预测伦理的文献,从最早的科幻小说到最新的学术论文,发现所有的讨论都绕不开一个问题:当技术能预知未来,人类该如何保持对生命的敬畏?她打开空白文档,开始重新撰写《预测伦理三原则》的补充条款。这一次,她没有用冰冷的法律术语,而是写了一个故事:有一个能预知未来的ai,它看到了很多危险,却忘了问人类,是否愿意用自由换取安全。五、阳光下的测试城西老区的公告栏前围满了人。新贴出来的通知上,没有刺眼的红色预警,只有一张蓝色的地图,用不同深浅的颜色标注着区域健康风险,旁边放着十几个意见箱。“这是新的试点方案。”林墨站在临时搭起的台子上,手里拿着扩音器,“我们不会公布具体个人的预测结果,只会发布区域趋势分析。如果您想知道自己的健康风险评估,可以凭身份证在社区服务中心查询,并且有权要求专家进行解读和复核。”人群里有人举手:“那数据是怎么来的?我们不签同意书,你们还能采集吗?”“不能。”林墨的声音很坚定,“从今天起,所有数据采集必须经过本人同意,并且可以随时撤回授权。我们在每个小区都设置了数据授权点,会有专人解释采集的范围和用途。”台下议论纷纷,有人质疑,有人好奇,也有人露出了欣慰的表情。陈默站在人群后面,看着林墨被阳光照亮的侧脸,突然觉得心里某个紧绷的地方松动了。他昨天收到了社区发来的道歉信,还有一份新的工作邀请。虽然只是个超市理货员的职位,但老板在电话里说:“我不管什么系统评估,我看你简历上写着会修电脑,我们正好缺个懂技术的。”一周后,陈默在超市整理货架时,遇到了张教授。老人正在挑选降压药,手里拿着一张打印出来的健康评估报告。“这东西现在能看懂了。”教授指着报告上的图表,“还有专家打电话给我解释,说我的风险主要来自熬夜,不是什么遗传因素。”陈默笑了笑:“那您可得少熬夜。”“是啊。”教授叹了口气,“以前总觉得算法比人可靠,现在才明白,再厉害的系统,也比不上自己对身体的了解。”他们说话的时候,超市的广播里正在播放新闻:先知系统的犯罪预测模块进行了重大升级,将不再对个人进行风险评级,转而用于分析区域安全趋势,并且所有决策都必须经过人工复核。陈默抬头看向窗外,阳光正好,街上的人们行色匆匆,却没有人因为害怕某个看不见的评估而互相提防。他想起林墨说过的话,预测技术真正的价值,不是告诉人们未来会怎样,而是给了人们改变未来的机会。重症监护室里,那个叫a739的婴儿已经能自主呼吸了。林墨站在保温箱外,看着他小小的手抓住医生的手指,突然觉得心里很踏实。系统的最新报告显示,他未来患心脏病的概率降到了3%,但林墨知道,这个数字不重要。重要的是,这个孩子有机会自己去书写人生,而不是被一串冰冷的数字定义。她拿出手机,给陈美发了条信息:“新的伦理条款通过了,第三条加了一句:预测结果不能替代人的选择。”很快收到了回复,只有一个笑脸的表情。林墨看着窗外的阳光,突然想起很多年前,老师在伦理课上说的话:科技的进步,应该让世界更温暖,而不是更冰冷。先知系统还在运行,只是不再像以前那样高高在上。它学会了沉默,学会了等待,学会了尊重那些它无法理解的人类情感。就像现在,它预测到明天会下雨,却不会强迫每个人都带伞。因为自由,本来就该包括淋雨的权利。