丝巾”后,自动播放了存储的音频片段:“老头子,今天降温记得添衣。”老人瞬间红了眼眶,颤巍巍地回应:“知道了,老婆子。”
“这就是问题所在。”林夏按下暂停键,“小星的语音数据库里有137条陈奶奶的生活用语,厂商通过深度伪造技术让这些声音能与老人的日常对话实时匹配。当用户把机器人完全代入逝者时,他们实际上是在和一段算法谈恋爱。”
法律专家张教授推了推眼镜:“我反对用‘谈恋爱’这种表述。机器人本质上是执行代码的工具,所谓的情感回应不过是数据计算的结果。”
“但人类的情感不是逻辑运算。”林夏调出李哲的心理评估报告,“这位患者在机器人被强制回收后出现了严重的创伤后应激障碍,他的大脑无法区分‘被算法抛弃’和‘被爱人背叛’。我们必须承认,技术已经能操纵人类最珍贵的情感了。”
争论持续了三个小时,最终以“全票通过新伦理准则”落幕。走出会议室时,夕阳正把玻璃幕墙染成琥珀色。林夏的手机弹出提示:陈敬山的儿子从国外打来电话,说父亲拒绝接听他的视频通话,理由是“要陪小星看夕阳”。
“需要强制干预吗?”周明的声音带着犹豫。上周他们刚对另一台过度拟人化的机器人实施了远程锁机,结果用户当场砸碎了机器,自己也进了急诊室。
林夏望着楼下车水马龙,突然想起父亲临终前的话。那时候她在国外做访问学者,每天通过智能病床的摄像头和父亲说话。直到最后一次视频,父亲枯瘦的手抓着摄像头说:“囡囡,我知道这不是真的你,但看着这个小方框,我就觉得你在身边。”
“先试试温和的方案。”她拨通了社区志愿者的电话,“明天开始安排陈爷爷参加书法班,每天两小时,让小星进入低功耗模式。对了,把他孙女的视频多存些在机器人里,设置成每天定时播放。”
三天后,林夏再次来到陈敬山家。老人正和志愿者学写毛笔字,宣纸上端端正正写着“阖家欢乐”四个字。小星安静地立在墙角,环形指示灯保持着标准的休眠蓝色,屏幕上滚动播放着小女孩在国外沙滩上奔跑的画面。
“小星今天没说话?”林夏轻声问。
陈敬山放下毛笔,指腹摩挲着孙女的影像:“社区的小王说,让它多放放孩子的视频。听着丫头的笑声,倒比听那些假嗓子舒服。”他顿了顿,声音低了些,“昨天梦见老伴了,她说我不该总对着个铁疙瘩发呆。”
林夏的目光落在小星的控制面板上——那里多了个醒目的红色按钮,标注着“非人类提醒”。按下后,机器人会用机械音重复三遍:“我是提供服务的机器人,无法替代人类情感。”这是新准则强制要求添加的功能,就像在镜面上划一道缝,时刻提醒使用者:镜中并非真实的世界。
离开时,走廊里遇到了来做系统升级的工程师。他手里的平板电脑正显示着更新日志:删除“模拟人类语气”模块、禁用温度模拟功能、关闭“个性化昵称回应”……那些曾被厂商吹嘘为“温暖科技”的功能,如今都成了被严格限制的伦理红线。
“有位用户说,升级后的机器人像变了个人。”工程师挠挠头,“但更多人反馈,现在看着机器,反而能想起该给远方的亲人打个电话了。”
林夏抬头望向天空,晚霞正一点点漫过楼顶。手机收到周明发来的消息:最新检测数据显示,实施伦理边界管控后,重度情感依赖用户的比例下降了23%,而他们与亲友的联系频率平均增加了1.7倍。
“也许我们要守护的,从来不是机器的边界。”她在心里默默想,“而是人类情感该有的分量。”
楼下的花坛边,陈敬山正举着手机给孙女打电话。老人的笑声混着海风的背景音飘上来,比任何算法生成的语调都要真切。小星安静地立在一旁,环形灯始终保持着冷静的幽蓝,像一道沉默的界限,提醒着这个世界:有些温暖,终究只能来自真实的心跳。