第436章 天网的「情感学习」（1/2）

萨拉·阿米尔博士拿出了她在海临市，通过观察和访谈，收集到的大量一手资料。

“我们的研究发现，市民对『天网』產生牴触情绪的核心，並非源於效率本身，而是源於一种『被剥夺感』。”

她在大屏幕上，放出了一段对一位计程车老司机的访谈。

“以前，哪条路近，哪条路堵，都是我们这些老司机，凭经验说了算。现在呢？一个机器告诉我，你应该左转，你应该右转。它说的是对，是快。但我觉得，我这几十年的经验，变得一文不值了。我感觉自己，不像个司机，像个听指令的机器人。”

萨拉博士分析道：“看到了吗？这位司机失去的，不是时间，而是一种『专业尊严感』和『自主掌控感』。”

“所以，我们的第一个课题是，如何让『天网』在提供『最优解』的同时，也提供『次优解』，並將『选择权』，交还给人类。”

李然的团队，迅速將这个需求，转化为技术语言。

“我们可以设计一个『选择权重』算法。当『天网』的建议，与人类用户的习惯或个人偏好，发生衝突时，系统会主动弹出一个提示框。”

工程师在虚擬屏幕上，快速构建出一个模型。

【“天网”建议您左转，预计可节省8分钟。但根据您的驾驶习惯，您似乎更倾向於直行。请问您要遵循哪条路线？】

【a.遵循“天网”建议（推荐）】

【b.保持我的原计划】

“这个『选择权』的设计，非常重要。”萨拉博士补充道，“它会让用户感觉到，自己仍然是决策的主体，ai只是一个提供参考的助手。这种『被尊重』的感觉，可以极大地，抵消『被控制』的不適感。”

接下来，討论进入了更核心的“边界感”问题。

林冀教授提出了一个尖锐的场景：“当『天网』检测到，一场大规模的，但定性为『和平非暴力』的抗议集会，正在堵塞交通时，它应该怎么做？”

按照之前的逻辑，“天网”会为了疏导交通，而將抗议者视为“障碍物”，並规划出最高效的“清理”方案。这正是矛盾激化的根源。

“在这种情况下，『天网』应该启动『社会事件』响应模式。”李然提出了新的构想。

“一旦识別到，该事件涉及『政治、宗教、言论自由』等，高度敏感的社会学范畴。『天网』的核心决策系统，將主动『后退』。”

“它会立刻停止对该区域交通的直接干预，並將所有相关数据，以及一个『风险评估报告』，打包发送给人类的管理者——市政府应急中心、警察指挥部。”

“报告內容可能包括：『a区域出现大规模人群聚集，已造成交通中断。经模型初步判断，该事件为和平抗议，暴力风险等级低。但存在因人员拥挤，导致踩踏的次生风险。建议派遣警力维持秩序，並开放b、c两条备用通道，作为紧急疏散路线。』”

“看，”李然强调，“它不再是下达『指令』，而是提供『建议』。它將自己的身份，从一个『指挥官』，降级为了一个『高级参谋』。”

“它学会了，在自己不擅长，或者说，伦理上不应该干预的领域，『闭嘴』和『放权』。”

这个“主动后退”的设计，贏得了伦理委员会和心理学家们的一致赞同。

这正是卡特所说的“边界感”。