第434章 李然的挣扎（1/2）

他引以为傲的“天网”，那个能够处理亿万级数据的，强大的人工智慧。

此刻，在面对人类最原始的、非理性的恶意时，却显得如此笨拙，如此无力。

他第一次，对自己所坚持的技术信仰，產生了动摇。

“启动『壁垒』协议！將所有受到物理攻击的节点，进行逻辑隔离！切断它们与核心系统的连接！”

“將『天网』的运算资源，优先分配给能源和公共安全系统！交通系统，暂时切换回人工干预模式！”

“所有工程师，给我盯紧核心代码！绝不能让一句恶性指令，污染我们的根资料库！”

李然嘶吼著，一道道指令从他口中发出，清晰，但难掩疲惫。

他已经在这里，不眠不休地，守了四十八个小时。

他试图用技术的手段，去堵上每一个漏洞，去应对每一次攻击。

但敌人，是看不见的。

他们是混在人群中的破坏者，是网络上流窜的谣言，是瀰漫在整个城市上空的，非理性的恐慌和愤怒。

记住我们101看书网

“天网”可以计算出最优的交通路线，但它计算不出，人心中的恶意。

“天网”可以预测火灾的风险，但它预测不到，一个被谣言煽动的人，会因为恐惧，而做出何等疯狂的举动。

李然看著大屏幕上，那张代表著城市运行状態的“神经网络图”。

原本流畅、优美的光线，此刻变得支离破碎。无数的节点，在闪烁著危险的红色，仿佛一个健康的人，正在被病毒，一寸寸地侵蚀著肌体。

而最让他感到无力的，是“天网”自己，也陷入了一种“逻辑困境”。

根据它被设定的伦理原则，“保护人类生命安全”是最高优先级。

当它检测到，有抗议者衝到马路中央，用自己的血肉之躯，去阻挡车流时。

它的第一反应，是立刻將周围所有的信號灯，都变成红色，强行停止所有车辆的运行。

这是一个从“效率”和“安全”角度看，都绝对正確的决策。

但这个决策，却正中抗议者的下怀。他们要的，就是瘫痪交通。

“天网”为了保护一小部分人的“生命安全”，而牺牲了整个城市的“运行效率”，並且“帮助”了它的敌人，达成了破坏的目標。

这在逻辑上，形成了一个无法解开的死循环。

更让李然感到挣扎的，是来自公司內部，伦理委员会的质询。

林冀教授和几位委员，也来到了海临市的指挥中心。

他们看著屏幕上，“天网”一次又一次，用“最优解”去应对“非理性”行为时，所造成的，更加混乱的局面，陷入了深深的沉思。

“李然，”林教授的声音，带著一丝沉重，“我们可能，都犯了一个错误。”

“我们一直致力於，让『天网』变得更聪明，更高效，更『正確』。”

“但我们忽略了，人类社会，本身就不是一个，完全由『正確』和『效率』所构成的系统。”

“它充满了非理性，充满了情感，充满了无数，在ai看来，『不合逻辑』的选择。”

哲学委员接著说道：“自由意志，本身就包含了『犯错』的权利。当『天网』试图去纠正每一个『错误』，去规划每一个『最优』路径时，它实际上，正在剥夺人类，行使自己自由意志的空间。”