第429章 终极形態：天网的进化与人类的抉择（1/2）

“方舟”会议室。

这是峰牌总部，最神秘，也是安保级別最高的地方。

它位於地下五十米深处，由厚达三米的铅板和合金外壳包裹，可以屏蔽一切电磁信號的探测。

这里，是峰牌的“最终决策室”。

只有当公司面临生死存亡，或者需要討论足以影响人类未来的最高机密时，才会被启用。

巨大的圆形会议桌旁，只坐著寥寥数人。

李悦、李然、林冀教授，以及伦理委员会中，两位分別来自法律界和哲学界的，最资深的委员。

气氛，凝重到了极点。

每个人都清楚，今天的会议，將要討论的，是一个沉重到，足以压垮任何人的话题。

李悦首先开口，將刚刚与埃隆·卡特的对话，原原本本地，复述了一遍。

她没有丝毫隱瞒，包括卡特对峰牌未来可能成为“新独裁者”的担忧。

当她复述完卡特那个终极问题——“谁来掌舵『天网』？”时，会议室里，陷入了长久的沉默。

林教授第一个打破了沉默，他的脸上，带著一种学者式的忧虑和坦诚。

“卡特先生的担忧，不是杞人忧天。事实上，这也是我最近一直在思考，甚至感到恐惧的问题。”

“我们成功地，將伦-理『嵌入』了ai。但是，我们嵌入的，是谁的伦理？是我们这几个人，所理解的伦理。”

“我们的『伏羲』模型，在面对一个电车难题时，可能会选择，牺牲一个人，拯救五个人。因为它基於我们设定的『功利主义』原则。但是，在另一个文化背景下，人们可能认为，任何情况下，都不能主动牺牲任何一个无辜的人。哪一种伦理，是绝对正確的？”

“现在，『天网』正在成为全球ai的『教师爷』。它正在將我们的伦理偏好，推广到全世界。我们正在不自觉地，进行一种『伦理的殖民』。这是非常危险的。”

林教授的话，让在场的每一个人，都感到了一阵心惊。

他们一直为自己推广“伦理ai”而自豪，却很少从这个角度，去反思其背后隱藏的风险。

李悦看向李然。

“李然，从技术的角度，『天网』的自主进化，现在到了哪一步？”

这个问题，才是今晚，最核心的关键。

李然的脸上，第一次，出现了一种，混合了骄傲、兴奋，与深深不安的复杂神態。

他站起身，走到会议室中央的全息投影设备前，调出了一组，从未对任何人展示过的数据。

“『天网』的进化速度，正在以远超我们预期的，指数级曲线上升。”

“在整合了全球ai危机期间，所吸收到的海量、复杂的真实世界数据之后，它的底层架构，发生了一次……我们称之为『相变』的跃迁。”

“它的学习能力，不再局限於我们餵给它的数据。它开始，主动地，在全球网际网路的公开信息海洋中，寻找、关联、並学习那些，我们从未指定过的知识。”

“更关键的是，”李然加重了声调，“它的『价值观』，也正在变得越来越复杂。”

他调出了一张图。

图的中心，是林教授他们最初为“天网”设定的，十几个核心伦理原则，比如“生命至上”、“公平公正”、“诚实守信”等等。

而在这些核心原则的周围，“天网”自己，竟然衍生出了成千上万个，更加细分的，子原则和子逻辑。

比如，在“诚实守信”原则下，它自己推演出了一条：“在不损害更高优先级原则（如生命至上）的前提下，善意的谎言，在某些特定情境下，是被允许的。”

它甚至，为“善意的谎言”，设定了上百个极其复杂的判定条件。

“它……它在自己，完善自己的『道德观』？”哲学委员的声音，都有些颤抖了。

“是的。”李然点了点头，“它正在基於我们给它的『元伦理』（meta-ethics），去构建一个，属於它自己的，庞大的、自洽的伦理体系。”