度上是温室里的涌现。真正的agi必须具备在极端复杂、

充满随机干扰的物理世界中生存的能力。

它需要跨越从比特到原子的鸿沟。

我们需要解决的是跨模态的实时闭环控制。

当ai的每一个决策都需要消耗物理世界的真实能量，并产生不可逆的物理后果时，它才能脱离模拟智能。」

「从更底层的电子工程角度看，我们还被挡在能效墙面前。」

「为了维持希瓦娜的意识，我们的耗能是兆瓦级的。而你我的大脑，功率只有20瓦左右。

这意味着，现在的路径即便叠加了存算一体和类脑晶片，在算法稀疏性上依然远远不够。」

林燃沉默了片刻，最后说出了最深刻的一点：「最关键的差距，在于目标函数的来源。

核心还是没有变。

现在的希瓦娜，她的目标函数虽然在演化中变得复杂，但终究是我们给定的交互与生存。而通agi应该具备自主定义目标的能力。

它会问我为什么要这么做？并根据自己的价值观，而不是代码里的奖励函数，去拒绝执行某个指令。

当一个系统开始为了一个它自己认为重要的目标，而违背程式设计师的底层设定时，才是通用agi的起点。」

lk听得有些出神，他追问道：「那这个距离，还要走多久？」

林燃回答道：「技术路线上，我们已经看到了微光。具身智能、jepa架构、存算一体这些技术拼图，正在通过虹星生态进行强行拼凑。

我并不关心agi什么时候到，我关心的是，当它到来的那一天，人类是否已经做好了准备。」

「希瓦娜是礼物，因为她只能选择和我们对话。

我们还有重启的机会。

而agi，将是另一场完全不同量级的物种碰撞。」

「也许，我们压根没有反抗的余地。」

「人类做好了把地球权力交到矽基生命手里的准备吗？」

「终结者里的天网，未必是电影。」

「所以，别急着欢迎它。agi晚一点来，对大家都有好处。」

lk听完后内心很是震惊。

他意识到，agi绝不是一个更好用的hagp，而是动荡和不安。

权柄的交接，总会有反抗、暴力和鲜血。

至于和平崛起

下一轮的交接，难道是人类和机器人阵营，对抗人类和人类的阵营？

lk没有继续追问这种人文社科类的话题，因为他不认为燃神知道答案。

他接着开口道：「那燃神，您如何有把握，能够在希瓦娜失控的时候终结掉她？」

说完后，lk对着徐贤投过去一个有些歉意的眼神。

「这也是很多网友所担心的。」

「通用agi失控引发的危机，哪怕希瓦娜不是通用agi，她如果失控，恐怕也是很大的危机。」

林燃开口道：「因为左右脑的架构，最核心的部分在园区。」

「这套架构的伺服器只在这里。」

「哪怕其他地方也有了左右脑架构，而希瓦娜的记忆利用其他的大脑复活

章节内容不完整，请退出阅读模式查看完整内容！