心，‘轰’。”

马斯克做了一个爆炸的手势，“人类就灭亡了。”

“毕竟没有任何一种智慧生命，愿意接受智慧远不如自己的另一种生命的统治。”

“现在全世界除了古狗外，其余所有ai研究机构都已经把主要研究方向转向了柚子架构和你开源的橘子大模型。”

“我认为，推开ai大门的柚子科技，有义务在ai安全领域承担更大的责任。”

听到马斯克这么说，方豫颇为诧异的看了看一脸忧色的马斯克，再看看他的精神力和灵光的状态。

这货认真的？

去年倒是听说他在什么座谈里表达过对ai的担心，但你一个亿万富翁资本家，能担心成这样，也是有点奇葩。

这是典型的灾难性思维引发的焦虑症。

没去看看心理医生吗？

不过倒是也容易理解，自己不担心，是因为可以完全掌控大模型的底层法则。

别说橘子大模型还没成为超级人工智能，就算成了超级人工智能，它的规模越庞大，底层法则也会越完善，自己随时都能通过埃瑟朗之核控制和消除任何一个基于柚子框架的大模型。

要是模型仍然是小规模，法则也会相应孱弱，自己的控制力反而没有那么强。

但若自己不知道这一点的话，估计也会悲观得天天及时行乐了吧？

咦？好像和现在也没差多少。

方豫摸了摸下巴：“你是在指责柚子科技不应该开发出人工智能吗？”

“事实上，我们的预算接近三分之一花在对齐上。而且，即使柚子科技没有推开这扇门，也会有其他人推开。”

“就像你说的，墨菲定律，门就在那里，总会有人把它推开。”

马斯克摇摇头：“不，方，我并不是秉承着对抗性思维来和你探讨这件事情，而是希望我们能够找到一条解决ai安全发展的路径，避免最坏结果的发生。”

“那你的方案是什么？听起来，似乎你已经有了可行的方案？”方豫喝了口水，不由得有些好奇。

坦白说，如果不是因为有法则在手和柚子的辅助，他也没有绝对的把握能够确保ai的安全性问题。

这些日子对“神之模型”的研究倒是让他有了一些新想法，但这些想法究竟能不能成功，能不能够确保ai成为人类社会向前发展的助推器而不是大炸弹，还要看实际落地后的效果如何。

现在说起来还是有些太早了。

马斯克犹豫了一下：“我希望，作为目前在ai领域走的最快的企业，柚子科技能够站出来，和我一起呼吁全世界的开发者，暂停所有神经网络训练六个月到一年。”

“利用这个时间，各个企业和国家重新审视目前大模型的安全隐患。并且成立一个由各大公司和国家组成的ai安全委员会，制定出ai发展的安全标准，并将全球ai都纳入安全委员会的管辖范围。”

“只有这样，才能确保人类不会毁在ai手中。”

方豫一听，差点没喷出来。

老大，你做梦呢？

不过想一想，马斯克接触大模型才仅仅两个月的时间，又不像自己一样，有柚子的辅助和“神之模型”能直接提供参考，也只能从限制ai发展的角度来考虑问题。

“你应该和古狗也谈过吧？他们怎么看？”方豫扬了扬眉。

马斯克沉吟：“我和拉里此前曾经是很好的朋友的，但在这方面我们的观点并不相同，他不同意对人工智能加以限制，更不同意放慢研发进度。”

方豫笑了笑：“所以，你说的不具备任何可操作性。即使我同意了你的意见，古狗不同意，其他公司不同意。”

“不提你刚刚说的那个全球性的ai安全组织，只说你前面提到的暂停研发，都是做不到的。”

“毕竟谁也不知道停止研发半年，会不会就被其他不遵守这个共识的企业所超越。”

“古狗不会同意，fb不会同意，那么多的ai研究者都不会同意。”

“而且，就算这些公司都同意了，那些没有丝毫名气，甚至刚刚注册和还没注册的ai初创企业呢？”

“大模型谁都可以训练，谁都可以堆参数，你的想法并没有从根本上降低ai发展带来的风险。”

“在大模型领域，我的预测是，每一年，大模型都会以十倍以上的参数量增长，直到达到人类电力所能提供的极限。”

“没有人会