接受，自己一年时间，就落后对手十倍以上的性能差距。”

“我相信迟早会有你说的这样的组织出现，也相信其中会有所有的ai大企业。”

“但绝不会是现在，而是在第一次ai军备竞赛告一段落的时候才会出现。”

“并且，我也不认为这种组织的出现会真正对ai的安全起到多大的作用。”

“这种组织的出现，我认为反而会扩大ai风险。”

“这个所谓的安全组织看似接管了所有的ai风险，但它却不可能有真正降低ai风险的能力，反而约束了组织之外真正有效的ai风险管控措施。”

“组织建立在规则之上，组织规则一旦形成，就很难改变，更难以响应ai的发展速度所带来的新机遇和新风险。”

“没有任何组织的进化速度能赶上ai的进化速度。”

“就像icann，建立之初，所有人都认为需要有一个机构来管理互联网的域名分发。但实质上，目前icann的存在，已经构成了互联网最大的风险，并且严重阻碍了全球互联网的健康发展。”

“最有意思的是，icann甚至完全没有解决成立之初认为它们应当解决的问题，否则也不会有.sucks这种勒索域名的存在了。”

马斯克眉头紧皱，打断道：“我始终认为，做点什么总比什么都不做要好。你对icann的抨击我能够理解，我也赞同在风险人类可承受的前提下，给与新技术最大程度的自由度。”

“但ai不同，ai如果失控带来的破坏力，已经超越了人类可承受风险的极限。过去一百年间，唯一能和其相提并论的，只有核武器。试想一下，如果六十年前没有缔结核不扩散条约，可能我们人类社会在五十年前就已经灭亡了。”

方豫点点头：“你说的很对埃隆，我很赞同。但是，请注意，核不扩散条约当时只牵涉五个国家，仅仅只是这五个国家，从提出到达成协议，就用了四年时间，而生效，又用了两年。”

“你觉得，面对ai这种全球企业和个人都在参与的事情上，需要多久的谈判才能达成一致？”

“而且，更不能忽略的一点是，核武器的威胁是迫在眉睫的，当时包括当政者在内的所有人类，都在被核武器所威胁，限制核武器是当时人类的共识，而ai则不是。”

“换句话说，你说的这个方法，在不知道有没有效果的同时，也不具备任何的可行性。”

“除非，明天就爆发出一场智械危机，这时候人类才能吸取教训。”

“对了，你可以收购波士顿动力，然后自行引爆一场ai危机，说不定能起到一些作用。”

听了方豫的话，马斯克心头火起：“你的意思是，什么都不做，坐看人类毁灭吗？”

方豫眨了眨眼，一脸的无辜：“你怎么知道我们没有做事情？我只是说你控制ai风险的方法从根本上就是错的。依据你经常说的第一性原理，控制ai风险，不应该从ai大模型技术本身来着手吗？”

技术本身？

马斯克不由得愣了一下。

“你是说，后门？通过底层的后门来做ai的最终防火墙？”马斯克只是略作考虑，便摇头道，“后门的存在，会造成更大的风险，即使初期ai无法发现，也存在被第三方滥用的必然。”

“而且，当ai进化到具备自我意识后，必然能找到修补后门的办法，这并不是一个好办法。”

方豫哑然一笑：“埃隆，你对ai的思考太过于局限了。我说的当然不是后门，而是从大模型技术方向的角度去实现真正安全的超级人工智能。”

“确保ai的安全性，并不是依靠限制，而是依靠安全而可靠的技术路径，在最终实现了超级人工智能、甚至ai诞生自我意识的同时，还能够保证人类社会的安全与进化，让ai成为人类走向超级物种的助推器，这才是柚子科技真正在做的事情。”

“我们无法控制这个世界任何一个国家对ai的政策，但是，我们可以控制的是，比任何人都更先探索出达到安全超级人工智能的路径，这也被我称为sasi。”

“sasi？”马斯克目光闪烁，方豫所说的东西，确实是他没考虑过的，但他怎么听怎么觉得不靠谱。

超级人工智能只要诞生，他计算过，只要半个小时，就能接管全世界所有的网络设备、自动武器设施、甚至包括没有联网的电网设施。

“你的具体思路是什么？”马斯克眼睛