周鸿祎谈叫停GPT5：不发展才不安全！GPT或发生智力突变

周鸿祎谈叫停GPT5：不发展才不安全！GPT或发生智力突变

3月30日，360集团创始人、董事长周鸿祎在微博发文称，“昨天马斯克呼吁暂停GPT-5的研发。我自己是做安全的，但我坚定地认为，不发展才是最大的不安全。 ”中国发展高层论坛2023年年会，周鸿祎表示近期网络上爆炒失业问题，他表示会被GPT淘汰的，是到现在还没用过或者不会用GPT的人。

关于马斯克的请愿信，周鸿祎表示并不了解内幕，但猜测是GPT的进化路上出现了超乎人类想象的现象。他认为GPT-4 已经是超级人工智能的雏形，早就出现了一些连它的创造者都无法解释的现象，比如涌现、幻觉、能力的迁移和逻辑增强。就像猿猴进化成人，不知道在哪个节点会发生智力的突变。

日前，由图灵奖得主、深度学习三巨头之一约书亚·本吉奥（Yoshua Bengio），埃隆·马斯克，《人类简史》作者尤瓦尔·赫拉利等人联名发表公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统，为期至少6个月，以确保人类能够有效管理其风险。暂停工作应该是公开且可以证实的，如果AI实验室不能快速暂停，各国政府应该实行暂停令。他们在公开信中呼吁暂停高级人工智能开发，直至此类设计的共享安全协议经由独立专家开发、实施和审核。此外，他们还在信中呼吁开发人员与政策制定者就治理和监管进行合作。周鸿祎谈叫停GPT5：不发展才不安全！

此外，签名人还包括苹果联合创始人史蒂夫·沃兹尼亚克、2020年美国总统选举民主党初选候选人杨安泽、AI经典教科书《人工智能:一种现代方法》作者Stuart Russell、AI领军公司DeepMind的一众研究人员等。