上千名科技专家呼吁暂停大型AI研究：AI能杀死人类，毁灭世界！

上千名科技专家呼吁暂停大型AI研究：AI能杀死人类，毁灭世界！

“从ChatGPT开始，AI出现了推理能力。但没人能解读这种能力出现的原因。”

“AI确实可能杀死人类。”

当地时间3月25日，OpenAI CEO山姆·奥特曼谈到AI竞争战时，语出惊人。

事实上，最近几天，多位科技领袖正为此深切担忧。

29日，未来生命研究所（Future of Life Institute）公布一封公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。上千名科技专家呼吁暂停大型AI研究！

截至目前，这封信已有1100多名科技领袖和研究人员签名，除了马斯克、辛顿和马库斯之外，还包括图灵奖得主约书亚·本希奥（Yoshua Bengio）、《人工智能：现代方法》作者斯图尔特·罗素（Stuart Russell）、 苹果公司联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）、Stability AI首席执行官埃马德·莫斯塔克（Emad Mostaque）等科技界领袖人物。

这封信呼吁，所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。这种暂停应该是公开的和可验证的，并且包括所有关键参与者。如果不能迅速实施这种暂停，政府应介入并实行暂停。人工智能实验室和独立专家应该利用这次暂停，共同开发和实施一套用于高级人工智能设计和开发的共享安全协议，并由独立的外部专家进行严格审计和监督。这些协议应确保遵守它们的系统是安全的，并且无可置疑。这并不意味着总体上暂停AI开发，只是紧急从奔向不可预测的大型黑盒模型的危险竞赛中收回脚步。上千名科技专家呼吁暂停大型AI研究！