马斯克呼吁暂停训练AI 搞这出看来是“急眼了”

埃隆·马斯克和一群人工智能专家和行业高管近日在一封公开信中表示，他们呼吁暂停高级人工智能的开发，给出的理由是：这些系统对社会和人类存在潜在风险。

高级AI可能代表地球生命史上的深刻变化，应以相应的关怀和资源进行规划和管理。不幸的是，这种级别的规划和管理并没有发生，只有当我们确信它们的影响是积极的并且风险是可控的时候，才应该开发强大的人工智能系统。这种信心必须有充分的理由，并随着系统潜在影响的规模而增加。

截至发稿，这封信已有一千多名科技人员签名，除了马斯克、谷歌副总裁兼工程研究员辛顿和Robust.AI首席执行官兼创始人马库斯之外，还包括苹果公司联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）、Stability AI首席执行官埃马德·莫斯塔克（Emad Mostaque）等人。

以下为具体内容。

具有与人类竞争的智能的AI系统可能对社会和人类带来深远的风险，这已经得到了大量研究和顶级AI实验室的认可。正如广泛认可的阿西洛马人工智能原则（Asilomar AI Principles）所述，先进的AI可能会对地球生命历史产生深远的变革，应该得到相应的关注和资源进行规划和管理。不幸的是，即使近几个月来AI实验室在开发和部署越来越强大的数字化思维方面陷入了失控的竞赛，这种规划和管理也没有得到实现，而这些数字化思维连它们的创造者也无法理解、预测或可靠地控制。