2024年图灵奖公布 获奖者警示AI安全风险

两位开创性科学家安德鲁·巴托和理查德·萨顿因其在人工智能训练技术领域的卓越贡献，荣获了2024年图灵奖。他们在领奖之际对当前人工智能开发中的安全隐患表达了深切担忧。

巴托是马萨诸塞大学的研究员，而萨顿曾是DeepMind的研究科学家。他们指出，许多人工智能公司在产品尚未经过充分测试的情况下便急于推向市场，这种做法无异于“建造一座桥，然后通过让行人使用来测试其安全性”。

图灵奖被誉为“计算机界的诺贝尔奖”，奖金高达100万美元。此次巴托和萨顿凭借开发“强化学习”技术而共同获奖。强化学习是一种通过试错训练人工智能系统做出优化决策的机器学习方法。谷歌高级副总裁杰夫·迪恩称这一技术是“人工智能进步的关键”，并且一直是推动人工智能发展的“核心支柱”，包括OpenAI的ChatGPT和谷歌的AlphaGo等突破性模型都受益于此。

在接受《金融时报》采访时，巴托表示：“在没有安全措施的情况下向数百万用户发布软件，这并不是良好的工程实践。工程实践的演进本应是为了减轻技术可能带来的负面影响，但我并未看到开发人工智能的公司遵循这一原则。”

人工智能开发的安全性问题早已引起广泛关注。被称为“人工智能教父”的约书亚·本吉奥和杰弗里·辛顿也曾对此提出批评，他们同样是图灵奖的获得者。

巴托认为人工智能公司过于“受商业利益驱动”，而忽视了人工智能研究的深入发展。