AI真的会毁灭人类吗？技术缔造者们给出看法

核心要点

过去一周，来自 OpenAI 与 Anthropic 的研究员对 AI 潜在的灾难性风险发出警示。 这些担忧在华盛顿政坛掀起轩然大波；美国总统特朗普周一猛烈抨击日益高涨的 AI 监管呼声。 助力这项技术取得突破的 AI 先驱，就相关风险公开发表观点。

就在研究人员警示 AI 或将带来灾难性风险之际，部分参与缔造这项技术的行业先驱再度发出警告：若放任 AI 能力不受约束地发展，将会滋生巨大危险。

过去一周，一系列措辞尖锐的 AI 安全警示陆续传出。Anthropic、OpenAI、谷歌 DeepMind 等头部 AI 实验室的研究员纷纷发声，警示 AI 技术发展可能引发灾难性后果。

山姆・奥特曼、达里奥・阿莫迪、戴米斯・哈萨比斯、埃隆・马斯克等 AI 企业负责人罕见达成共识，呼吁放缓 AI 发展速度，实施监管监督。

与此同时，相关争论在华盛顿持续升温。国会两党部分议员支持出台法案约束 AI 发展，但美国总统特朗普周一公开抨击 AI 监管诉求。

那么，如今参与 AI 研发的从业者眼中，备受热议的 AI 生存性风险究竟是什么？

约书亚・本吉奥（Yoshua Bengio）

2023 年 9 月 27 日，加拿大蒙特利尔，本吉奥出席 All In 大会。