杰弗里·辛顿：AI 如养虎为患，必须确保其不会反噬人类｜WAIC 2025

在 2025 国际人工智能大会（WAIC）上，加拿大计算机学家和心理学家、多伦多大学教授、2024 年诺贝尔奖得主、2018 年图灵奖获得者杰弗里·辛顿（Geoffrey Hinton）到会大会并宣布主题讲演。

在大会上，他提出了一个深入但引人警醒的比方：当时人类对待人工智能的办法，就好像把一只幼虎当作宠物养殖：“假如你把它养大，有必要保证它不会把你给‘杀掉’”。

辛顿回忆了人工智能开展以来的两大范式：一种着重逻辑推理与符号操作，另一种根据神经网络与生物结构。他指出，未来 AI 程序或许因具有更多控制欲望而企图掌握人类。因而，“简略封闭 AI 并不实际”——与其抵抗它，不如把它“练习”得合宜，保证它不会损伤人类。

他着重：“人类常识的传递办法功率有限，而数字计算在动力低价的情况下具有巨大开展潜力。”软件的存在比物理硬件更可持久保存与传达，这使得环绕 AI 构建安全机制尤为重要。

针对全球应对 AI 潜在要挟的问题，辛顿呼吁国际社会协同协作。他以为，尽管各国对防备 AI 在网络进犯、控制言论、丧命兵器等方面的危险存在利益冲突，但若有国家研宣布避免 AI 操作国际的办法，极有或许乐意将相关效果同享给其他国家。他呼吁树立跨国协作机制，一起掌握 AI 安全的“红线”。

辛顿特别指出，AI 在医疗、教育、气候变化等范畴有不行代替的价值，而单纯禁用 AI 不实际。他主张：“各国应自主研制人工智能，并同步同享有关‘保证 AI 良性开展的研究效果’。”经过团体协作，咱们才干真实让 AI 成为人类的助力，而非潜在要挟。