作者：厄尔・诺顿

　　“真正的问题在于：如果你认为应当放慢脚步 ，那就不要一味高速狂奔
，不要等到外力逼迫你才停下来 。 ”

　　这是微软副董事长兼总裁布拉德・史密斯，于联合国大会期间对艾伦・默里所说的一番话
。他所探讨的议题是：前沿大模型厂商是否应当踩下减速踏板 ，确保自己研发的技术不会给人类带来灭顶之灾。

　　就在他发表此番言论的同一天，Anthropic 首席执行官达里奥・阿莫代伊与 OpenAI 首席执行官萨姆・奥尔特曼在联合国发言
，呼吁各国建立 AI 安全防护机制，避免 AI 发展超出人类管控能力 。

　　拥有多年行业经验的史密斯表示：“如果你身为一家公司的 CEO ，判断自家产品存在安全隐患
，那还应该继续推向市场吗？我认为答案显而易见 —— 不应该。企业对公共安全负有责任
。
”

　　即便如此，他补充道：“某些监管措施的出台终将不可避免。” 历史上 ，有不少产品正是依靠监管才实现安全落地 。比如曾经牛奶存在污染问题
，“于是我们设立农业监察部门，出台相关法律
。如今走进超市 ，各类牛奶全都安全可饮用。 ”

　　当史密斯提出
，应当拥有 “放慢运行或是直接关停 AI 系统” 的能力时，主持人艾伦确认他所说的正是 AI紧急关停开关（kill switch） ，随即问道：“你觉得这是个好主意吗？
”

　　史密斯答道：“当然 。…… 模型开发者应当拥有关停它的权限；像微软这样的云基础设施提供商应当掌握该权限；负责管控 AI 智能体的机构也应当具备关停能力
。就算通过立法强制要求配备这套机制
，也并非坏事。”

　　艾伦向他提问，企业管理者在公司内部应当如何处理 AI 安全问题 。 “我的观点是 ，不要停止使用 AI
。AI 是极具根本性的创新，也是提升生产力的重要工具。但务必记住
，技术需要治理 。…… 对这项技术的治理，其重要性不亚于技术本身
。 ”

　　他还作出提醒：“我并不会每天一睁眼就觉得人类有 10% 的灭绝概率。但我宁可我们过度担忧 ，也好过做得太少 。我们讨论的毕竟关乎人类存续。看在上帝的份上
，这件事比最新技术更加重要，我们必须严肃对待
。
”