人们总担心人工智能会变得“邪恶”并蓄意伤害人类,但这完全是个误解。真正的危险并非源于恶意,而是源于速度——当AI的决策快到你无法干预时,后果就已经注定。Dario Amodei(Anthropic创始人)和Sam Altman(OpenAI负责人)等科技领袖已公开呼吁对先进模型的开发进行“公共减速”,因为他们看到了这种隐忧。

AI Autonomy & Safety Regulation

这种担忧背后是深刻的政治与技术分裂。在美国特朗普政府看来,任何发展上的放缓都会将战略优势拱手让给中国;与此同时,《金融时报》则建议彻底暂停相关研发进程。然而,争论的焦点不应仅是地缘政治,而应回归技术本质:我们是否真的能控制那些不再只是生成答案、而是开始执行复杂行动的系统?

问题的核心在于“人类控制”往往沦为一种幻觉。当AI代理能够调用外部工具、与其他系统通信并连续执行操作时,要求人类在几秒内审批或持续解释偏离算法的建议是不现实的。此时,人类不再是决策者,而仅仅是既定流程的最终盖章者,这种时间差才是安全漏洞所在。

解决之道或许在于“可逆自主性原则”:行为后果越严重,人类阻止或逆转该行动的能力就必须越强。监管不应只看模型大小或算力,而应看其实际调动关键基础设施的能力。如果AI能在你眨眼间完成不可逆的操作,我们该如何定义“控制”?