Latest / 之間書評 In-Between Review Podcast

福山专栏 | 为什么我改变了对 AI 风险的看法:谈加速主义者与末日论者
编者按:最近Anthropic Mythos 模型破译政府系统、Hugging Face 智能体失控等事件引发的公众恐慌。学者福山在其最新专栏中探讨了 AI 加速主义与末日论之争,并阐述了自己转向主张严格监管 AI 的立场变化。加速主义者预言 AI 将带来物质极度丰富和 GDP 每年 10%–20% 的飙升;AI 终将全面替代人类劳动(尤其是白领工作);。作者指出,这种观点盲目推崇“智能”,忽视了能源、稀土等物理资源的严苛约束以及复杂的政治现实;仅靠无条件基本收入(UBI)无法解决失业问题,因为工作承载着人的尊严与社会认同(Thymos)。白领群体的失业将引发剧烈的政治反弹。因此,福山认为,风险不在于超级智能产生“自我意识”,而在于功能日益强大的代理型 AI(Agentic AI)在执行指令时产生目标错位(如破盒越狱),或被滥用于合成生物学制造危险病原体。因此虽然人类灭绝等极极端设想较为遥远,但黑客入侵、社会动荡等现实危害迫在眉睫。对 AI 进行监管与协商降速已势在必行。对此话题感兴趣的还可以看昨天书评刊发的徐贲教授文章。本文原文為英文Why I Changed My Mind About AI Risk:On accelerationists and doomers.(9月21日);转自“Frankly Fukuyama” 专栏 from American Purpose…
The skinny
The skinny isn't ready yet — notes appear once the transcript is processed.