AI新纪元

哈佛学者提前验尸AI恐袭:首起重大事件或在两三年内发生,硅谷却无人肯缴安全税

哈佛学者卡斯珀用“事前验尸”方法推演首起重大AI辅助恐袭:闭源模型拆题越狱、开源模型微调去护栏,叠加2020年以来十倍增长的小规模AI滥用先例,判断2027-2028年即可能出现致50死伤或10亿美元损失的事件。报告拆解能力形成、诱发、防护失效与监测失效四个阶段,指出硅谷无人愿缴“安全税”。

盖茨万字长文敲响警钟:AI时代真正不同,社会要为动荡提前做准备

盖茨8月26日发表万字长文,称这是他第一次希望一项技术发展得慢一点。他担心AI从辅助走向独立完成任务,冲击客服、软件工程、法律等岗位及年轻人入门机会;主张划出“人类保留区”、考虑对AI与机器人征税,并建立国内外AI治理机制。同时他也看好AI在医疗、农业与政府服务中的“能力放大器”价值。