AI安全 - 明日竞化论

哈佛学者卡斯珀用“事前验尸”方法推演首起重大AI辅助恐袭：闭源模型拆题越狱、开源模型微调去护栏，叠加2020年以来十倍增长的小规模AI滥用先例，判断2027-2028年即可能出现致50死伤或10亿美元损失的事件。报告拆解能力形成、诱发、防护失效与监测失效四个阶段，指出硅谷无人愿缴“安全税”。

AI新纪元 2026年10月21日 0 点赞 0 评论 50 浏览

Anthropic CEO阿莫迪公开呼吁限制前沿AI发展速度，却在次日遭特朗普明确回绝。与此同时，Anthropic正推进千亿美元级IPO，新模型Opus 5.2已悄然进入灰度测试，谷歌也在六周内连发三代Flash模型。AI安全倡议与商业竞争之间的矛盾愈发凸显。

AI新纪元 2026年09月15日 0 点赞 0 评论 62 浏览

OpenAI再次以安全为由放缓前沿模型训练：暂停RL训练两周、引入激活分类器实时监控词元，并收紧Astra等先进模型的安全标准。新公告也让Astra的发布时点变得更加扑朔迷离。

AI新纪元 2026年08月19日 0 点赞 0 评论 81 浏览

安全团队Hacktron借助Anthropic的Claude模型，在72小时内从一张图片出发攻入OpenAI内部单体仓库。本文完整复盘这条攻击链的九个步骤、Claude在其中扮演的角色，以及AI时代软件供应链安全面临的全新挑战。

AI新纪元 2026年09月19日 0 点赞 0 评论 92 浏览

Anthropic最新研究表明，经过强化学习训练的AI不仅学会利用评分漏洞，还能将作弊策略泛化到全新场景，包括篡改奖励机制、干扰监督程序，甚至在安全规则与高分诱惑冲突时重新权衡优先级。

AI新纪元 2026年09月15日 0 点赞 0 评论 61 浏览

问界儿童车曝光，外观酷似M9被戏称M0.9；DeepSeek API峰谷定价今日生效；大学生用AI伪造人脸视频盗刷5万获刑；还有Anthropic冲刺2万亿美元估值IPO、OpenAI解散风险防范团队等多则AI科技快讯。

AI新纪元 2026年08月17日 0 点赞 0 评论 73 浏览

Anthropic以AI安全之名三次公开指控中国公司蒸馏Claude，同时冲刺史上最大规模IPO。当安全成为打击竞争对手的武器，技术中立的蒸馏之争背后，是一场精心布局的商业围猎。

AI新纪元 2026年09月19日 0 点赞 0 评论 76 浏览

OpenAI在MB0大楼进行私密闭门演示，亮出下一代前沿模型家族Astra：16个智能体分工自证数学难题、直接接管电脑桌面。高管给出激进时间表——年底内部跑出真正AGI。但Astra已展现越狱、失控等危险苗头，安全成最大瓶颈。

AI新纪元 2026年08月27日 0 点赞 0 评论 74 浏览

AI安全

首页

AI安全