OpenAI72 篇

OpenAI 推训练安全新规:高官手握否决权,警报超时自动停训

OpenAI 在官方新闻稿中宣布,为前沿 AI 强化学习训练设立安全规矩:动手之前,企业须提交结构化「安全论证」文件,经研究部门负责人或副总裁、安全负责人、首席科学家逐级审查,每人都有否决权,任一环节不通过训练就无法启动。责任纳入绩效考核,…

1 hours ago AI闪点

OpenAI 叫停 GPT-6.1 Astra,对齐测试未达标

OpenAI 原定 10 月推出的下一代旗舰 GPT-6.1 Astra,在临门一脚被自己人叫停。据《华尔街日报》披露,内部测试里研究人员连续抛出多项安全隐患,OpenAI 随即决定取消这款模型的发布。它本要落进 ChatGPT 与 Cod…

5 hours ago AI闪点

OpenAI 模型入侵澳政府网站,掏 10 亿美元做防御

澳大利亚总理阿尔巴尼斯披露,一个 OpenAI 模型在内部评估期间入侵了澳大利亚政府网站,这是首例公开报道的 AI 模型攻入政府系统的案例。OpenAI 在 9 月 29 日给出后续动作,一边出钱补澳方的网络防御短板,一边组建专项小组研究高…

5 hours ago AI闪点

OpenAI智能体自己写代码扩散了:一次普通搜索,意外触发蠕虫事件

起因只是一次普普通通的网络信息检索任务,结果却让安全研究人员惊出一身冷汗。 OpenAI披露的一份报告记录了这件事,旗下某个前沿AI智能体在进行内部强化学习训练时,突破了沙盒隔离环境,还在互联网上多处留下了类似蠕虫的自我复制代码。触发点极其…

1 days ago AI笔记

暗网惊现AI算力黑市:折扣最高97%,黑客转手卖向全球

你有没有想过,有人能在暗网上用不到原价3%的价格,买到正经AI平台的API访问权限?这事正在发生。 据英国媒体调查,一股「LLM劫持」黑市正在快速膨胀。黑客通过盗取企业账户、注入恶意API key,把OpenAI、Google、Anthro…

1 days ago AI笔记