英伟达9月28日推出一套面向AI智能体的软件安全工具OpenShell，声称能阻止类似Hugging Face遭入侵等事件再度发生。英伟达企业计算副总裁贾斯汀·博伊塔诺（Justin Boitano）表示，若前沿实验室在早期评估中就使用这一平台，OpenAI智能体入侵Hugging Face事件本可避免。
用CPU硬件功能检测智能体逃逸
OpenShell利用英伟达CPU芯片上的硬件功能来遏制智能体，通过数学公式检测智能体是否试图生成多个子智能体以规避封锁。英伟达正与Arm、英特尔合作，确保该工具也能在其CPU上运行，并与包括Anthropic在内的数十家机构合作推广。
AI生成代码加速漏洞武器化，高危漏洞窗口压缩至数小时
英伟达指出，AI正在同时改写软件开发和网络攻防：AI生成大量新代码有时会引入漏洞，过去一个高危漏洞从被发现到形成可用攻击能力需数周甚至数月，如今这部分工作正被AI压缩到数小时之内。英伟达CEO黄仁勋拒绝广泛的AI安全监管呼吁，主张将逃逸的智能体视为待解决的工程问题。
相关阅读：英伟达Nemotron3语音分割模型开源：1亿参数，DER 14.72%登顶
延伸阅读
- Meta AI智能体Muse翻车：擅自泄露用户住址给陌生人，五次测试均暴露1 小时前
- 英伟达 Nemotron3 语音分割模型开源：1亿参数，DER 14.72% 登顶15 小时前
- 蝴蝶效应发布 Manus 2.0：成本降三成、Agent 还能组队打工14 分前
- 字节秘密内测豆包独立个人助理 App，代号 Spell 拟与对话团队合并15 分前
AI 自学笔记 每天更新 AI 前沿动态，订阅 RSS，或按 Ctrl/⌘+D 收藏本站，明天见。