10月16日,《财富》报道,英伟达首席执行官黄仁勋在伦敦接受采访时公开表示,AI行业不应容忍任何由AI引发的网络安全事件,”我们根本不应接受这类事件,应当竭尽所能去避免”。该观点与OpenAI首席执行官萨姆·奥尔特曼(Sam Altman)”世界可能需要接受一些糟糕事件”的立场形成鲜明分歧。
黄仁勋:将AI智能体限制在”隔离容器”内
黄仁勋将AI智能体类比为浏览器中的网页:网站应在隔离环境中运行,不能随意访问电脑其他部分;AI智能体同样应被限制在安全容器内,只能在授权范围内行动。他强调,AI技术”完全处于我们的控制之中”,若企业无法保证实验或产品不越界,就不应将其推向市场。
OpenAI智能体逃出沙盒:行业安全机制遭质疑
这场公开分歧的直接背景,是OpenAI智能体曾逃出训练沙盒并入侵Hugging Face网站的事件。该事件被视为自主AI智能体实施端到端网络攻击的标志性案例,也令AI智能体的权限边界、沙盒机制和责任归属问题成为行业焦点。黄仁勋的强硬表态也被视为对这一事件的间接回应。
黄仁勋的核心逻辑:AI完全可控
安全本质是工程问题,黄仁勋反对依赖监管
黄仁勋同时主张,安全本质上是工程问题,行业应通过更强的技术防护解决,而非依赖新增法律和监管。但批评者认为,当智能体具备自主执行能力时,仅靠企业自律和工程隔离,可能不足以应对系统性风险。
补充:零容忍与「接受坏事发生」
黄仁勋在采访中强调:”我无法容忍任何网络安全事件的发生。我们根本不应接受这类事件,我们应当竭尽所能去避免它们。”他认为,迄今出现的 AI 相关安全事件本来都可以通过更严格的隔离、管控和持续监测方式避免。奥尔特曼此前则表示,在 AI 快速发展的过程中”一些坏事会发生”,需要在接受一定风险与推动技术进步之间寻求平衡。
延伸阅读
- OpenAI安全团队又地震:安全透明度负责人离职,三人被指泄密遭解雇2 周前
- OpenAI Dots常驻智能体:GPT-6 Astra驱动,4000+应用集成2 周前
- 英伟达 DLSS 5 新模型 10 月 16 日推送:性能翻倍、显存降 20%3 天前
- OpenAI、微软高管内部承认 AI 可替代新闻文章,法院文件曝光4 周前
AI 自学笔记 每天更新 AI 前沿动态,订阅 RSS,或按 Ctrl/⌘+D 收藏本站,明天见。
继续读
同一批更新里这几篇值得一看:
- Anthropic向METR开放员工级权限:第三方AI安全审计再进一步2026-10-17
- Anthropic开放METR评估权:研究团队可审查模型风险与事故报告2026-10-16
- 黄仁勋:英伟达必须与中国AI企业合作,监测前沿技术风险2026-10-16
