据 IT 之家独家获悉，字节跳动旗下大模型平台字节 Seed 日前正式成立安全对齐（Safety Alignment）部门。该部门将由负责模型幻觉（Hallucination）问题研究的核心技术人员领导，初期团队规模约为 20 人。
字节 Seed 是字节跳动于 2025 年中推出的 AI 业务品牌，旗下豆包大模型已在中文互联网获得广泛使用。新成立的安全对齐部门将专注于大模型输出内容的可控性与事实准确性研究，重点解决当前大模型普遍存在的「一本正经胡说八道」问题。
知情人士透露，该部门将采用红队对抗（Red Teaming）与对抗性数据训练相结合的技术路线，模拟各类诱导性与欺骗性输入，以提升模型在边界场景下的稳定性。部门目标是在六个月内将豆包模型的幻觉率降低至行业领先水平。
近年来，大模型安全对齐已成为全球 AI 领域的核心议题。OpenAI、Anthropic、Google DeepMind 均设有专职安全团队。字节 Seed 此番建制化布局安全对齐，表明中国头部 AI 企业在模型安全领域的投入正在快速追赶国际同行。
截至发稿，字节跳动方面未对上述组织调整置评。
延伸阅读
- 美国议员提最严AI监管法案：递归自我改进被禁，OpenAI/谷歌等纳入联邦监管2 周前
- Anthropic 把 IPO 推到 11 月：估值冲 2 万亿美元剑指 SpaceX，安全叙事成护身符3 周前
- Fractile融资6亿美元：估值半月涨6倍至65亿，Anthropic加持7 天前
- Claude 中小企业版重大升级：43 项工作流 + 27 个应用集成，安装量已破 90 万次3 周前
AI 自学笔记 每天更新 AI 前沿动态，订阅 RSS，或按 Ctrl/⌘+D 收藏本站，明天见。