AI闪点第 129 页1968 篇

DeepSeek 开源推理框架 DeepInfer:GPU 占用减 35%、成本降 28%

10月20日,DeepSeek 在已陆续开源系列大模型、TileLang 编译工具与推理算子库之后,宣布把自家内部推理框架 DeepInfer 全面开源。这家公司的逻辑是:大模型的能力上限由模型本身划定,但如何以合理成本撑起超大规模的模型服…

26 days ago AI闪点

Mistral AI 发布 Voxtral 3 全流程语音智能体:WER 降低 40%

10月20日,法国 AI 独角兽 Mistral AI 发布 Voxtral 3,这是一款全流程语音智能体(Full Voice Agent Stack),核心卖点是「像人一样理解对话意图」,在复杂多轮对话中保持上下文理解与语气适应,无需传…

26 days ago AI闪点

Strata 0.2 发布:27.6GB 显存跑千亿大模型,新增图形界面

10月20日,开源本地 AI 大模型运行工具 Strata 发布 0.2.0 测试版,进一步大幅降低了本地部署千亿参数模型的硬件门槛。新版本对内存与显存的综合占用进行深度优化,综合占用最低仅 27.6GB,这意味着配备一张 12GB 显存的…

26 days ago AI闪点

Meta Muse 分享链接暴露 6800 条对话:被动 DNS 可枚举

10月20日,Ars Technica 报道 Meta AI 助手 Muse 的「分享对话」功能存在严重隐私缺陷:用户分享的对话链接采用可预测 URL 结构,研究人员通过被动 DNS 记录分析,估计约 6800 条含个人数据的对话已在不知情…

26 days ago AI闪点

Strata 0.2 发布:27.6GB 显存即可本地跑千亿大模型

10月20日,开源本地 AI 大模型运行工具 Strata 发布 0.2.0 测试版,进一步大幅降低了本地部署千亿参数模型的硬件门槛。新版本对内存与显存的综合占用进行深度优化,综合占用最低仅 27.6GB,这意味着配备一张 12GB 显存的…

26 days ago AI闪点

DeepSeek 开源推理框架 DeepInfer:把大模型服务的成本打下来

10月20日,DeepSeek 在已陆续开源系列大模型、TileLang 编译工具与推理算子库之后,宣布把自家内部推理框架 DeepInfer 全面开源。这家公司的逻辑是:大模型的能力上限由模型本身划定,但如何以合理成本撑起超大规模的模型服…

26 days ago AI闪点
全部文章归档与模型专题