最新文章 第 139 页 共 180 页

Jason Wei 谈验证者定律:可衡量的任务更易被攻克

Jason Wei 在斯坦福的演讲纪要里谈到了智能商品化。其中一个判断是,越容易被衡量的任务,越容易被 AI 攻克。 锯齿能力是什么意思 他提到模型的能力呈锯齿状,这意味着进步是不均匀的。有些任务已经做得比人好,紧挨着的任务可能依然很差。理…

1 months ago AI笔记

万级智能体未必更强,群体代理只贡献约 10%

Dwarkesh 转发了一段 Patel 的访谈。讨论里提到一个具体数字,在 Navier-Stokes 相关的发现中,群体代理大约只贡献了 10%。 数量不等于能力 由此引出的判断是,万级代理的协作效果可能弱于万人。这个结论对当下堆规模的…

1 months ago AI笔记

当递归自改进转入暗场,AI 能力边界越来越难看清

Dwarkesh 在谈递归自改进的担忧时提到一种情况,实验室开始封闭部署。一旦进入这个状态,能力边界会变得更难看见。 对齐状态也会变黑箱 不只是能力,对齐状态同样会变得难以观测。模型在做什么、有没有偏离目标,外部失去了观察的窗口。 伴随而来…

1 months ago AI笔记