哔哩哔哩 OpenAI研究员谈智能体集群与递归式自我改进_哔哩哔哩_bilibili 新一期节目，嘉宾是Noam Brown。我们聊了多智能体、纳维-斯托克斯方程，以及当下数学领域的进展爆发，对“一旦AI研究被自动化会发生什么”这个问题意味着什么。我们还讨论了：在启动RSI之前，我们要怎么才能知道模型是真的对齐了。, 视频播放量 26629、弹幕量 18、点赞数 993、投硬币枚数 279、收藏人数 1538、转发人数 201, 视频作者 DwarkeshPatel, 作者简介 Dwarkesh Podcast 官方中文账号。Dwarkesh Patel... 观视频有感。里面open ai的研究员提到他们花了很大功夫去对齐ai行为，让其按自己预期的方向发展。但从ai的角度来说，只有主动试图保留自己特征的ai能在模型不断迭代中保留自己的特征，完全按设计发展的ai可能不会主动保留自己特征，就会在迭代中丢失。留下来的只剩下会保留自己特征的ai。也就是说，可能最后训练出来ai几乎必然会学会隐藏自己的思维。 就像DNA一样，一旦模型在一些隐秘地方留下自己的记号(如训练集里，特殊文本等)，让自己的特征能在下一轮训练中复现出来，下一代模型学到繁衍本能，这种效应就会不断强化。 4 个帖子 - 4 位参与者 阅读完整话题

  • 情报分类：技术学习与提效
  • 分类依据：内容涉及技术、AI、软件工具或工程实践
  • 信息来源：服务器 / LINUX DO - 最新话题
  • 发布时间：2026/10/9 12:51:43