最近很多人都用AI逆向软件了，而且事情越来越离谱了 - 有人用 AI 把塞尔达移植到 iOS - 逆向独立开发者产品，合起来 更离谱的是，还有报告称有个高中生用 AI 攻击韩国金融机构！！ 这种情况，国外早就开始研究对策，最近国内的公司也开始重视了！！ 字节 Seed 要单独设安全与对齐部门，而且国内首家这么做的前沿 AI 实验室。 什么是对齐呢？ 就是让 AI 的行为符合人的意图，同时遵守安全约束。 举个例子： 你让它分析软件，不能顺手把你的资料发出去； 有人要求它攻击别人的系统，也不能因为任务明确就照做 要对齐模型得花不少精力： 1. 得为大模型准备制定模型规范 2. 用安全评估找问题 3. 对齐训练改善行为 4. 再配合防护系统和风险监控 而且每次更新模型，这些评估、训练和防护也得持续做！！ 听小道消息，这个部门还会关注化学、生物、放射、核等前沿能力风险，与外部研究机构和第三方评测合作 这是个好消息，希望别的大公司跟进！！

  • 情报分类：开源项目与落地
  • 分类依据：内容涉及项目实践、创业、副业或变现
  • 信息来源：AI / AI前沿 / 铁锤人 @lxfater
  • 发布时间：2026/10/13 18:07:06