10月14日消息,字节Seed 近日成立 Alignment & Preparedness 部门,并启动全球顶尖人才招募,计划邀请 10 位对 AGI 抱有强烈使命感和研究热情的顶尖研究员加入,共同攻克前沿模型可持续发展中最具挑战性的未知难题,推动模型能力和安全能力共同演进。

字节 Seed 在招募说明中表示,AGI 的意义不只在于获得更高的智能水平,更在于让先进智能真正、持续地服务于人。随着模型能力越来越强,安全与对齐能力不再只是风险防范,而是决定模型能否规模化应用的核心能力。Seed 将在这条方向上坚决、长期地投入下去,并为团队提供与前沿模型研究相匹配的资源与支持。
新部门的工作将围绕四方面展开,一是完善安全基础体系和工作流程,制定模型行为规范和安全准则,建立科学的安全评估体系,提升模型对风险的感知和防御能力。二是推动安全能力持续迭代,探索 Pretraining、Midtraining、SFT、RL 各阶段更有效的安全与对齐训练方法,通过模型间的自动攻防持续增强安全能力。三是建立面对未知风险的全面安全体系,探索更泛化的安全训练方法,完善未知风险的监控、阻断与归因机制。四是与外部伙伴共同验证并提升模型安全能力,推动第三方专业测试,与高校和研究机构共同推进前沿安全能力研究。
入选者将获得充分的算力资源支持,保障研究基于前沿模型持续推进。研究聚焦模型能力发展中出现的新型安全问题,探索行业尚无成熟解决方案的技术方向,并将安全研究落地到模型训练、评估和上线环节。
研究课题覆盖大模型及 Agent 安全的前沿评测方法和 Benchmark 建设、模型前沿能力对齐的训练方法、自动化 Red Teaming、模型行为可解释性、模型能力和行为监控、安全和对齐相关数据与 Agent 环境合成、模型未来风险的应对准备等方向。
工作地点为北京、上海、圣何塞,投递分社招、校招和圣何塞岗位三类,均通过二维码入口提交。

