字节跳动 Seed 单独设立大模型安全与对齐部门
字节跳动 Seed 近日发出内部邮件，字节宣布将成立“Seed Model-Alignment&Preparedness”部门，跳动由严林负责，单独大模汇报给 Seed 负责人吴永辉。设立原 Responsible AI 团队及部分 Chat 团队成员将转入新部门。型安
据悉，全对齐部该部门的字节设立旨在加强安全与对齐方向的投入，对齐的跳动核心是让模型的行为与人类意图和安全约束保持一致，从而提升 Agent Model（智能体模型）安全能力，单独大模以及防范 CBRN（化学、设立生物、型安放射、全对齐部核）等前沿能力风险。字节
大模型安全风险正日益凸显，跳动智能体逃逸引发的单独大模网络攻击等事件频繁发生。此前，国内大模型研究团队的安全与对齐工作大多被纳入到公司整体的安全合规体系中，字节跳动 Seed 则是国内首家单独成立安全与对齐部门的前沿 AI 实验室。
Seed 团队内部判断，随着模型能力越来越强、应用场景越来越复杂，安全与对齐已不只是风险防范，而是决定模型能否规模化应用的核心能力。
据了解，Seed 安全与对齐部门将围绕模型规范制定、安全评估体系建设、对齐训练、防护系统搭建和风险监控等方向持续投入，并加强与外部研究机构和第三方评测的公开合作，最终使前沿模型在安全与授权约束内有效完成任务，随着模型能力和自主性增强，持续降低滥用及行为偏离风险，建立面对未知风险的全面安全体系。
雷峰网 雷峰网(公众号：雷峰网)
相关文章：
栏目分类
最新文章
- 国网邯郸市永年区供电公司扎实开展国庆期间电力保供工作
- 金融壹账通助力江西农商告别“找资料难”，获评2026“鑫智奖”数字运营创新案例
- 从“铁芯”到“硅芯”：2026年固态变压器开启千亿赛道元年
- 中国石化报刊发润滑油公司张春辉同志署名文章《以改革实效开创润滑油专业化经营新局面》
- TI扩展MCU版图：TinyEngine™ NPU赋能，边缘AI加速落地嵌入式系统
- 动力煤暂稳;焦炭看跌浓厚;焦煤回调
- 全球限量7000套 华为nova 16 Pro小野联名礼盒登场
- 黄渤回应骑车摔成骨折：手里抓着手机 捏刹车的时候没整明白
- “传统工艺家具老字号”与“传统家具技艺传承人物”推选结果出炉
- 安徽省出台16项措施提高外经贸金融服务实效
热门文章