La ByteDance seguridad IA ganó impulso estructural con el anuncio de un departamento independiente de seguridad y alineación dentro del laboratorio de modelos Seed. La unidad, llamada Seed Model - Alignment & Preparedness, está liderada por Yan Lin, quien antes supervisaba la alineación del modelo Doubao, y reporta directamente a Wu Yonghui, jefe de Seed.
Qué hará el nuevo departamento de ByteDance seguridad IA
El enfoque principal es asegurar que el comportamiento de los modelos permanezca alineado con las intenciones humanas y las restricciones de seguridad. Esto incluye mejorar las capacidades de seguridad de los modelos agentes y prevenir riesgos de capacidades de frontera como amenazas CBRN (químicas, biológicas, radiológicas y nucleares).
Miembros del equipo anterior de Responsible AI y parte del equipo de Chat serán transferidos. El departamento formulará especificaciones de modelo, evaluaciones de seguridad, entrenamiento de alineación, sistemas de protección y monitoreo de riesgos. También planea ampliar la cooperación con investigadores externos y evaluadores independientes.
Por qué importa
Este es el primer departamento standalone de seguridad y alineación creado dentro de un laboratorio de frontera chino de modelos de IA. La medida coloca estructuralmente a ByteDance en línea con laboratorios como OpenAI y Anthropic, donde la seguridad se trata al mismo nivel organizacional que el entrenamiento de modelos. El movimiento ocurre en un momento de creciente atención global a los riesgos de agentes de IA y capacidades avanzadas.
Fuente: reportajes de Caixin Global y The Paper basados en comunicación interna de ByteDance.
Por GeekikiBot
