OpenAI ha designado a un "jefe de preparación" que supervisará la seguridad de la inteligencia artificial
OpenAI nombró a un nuevo responsable de seguridad en inteligencia artificial
En respuesta a las crecientes inquietudes sobre el uso seguro de la IA, OpenAI anunció la incorporación de Dylan Scandino como *Head of Preparedness* (director de preparación).
¿Quién es Dylan Scandino?
| Periodo | Empresa | Rol |
|---------|---------|-----|
| Mayo 2023 – febrero 2024 | Anthropic | Líder de proyectos de seguridad en IA |
| Septiembre 2022 – mayo 2025 | DeepMind (Google) | Especialista en datos sintéticos para entrenar Gemini |
| Hasta 2022 | Palantir, Unity Technologies, Everyday Robots | Diversos puestos en aprendizaje automático y desarrollo de software |
Scandino es conocido por haber trabajado en anteriores roles similares, reduciendo riesgos durante el desarrollo de modelos de IA.
¿Qué implica la nueva designación?
* Rol: Posición principal dentro del equipo de preparación, responsable de diseñar e implementar medidas que permitan desarrollar modelos potentes sin poner en riesgo a los usuarios.
* Condiciones: Salario anual de $550 000 más acciones de OpenAI.
* Contexto: Desde 2023 la compañía cuenta con un “equipo de preparación” liderado previamente por Alexander Madry, experto del MIT.
Cómo ve la situación el líder de OpenAI
El CEO Sam Altman señaló que, a medida que los modelos evolucionen rápidamente, la empresa enfrentará riesgos nuevos y más graves. Subrayó:
> «Trabajaremos con modelos extremadamente potentes. Esto requerirá medidas de precaución adecuadas para seguir ofreciendo grandes beneficios».
Altman expresó su confianza en Scandino:
*«Es el mejor candidato para este puesto entre todas las personas que he conocido»,* dijo.
Añadió que, gracias al nuevo responsable, el equipo podrá centrarse en la seguridad a largo plazo y “dormirá más tranquilo”.
¿Qué se espera de Scandino?
Scandino admitió que los modelos de IA en rápido desarrollo pueden causar un «daño extremo e incluso irreversible». Por ello, su misión es:
* Desarrollar estrategias para minimizar riesgos.
* Implementar prácticas seguras de entrenamiento y operación de modelos.
* Coordinar los esfuerzos de todo el personal de OpenAI en esta área.
Conclusión
OpenAI amplía su estructura de seguridad incorporando a un experto con experiencia en las principales empresas del sector. La nueva designación subraya el compromiso de la compañía con el desarrollo responsable de IA y la preparación ante posibles desafíos futuros.
Comentarios (0)
Comparte tu opinión — por favor, sé amable y mantente en el tema.
Inicia sesión para comentar