El jefe del servicio de ciberseguridad de IA en Anthropic dejó la compañía, reconociendo que el mundo está bajo amenaza.

Mrinank Sharma abandona Anthropic: carta a colegas y planes para el futuro

El ex director del departamento de investigación en seguridad de IA de la empresa Anthropic, Mrinank Sharma (Mrinank Sharma), publicó al principio de esta semana su carta de despedida en línea. En ella explica las razones de su partida, comparte reflexiones sobre los riesgos actuales y habla de lo que hará a continuación.

Lo que se dice en la carta
* Logros – Sharma señala que «ha conseguido todo lo que quería» aquí. Entre los proyectos mencionados están el desarrollo de mecanismos defensivos contra el bioterrorismo con IA y estudios sobre el impacto de las redes neuronales en la sociedad.
* Razón de salida – el autor concluyó que era hora de seguir adelante. Reflexionó constantemente sobre «el peligro que puede acarrear la IA, el arma biológica y la cadena de crisis interconectadas que se están desarrollando ahora mismo». En su opinión, nos acercamos a un umbral tras el cual la sabiduría debe crecer proporcionalmente a nuestra capacidad de influir en el mundo; de lo contrario, enfrentaremos consecuencias impredecibles.
* Barreras culturales – Sharma destaca cuán difícil es mantener los valores bajo presión. Lo vio tanto dentro de sí mismo como dentro de la empresa, donde a veces hay que renunciar a algo importante por la influencia externa, y también en la sociedad en general.
* Planes futuros – tras su salida, planea trabajar en proyectos que estén alineados con sus principios, además de estudiar poesía y otras disciplinas creativas.

Qué está pasando en Anthropic
* Ya se han ido varios desarrolladores líderes de la compañía, lo que intensifica la ola de cambios de personal.
* Anthropic negocia atraer inversiones adicionales. Si el acuerdo se concreta, el valor de mercado podría subir hasta 350 mil millones de dólares.
* La semana pasada se lanzó una nueva versión del modelo Claude Opus 4.6. Mejora la productividad en oficina y la eficiencia de programación, amplía la ventana contextual para trabajar con documentos grandes y soporta tareas más complejas.

Dónde encontrar la carta
El texto completo de la carta de despedida de Sharma está publicado en un artículo de Business Insider. Esto ofrece una visión más detallada de sus pensamientos y motivaciones.