El jefe de seguridad de IA de Anthropic renuncia abruptamente, genera alarma en una emotiva carta de despedida
El jefe de seguridad de IA de Anthropic, Mrinank Sharma, renunció, citando crisis globales y presiones éticas en una emotiva carta de despedida.Resumen
Mrinank Sharma, quien dirigía el equipo de investigación de salvaguardias de Anthropic, renunció abruptamente, detallando su decisión en una emotiva carta a sus colegas. Sharma citó preocupaciones sobre el estado del mundo, una serie de crisis interconectadas y la dificultad de mantener los valores éticos bajo presiones dentro de la industria de la IA. Durante su mandato, logró objetivos como desarrollar defensas contra el bioterrorismo asistido por IA e investigar la adulación de la IA. Sharma declaró que se va para dedicarse a un trabajo alineado con su integridad, incluyendo la poesía, la construcción de comunidades y lo que describió como "discurso valiente". Su partida sigue a varias salidas recientes del equipo de seguridad de Anthropic, incluso cuando la compañía está expandiendo su personal y lanzando nuevos modelos como Claude Opus 4.6.
(Fuente：The Economic Times)