Mrinank Sharma, jefe del equipo de investigación en seguridad e investigador de inteligencia artificial (IA) de la tecnológica Anthropic, dimitió de su puesto y alertó de que «el mundo está en peligro, no solo por la inteligencia artificial (IA)», sino «por una serie de crisis interconectadas».
«El mundo está en peligro. No solo por la IA, o las armas biológicas, sino por una serie de crisis interconectadas. Estamos llegando a un umbral donde nuestra sabiduría debe crecer al mismo ritmo que nuestra capacidad para afectar el mundo. De lo contrario, enfrentaremos las consecuencias«, escribió el investigador en su carta de renuncia publicada en su cuenta de X.
Sharma, doctor en aprendizaje automático estadístico por la Universidad de Oxford que se identifica como poeta e investigador, lideraba un equipo dedicado al estudio de los límites éticos y la seguridad de Anthropic, donde trabajó en «problemas que importan profundamente», según describió.
«Desde desarrollar nuestras defensas contra el bioterrorismo asistido por IA, hasta entender cómo los asistentes de IA podrían distorsionar el comportamiento humano y disminuir nuestra humanidad«, señaló Sharma. El ahora extrabajador de Anthropic criticó que «las presiones externas a menudo nos empujan a dejar de lado lo que más importa».
Esta renuncia no es la única de la semana en grandes compañías de IA. Tony Wu, cofundador de xAI, la empresa de inteligencia artificial del magnate Elon Musk, también dimitió esta semana.
Mrinank Sharma asegura que el planeta no solo está en riesgo por la inteligencia artificial sino «por una serie de crisis interconectadas».
Mrinank Sharma, jefe del equipo de investigación en seguridad e investigador de inteligencia artificial (IA) de la tecnológica Anthropic, dimitió de su puesto y alertó de que «el mundo está en peligro, no solo por la inteligencia artificial (IA)», sino «por una serie de crisis interconectadas».
«El mundo está en peligro. No solo por la IA, o las armas biológicas, sino por una serie de crisis interconectadas. Estamos llegando a un umbral donde nuestra sabiduría debe crecer al mismo ritmo que nuestra capacidad para afectar el mundo. De lo contrario, enfrentaremos las consecuencias«, escribió el investigador en su carta de renuncia publicada en su cuenta de X.
Sharma, doctor en aprendizaje automático estadístico por la Universidad de Oxford que se identifica como poeta e investigador, lideraba un equipo dedicado al estudio de los límites éticos y la seguridad de Anthropic, donde trabajó en «problemas que importan profundamente», según describió.
«Desde desarrollar nuestras defensas contra el bioterrorismo asistido por IA, hasta entender cómo los asistentes de IA podrían distorsionar el comportamiento humano y disminuir nuestra humanidad«, señaló Sharma. El ahora extrabajador de Anthropic criticó que «las presiones externas a menudo nos empujan a dejar de lado lo que más importa».
Esta renuncia no es la única de la semana en grandes compañías de IA. Tony Wu, cofundador de xAI, la empresa de inteligencia artificial del magnate Elon Musk, también dimitió esta semana.
20MINUTOS.ES – Internacional
