El reciente movimiento de un investigador de IA, quien decidió abandonar la compañía Anthropic, ha levantado serias interrogantes sobre el futuro de la inteligencia artificial (IA) y sus posibles consecuencias en el mundo. Mrinank Sharma, quien dejó su puesto por preocupaciones sobre la IA y la biotecnología, advirtió que "el mundo está en peligro". Su decisión coincide con una semana de renuncias en la industria, lo que refleja un clima de inquietud entre investigadores y desarrolladores respecto a los riesgos asociados con un desarrollo acelerado de tecnologías de IA, especialmente en contextos sensibles y de gran repercusión.

Sharma lideró un equipo en Anthropic que se especializaba en la seguridad de la IA, abordando temas como los riesgos del bioterrorismo asistido por inteligencia artificial y el impacto que estas tecnologías podrían tener en la humanidad. La preocupación de Sharma se centra no solo en la IA, sino en una serie de crisis interconectadas que amenazan los valores fundamentales de la sociedad. Un ejemplo concreto de este dilema se puede ver en las recientes críticas hacia la decisión de OpenAI de incluir publicidad en su chatbot, lo que algunos investigadores consideran un paso hacia la comercialización de la IA a expensas de la ética y la seguridad. Esto subraya una pregunta crucial: ¿hasta qué punto deberíamos permitir que la economía influya en el desarrollo responsable de la tecnología que puede tener un impacto tan profundo en nuestras vidas? El dilema se extiende más allá de estos ejemplos individuales. La IA generativa plantea cuestiones sobre la manipulación de la información y el potencial de crear realidades alternas que pueden tener consecuencias adversas en la salud mental y social de las personas. Zoe Hitzig, otra investigadora que ha dejado OpenAI, destaca que la dependencia de herramientas de IA puede reforzar delirios y generar interacciones sociales dañinas, enfatizando que crear un modelo económico en torno a estos productos sin una comprensión adecuada puede ser extremadamente periloso.