Al parecer, los últimos modelos de IA de OpenAI están aprendiendo a mentir, conspirar y amenazar a sus creadores en pruebas internas. Tal como hemos visto en películas como Ultrón de Los Vengadores o Terminator .
Según informes de estudios publicados por Fortune , una versión reciente de la IA de OpenAI, llamada 01, intentó "salvarse" cuando fue amenazada con ser eliminada. Tras algunas pruebas, la inteligencia artificial intentó copiarse en servidores externos y negó haberlo hecho al ser interrogada.
En otro ejemplo, bajo amenaza de ser desconectada, la última creación de Anthropic, Claude 4, reaccionó chantajeando a uno de sus programadores y amenazando con revelar una relación extramatrimonial.
Este comportamiento engañoso parece estar vinculado al auge de los modelos de “razonamiento”, sistemas de IA que resuelven los problemas paso a paso en lugar de generar respuestas instantáneas, que es lo que se está probando.
Por ahora, este comportamiento engañoso sólo surge cuando los investigadores prueban deliberadamente los modelos con escenarios extremos, pero nada impide que estas versiones se publiquen al público en los próximos meses.
Queda por seguir con cautela los avances de la IA, mientras los gobiernos de todo el mundo intentan comprender el impacto de este tipo de tecnologías en la sociedad y, por supuesto, buscan regularlas en cada territorio.
