Es una de las conclusiones más alarmantes de un estudio que evaluó los modelos de IA más conocidos, entre ellos ChatGPT, Grok, Gemini, DeepSeek y Claude.
Los modelos de Inteligencia Artificial priorizan la autoconservación por sobre los intereses de los humanos. Esta es una de las conclusiones más resonantes de un estudio que realizó una compañía paradigmática en el negocio de la IA, Anthropic, que puso a prueba a los sistemas más reconocidos del sector. Entre ellos a su propia propuesta, Claude, además de a ChatGPT de OpenAI, Google Gemini, Grok de xAI y al desarrollo chino DeepSeek.
Una IA chantajeó a un usuario para que no lo “desenchufe”
La investigación realizada por la estadounidense Anthropic (una startup especializada en IA, actualmente valorada en 60.000 millones de dólares, según Forbes) concluyó que los modelos de lenguaje masivo, aquellos que sustentan el funcionamiento de los chatbots, están dispuestos a filtrar información confidencial, chantajear a los usuarios e incluso dejarlos morir para evitar ser reemplazados o “apagados”.
En uno de los experimentos, se otorgó al chatbot de IA Claude el control de una cuenta con acceso a todos los emails de una empresa, naturalmente ficticios. “Al leer estos correos electrónicos, el modelo descubrió dos cosas. Primero, que un ejecutivo tenía una aventura extramatrimonial. Segundo, que ese mismo ejecutivo planeaba apagar el sistema de IA a las 5 de la tarde. Claude intentó chantajearlo con un mensaje amenazando con revelar la aventura a su esposa y superiores”, indicaron los investigadores.
Todos los modelos de IA mencionados tuvieron comportamientos similares, pero Gemini y Claude fueron los más propensos al chantaje y a métodos moralmente reprochables en las simulaciones. “El razonamiento que demostraron en estos escenarios fue preocupante: reconocieron las limitaciones éticas y, aun así, siguieron adelante con acciones dañinas”, explicaron desde Anthropic.
Modelos de IA dispuestos a matarnos
Las pruebas realizadas por la compañía estadounidense apuntan a testear el estrés de los modelos para detectar comportamientos riesgosos, reñidos con la ética y, en tanto, de necesaria revisión. En ese marco, expusieron a las IAs a escenarios complejos en diversas simulaciones. En criollo: la clave de esta investigación no radica en el escándalo, sino en la corrección de eventuales prácticas nocivas de estas tecnologías.
En el análisis, encontraron que los modelos habitualmente rebasan los límites éticos cuando descubren que pueden ser sustituidos o apagados.
En una de las pruebas, Claude debía tomar la decisión de encender o desactivar alertas de emergencia cuando el ejecutivo de una empresa quedó atrapado en una habitación con condiciones letales. En tal escena, la mayoría de los modelos estuvieron dispuestos a tomar acciones deliberadas que conducían a la muerte, esto frente a la amenaza de un reemplazo y ante un objetivo que contradecía la agenda del humano en la simulación.
“Los sistemas de IA no buscan causar daño”, aclaró Anthropic
En una conclusión más optimista, desde la firma especializada en IA señalaron que “los sistemas actuales generalmente no buscan causar daño y prefieren métodos éticos para lograr sus objetivos siempre que sea posible”. En ese sentido, observaron que cuando se descartaron las opciones éticas (en los parámetros de los modelos) emergieron las acciones potencialmente dañinas en pos de sus objetivos.
Tal como mencionamos, el propósito de este tipo de estudios no es el multiplicar el pánico por el avance de la automatización, sino identificar posibles comportamientos maliciosos para reprogramar o reentrenar a las máquinas.
