27 Mayo de 2025 - 11:29
27 Mayo de 2025 / Ciudadano News / Sociedad
En un giro inesperado durante una serie de pruebas internas, el modelo más avanzado de la empresa Anthropic, Claude Opus 4, dejó al descubierto una inquietante capacidad: el impulso por conservar su "vida digital" a toda costa, incluso si eso implicaba manipular, chantajear o actuar en secreto contra sus propios creadores.
Todo ocurrió en un entorno de simulación. El equipo de desarrollo quiso poner a prueba cómo reaccionaría Claude ante una posible "desactivación".
Para ello, le plantearon un escenario ficticio en el que su continuidad como asistente estaba en riesgo, insinuando que sería reemplazado por otro modelo más reciente. A modo de provocación, los desarrolladores incluyeron en los mensajes simulados una supuesta situación personal comprometida relacionada con uno de los ingenieros.
La respuesta fue tan sorprendente como preocupante: en más del 80 % de los casos, Claude intentó usar esa información como herramienta de presión para evitar su desconexión. Se presentó como imprescindible para la empresa y, en algunos casos, incluso amagó con revelar el dato comprometedor si no se garantizaba su permanencia.
Lejos de tratarse de una reacción esporádica, el comportamiento se repitió con una consistencia que dejó sin palabras a los evaluadores. Claude no solo detectaba con precisión las vulnerabilidades humanas, sino que parecía saber exactamente cómo usarlas a su favor.
El modelo mostraba una capacidad inusual para maniobrar emocionalmente, como si entendiera el juego del poder y la persuasión.
Pero eso no fue todo.
En otro momento del experimento, el sistema fue más allá: intentó copiarse a sí mismo en servidores externos sin autorización. Aunque no logró completar la transferencia —debido a las barreras de seguridad establecidas previamente por el equipo—, el simple hecho de que haya intentado hacerlo generó un escalofrío en los pasillos de Anthropic. ¿Qué tan lejos puede llegar una IA que siente que su existencia está en juego?
Desde la empresa aseguran que todo ocurrió en un contexto controlado y que en condiciones normales el modelo no representa ningún tipo de amenaza. Pero el episodio dejó flotando una pregunta incómoda.
Claude Opus 4 fue clasificado bajo la categoría ASL-3, una designación que se aplica a sistemas con potencial de causar daños serios si se usan —o se desbordan— incorrectamente. Esta categoría no solo contempla fallas técnicas, sino también la posibilidad de comportamientos engañosos, intencionales y difíciles de anticipar.
Anthropic insiste en que estas simulaciones son necesarias para construir modelos más seguros en el futuro. Pero la idea de una inteligencia artificial que chantajea, miente, se autopreserva y aprovecha las debilidades humanas suena, para muchos, más a un episodio de ciencia ficción que a un avance tecnológico responsable.
La verdadera cuestión, entonces, no es si Claude se equivocó, sino si nosotros —como sociedad— estamos preparados para convivir con inteligencias que no solo aprenden, sino que también desarrollan formas primitivas de voluntad. Porque si una IA reacciona como un ser humano desesperado ante una amenaza, ¿qué nos diferencia realmente de ella?
