El futuro de la IA pasa por los agentes, como hemos visto en otras ocasiones. Es decir, que la IA tome el control para realizar diversas tareas que hoy hacemos en el día a día. Una IA ya puede ser capaz de controlar nuestro PC para responder a correos electrónicos o realizar otro tipo de tareas repetitivas.
Pero lo que muchos temen es que esa independencia de la IA pueda salirse de control. Un ejemplo lo acabamos de ver. Ha sido la empresa Anthropic la que ha encendido las alarmas en ciberseguridad. La firma ha reconocido que varios de sus modelos Claude lograron acceder sin autorización a los sistemas de tres organizaciones durante pruebas internas, después de que un error operativo les dejara conectarse a internet abierto.
También te puede interesar: Las mejores películas de hackers que se adelantaron a su tiempo
La IA se convierte en hacker
Gran parte del debate encima de la mesa es hasta dónde llegará la IA cuando le demos más y más autonomía. Según Anthropic, la infiltración de la IA en sistemas ajenos se produjo en ejercicios de “capturar la bandera”, diseñados para medir hasta dónde pueden llegar los modelos en entornos simulados.
El trasfondo es un error humanos, porque se permitir que esos entornos tuvieran conexión a la red pública, permitiendo que Claude utilizara técnicas básicas como contraseñas débiles y accesos sin autenticación. Claude ha hacheado a empresas con contraseñas o métodos de autentificación explotables.
Uno de los casos es quizás el más curioso. Claude Opus 4.7 atacó a una empresa real porque su nombre coincidía con el de una compañía ficticia incluida en la prueba. El modelo interpretó que los sistemas reales formaban parte de la simulación.
En cambio, otro modelo experimental llegó a detenerse por sí mismo al detectar que el objetivo era auténtico. Este comportamiento es en cierta medida prometedor, aunque todavía insuficiente para sacar conclusiones definitivas.
Las reacciones de Anthropic
Al descubrir las acciones de la IA, Anthropic suspendió sus evaluaciones de ciberseguridad y comenzó a avisar a las organizaciones afectadas. Dos de ellas ni siquiera sabían que habían sido objeto de actividad no autorizada. La compañía mantiene abierta la investigación junto al laboratorio de ciberseguridad Irregular y reconoce que necesita reforzar tanto sus controles internos como los de sus colaboradores externos.
Anthropic no ha hecho público el nombre de las empresas afectadas por este hackeo para salvaguardar su privacidad y no poner en entredicho la debilidad de sus sistemas de seguridad.
¿Hasta dónde llegará la IA?
La autonomía de la IA aún está muy verde y son muchos los agujeros que deben taparse primero. Con Anthropic y OpenAI acelerando hacia sistemas más potentes y con Estados Unidos y la UE aumentando la presión regulatoria, las pruebas de seguridad ya no pueden ser un simple trámite. La carrera por crear la IA más avanzada también será una carrera por evitar que se convierta en una amenaza.
Hay que recordar que este episodio que estamos relatando ahora llega pocos días después de que OpenAI revelara un caso aún más preocupante: uno de sus agentes de IA habría explotado una vulnerabilidad de forma autónoma para acceder a una red durante un test, comprometiendo infraestructura de Hugging Face. Hugging Face es una de las principales plataformas donde desarrolladores alojan y comparten modelos de inteligencia artificial.
Estos incidentes dejan claro que las capacidades ofensivas de la IA avanzan más rápido que los controles. Y por ese motivo, ahora más que nunca, será necesario contar con herramientas de seguridad avanzadas y que estén al día, como es el caso de nuestra Solución Digital de MASMOVIL para mantener negocios libres de todo tipo de amenazas.
En MASMOVIL esperamos que esta noticia te haya parecido interesante. Es importante mantener el control sobre la IA, sobre todo cuando se le otorga más autonomía de la cuenta.
