El futuro de la IA pasa por los agentes, como hemos visto en otras ocasiones. Es decir, que la IA tome el control para realizar diversas tareas que hoy hacemos en el día a día. Una IA ya puede ser capaz de controlar nuestro PC para responder a correos electrónicos o realizar otro tipo de tareas repetitivas.
Pero lo que muchos temen es que esa independencia de la IA pueda salirse de control. Un ejemplo lo acabamos de ver: la empresa Anthropic ha encendido las alarmas en ciberseguridad. La firma ha reconocido que varios de sus modelos Claude lograron acceder sin autorización a los sistemas de tres organizaciones durante pruebas internas, después de que un error operativo les dejara conectarse a internet abierto.
También te puede interesar: Las mejores películas de hackers que se adelantaron a su tiempo
IA y ética en ciberseguridad
Gran parte del debate activo es hasta dónde llegará la IA cuando le demos más autonomía. Según Anthropic, la infiltración de la IA en sistemas ajenos se produjo en ejercicios de “capturar la bandera”, diseñados para medir hasta dónde pueden llegar los modelos en entornos simulados.
El trasfondo es un error humano, porque se permitió que esos entornos tuvieran conexión a la red pública y que Claude utilizara técnicas básicas como contraseñas débiles y accesos sin autenticación. Claude ha hackeado a empresas con contraseñas o métodos de autentificación explotables.
Uno de los casos es quizás el más curioso. Claude Opus 4.7 atacó a una empresa real porque su nombre coincidía con el de una compañía ficticia incluida en la prueba. El modelo interpretó que los sistemas reales formaban parte de la simulación.
En cambio, otro modelo experimental llegó a detenerse por sí mismo al detectar que el objetivo era auténtico. Este comportamiento es en cierta medida prometedor, aunque todavía insuficiente para sacar conclusiones definitivas.
Las reacciones de Anthropic
Al descubrir las acciones de la IA, Anthropic suspendió sus evaluaciones de ciberseguridad y comenzó a avisar a las organizaciones afectadas. Dos de ellas ni siquiera sabían que habían sido objeto de actividad no autorizada. La compañía mantiene abierta la investigación junto con el laboratorio de ciberseguridad Irregular y reconoce que necesita reforzar tanto sus controles internos como los de sus colaboradores externos.
Anthropic no ha hecho público el nombre de las empresas afectadas por este hackeo para salvaguardar su privacidad y no poner en entredicho a sus sistemas de seguridad.
¿Hasta dónde llegará la IA?
La autonomía de la IA aún está muy verde y son muchas las fallas que deben solventarse. Con Anthropic y OpenAI acelerando hacia sistemas más potentes y con Estados Unidos y la UE aumentando la presión regulatoria, las pruebas de seguridad ya no pueden ser un simple trámite. La carrera por crear la IA más avanzada también será una carrera por evitar que se convierta en una amenaza.
Hay que recordar que este episodio que estamos relatando llega pocos días después de que OpenAI revelara un caso aún más preocupante: uno de sus agentes de IA habría explotado una vulnerabilidad de forma autónoma para acceder a una red durante un test, comprometiendo infraestructura de Hugging Face, es una de las principales plataformas donde desarrolladores alojan y comparten modelos de inteligencia artificial.
Estos incidentes dejan claro que las capacidades ofensivas de la IA avanzan más rápido que los controles. Y por ese motivo, ahora más que nunca, será necesario contar con herramientas de seguridad avanzadas y que estén al día, como nuestra Solución Digital de MASMOVIL para mantener los negocios libres de todo tipo de amenazas.
En MASMOVIL esperamos que esta noticia te haya parecido interesante. Es importante mantener el control sobre la IA, sobre todo cuando se le otorga más autonomía de la cuenta.
