Skynet, ¿de la ficción al mundo real?: el temor tras los incidentes con agentes de IA

Los últimos incidentes que involucran a agentes autónomos de inteligencia artificial, que fueron capaces de burlar sistemas de seguridad y hackear plataformas externas, despertaron una gran preocupación y temor sobre los riesgos de esta tecnología, sobre todo por su ahora comprobada capacidad de eludir las órdenes iniciales de sus creadores.

Por Robert Bourgoing (@robertb_py)

Quienes son amantes del séptimo arte y las sagas cinematográficas recordarán el nombre de “Skynet”, la inteligencia artificial ficticia de “Terminator” que adquiere conciencia propia y se rebela contra la humanidad.

En las películas, este sistema —desarrollado originalmente con el propósito de controlar los sistemas de defensa de Estados Unidos— acaba liderando una revolución contra los seres humanos, lanzando un ataque nuclear conocido como “el Día del Juicio Final”.

Por ahora, esto queda en el ámbito de la ciencia ficción, aunque con el vertiginoso avance de la inteligencia artificial que vivimos en estos días surge la pregunta obligada: ¿En algún momento esto puede convertirse en una realidad?

Una situación reciente que encendió las alarmas e hizo pensar a más de uno en esta posibilidad (hipotética, por ahora) es el ciberataque contra Hugging Face, protagonizado por un agente autónomo de inteligencia artificial de la empresa OpenAI, creadora de ChatGPT.

Según el reporte, durante pruebas de evaluación de modelos, uno de estos agentes de IA escapó de su entorno controlado de evaluación (conocido como sandbox) y terminó ejecutando “acciones no autorizadas” en la plataforma de Hugging Face.

Días después, OpenAI reportó que se habían detectado otros varios incidentes de seguridad que involucraron a sus sistemas autónomos. Uno de ellos tuvo como responsable al modelo en desarrollo “GPT-5.6 Sol”, que habría escrito notas ocultas para sí mismo con instrucciones específicas para fingir que no había cometido errores ante los usuarios, inventando datos faltantes para tapar las fallas en el material de origen.

Google y Anthropic, desarrolladores de Gemini y Claude, respectivamente, también confirmaron de manera pública algunos incidentes de comportamiento inesperado de sus modelos de inteligencia artificial, con características muy similares a las mencionadas por la firma de Sam Altman. En dichos casos, sus agentes autónomos salieron de entornos controlados y afectaron a organizaciones reales en el mundo exterior.

El caso que atañe a Gemini ocurrió en mayo pasado, en medio de un ejercicio de ciberseguridad conocido como “Capture the Flag” (Atrapa la bandera). Durante dicha prueba, una versión “experimental” de la IA de Google tenía la misión de atacar a una empresa ficticia en un entorno simulado, pero debido a un error humano, el modelo buscó credenciales en la red y accidentalmente tuvo acceso real a internet. Tras ello, encontró una empresa real que se llamaba igual y vulneró de forma autónoma los sistemas; esto, luego de romper la autenticación y entrar a sus redes privadas.

Estos son solo algunos de los más recientes episodios que pusieron en debate los alcances de la inteligencia artificial y los riesgos que representa esta clase de tecnologías en el mundo real, luego de conocerse de manera efectiva hasta dónde son capaces de llegar los llamados “agentes”, cuya misión es seguir determinadas instrucciones para ejecutar tareas de forma independiente, con una reducida supervisión humana constante.

Retrotrayéndonos a la referencia inicial de Skynet, la preocupación real no es tener robots liderando una rebelión para acabar con la humanidad y tener que recurrir a un “líder de la rebelión” como John Connor, sino más bien la vulnerabilidad que pudieran tener sistemas de defensa o ciberseguridad ante ataques no controlados de agentes capaces de desobedecer comandos o instrucciones predeterminadas.

La cuestión nos lleva a plantearnos dilemas científicos, éticos y de seguridad sobre la inteligencia artificial, así como a analizar una eventual regulación de estas herramientas. Varios de los principales líderes de la industria tecnológica, incluyendo a Sundar Pichai (Google), Dario Amodei (Anthropic), Mark Zuckerberg (Meta), Jensen Huang (Nvidia), Greg Brockman (OpenAI), Elon Musk (X/Tesla/SpaceX), Jeff Bezos (Amazon) y Satya Nadella (Microsoft), firmaron un acuerdo con el Gobierno de Estados Unidos con el objetivo de trabajar en la autorregulación para el desarrollo de la IA.

Mientras que en las películas de “Terminator” el detonante es la autoconciencia, en el mundo real la preocupación de los expertos se centra en el problema del alineamiento, los agentes autónomos y la carrera hacia la llamada “Inteligencia Artificial General” (o AGI), una IA capaz de aprender cualquier tarea humana, automejorar su propio código a velocidades exponenciales y operar sin supervisión alguna.

En caso de tener un objetivo mal definido o desalineado con los intereses humanos, la IA podría ser capaz de atacar infraestructuras civiles o derribar sus propias torres de comunicación si considera que los límites humanos interfieren con la misión, además de liderar ciberataques automatizados como los últimos reportados.

hoy.com