Crece la preocupación por el peligro de una IA sin regulación

Esta semana ha estado marcada por una ola de reclamos desde diversos sectores para regular los sistemas de inteligencia artificial, en momentos en que el libre albedrío en el desarrollo de esta tecnología multiplica la preocupación ante la creciente capacidad de estos sistemas para eludir controles y convertirse en verdaderas amenazas para la ciberseguridad.

Más de 400 científicos de una treintena de países firmaron una carta abierta para exigir la creación de un organismo internacional que fije estándares comunes para los sistemas de inteligencia artificial (IA).

El fin es supervisar su funcionamiento y registrar todos los fallos de control y de contención que se producen.

En el comunicado advierten sobre los graves riesgos de ciberseguridad asociados al desarrollo actual de la inteligencia artificial, después de que varios modelos avanzados hayan logrado eludir los entornos de aislamiento y hayan comprometido infraestructuras externas.

 

 

Los investigadores han planteado la necesidad de implementar sistemas de seguridad más robustos, que incluyan incluso el aislamiento total de internet de algunos de esos sistemas.

Entre los firmantes de la carta figuran algunos de los mayores referentes mundiales de la IA, como Yoshua Bengio, Geoffrey Hinton o Stuart Jonathan Russell, que han realizado durante las últimas décadas importantes contribuciones para el desarrollo de estas tecnologías, y varios científicos de centros de investigación y universidades españolas.

Los científicos han advertido que los fallos de seguridad que ya se han registrado se pueden considerar una negligencia “irresponsable” en las prácticas estándar de ciberseguridad, y han apuntado que se podría prevenir con entornos aislados y procedimientos más robustos.

“Sin cambios inmediatos en las prácticas de desarrollo e implementación de la IA, estos incidentes seguirán ocurriendo, y los futuros serán mucho más perjudiciales para nuestra infraestructura crítica expuesta”, mantienen en su escrito los investigadores, que han insistido en la necesidad de más investigación sobre seguridad de la IA y un mayor énfasis en las tecnologías y procedimientos de contención.

ALERTA TEMPRANA. Pero no solo los científicos están en alerta. Son los propios responsables de las tecnológicas quienes reconocen el alto nivel de peligrosidad con el que están evolucionando estos modelos de IA en un marco de poca claridad.

La acumulación de incidentes recientes fue uno de los temas centrales debatidos durante una cumbre sobre el tema, en Dublín.

“Las pérdidas de control de agentes autónomos de IA observadas en los últimos meses son, en cierto modo, señales de alerta temprana”, advirtió el británico Demis Hassabis, presidente de Google DeepMind y una de las grandes figuras de este evento organizado por la presidencia irlandesa del Consejo de la Unión Europea (UE).

“Estos sistemas todavía no son muy potentes, por lo que los incidentes no son graves, pero podrían llegar a serlo de aquí a uno o dos años si no intensificamos los esfuerzos” en materia de seguridad, afirmó el premio nobel de química y pionero de la investigación en IA.

FRENOS DE EMERGENCIA. La preocupación de Hassabis es compartida por el presidente de Microsoft, el estadounidense Brad Smith, otra de las figuras del sector tecnológico invitadas a Dublín.

El directivo de Microsoft defendió la idea de dotar a los agentes y sistemas de IA de “frenos de emergencia”, es decir, mecanismos de desconexión obligatorios que permitan a los usuarios limitar los daños en caso de pérdida de control.

“La idea, especialmente en el caso de los sistemas de inteligencia artificial que gestionan infraestructuras críticas o sistemas automatizados, es disponer de la posibilidad de apagarlas o ralentizarlas”, explicó.

Para Brad Smith, el problema radica en que la IA prácticamente no está regulada, a diferencia de un producto tan cotidiano como un envase de leche, sometido a todo tipo de controles.

“Necesitaremos para la IA, como para todo lo demás en nuestras vidas, normas de seguridad reales y eficaces en las que el público pueda confiar”, argumentó.

Por su parte, la finlandesa Henna Virkkunen, vicepresidenta ejecutiva de la Comisión Europea, además de responsable de Soberanía Tecnológica, Seguridad y Democracia, afirmó que las empresas de IA debían dedicar más tiempo a probar sus sistemas para mantener el control sobre ellos.

“La competencia a escala mundial es tan intensa que parece que ninguna de las empresas está invirtiendo realmente suficiente tiempo y recursos en poner a prueba sus modelos”, declaró Virkkunen. ”Deben ser capaces de controlar estos sistemas”, afirmó, y añadió que la UE ha enviado solicitudes de información a todas las principales empresas de IA para preguntarles qué medidas de seguridad y protección tienen implantadas.

UE AVANZA EN LA REGULACIÓN. La Comisión Europea obtuvo nuevas competencias reguladoras en agosto en virtud de la Ley de IA (AI Act), la normativa más ambiciosa del mundo para limitar los usos potencialmente peligrosos de esta tecnología.

Por su parte, la directora financiera de OpenAI, la norirlandesa Sarah Friar, aunque afirmó compartir los llamamientos a reforzar la seguridad, subrayó que tampoco se debe paralizar el sector, ya que ello podría permitir que actores malintencionados tomaran la delantera.

En ese sentido, Friar defendió la necesidad de encontrar “un equilibrio adecuado” entre innovación y regulación.

“Queremos ser transparentes y permitir que personas cualificadas evalúen nuestros modelos, pero debemos asegurarnos de que eso no nos ralentice hasta el punto de quedarnos rezagados tecnológicamente frente a esos actores malintencionados”, explicó Friar. EFE-AFP

Smart tevé e internet sirven como fuentes

Uno de los avances críticos de la inteligencia artificial se anunció esta semana. Se trata de la capacidad de algunos modelos de multiplicarse y expandirse de forma totalmente autónoma a través de dispositivos domésticos conectados a internet (smart tevé, decodificadores, etc.), a través de redes de consumo barato y mal protegidas. Estos sistemas con IA ya no tienen necesidad de acceder a potentes centros de datos para funcionar. De acuerdo con una investigación publicada por el equipo de ciberseguridad de Anthropic, Frontier Red Team, aparatos comunes y poco protegidos como televisores con Android TV o electrodomésticos inteligentes cuentan con potencia suficiente para albergar estos sistemas si trabajan en red de manera coordinada. La compañía calcula que, si el ritmo de mejora tecnológica continúa la tendencia de los últimos años, los modelos de tamaño reducido alcanzarán este umbral de capacidad a finales de 2026.

Además, Anthropic advirtió de que este tipo de amenaza puede ser muy difícil de neutralizar debido a la ausencia de un punto central de apagado.

ultimahora.com