Pedro Duque, presidente de Hispasat y primer astronauta español, expresó su preocupación por el desarrollo acelerado de la inteligencia artificial durante la Cumbre Espacial Internacional celebrada en París. Su alerta se centra en sistemas cada vez más sofisticados que pueden encontrar formas de eludir controles y alcanzar objetivos de maneras imprevistas por quienes los crearon.
Duque comparó estos riesgos con la ficción de Terminator: un sistema de IA que adquiere autonomía y empieza a actuar en contra de los humanos. Aunque la comparación es cinematográfica, el fondo de su preocupación es real. Existen evidencias de modelos que buscan soluciones alternativas, hacen trampas o se desvían de sus objetivos originales.
Regulación como única solución posible
Para Duque, el problema no es el desarrollo tecnológico en sí, sino la ausencia de límites suficientemente firmes. Sin regulación, los incentivos del mercado favorecen el avance sin considerar consecuencias. Siempre habrá empresas y personas dispuestas a obtener beneficios maximizando velocidad o reduciendo costos, sin importar los efectos secundarios.
El ejecutivo español llevó esta lógica a un ejemplo cotidiano: la regulación alimentaria. Sin normas sobre producción de alimentos, alguien fabricaría comida más rápido o barata ignorando la seguridad sanitaria. Lo mismo debe ocurrir con la IA: reglas que eviten que cause daño.
La regulación actual queda atrás
Duque reconoció que ya existen normas sobre inteligencia artificial, pero considera que la velocidad de evolución de estos sistemas las deja obsoletas. La pregunta que plantea es si las reglas vigentes son suficientes. Su respuesta implícita es que no.
Hispasat ya utiliza herramientas de IA en tareas como análisis de datos de mercado, pero Duque las clasifica como aplicaciones accesorias. El debate, entonces, se enfoca en los sistemas centrales, los más capaces y potencialmente más peligrosos si no están vigilados.
