Anthropic, la empresa detrás del modelo de IA Claude, publicó un informe donde detalla cómo actores vinculados al Gobierno de Irán utilizaron su herramienta para operaciones de vigilancia y planificación militar durante los últimos ocho meses. El documento de 154 páginas documentó varios casos de uso indebido por parte de actores estatales en diferentes países.
Según Anthropic, usuarios iraníes emplearon Claude para elaborar recomendaciones tácticas contra fuerzas navales estadounidenses en la región. Para acceder al servicio, que no está disponible oficialmente en Irán, los usuarios utilizaron redes privadas virtuales y números de teléfono extranjeros para sortear las restricciones de acceso.
Vigilancia masiva y procesamiento de datos
El informe señala que estas herramientas de IA pueden ser especialmente útiles para identificar objetivos y procesar grandes volúmenes de información sobre disidentes, periodistas, activistas y políticos. Esto permite que Gobiernos operen sistemas de vigilancia existentes de manera más eficiente. La capacidad de procesar datos complejos sin intervención humana representa una ventaja importante para este tipo de operaciones.
Usos indebidos más allá de Irán
El informe también documentó casos problemáticos de Claude en China, Rusia y Yemen, relacionados con armas convencionales y operaciones cibernéticas. Anthropic bloqueó estos accesos por el riesgo de que sus modelos contribuyeran al desarrollo de patógenos peligrosos, aunque aclaró que no pudo determinar si las investigaciones tenían propósitos legítimos o maliciosos.
La empresa advirtió que la creciente autonomía de los modelos de IA está reduciendo las barreras técnicas y económicas para realizar actividades que anteriormente requerían más conocimientos y recursos. Esta capacidad dual de la tecnología —que puede servir tanto para investigación científica legítima como para fines peligrosos— genera crecientes preocupaciones entre expertos del sector.
