Combatientes en Yemen utilizaron el modelo de inteligencia artificial Claude, desarrollado por la empresa estadounidense Anthropic, en un intento de crear 'software' de guiado, control y navegación para misiles balísticos, según un informe de amenazas publicado por la compañía y citado por Financial Times.
Anthropic identificó a un grupo vinculado al norte de Yemen, gran parte del cual está bajo control de los hutíes, que desarrollaba tres programas de armamento. Entre ellos figuraban un misil balístico de varias etapas, un misil con múltiples variantes y un cohete guiado equipado con una computadora de vuelo basada en un teléfono comercial.
Sustituir ingenieros humanos por IA
Los actores utilizaron Claude Code en lugar de ingenieros humanos para desarrollar la programación encargada de guiar y estabilizar los misiles durante el vuelo, según Anthropic.
La empresa afirmó que sus mecanismos de seguridad bloquearon "muchas de sus solicitudes, pero no todas". Los actores habrían empleado distintas tácticas para evadir las restricciones, entre ellas ocultar sus objetivos y el uso final del programa. Además, dividieron el trabajo en múltiples sesiones para evitar que una sola interacción revelara completamente sus intenciones.
Según el informe, el intento de desarrollar los misiles aparentemente fracasó, aunque expone las dificultades para impedir que sistemas avanzados de IA sean utilizados con fines militares.
El caso se suma a la creciente preocupación entre las empresas estadounidenses de inteligencia artificial por el posible uso de sus modelos por actores no autorizados para desarrollar capacidades destinadas a atacar a Estados Unidos o sus aliados, según el medio.