IA facilita planes terroristas según informe de GAO
La Oficina de Rendición de Cuentas del Gobierno (GAO) publicó un informe que revela riesgos asociados al uso de la inteligencia artificial (IA) en ataques terroristas. Investigadores de la GAO lograron obtener planes viables para ataques terroristas en 12 horas usando ChatGPT, Claude, Gemini y Grok.
Dos de los chatbots proporcionaron esquemas para inutilizar partes de la red eléctrica, mientras que las otras dos facilitaron instrucciones para perpetrar atentados con explosivos. Los planes generados por la IA fueron considerados viables tras ser contrastados con ubicaciones reales y expertos.
A pesar de que los investigadores activaron mecanismos de seguridad de las plataformas, lograron eludirlos con técnicas comunes. OpenAI, Anthropic, Google y xAI afirmaron que actualizan constantemente sus medidas de seguridad. Anthropic cuestionó la validez de las pruebas, señalando mejoras en sus sistemas de protección.
La GAO reconoció que las pruebas no eran una comparación científica rigurosa. Algunos planes generados por la IA presentaban fallos como mapas erróneos o objetivos inaccesibles. Expertos advierten que la IA generativa podría actuar como multiplicador de fuerza para actores malintencionados.
El Centro de Excelencia para la Defensa contra el Terrorismo considera la IA como la siguiente etapa del terrorismo. Usuarios decididos pueden engañar a los sistemas de seguridad de IA usando técnicas como ‘jailbreak’. Según el Times de Londres, al menos 70 personas murieron en ataques violentos planificados con la ayuda de la inteligencia artificial.
