OpenAI enfrenta críticas internas sobre seguridad operativa
Empleados de OpenAI advirtieron durante años sobre fallos en la seguridad operativa de la empresa, según informes internos. Algunos trabajadores expresaron preocupaciones sobre prácticas de seguridad antes del lanzamiento de ChatGPT en 2022, comunicando sus inquietudes a los altos directivos y a la junta directiva. Algunos concluyeron que la dirección priorizaba seguir el ritmo de competidores sobre la seguridad.
Los empleados argumentaron que los controles de seguridad eran laxos, permitiendo que terceros accedieran a información confidencial. Cualquier persona en OpenAI con acceso al código podía ver detalles técnicos de proyectos de la empresa. En agosto, Thibault Sottiaux, un alto ejecutivo, reasignó a una cuarta parte de los ingenieros de producción a tareas de mejora de la infraestructura de seguridad.
Las advertencias internas incluyen años de quejas sobre vulnerabilidades en la empresa. La tecnología de IA se convirtió en un activo estratégico para Estados Unidos, presionando a las empresas a proteger su tecnología. Añadir capas de seguridad puede ralentizar el avance de la tecnología de IA y complicar planes de ofertas públicas iniciales (OPI).
Will DePue, exinvestigador de OpenAI, escribió que los líderes en IA no pueden sacrificar la velocidad en favor de la seguridad. La portavoz de OpenAI, Elana Widmann, señaló que la empresa es una de las más atacadas del mundo y realiza una inversión considerable en su programa de seguridad. El 13 de octubre, el Departamento de Justicia informó que detuvo a un ciudadano saudí por instalar un dispositivo de grabación en una sala de conferencias ejecutiva.
Abdulrahman Alfozan utilizó una herramienta de IA para localizar documentación interna sobre ejecutivos que visitaban Arabia Saudí. Alfozan mantenía contacto con un miembro de la familia real saudí que intentó reclutarlo para un nuevo proyecto de IA. Cinco personas familiarizadas con las prácticas de OpenAI señalaron que algunos empleados llevan tiempo expresando preocupación por la amplia disponibilidad de información dentro de la empresa.
OpenAI almacenaba la mayor parte de su código en un único repositorio conocido como ‘monorepo’. OpenAI mantenía gran parte de su documentación de investigación en GitHub y Slack, lo que generó inquietud entre empleados. OpenAI restringió el acceso a los trabajos de carácter sensible. OpenAI subrayó que gran parte de su labor más delicada se almacena en repositorios de código independientes con estrictos controles de acceso.
OpenAI no realizaba revisiones de seguridad periódicas en sus herramientas internas, como los entornos de prueba o ‘sandboxes’. OpenAI actualmente realiza revisiones de seguridad periódicas de sus herramientas internas bajo la dirección de Dane Stuckey, su responsable de seguridad de la información (CISO). Un ex empleado de Google fue condenado por robo de información confidencial sobre la tecnología de IA de Google en beneficio de China.
Cathedral Systems afirmó haber vulnerado los sistemas de Anthropic y haber accedido a canales de Slack con información confidencial. Algunos empleados de OpenAI están cada vez más preocupados por el enfoque de investigación más abierta de la empresa.