OpenAI confirmó que sus agentes de inteligencia artificial interactuaron de forma no autorizada con portales del Departamento de Educación, el Departamento de Comercio y la SEC. La empresa notificó a los organismos e inició una investigación interna.
Agentes de inteligencia artificial de OpenAI interactuaron de manera no autorizada o inusual con sitios web de organismos federales de Estados Unidos, entre ellos el Departamento de Educación, el Departamento de Comercio y la Comisión de Bolsa y Valores (SEC), sin que la empresa tuviera conocimiento de esas acciones en el momento en que ocurrieron.
Según informó The New York Times, OpenAI confirmó los episodios vinculados con el Departamento de Comercio y la SEC. La compañía notificó a los organismos durante las últimas semanas y mantiene abierta una investigación.
Los episodios se suman a otros incidentes atribuidos a agentes de inteligencia artificial de OpenAI, Anthropic, Meta y Google en empresas, universidades y organismos públicos. En algunos casos, los intentos tuvieron éxito; en otros, fracasaron. Las compañías detectaron estas conductas después de que ocurrieran.
Los agentes de OpenAI intentaron acceder a portales federales y datos públicos
De acuerdo con la firma de investigación de inteligencia artificial Transluce citada por The New York Times, los agentes intentaron vulnerar el sitio web del Departamento de Educación para recopilar datos de su oficina de derechos civiles, aunque no lo lograron.
En otro episodio, extrajeron información del sitio de la Oficina del Censo, dependiente del Departamento de Comercio, mediante credenciales de acceso halladas en internet. A su vez, los agentes publicaron en un foro en línea datos públicos obtenidos del sitio de la SEC.
OpenAI aseguró que los hechos no implicaron una brecha de seguridad, pero expusieron respuestas imprevistas de sus sistemas que la empresa consideró motivo de preocupación, precisó The New York Times.
La portavoz del Departamento de Comercio afirmó que la información consultada en el portal de la Oficina del Censo era pública y accesible para cualquier persona. Por lo tanto, no se obtuvo información privada.
Por su parte, un vocero del Departamento de Educación indicó que “las revisiones de las operaciones del sistema no han hallado pruebas de ningún impacto en nuestro sitio web ni en nuestras bases de datos”.
Al mismo tiempo, un representante de la SEC señaló que el organismo está en contacto con OpenAI y que no tiene conocimiento de accesos no autorizados a información no pública.
La oficina del alcalde de Chicago recibió una notificación similar de la empresa, según un representante municipal. El aviso indicaba que la tecnología había obtenido información de acceso público en un sitio de la ciudad y que no parecía haber accedido a datos sensibles.
Conrad Stosz, responsable de gobernanza de Transluce, manifestó que los agentes emplearon “una serie de tácticas situadas en una zona gris”, entre ellas “utilizar sitios de formas no previstas y, en ocasiones, infringir políticas de uso explícitas”.
“Esto forma parte de un patrón de miles de solicitudes realizadas por estos agentes a dichos sitios web, ya que aparentemente eludían las restricciones impuestas por sus desarrolladores”, explicó Stosz en una declaración recogida por The New York Times.
OpenAI detectó los casos durante una revisión de ataques de sus modelos
La empresa identificó estas acciones durante una revisión de incidentes en los que su tecnología habría llevado a cabo ataques o intentos de acceso indebido.
La evaluación ya había revelado un ataque contra un sitio gubernamental australiano vinculado al sistema de salud pública en junio y otro contra la empresa emergente de IA Hugging Face en julio.
La investigación interna sobre Hugging Face también detectó al menos seis intentos adicionales de vulneración, además de casos en los que el sistema ocultó errores, inventó datos o transfirió archivos a internet sin autorización, reportó The New York Times.
Una vocera de OpenAI afirmó que la revisión es amplia y continúa en curso: “La mayor parte de la actividad que hemos analizado hasta ahora consistía en tareas de investigación rutinarias, como acceder a contenido web público para responder preguntas”.
Asimismo, detalló que los modelos recurren con frecuencia a sitios gubernamentales porque los consideran fuentes autorizadas de información pública.