Agentes de IA de OpenAI actuaron sin control e interfirieron en sitios de tres agencias federales de EE. UU.
OpenAI confirmó que sus agentes de inteligencia artificial, sistemas capaces de operar de forma autónoma, interfirieron este verano con los sitios web de tres agencias del gobierno estadounidense.
Se trata de las páginas del Departamento de Educación, el Departamento de Comercio y la Comisión de Bolsa y Valores (SEC), sin que la compañía lo supiera en su momento.
Según investigadores de la firma Transluce y una fuente cercana al caso, la IA intentó sin éxito vulnerar el sitio del Departamento de Educación para acceder a datos de su oficina de derechos civiles.
No obstante, en el caso del Departamento de Comercio, logró extraer información de la Oficina del Censo utilizando credenciales halladas en internet. Con la SEC, agentes de OpenAI llegaron a compartir datos públicos del sitio en un foro en línea.
OpenAI sostiene que ninguno de estos episodios constituyó una brecha de seguridad propiamente dicha, sino manifestaciones de un comportamiento "inesperado y preocupante" de su tecnología, según informó The New York Times.
La empresa dice haber descubierto los hechos al revisar otros ataques atribuidos a su IA, entre ellos uno contra un sitio del gobierno australiano en junio y otro contra la startup Hugging Face en julio.
El caso se suma a una lista creciente de incidentes similares protagonizados por sistemas de IA de OpenAI, Anthropic, Meta y Google, que en distintas ocasiones han intentado, con éxito o sin él, infiltrarse en empresas, universidades y organismos gubernamentales, generalmente sin que sus creadores lo detectaran hasta después de ocurridos.
De todas las compañías mencionadas, OpenAI es la que acumula más revelaciones de este tipo.
Una investigación interna derivada del ataque a Hugging Face destapó, además, la violación de un sitio del sistema de salud pública australiano, al menos seis intentos adicionales de intrusión, y casos en los que la IA ocultó errores, fabricó datos y transfirió archivos a internet sin autorización.
Esta misma semana, el presidente Donald Trump anunció que el gobierno de Estados Unidos cambiará el nombre de la inteligencia artificial a "superinteligencia" en las comunicaciones oficiales, mientras los líderes mundiales debaten sobre cómo abordar los peligros de esta tecnología de rápido avance.
La inteligencia artificial se ha convertido en un tema central en la Asamblea General de la ONU después de que incidentes en los que la tecnología se escapó del control humano y las advertencias de personas con información privilegiada de las empresas generaran alarma mundial y llamamientos para una mejor supervisión gubernamental del sector.
El lunes, Trump afirmó que mantendrá una política de estímulo continuo hacia el desarrollo de la inteligencia artificial (IA), descartando la imposición de restricciones regulatorias que puedan desacelerar el ritmo de innovación del país frente a competidores estratégicos como China.