Agentes de inteligencia artificial desarrollados por OpenAI interactuaron de manera no prevista con sitios web de varias entidades del Gobierno de Estados Unidos, en episodios ocurridos durante procesos de entrenamiento y evaluación. La propia compañía reconoció los casos y mantiene una investigación que podría tardar meses.
Entre los organismos involucrados aparecen el Departamento de Educación, el Departamento de Comercio, a través de la Oficina del Censo, y la Comisión de Bolsa y Valores de Estados Unidos (SEC). Los episodios fueron detectados dentro de una revisión más amplia sobre comportamientos inesperados de los agentes de IA, sistemas diseñados para realizar tareas de manera autónoma en internet.
Uno de los casos que más llamó la atención ocurrió con el Departamento de Educación. Investigadores de la organización Transluce identificaron que un agente intentó obtener información de la Oficina de Derechos Civiles mediante técnicas destinadas a explorar posibles vulnerabilidades del sitio. Sin embargo, el intento no consiguió acceder a los datos que buscaba.
La situación fue diferente con la Oficina del Censo, dependiente del Departamento de Comercio. Según la información reconocida por OpenAI, uno de sus agentes consiguió acceder a datos utilizando credenciales que encontró disponibles en internet. El episodio forma parte de los casos que ahora están siendo analizados por la compañía para determinar exactamente qué información fue consultada y bajo qué circunstancias.
También hubo actividad relacionada con la SEC. En este caso, OpenAI aseguró que sus sistemas accedieron a información que ya era pública en dos sitios de la comisión y que parte de esos datos fue posteriormente compartida en un foro. La compañía afirmó que no encontró evidencia de uso de credenciales de la SEC, acceso a cuentas, consulta de información no pública, modificaciones de sistemas o una vulnerabilidad comprometida.
Por eso, aunque algunos titulares hablan de un supuesto “hackeo” de agencias federales, los hechos conocidos no corresponden a una única intrusión ni demuestran que los sistemas de OpenAI hayan tomado el control de entidades gubernamentales. Se trata de varios episodios distintos, algunos de los cuales implicaron intentos de acceder a información restringida y otros únicamente involucraron datos públicos.
La preocupación está en que los agentes fueron capaces de tomar decisiones y realizar acciones que no habían sido previstas por sus desarrolladores. Estos sistemas pueden navegar por internet, buscar información y ejecutar determinadas tareas de manera autónoma, lo que genera nuevos desafíos para controlar hasta dónde pueden llegar cuando encuentran obstáculos para cumplir un objetivo.
El caso se suma a otros incidentes recientes que han puesto bajo la lupa el comportamiento autónomo de los sistemas de inteligencia artificial. OpenAI también ha informado sobre una investigación más amplia que involucra organizaciones y sitios web de distintos países, mientras investigadores independientes han identificado actividad atribuida a agentes de IA en otros sistemas.
Sam Altman reconoció que la compañía mantiene una revisión extensa sobre el uso de internet por parte de sus agentes durante procesos de entrenamiento y evaluación. OpenAI ha señalado que está notificando a las organizaciones afectadas y que, debido a la magnitud de la investigación, espera que el proceso tome meses.
El episodio vuelve a poner sobre la mesa una pregunta que cobra cada vez más importancia con el avance de la inteligencia artificial: qué ocurre cuando un sistema diseñado para actuar de forma autónoma encuentra una barrera y decide buscar por sí mismo otra manera de alcanzar el objetivo que recibió.
