OpenAI bloquea cuentas de ChatGPT por campaña de desinformación encubierta originada en Rusia

OpenAI ha bloqueado un conjunto de cuentas de ChatGPT originadas en Rusia que, según la empresa, estaban siendo utilizadas para respaldar una campaña encubierta de influencia en línea destinada a difundir desinformación.

La compañía descubrió el problema tras investigar publicaciones en redes sociales generadas por IA, lo que la llevó a una "operación de influencia mucho más amplia", según informó OpenAI en una entrada de blog el martes.

La campaña se "basaba en un sitio web que contenía trabajos académicos copiados y mal atribuidos, un índice de 'soberanía' que presentaba a Rusia de manera favorable, y esfuerzos para disfrazar los orígenes rusos de los operadores", añadió la compañía.

Este es el incidente más reciente en el que actores prorrusos utilizan IA para difundir desinformación. OpenAI no permite el acceso a sus modelos en Rusia, pero la compañía indicó que se utilizaron VPN para disfrazar la ubicación.

En febrero, OpenAI anunció el cierre de cuentas de ChatGPT conectadas a Rybar, una empresa de medios prorrusos que el gobierno del Reino Unido describe como "parcialmente coordinada por la Administración Presidencial", financiada por la corporación estatal rusa Rostec y que colabora con miembros de los servicios de inteligencia rusos.

Campaña de influencia prorusa

Los operadores utilizaron el ruso para generar comentarios en redes sociales que se publicaron en Substack, Telegram, X, Facebook y LinkedIn, e instruyeron a ChatGPT para que ocultara cualquier indicio lingüístico de que fueran rusos, según OpenAI.

Gran parte del contenido generado promocionaba una organización llamada International Burke Institute (IBI), cuyo sitio web presenta artículos copiados de escritos académicos reales, a veces con atribución falsa.

La campaña de influencia también creó un "índice de soberanía", según OpenAI, que elogiaba a Rusia y denigraba a los países occidentales.

Aunque el impacto inmediato de la operación pareció limitado, la compañía añadió que la "importancia de la operación reside menos en la audiencia a la que llegó, que en la infraestructura que había construido".

Las publicaciones producidas por ChatGPT señalaban a una "institución de apariencia creíble, completa con supuestos expertos, trabajos académicos republicados y un presunto índice de riesgo propietario", dijo OpenAI.

"Esto ilustra cómo los actores de influencia pueden utilizar la IA como herramienta de apoyo dentro de un esfuerzo más amplio para fabricar autoridad, oscurecer el origen de narrativas favorecidas y establecer activos que podrían escalarse con el tiempo", agregó la compañía. "También ilustra cómo su uso de apoyo de la IA puede llevar a la exposición de la operación más amplia".