Deepfake e IA: la nueva frontera de la campaña de desinformación venezolana

Mientras Venezuela se preparaba para su temporada de carnaval el mes pasado, se publicó un video en inglés en el canal de YouTube ‘House of News’. Su anfitrión, Noah, elogió un supuesto auge en el turismo cuando millones de ciudadanos acudieron en masa a las islas caribeñas del país para celebrar.

El informe, que fue ampliamente difundido por los medios de comunicación en apoyo del gobierno socialista del presidente Nicolás Maduro, sugirió que las afirmaciones de empobrecimiento generalizado en Venezuela, rica en petróleo, habían sido «exageradas».

Otro informe afirmó que el gobierno interino anti-Maduro había estado implicado en el presunto mal manejo de $152 millones en fondos antes de su reciente disolución, y Emma, ​​​​la presentadora, concluyó que «los venezolanos realmente no sienten que no haya oposición a la gobierno».

Pero las dos historias eran falsas y los dos reporteros no existen. Son avatares, basados ​​en actores reales, generados con tecnología de Synthesia, una empresa de inteligencia artificial con sede en Londres. Sus acentos estadounidenses fueron sintetizados, sus rostros parlantes generados por algoritmos de aprendizaje automático.

La semana pasada, YouTube suspendió cinco cuentas, incluida House of News, que habían compartido desinformación alineada con el gobierno. Pero la aparición de deepfakes y medios generados por IA representa una nueva frontera en la campaña de propaganda y desinformación de Venezuela, lo que genera preocupaciones sobre la posible influencia en una población que tiene poco acceso a noticias confiables debido a la censura generalizada tanto en línea como fuera de línea.

“Hay un desierto de información en Venezuela donde la desinformación puede prosperar”, dijo Adrián González, director de Cazadores de Fake News, un monitor de desinformación con sede en Caracas. “Y ahora la tecnología está ahí para hacer videos de noticias falsas convincentes”.

González dijo que la red de medios en Venezuela que distribuyen propaganda es amplia, desde medios oficiales hasta medios independientes pero aliados y proveedores de noticias falsas. En las redes sociales, los carteles han utilizado herramientas de automatización para impulsar los puntos de discusión del gobierno, ayudando a que las publicaciones lleguen a la audiencia más grande.

En el último año, las tecnologías de inteligencia artificial (software que puede crear imágenes, videos y texto en función de las sugerencias y descripciones de los usuarios) se han vuelto cada vez más populares. Productos como Dall-E y ChatGPT están siendo ampliamente adoptados por usuarios que van desde niños en edad escolar hasta programadores informáticos de élite.

Pero también ha habido preocupaciones sobre el potencial del software para generar desinformación. Ejemplos documentados de intercambios con agentes de IA, como chatbots, muestran cómo difunden información falsa, conocida como «alucinaciones», muestran prejuicios y teorías de conspiración.

La tecnología de Synthesia, basada en un tipo de técnica de inteligencia artificial conocida como aprendizaje profundo, genera videos con avatares. Estos avatares hablan a partir de un guión generado por el usuario, en una variedad de idiomas, y se pueden crear videos en 10 minutos. Él dice que produce alrededor de 10,000 videos al mes y sus clientes van desde la firma de publicidad WPP hasta el NHS del Reino Unido, quienes lo usan para crear videos de información de salud en varios idiomas. La puesta en marcha ha recaudado $ 66 millones de inversores de Silicon Valley, incluidos Kleiner Perkins y GV, anteriormente de Google Ventures.

Synthesia dijo que al cliente venezolano se le prohibió usar su servicio tan pronto como uno de los empleados de la compañía descubrió el video en Twitter. “Tenemos pautas estrictas para el tipo de contenido que permitimos crear en nuestra plataforma. Hacemos cumplir nuestros términos de servicio y prohibimos a los usuarios que los violen”, dijo.

Synthesia agregó que ha implementado nuevas restricciones en el uso de su tecnología, incluida la prohibición de todo el contenido de estilo de noticias, una marca de agua digital que marcaría los videos como generados por inteligencia artificial y un proceso de revisión más estricto para cada video.

Synthesia se ha enfrentado a otros casos de mal uso. En enero, se encontraron videos de desinformación política generados por la empresa circulando en Malí, y el mes pasado, los analistas de noticias con sede en EE. UU. Graphika descubrieron una operación a favor de China promocionar videos producidos por Synthesia.

Según su guías éticasSynthesia dijo que solo lanzará su producto a «clientes de confianza» después de un «proceso de selección interno explícito». Cuando se le preguntó por qué estas políticas fallaron en el caso de Venezuela, la compañía dijo que endureció sus políticas para que su pequeño equipo de moderación de contenido pudiera ver si las solicitudes de un usuario habían sido denegadas previamente, para ayudar a denunciar posibles usuarios inapropiados y reincidentes.

La información confiable es un recurso escaso en Venezuela, que tiene las reservas probadas de petróleo más grandes del mundo, pero sufre una inflación de 350% anual este año, según los investigadores locales de Ecoanalítica. Los alimentos y medicamentos básicos suelen ser escasos o prohibitivamente caros. Las severas sanciones impuestas por Estados Unidos en 2019 limitaron el margen de maniobra del gobierno a pesar de la relajación de los controles cambiarios. Más de 7 millones de venezolanos han huido del país desde 2015.

La economía muestra signos de mejora modesta, pero el gobierno de Maduro se ha vuelto más autoritario durante una década en el poder, tomando medidas enérgicas contra la disidencia mientras coopta o cierra los medios tradicionales. El principal periódico El Nacional suspendió su edición impresa en 2018. El año pasado, los proveedores de servicios de Internet privados y controlados por el estado bloquearon el acceso a sitios de noticias independientes.

Ejércitos de usuarios en Twitter y otras plataformas ayudan a promover la agenda de Maduro. ProBox, una organización de la sociedad civil que rastrea la desinformación en las redes sociales en Venezuela, ha documentado casos en los que el gobierno ha recompensado a personas que promueven los puntos de discusión del régimen a través de un sistema de crédito social conocido como «tarjeta patria».

Los temas comunes que se promueven incluyen la recuperación económica, mejores condiciones de vida y las deficiencias de la oposición fracturada. Las cuentas del gobierno comparten la propaganda, que circula libremente en las redes sociales. Los videos de House of News han recibido cientos de miles de visitas en YouTube. Las emisoras estatales también los transmitieron.

El contenido puede ser muy persuasivo, dijo María Virginia Marín, directora de ProBox.

“Cuando tienes a un supuesto periodista de habla inglesa en lo que parece ser un medio de comunicación internacional y te vende una realidad que no ves, plantea la pregunta de que tal vez existe y simplemente estás fuera de eso. » él dijo.

Los videos estaban destinados en parte a una audiencia internacional, agregó Marín. “El objetivo es confundir el debate internacional sobre Venezuela y encubrir la realidad de lo que está pasando aquí”.