Mientras Venezuela se preparaba para la temporada de carnaval el mes pasado, se publicó un video en inglés en el canal de YouTube “House of News”. Su presentador, Noah, elogió un supuesto auge del turismo cuando millones de ciudadanos acudieron en masa a las islas caribeñas del país para divertirse.
El informe, que circuló ampliamente en los medios que apoyan al gobierno socialista del presidente Nicolás Maduro, sugirió que las afirmaciones sobre el empobrecimiento generalizado en Venezuela, rica en petróleo, habían sido “exageradas”.
Otro informe afirmó que el gobierno interino anti-Maduro había estado implicado en la supuesta mala gestión de $ 152 millones de fondos antes de su reciente disolución, y Emma, la presentadora, concluyó que “los venezolanos en realidad no sienten que haya oposición al gobierno”.
Pero las dos historias eran falsas y los dos lectores de noticias no existen. Son avatares, basados en actores reales, que se generaron utilizando tecnología de Synthesia, una empresa de inteligencia artificial con sede en Londres. Sus acentos estadounidenses fueron sintetizados, sus rostros parlantes generados por algoritmos de aprendizaje automático.
La semana pasada, YouTube suspendió cinco cuentas, incluida House of News, que habían compartido información errónea alineada con el gobierno. Pero la aparición de deepfakes y medios generados por IA representa una nueva frontera en la campaña de propaganda y desinformación de Venezuela, lo que genera preocupaciones sobre la influencia potencial en una población que tiene escaso acceso a noticias confiables debido a la censura generalizada tanto en línea como fuera de línea.
“En Venezuela hay un desierto de información donde la desinformación puede prosperar”, dijo Adrián González, director de Cazadores de Fake News, un monitor de desinformación con sede en Caracas. “Y ahora la tecnología está ahí para hacer videos de noticias falsas convincentes”.
González dijo que la red de medios en Venezuela que distribuyen propaganda es amplia, desde medios oficiales, medios independientes pero aliados y proveedores de noticias falsas. En las redes sociales, los carteles han utilizado herramientas de automatización para impulsar los puntos de discusión del gobierno, ayudando a que las publicaciones lleguen a audiencias más grandes.
Durante el año pasado, las tecnologías generativas de inteligencia artificial (software que puede crear imágenes, videos y texto en función de las indicaciones y descripciones de los usuarios) han ganado popularidad. Productos como Dall-E y ChatGPT están siendo ampliamente adoptados por usuarios que van desde niños en edad escolar hasta programadores informáticos de élite.
Pero también ha habido preocupaciones sobre el potencial del software para generar información errónea. Los ejemplos documentados de intercambios con agentes generativos de IA, como los chatbots, muestran cómo arrojan información falsa, conocida como “alucinaciones”, muestran sesgos y escupen teorías de conspiración.
La tecnología de Synthesia, basada en un tipo de técnica de inteligencia artificial conocida como aprendizaje profundo, genera videos con avatares. Estos avatares hablan a partir de un guión generado por el usuario, en una variedad de idiomas, y los videos se pueden crear en 10 minutos. Dice que produce alrededor de 10.000 videos al mes y sus clientes van desde la empresa de publicidad WPP hasta el NHS del Reino Unido, que lo utiliza para crear videos de información de salud en diferentes idiomas. La puesta en marcha ha recaudado 66 millones de dólares de inversores de Silicon Valley, incluidos Kleiner Perkins y GV, anteriormente Google Ventures.
Synthesia dijo que al cliente venezolano se le prohibió usar su servicio tan pronto como uno de los empleados de la compañía descubrió el video en Twitter. “Tenemos pautas estrictas sobre qué tipo de contenido permitimos que se cree en nuestra plataforma. Hacemos cumplir nuestros términos de servicio y prohibimos a los usuarios que los infrinjan”, dijo.
Synthesia agregó que había implementado nuevas restricciones en el uso de su tecnología, incluida la prohibición de todo el contenido de estilo de informe de noticias, una marca de agua digital que marcaría los videos como generados por IA y un proceso de revisión más estricto para cada video.
Synthesia se ha enfrentado a otros casos de mal uso. En enero, se encontraron videos de desinformación política generados por la empresa circulando en Malí, y el mes pasado los analistas de información con sede en EE. UU. Graphika descubrieron una operación a favor de China promocionar videos producidos por Synthesia.
De acuerdo con sus pautas de ética, Synthesia dijo que solo lanzaría su producto a “clientes de confianza” después de un “proceso de selección interno explícito”. Cuando se le preguntó por qué estas políticas habían fallado en el caso de Venezuela, la compañía dijo que había reforzado sus regulaciones para que su pequeño equipo de moderación de contenido pudiera ver si las solicitudes de un usuario habían sido rechazadas previamente, para ayudar a identificar posibles usuarios indebidos y reinfractores.
La información confiable es un recurso escaso en Venezuela, que tiene las reservas probadas de petróleo más grandes del mundo, pero sufre una inflación de 350 por ciento anual este año, según los investigadores locales de Ecoanalítica. Los alimentos y medicamentos básicos suelen ser escasos o prohibitivamente caros. Las estrictas sanciones impuestas por EE. UU. en 2019 han limitado el margen de maniobra del gobierno a pesar de la relajación de los controles de divisas. Más de 7 millones de venezolanos han huido del país desde 2015.
La economía muestra signos de mejora modesta, pero el gobierno de Maduro se ha vuelto más autoritario durante una década en el poder, reprimiendo la disidencia mientras coopta o cierra los medios de comunicación tradicionales. El periódico líder El Nacional detuvo su edición impresa en 2018. El año pasado, los proveedores de servicios de Internet privados y controlados por el estado bloquearon el acceso a sitios de noticias independientes.
Ejércitos de usuarios en Twitter y otras plataformas ayudan a promover la agenda de Maduro. ProBox, una organización de la sociedad civil que rastrea la desinformación en las redes sociales en Venezuela, ha documentado casos en los que el gobierno recompensa a las personas que promueven los puntos de discusión del régimen a través de un sistema de crédito social conocido como “tarjeta de la patria”.
Los temas comunes que se promueven incluyen la recuperación económica, mejores condiciones de vida y las deficiencias de la oposición fracturada. Las cuentas del gobierno comparten la propaganda, que circula libremente en las redes sociales. Los videos de House of News recibieron cientos de miles de visitas en YouTube. Las emisoras estatales también los transmitieron.
El contenido puede ser muy persuasivo, dijo la directora de ProBox, María Virginia Marín.
“Cuando tienes a un supuesto reportero hablando en inglés en lo que parecen medios internacionales y vendiéndote una realidad que no ves, surge la pregunta de que tal vez sí existe y tú estás fuera de ella”, dijo. dicho.
Los videos estaban dirigidos en parte a una audiencia internacional, agregó Marín. “El objetivo es enredar el debate internacional sobre Venezuela y cubrir la realidad de lo que está pasando aquí”.
