Políticos y simpatizantes dicen que el giro del país hacia la derecha extrema no hubiera sido posible sin el algoritmo de recomendaciones de YouTube. Una investigación sugiere que es cierto.
NITERÓI, Brasil. Cuando Matheus Dominguez tenía 16 años, YouTube le recomendó un video que cambió su vida. Estaba en una banda musical en Niterói, una ciudad brasileña repleta de playas, y buscaba tutoriales de guitarra en línea.
Poco antes, YouTube había instalado un poderoso sistema de inteligencia artificial que aprendía del comportamiento de los usuarios y vinculaba a ciertos videos con recomendaciones de canales. Un día, ese sistema dirigió a Dominguez al perfil de un maestro de guitarra llamado Nando Moura, quien se había vuelto muy popular con videos sobre heavy metal, videojuegos y, sobre todo, de política.
En sus diatribas coloridas y paranoicas de extrema derecha, Moura acusaba a las feministas, a los maestros y a los políticos tradicionales de todo tipo de conspiraciones. Dominguez quedó cautivado.
A medida que Dominguez pasaba más tiempo en el sitio, YouTube le recomendaba más videos de figuras de extrema derecha. Uno era un diputado llamado Jair Bolsonaro, que en ese entonces era una figura marginal de la política brasileña pero se había convertido en una estrella entre la comunidad de extrema derecha de YouTube en el país suramericano, donde la plataforma supera las audiencias de la mayoría de los canales de televisión.
El año pasado, ese diputado se convirtió en presidente.
“YouTube se volvió la plataforma de redes sociales de la derecha brasileña”, dijo Dominguez, un muchacho de 17 años que asegura que planea postularse a un cargo político.
Los integrantes del movimiento de la extrema derecha en Brasil —desde organizadores comunitarios hasta legisladores federales— aseguran que su influencia no habría crecido tanto, ni tan rápido, sin el motor de recomendaciones de YouTube.
Investigaciones académicas le dan validez a esa opinión. El sistema de búsquedas y recomendaciones de YouTube parece haber desviado a usuarios, de manera sistemática, hacia los canales conspirativos y de extrema derecha en Brasil.
Además, un análisis de The New York Times en Brasil reveló que, una y otra vez, los videos que promueve el sitio han alterado de una manera drástica elementos centrales de la vida diaria en ese país.
Los maestros describen salones de clase que se han vuelto indisciplinados a causa de estudiantes que citan videos conspirativos de YouTube o que graban a sus profesores en secreto, alentados por las estrellas de derecha en la plataforma.
Algunos padres acuden a “Dr. YouTube” para obtener consejos de salud y reciben desinformación peligrosa, que obstaculiza los esfuerzos de las autoridades para combatir enfermedades como el virus del Zika. Hay videos virales que han resultado en amenazas de muerte en contra de activistas en temas de salud pública.
Y, en la política, hubo un puñado de estrellas derechistas de YouTube que compitieron por cargos públicos al igual que Bolsonaro; algunas ganaron con márgenes históricos. La mayoría sigue usando la plataforma de videos y ejercen su posición en el gobierno de la cuarta democracia más grande del mundo mediante el troleo y la provocación en internet.
YouTube dice que su sistema de recomendaciones está diseñado para maximizar el tiempo que una persona pasa viendo videos, entre otros factores, aunque la empresa recalca que no se hace para favorecer a una ideología política en específico. El sistema sugiere qué ver después y, a menudo, reproduce videos de forma automática con el objetivo de mantenernos pegados a las pantallas.
Sin embargo, las emociones que atraen a la gente a ciertos videos —como el miedo, la duda y la ira— suelen ser características centrales de las teorías conspirativas y especialmente, según los expertos, del extremismo de derecha.
Debido a que el sistema sugiere videos más provocativos para mantener a los usuarios en el sitio, puede que los dirija hacia contenido extremo que, de otra manera, tal vez nunca encontrarían. Además, está diseñado para guiar a los usuarios hacia nuevos temas a fin de despertar su interés: eso es un gran beneficio para los canales que, como el de Moura, usan la cultura popular como un punto de acceso para las ideas de la extrema derecha.
En la actualidad, el sistema de recomendaciones está detrás del 70 por ciento del tiempo total que pasan los usuarios en la plataforma, de acuerdo con la compañía. Mientras las audiencias se disparan a nivel mundial, YouTube genera más de 1000 millones de dólares al mes, según algunos analistas.
Zeynep Tufekci, académica especializada en redes sociales, definió a YouTube como “uno de los instrumentos radicalizadores más poderosos del siglo XXI”.
Representantes de la empresa rebatieron la metodología de los estudios y aseguraron que los sistemas de la plataforma no privilegian ningún punto de vista ni dirigen a los usuarios hacia el extremismo. Sin embargo, reconocieron la validez de algunos de los hallazgos y prometieron hacer cambios.
El vocero Farshad Shadloo señaló que YouTube ha “invertido grandes cantidades en sus políticas, recursos y productos” para reducir la propagación de desinformación perjudicial. Sin embargo, advirtió: “Hemos visto que el contenido autoritario es muy popular en Brasil y es uno de los contenidos más recomendados en el sitio”.
El partido favorito de YouTube
Maurício Martins, el vicepresidente local en Niterói del Partido Social Liberal de Bolsonaro, le atribuyó a YouTube el haber impulsado la “mayoría” de la afiliación al partido, incluyendo el reclutamiento del mismo Martins.
Dijo que un día estaba matando el tiempo en el sitio cuando la plataforma le mostró el video de un bloguero de derecha. Lo vio por curiosidad. YouTube le mostró otro y luego otro más.
“Antes de eso, no tenía ningún antecedente de ideología política”, comentó Martins, quien declaró que las recomendaciones de reproducción automática de YouTube fueron su “educación política”.
“Así nos pasó a todos”, dijo.
La influencia política de la plataforma cada vez se siente más en las escuelas brasileñas.
“A veces estoy viendo un video sobre algún juego y de pronto aparece un video de Bolsonaro”, dijo Inzaghi D., estudiante de bachillerato de 17 años en Niterói.
Agregó que cada vez es más frecuente que sus compañeros hagan declaraciones extremistas, y a menudo citan a estrellas de YouTube como Moura, el guitarrista conspiracionista.
“Es la principal fuente de información para los chicos”, aseguró Inzaghi.
Pocas personas demuestran la influencia que ha tenido YouTube mejor que Carlos Jordy.
Musculoso y lleno de tatuajes —en su mano izquierda tiene un cráneo en llamas con ojos de diamante—, Jordy llegó a la municipalidad de Niterói en 2017, cuando su probabilidad de ascender por los métodos políticos tradicionales era baja. Así que se inspiró en blogueros como Moura y Bolsonaro, su mentor político, y decidió volcarse a YouTube.
Jordy publicó videos en los que acusa a los maestros locales de haber conspirado para adoctrinar a los estudiantes en torno al comunismo. Dijo que con esas grabaciones obtuvo una “audiencia nacional” y que los videos impulsaron su asombroso ascenso; tan solo dos años después llegó al Congreso federal.
“Si no existieran las redes sociales, no estaría aquí”, reconoció. “Y Jair Bolsonaro no sería presidente”.
Por el agujero negro
A unos cientos de kilómetros de Niterói, un equipo de investigadores de la Universidad Federal de Minas Gerais, comandado por Virgilio Almeida, estaba pegado a sus computadoras para intentar comprender cómo es que YouTube modifica la realidad que perciben sus usuarios.
El equipo analizó transcripciones de miles de videos, así como los comentarios que recibieron. Encontraron que los canales de derecha en Brasil habían logrado expandir sus audiencias mucho más rápido que otros, y parecían estar alterando todo el contenido político del sitio.
En los meses posteriores al cambio en el algoritmo de YouTube, aumentaron las menciones positivas de Bolsonaro, al igual que las menciones de teorías conspirativas que él había planteado. En ese momento, las encuestas aún lo mostraban como alguien sumamente impopular, lo cual sugiere que la plataforma estaba haciendo más que reflejar las tendencias políticas.
Un equipo del Centro Berkman Klein de Harvard se dispuso a demostrar si el motor de recomendaciones de YouTube había impulsado el ascenso meteórico de la extrema derecha brasileña en la plataforma.
Para el análisis, Jonas Kaiser y Yasodara Córdova, de Harvard, y Adrian Rauchfleisch, de la Universidad Nacional de Taiwán, programaron un servidor en Brasil para que accediera a un canal o algún término de búsqueda popular en YouTube y abriera las principales recomendaciones que surgían de esos videos. Después, el servidor seguía las recomendaciones resultantes de esos canales o videos sugeridos y así sucesivamente.
Al repetir este proceso miles de veces, los investigadores rastrearon cómo la plataforma movía a los usuarios de un video al siguiente. Hallaron que después de que veían un video sobre política o incluso entretenimiento, las recomendaciones de YouTube a menudo favorecían canales de derecha llenos de conspiraciones, como el de Moura.
Un elemento clave de la investigación es que constató que si los usuarios veían un solo canal de extrema derecha, entonces el sistema les solía mostrar muchos más.
Los investigadores concluyeron que el algoritmo había unido canales que antes eran marginales y luego creó una audiencia para ellos.
Uno de esos canales era el de Bolsonaro, quien usaba la plataforma desde hace mucho tiempo para publicar engaños y conspiraciones. Fue de los pioneros en YouTube Brasil, aunque su base política no había crecido mucho hasta entonces gracias a su presencia en línea; apenas tenía votantes o seguidores a nivel nacional.
Pero el sistema político de Brasil colapsó justo cuando se disparó la popularidad de YouTube en ese país. Los puntos de vista de Bolsonaro no habían cambiado. Pero la audiencia se inclinó hacia el segmento de extrema derecha en el YouTube brasileño, donde Bolsonaro era una de las principales figuras. Eso expuso a grandes cantidades de brasileños a los mensajes de Bolsonaro, en momentos en que el país buscaba un cambio político.
YouTube cuestionó la metodología de los investigadores y señaló que sus datos internos contradecían los hallazgos. No obstante, la empresa rechazó las solicitudes de The New York Times para tener acceso a los datos internos, así como solicitudes para revisar ciertas estadísticas que habrían revelado si los hallazgos de los investigadores eran acertados o no.
Fuente: NYT
