Más de 33.000 usuarios de X siguen a @victorEleDe. En algunos de sus doblajes parodia a los reyes de España y a otras personalidades (periodistas, políticos) han sido la alegría de la huerta tuitera muchas veces. Antes hacía doblajes con la voz robótica de Google, pero ahora ha cambiado: usa clonación de voz para que, en sus vídeos, los parodiados parezcan estar diciendo de verdad lo que él quiere que digan.
Quizá ha perdido algo de frescura, pero sus vídeos siguen siendo graciosos. Sin embargo, cuando cambió a la clonación de voz por IA algo me hizo sentir un poco como aquellos chistes de La Codorniz publicados bajo el título “Tiemble después de haber reído”. ¿Seríamos capaces de distinguir entre un audio real y uno falso de una personalidad, de un actor, una responsable política, una fiscal? ¿De uno de nuestros familiares cercanos? Honestamente, creo que no tenemos ninguno el oído tan fino, y hay estudios que así lo subrayan.
Se ha advertido mucho sobre las imágenes (foto, vídeo) llamadas deepfakes, y existen buenas herramientas para detectar la falsedad, pero creo que el audio tiene casi más peligro y potencial destructivo por su enorme capacidad para evocar imágenes en nuestro cerebro. Si escuchan habitualmente la radio o podcasts saben perfectamente a lo que me refiero.
La clonación de voz ya se está normalizando y no siempre para bien. Mejor dicho: todo lo que se inventa para el bien podrá ser usado para el mal, más pronto que tarde. Su potencial para interferir en los procesos electorales es, en mi opinión, mayor que el de los deepfakes o la desinformación corriente. Aún no tenemos medios eficaces para defendernos de ella ni se ha regulado su uso: puede ser útil para aprender idiomas o para agendar citas médicas, pero supone un riesgo muy elevado para las democracias.
La crisis de la verdad
La verdad está en crisis. Los hechos sólo los conocemos por los sentidos, y si se burla el oído y la vista, que son nuestras principales vías de conocimiento de lo existente, estamos más expuestos que nunca a la mentira y la estafa. En su ya célebre “Infocracia”, Byung-Chul Han advierte sobre la crisis de la verdad: vivimos, a su juicio, en un universo digital y por tanto “desfactificado”, del que han desaparecido ya, junto con las verdades fácticas, “el mundo común”.
Necesitamos la verdad. Vuelvo a Infocracia, donde se cita el concepto de verdad de Nietzsche, “una construcción social que sirve para hacer posible la convivencia humana”. Vista la relevancia de la verdad para la convivencia y la necesidad que tenemos de un cierto consenso en torno a los hechos para poder trabajar con opiniones sobre ellos, es difícil no ver la gravedad de lo que estamos viviendo.
La primera carta de Pedro Sánchez a la ciudadanía tuvo a su partido cinco días en vilo y al país esos mismos días y algunos más en el rincón de pensar sobre lo que pasa con la desinformación. Este debate existía hasta ahora para la academia, la profesión periodística, la comunicación, los jueces y los políticos. Incluso se adoptó un protocolo para combatir la desinformación en 2020. Y, sin embargo, aquí estamos cuatro años después, leyendo la carta del presidente “profundamente enamorado” con la que por fin se ha sabido sacar de la academia el debate y llevarlo a la gente corriente.
Formación en desinformación
Ramón Salaverría, a quien nunca agradeceremos lo suficiente su estudio y esta charla en El Elefante Verde, hablaba recientemente en El País sobre este tema. No era la primera vez que se refería a la necesidad de formar a la población y a los decisores públicos en cómo lo digital ha llevado la desinformación de toda la vida a otra dimensión. La IA la va a llevar aún más lejos, de esto estoy casi segura.
La BBC ha empezado a trabajar en serio en la cuestión y el pasado mes de marzo lanzó esta nueva funcionalidad para ayudar a sus lectores a discernir la veracidad de sus imágenes y vídeos. A través de un botón en la pantalla, te cuenta «cómo verificamos esto», para entender el proceso de verificación que llevan a cabo los periodistas, una especie de making-of de las noticias. Quizá sea necesario que esta nueva funcionalidad se convierta en un estándar, y aún así, habrá quien no quiera creer la verdad.
Vuelvo al filósofo coreano y su “Infocracia”: “La crisis de la verdad es siempre una crisis de la sociedad. Sin la verdad, la sociedad se desintegra internamente”. Y añade: “Las teorías de la conspiración prosperan especialmente en situaciones de crisis […] como microrrelatos que proporcionan aquí un remedio”. No puedo privarme de reproducir también la siguiente frase: “Las teorías de la conspiración resisten a la verificación por los hechos porque son narraciones que, a pesar de su carácter ficticio, fundamentan la percepción de la realidad”. ¿Qué pueden contra esta realidad el sistema de verificación de la BBC o cualquier otro?
Todos podemos ser víctimas de la manipulación
Como puede observarse, no se trata de un debate fácil. A nadie le resulta cómodo asumir que puede ser manipulado por terceros con malas intenciones y herramientas relativamente sencillas. No es porque todos nos creamos más fuertes y más inteligentes de lo que en realidad somos, sino porque nadie nos ha explicado el hecho de que, por inteligente o fuerte que seas, siempre tendrás un punto débil por el que ser atacado.
El único eurodiputado español que ha participado en la recientemente aprobada ley de IA de la UE, Ibán García del Blanco, dice muchas cosas interesantes a raíz de su participación en esta labor legislativa de enorme trascendencia. Entre ellas, una de carácter muy político: el debate futuro (o quizá ya presente) no se polarizará en torno a izquierdas y derechas, sino alrededor de dos polos que nadie habría imaginado hace sólo unos años: el de quienes respetan las instituciones de la democracia liberal y el de quienes no valoran, ni quieren, esa institucionalidad. Tal vez por eso la campaña del Parlamento Europeo para las próximas elecciones tenga tanto que ver con un serio aviso a los jóvenes sobre lo que de verdad suponen las dictaduras y los totalitarismos. Son los jóvenes los que más tiempo van a vivir en la UE que se vota el próximo domingo 9 de Junio, y quienes deberían tener más interés en las elecciones europeas; y sin embargo, son los que más fácilmente se desmovilizan a partir de mensajes para ellos en redes, que son pura desinformación y antipolítica.
En suma, y por ir terminando, es urgente alfabetizar sobre la desinformación que amenaza su seguridad y su libertad para elegir representantes, pero no menos urgente es alfabetizar también, como señala en este tuit Carmela Ríos, a gente mucho menos humilde, concretamente aquella que tiene que decidir quiénes son periodistas y quiénes son, no ya agitadores, sino manipuladores de la voluntad popular.
No se puede regular este tema sin tener un conocimiento profundo sobre qué es y cómo funciona la desinformación en estos tiempos digitales. El problema ahora es saber si quien nos va a regular admitirá su incomprensión de este complejo fenómeno, se sentará a escuchar a los expertos y expertas, y será capaz de regularlo sin atentar contra los derechos fundamentales.
