Harari (2024), en su magnífico tratado sobre Inteligencia Artificial, Nexus, expone lo que sigue (páginas 398 y siguientes):
(…) el potencial anárquico de la IA es preocupante porque no solo abre el debate público a nuevos grupos humanos. Por primera vez en la historia, la democracia tiene que vérselas también con una algarabía de voces no humanas. En muchas plataformas de redes sociales, los bots constituyen una minoría nada desdeñable de participantes. Un análisis reciente estimaba que, de una muestra de 20 millones de tuits generados durante la campaña correspondiente a las elecciones presidenciales de Estados Unidos de 2016, 3,8 millones ─casi el 20 por ciento─ fueron generados por bots.
Durante los primeros años de la década de 2020, esta situación no hizo más que empeorar. Un estudio de 2020 estimaba que los bots habían producido el 43,2 por ciento de los tuits que leemos. Un estudio más general realizado en 2022 por la agencia de inteligencia artificial Smilarweb señalaba que, con toda probabilidad, el 5 por ciento de los usuarios de Twitter eran bots, lo que no les impedía generar «entre el 20,8 y el 29,2 por ciento del contenido total publicado en Twitter». Si los humanos intentamos establecer un debate sobre algo tan importante como quién será el próximo presidente de Estados Unidos, ¿qué puede ocurrir cuando muchas de las voces que escuchamos provengan de ordenadores? (…)
Abrimos un paréntesis en el relato de Harari para comentar por nuestra parte ─y ante la sorpresa de las últimas elecciones de los Estados Unidos─ que nos explicamos perfectamente el interés de Elon Musk por hacerse con la plataforma Twitter, ahora convertida en X. Nos vienen a la mente las palabras del profesor Tierno Galván de hace ya muchos años: «Cuando alguien tiene demasiado poder, los demás perdemos libertad». La revolución francesa condensó su programa en «Libertad, Igualdad y Fraternidad», que debemos entender de manera inescindible: sin igualdad no puede haber libertad y sin fraternidad (cohesión y justicia social/estado de bienestar) no puede haber igualdad ni libertad. La mayor parte de la población del amplio centro geográfico de los EEUU, de no elevada formación cultural y política, han resultado fáciles presas de los bots. El resultado es el sorprendente panorama político al que asisten atónitos nuestros ojos. Pero sigamos con Harari.
(…) Otra tendencia preocupante tiene que ver con el contenido. En un principio, los bots se desplegaron para que, a través de la difusión de un gran número de mensajes, acabaran por influir en la opinión pública. Los bots retuiteaban o recomendaban ciertos contenidos producidos por humanos, pero eran incapaces de crear nuevas ideas por sí mismos o establecer lazos íntimos con humanos. Sin embargo, la nueva estirpe de IA generativa, como ChatGPT, sí es capaz de hacerlo. En un estudio de 2023 publicado en Science Advances, los investigadores pidieron a varios humanos y a ChatGPT que crearan una serie de textos breves, tan precisos como deliberadamente engañosos, sobre temas como las vacunas, la tecnología 5G, el cambio climático y la teoría de la evolución. Después, los textos se presentaron a setecientos humanos, a los que se pidió que evaluaran su fiabilidad. En gran medida, los humanos lograron reconocer la falsedad de la desinformación producida por humanos, pero se demostraron propensos a considerar como exacta la desinformación generada por la IA.
Así, pues, ¿qué ocurrirá con los debates democráticos cuando millones ─y, en algún momento, miles de millones─ de bots superinteligentes no solo elaboren manifiestos políticos de lo más convincentes y creen imágenes y vídeos ultrafalsos, sino que también sean capaces de ganarse nuestra confianza y nuestra amistad? Si me enzarzo en un debate online con una IA, no tardaré en darme cuenta de que tratar de cambiar de opiniones es una pérdida de tiempo; al ser una entidad no consciente, la IA no se preocupa lo más mínimo por la política ni puede votar en unas elecciones. Pero, cuanto más hablo con la IA, mejor me conoce esta, lo que le permite ganarse mi confianza, refinar sus argumentos e ir modificando mis opiniones. En la batalla por el corazón y la mente, la intimidad es un arma muy poderosa. Hasta hace poco, los partidos políticos podían llamar nuestra atención, pero tenían dificultades para generar esa sensación de intimidad en las masas. Los aparatos de radio podían emitir el discurso de un líder ante millones de personas, pero no podían hacerse amigos de los oyentes. Hoy, un partido político, o incluso un gobierno extranjero, podían desplegar un ejército de bots capaces de trabar amistad con millones de ciudadanos y de servirse de eta intimidad para modificar su visión del mundo.
Por último, los algoritmos no se limitan a unirse a las conversaciones, sino que cada vez con más frecuencia se encargan de orquestarla. Las redes sociales permitan que nuevos grupos humanos cuestionen las viejas reglas del debate. Pero las negociaciones de esas nuevas reglas ya no las dirigen humanos. Más bien (…) a menudo son los propios algoritmos los que imponen las reglas. En los siglos XIX y XX, el hecho de que los magnates de los medios de comunicación censuraran y favorecieran opiniones pudo haber socavado la democracia, pero al menos aquellos magnates eran humanos y sus decisiones podían someterse al escrutinio democrático. Permitir que unos algoritmos inescrutables decidan qué opiniones se deben difundir es mucho más peligroso.
Si bots manipuladores y algoritmos inescrutables acaban por dominar la conversación pública, el debate democrático fracasará justo cuando más lo necesitamos. Precisamente cuando debemos tomar decisiones trascendentales acerca de estas nuevas tecnologías de rápida evolución, la esfera pública se encontrará inundada de noticias falsas generadas por ordenador, los ciudadanos no tendrán muy claro si están debatiendo con un amigo humano o con una máquina manipuladora y no se llegará a un consenso acerca de las reglas básicas del debate o de los hechos fundamentales. Este tipo de redes de información anárquicas son incompatibles con la verdad y el orden, y no pueden mantenerse durante mucho tiempo. Si acabamos en una anarquía, el paso siguiente consistirá en el establecimiento de un a dictadura que sucederá cuando la gente acceda a trocar su libertad por algún tipo de certeza. (…)
Terminemos estas líneas de Harari, con un comentario frívolo: ¿de verdad que, gracias a los bots, pensamos que el debate sobre la libertad consiste en votar a quien dice que la libertad consiste en poderse tomar una caña de cerveza?
Nexus
Una breve historia de las redes de información desde la Edad de Piedra hasta la IA
Yuval Noah Harari – Editorial Debate. 608 páginas