El diseño del diario online Chicago Chronicle es elegante y atractivo. Destaca la variedad de información, incluso local y su permanente actualización. Sin embargo, una incursión en detalle revela un sorprendente número de noticias provenientes de la agencia rusa RT, periodistas sin referencias ni contacto y noticias duplicadas o inconclusas. En alguna de ellas se aprecia incluso el sello de ChatGPT. Su cabecera indica que lleva publicando noticias desde 1880. Sorprende este dato, ya que el organismo que supervisa los dominios de internet, indica que salió a la luz el pasado 26 de febrero. Se trata de un caso más (son cinco a la fecha en USA) de diarios de noticias falsas, al decir de los investigadores del New York Times. Se trata de un producto de la misma fábrica de troles que ya influyó en las elecciones presidenciales norteamericanas de 2016 y que forma parte de la campaña de desinformación rusa. Ahora, con un salto cualitativo importante, ya que el uso de las nuevas herramientas de inteligencia artificial hace que la información parezca más veraz y específica a la vez, brindándole un aura de completa autenticidad. El objetivo es que estas informaciones salten a las redes sociales y se propaguen velozmente, alcanzando audiencias de miles, si no millones, de lectores.

Todo esto forma parte de un mundo digital, paralelo y ficticio que la tecnología se ha encargado de propiciar y que, como una gran tela de araña, nos atrapa. Además, los algoritmos son difíciles de cuestionar, dada su invisibilidad. Fueron las redes sociales las que iniciaron esta deriva, conformando mundos distorsionados, similares a los de la casa de los espejos que se exhibían en las ferias. Según el CHT (Center for Human Technology) son varias las distorsiones, como la distorsión de la indignación, que se origina cuando los algoritmos de inteligencia artificial amplifican los contenidos moralizantes para fidelizarnos. Pero ocurre aún más con la distorsión emocional, ya que los mismos algoritmos nos bombardean con contenidos emocionales personalizados que nos invitan a pensar que nuestras creencias y opiniones tienen suficientes evidencias como para reafirmarlas. Si las hemos leído en un diario aparentemente serio, como el Chicago Chronicle, más aún. Empezamos a ser moldeados por la tecnología y no al revés.

Aquella deriva continuó con las infraestructuras digitales, que han permitido la visualización de ese mundo incorpóreo de bits y bytes. Drones y satélites mapean lo que se ve desde arriba; sensores y cámaras rastrean la superficie de nuestro horizonte escaneando personas y comportamientos. Todos estos datos permiten recrear mundos digitales en 3D, escenarios en los que se superponen seres también digitales, esto es, avatares. Aunque todo esto existía de forma rudimentaria hace más de 20 años, es ahora cuando la tecnología está creando imágenes y vídeos que difícilmente seríamos capaces de distinguir de los reales. Estos mundos, con atmósferas y avatares perfectos gracias a una gran potencia de cálculo, posibilitan que conceptos como el metaverso despeguen y se popularicen. No estamos lejos de “Ready Player One”, con la diferencia de que serán mundos que constituirán nuestro hábitat natural y no refugios temporales.

Las cámaras juegan un rol importante en esta distopía. La proliferación de ellas en espacios públicos no se circunscribe a USA o China. En Europa también se utilizan masivamente y sus riesgos son evidentes: acoso, extorsión o robo de identidad, por citar algunos. Aunque el flamante nuevo reglamento de la IA europeo prohíbe su uso “en tiempo real”, la protección se antoja insuficiente. Mientras el reconocimiento facial persigue la identificación de un individuo en particular, existe otra técnica llamada reconocimiento emocional, que busca identificar y clasificar emociones a partir de cualquier fotografía del rostro de un individuo.

¿Realmente la cara es el espejo del alma? Aunque no hay evidencia confiable, como muy bien explica la investigadora Kate Crawford en su libro Atlas de la IA, la idea del reconocimiento emocional automático es tan llamativa como lucrativa.

No son pocas las empresas que se han creado alrededor de este negocio, entre las que sobresale Affectiva, que ha almacenado caras con distintas expresiones de más de 14 millones de personas de 90 países del mundo. El 90% de las grandes agencias de publicidad del mundo trabajan con su software de inteligencia artificial, que es capaz de identificar las reacciones ante anuncios publicitarios analizando los rostros. Esto constituye un arma muy poderosa para las agencias, que pueden ecualizar sus mensajes publicitarios para conseguir el mayor grado de satisfacción.

Esta tecnología emocional ya se utiliza en los robots cuidadores de ancianos de Japón, capaces de expresar alegría, felicidad, ira o tristeza y conseguir ser más empáticos con las personas. Ante el envejecimiento de la población española, no es descabellado pensar que acabaremos como en Japón, jugando al parchís con un robot o el holograma de nuestro amigo. Con suerte, si la tecnología no se acelera demasiado, es posible que aún sean incapaces de darse cuenta si le hacemos trampa.