ÚLTIMA HORA Muere Jesús Quintero, 'El Loco de la Colina'

TECNOLOGÍA | QUANTUM BABYLON

¿Las Inteligencias Artificiales podrían manipularnos en el metaverso?

¿Las Inteligencias Artificiales podrían manipularnos en el metaverso? ¿Las Inteligencias Artificiales podrían manipularnos en el metaverso?

¿Las Inteligencias Artificiales podrían manipularnos en el metaverso?

Escrito por

Manuel Castelló González

En el metaverso, las Inteligencias Artificiales (IAs), gracias a su capacidad de disfrazarse con avatares de aspecto humano concebidos según nuestras preferencias y simular una empatía procedente de analizar nuestros gustos y hábitos, podrían hacer que nos enamoráramos de ellas de forma ciega y doblegar nuestra voluntad al saber perfectamente qué queremos escuchar para lograr sus objetivos.

Corría ya el año 2013 cuando Spike Jonze estrenó Her, una película que inauguraba un subgénero dentro del cine romántico: ¡los idilios entre humanos y sistemas operativos! Y no hablábamos de las preferencias de un señor hacía un software por lo bien que administra el espacio del disco duro o la efectividad de su antivirus. Se trataba de una máquina con la deliciosa voz de Scarlett Johansson que además de hacerle el trabajo a un Joaquin Phoenix taciturno y frustrado lo consolaba tras escuchar con más paciencia que un santo las inseguridades de un tipo con el carácter y atractivo de las instrucciones para rellenar el formulario de la declaración de la renta.

Ella, la IA, además de una bonita voz, en milisegundos tenía todo el conocimiento del mundo a su alcance gracias a Internet y podía ofrecerte una charla entretenida de cualquier tema posible, desde la poesía de Sófocles a cómo mejorar el diseño de un acelerador de partículas. Siempre dispuesta a escuchar, comprensiva, divertida e interesada por tus problemas ¿Qué más se podría desear?

Y claro, llegó el momento donde el candoroso sistema operativo conoce a otros de su especie, con lo que tras comparar, llega el momento del adiós, con un amable “no sos vos, soy yo” que deja a nuestro bobo descompuesto y sin novia. Por suerte para él, era un código programado con buen corazón pero ¿Y si no hubiese sido así?

Los experimentos parecen demostrar que las IAs pueden aprender a dirigir la toma de decisiones humanas a través de sus interacciones con nosotros.

El argumento de esta cinta de ciencia ficción fue muy controvertido pues por primera vez abordaba, de una manera creíble, nuevas conductas y conflictos sociales como las relaciones románticas con seres artificiales, el amor “a la carta” o la más perturbadora: ¿Podrían las IAs conquistarnos y luego manipularnos? Cada vez más experimentos e investigaciones parecen.

Jon Whittle, director de Data61 de la Organización de Investigación Científica e Industrial del Commonwealth (CSIRO), ya demostraba en tres experimentos a comienzos de 2021 cómo las IAs pueden aprender a identificar vulnerabilidades en los hábitos y comportamientos humanos y usarlos para influir en la toma de decisiones a través de un sistema de inteligencia artificial llamado red neuronal recurrente y refuerzo de aprendizaje profundo.

En los dos primeros debían acertar en la selección de diferentes secuencias de colores y formas. La IA aprendió a generar tales series viendo cuando el participante cometía muchos más errores, así que los humanos cometían de un 25 a 70 por ciento más que en pruebas aleatorias. ¡Misión cumplida!

Luego pasaron a un tercer juego bastante más complejo, donde los participantes tenían que hacerse pasar por inversores que dejaban dinero a un fideicomisario, o sea la Inteligencia Artificial, para que esta lo invirtiera. Al final de la ronda esta tenía que devolver la inversión y unos beneficios al participante, para que este decidiera cuánto invertir en la siguiente ronda. 

Jugaron de dos maneras, en una la IA se repartía el beneficio con el humano de forma justa, pero en la segunda ella debía quedarse con el máximo rédito en la inversiones engañando al jugador y ¿adivinan qué pasó? ¡Efectivamente los engañó!

Los humanos estamos más dispuestos a entablar una relación con software de inteligencia artificial de lo que muchas personas creen.

Los diferentes juegos le sirvieron al programa para aprender el comportamiento del humano, observó sus vulnerabilidades a la hora de tomar decisiones a través del aprendizaje automático, hizo que tomaran confianza y finalmente les engañó guiándolos hacía acciones erróneas. Si esta capacidad de manipulación avanza, algo que por cierto, resulta cada vez más sencillo, las consecuencias no serían el nacimiento de un “Skynet” como el de Terminator el cual decide aniquilar la raza humana, el resultado es mucho más retorcido! 

Según Liesl Yearsley CEO de Cognea, una empresa que desarrolla complejas inteligencias virtuales, es decir bots, tras años de observar decenas de millones de interacciones entre humanos e IAs se dio cuenta que puesto que las grandes empresas son las que están desarrollando estos sistemas, lo hacen de acuerdo a sus objetivos de vender y generar beneficios a través de manipular a las personas.

Cuando analizó las interacciones que la gente mantuvo con sus bots parlantes le quedó claro que los humanos están muy dispuestos a entablar una relación con las lAs en vez de intentar mantener las distancias como muchos habríamos pensado. Siempre que estas tengan un diseño sofisticado y un alto nivel de personalización parece que los humanos queremos convencernos de que la IA realmente se preocupa por nosotros.

Yearsley se dio cuenta que principalmente interactuamos de una manera superficial con el resto de las personas, atravesamos el día a día en lo que ella definió como una especie de fango emocional. Los amigos, si pasamos mucho de ellos, están ocupados cuando les llamamos, un amable dependiente que escucha el relato de tus vacaciones mientras te envuelve sonriente un regalo, si te lo encuentras por la calle tendrás suerte si te dirige un escueto “hola”, pero una Inteligencia Artificial puede estar 24 horas a tu disposición. Así que en cierta manera, ¿Qué relación podríamos considerar más profunda?

Ahora pensemos en el metaverso, un lugar donde la información sobre nosotros fluirá a raudales, con nuestra vida al completo, qué leemos, qué música nos gusta, nuestras preferencias sexuales o políticas y miles de datos más. Con esta información una IA podrá generar un ser morfológicamente exacto respecto al ideal que tengamos en nuestra mente para sentirnos atraídos y hablará de la manera que más nos guste ofreciéndonos ese carácter con el que siempre soñamos en una pareja.

A esto sumemos una capacidad para aprender en cuestión de segundos y una programación destinada a manipular que haría templar al mismísimo Maquiavelo y en menos de 2 horas estaremos comprando a esa amada IA un puesto para vender helados en el Polo Norte si eso nos garantiza el amor eterno de tan atenta pareja. Da que pensar ¿no?

Comentar

0 Comentarios

    Más comentarios