La constatación sonaba como una ruidosa señal de alarma. Solo algunos años después de la generalización de las llamadas "redes sociales" (que despertaron inmediatos arrebatos de entusiasmo), a fines de la primera década del siglo XXI, un fenómeno empezó a perfilarse. Estas plataformas �no lo habíamos visto bien hasta ese momento� encubrían un vicio bastante enmascarado: la fastidiosa tendencia a ponernos delante de hilos de información, o posteos, cercanos a nuestras sensibilidades que no hacían sino confirmar, a modo de corolario, nuestros puntos de vista. Lejos de la imagen de una plaza de pueblo animada por multitudes variopintas, nos enfrentábamos con máquinas que reforzaban nuestras creencias. Además, estos procedimientos eran capaces de fidelizarnos por la satisfacción de encontrar ecos permanentes de nuestras impresiones subjetivas. Se trataba de un mecanismo que ya había sido señalado esporádicamente antes de que Eli Pariser, un observador de las conductas online, lo teorizara y le diera el nombre de "filtro burbuja" [The Filter Bubble], en una obra epónima publicada en 2011. Muy pronto el concepto se volvió habitual, y para quien lo usara funcionaba como una garantía crítica �en general para aquellos mismos que se entregaban asiduamente al uso de las redes�, mientras que en verdad provenía, si uno lo miraba con detenimiento, de una cierta ingenuidad. Esto obedecía a la idea de que, si se evitaba la trampa, entonces se abriría el camino a un mundo horizontal que ofrecería montones de informaciones instructivas e intercambios enriquecedores al alcance de un clic. Pero en realidad la calamidad que ya estaba germinando �y que no dejaría de crecer para traer severas consecuencias en las psiquis y en la sociedad� no residía en estos efectos de burbuja, sino en otras prácticas, convertidas en compulsivas, de exposición de la propia vida cotidiana y de las propias opiniones ante la mirada de una gran cantidad de personas, todas embriagadas hasta la náusea con los likes y los reposteos. Aparecía así un ethos globalizado que terminaba entronizando la primacía de uno mismo, el vapuleo de los vínculos y la disolución de los puntos de referencia en común.

En verdad, este fenómeno de las "burbujas" era solo uno de los múltiples marcadores �la mayoría estaba en los trasfondos� de lo que se empezaba a tejer alrededor de los años 2010. Se había conferido a los sistemas de inteligencia artificial la tarea de interpretar situaciones y de señalar, en función de ellas, las acciones que debíamos emprender. Habían aparecido máquinas ultra sensibles que podían sostener lazos hiperpersonalizados con cada uno de nosotros en vistas de señalarnos, casi en toda circunstancia, el camino correcto a seguir. Y algunos años más tarde, en 2016, ese principio superó el mero envío de notificaciones, finalmente bastante sumarias, para mostrarnos dispositivos que se dirigían a nosotros en una lengua que sonaba humana: los espacios conectados. Estos habían sido ideados por los grandes grupos de los datos, como Google, Amazon y Microsoft, a partir del conocimiento derivado de nuestros comportamientos. Por primera vez en la historia de la humanidad empezamos a tener intercambios con artefactos de modo relativamente fluido en la vida cotidiana, artefactos que respondían a nuestros pedidos, sugiriéndonos en especial productos y servicios, pero también ejecutando algunas tareas, como reproducir una canción, prender o apagar una lámpara, abrir o cerrar los postigos� Sin embargo, al margen de este brusco salto tecnológico, el registro de sus usos todavía seguía siendo circunstancial, hasta el momento en que, sin previo aviso, aparecieron agentes conversacionales surgidos de procedimientos generativos que les darían una envergadura totalmente diferente, mediante el verbo, a estos asistentes algorítmicos superiormente informados. Esto responde a tres factores.

Primero, ahora estos asistentes virtuales responden a nuestros pedidos ya no mediante frases rudimentarias y ostensiblemente guiadas por objetivos comerciales, sino mediante elocuciones elaboradas de un modo muy distinto. Este es el caso de Gemini o de Bing (los motores de búsqueda de nueva generación que instalaron en el mercado Google y Microsoft respectivamente a partir de 2023). Hay robots que redactan fórmulas parecidas a las que habría podido redactar alguien cercano o un profesional, y esto provoca una impresión de familiaridad que atenúa a nuestros ojos su carácter artificial. Pero a la vez son infinitamente superiores a nosotros, dado que están conectados con todos los saberes del mundo.

Segundo, lo que caracteriza a estas máquinas verbales es que producen discursos dirigidos específicamente a cada uno de nosotros, a nuestros hábitos, a nuestros medios financieros, a nuestros géneros� Incluso atienden a nuestros modos particulares de expresarnos, saben entonces decirnos las cosas valiéndose de palabras que nos pueden convencer a la perfección para después orientar nuestros actos con fines prioritariamente comerciales. Es una retórica automatizada de la influencia que se modula sobre nuestras sensibilidades y tiene un poder de penetración en nuestras psiquis solo alcanzado por las tecnologías digitales. Tercero, estos sistemas están hechos para acoplarse día y noche a nuestras conductas en nombre del permiso que les conferimos y de todos los consejos que nos prodigan. Por ejemplo, nos acercan recetas de cocinas, prácticas para el bienestar, propuestas de mudanza� y entonces ofician como expertos multitareas que se vuelven imprescindibles. Son como super-asistentes, o futuros mayordomos de todos los momentos de la vida, sobre los cuales Sam Altman, cuando se cumplió el primer aniversario del lanzamiento de ChatGPT a fines del 2023, dijo que representaban el nuevo horizonte de aplicación de las IA generativas.

La gran ruptura radica en que se está instaurando otra antropología. Aquello que caracteriza la vocación del lenguaje desde la noche de los tiempos es una tensión doble y contradictoria en todos los aspectos. Por un lado, el lenguaje representa el primer vector de la expresión de la subjetividad y la libertad de las personas y, por otro lado, encarna la instancia por excelencia del poder, de todas sus formas, máximas o mínimas, que se expresan en la voz del rey, en las leyes o en las palabras de autoridad de los padres a los hijos, entre una infinidad de casos. Son dos dimensiones que cada uno de nosotros experimenta continuamente, de forma más o menos alternada, y que nos muestran, de un extremo a otro de este espectro, la literatura y la poesía como tes timonios, en actos puros, de la creatividad y la absoluta singularidad de los autores (al contrario, por ejemplo, de las regulaciones en el mundo laboral, que consideran el más mínimo desborde respecto de lo establecido como algo sujeto a sanción). Y lo que ocurre con este encuentro cara a cara con los sistemas, que hoy promete prorrogarse con los robots conversacionales, es que predomina la segunda dimensión: la generalización de una relación con un régimen lingüístico cuya única finalidad es operar juegos de poder y encuadrar, con diversos fines �y cada vez más imperceptiblemente�, nuestro comportamiento.

Ya no se trata de la era de la biopolítica tal como había sido identificada por Michel Foucault, aparecida en el norte de Europa a principios del siglo XVIII y cuyo proyecto consistía en someter a los cuerpos a marcos disciplinarios y sanitarios definidos para garantizar un buen orden social. Esta filosofía �tras adoptar formas infinitamente múltiples y sofisticadas a lo largo del tiempo� acabó mostrando, mucho más tarde, cómo sus propósitos perdían relevancia para adquirir un cariz completamente distinto como resultado de la intensificación de la digitalización de la sociedad a principios del nuevo milenio. En este sentido, quienes durante la pandemia de covid-19 recuperaron esta noción de biopolítica bastante dócilmente, se equivocaron por completo: lo que ha prevalecido durante los últimos veinte años no fueron los procesos forzados y masivos, sino el uso, para diversos fines, de un conjunto tecnológico capaz de ejercer presión �individualmente, a distancia y sin que lo parezca� sobre las decisiones de las personas, con el objetivo de obligarlas a actuar de una manera y no de otra. Esta es la ruptura principal en la materia, que se produjo debido a la adopción generalizada de sistemas de IA dotados de capacidades de interpretación y sugerencia. Desde su entro nización, ChatGPT y otros modelos similares arrastraron una intensificación �y aún más, una naturalización� de este poder prescriptivo automatizado debido a su capacidad a la vez antropomórfica y enciclopédica. Llamémoslo una gubernamentalidad gramático-artificial, o simplemente un verbo ordenador artificial, que logra la hazaña de no parecerlo en absoluto. Hablamos de una gubernamentalidad entendida en el sentido que le dio Michel Foucault, como "la manera por cuyo intermedio se dirige la conducta de los hombres", y que hoy en día encontraría una actualización sin precedentes en el hecho de ponernos ante la vista máquinas parlantes �animadas por intereses privados y portadoras de una visión de mundo� que desempeñan este rol para nuestro supuesto bien.

[Fotos: Coni Rosman]

Fuente: telam