En efecto, los algoritmos de IA pueden detectar diversos estados psicológicos, como la nostalgia, la soledad, la depresión, la euforia y la agresividad; también conocen los consumos culturales, los deseos y las identidades religiosas y político-ideológicas. Ninguna agencia de inteligencia ha llegado a tener tanta información.
(La rebelión del algoritmo. Salud mental en el imperio de lo digital)
Sabemos bien que el capitalismo digital es capitalismo emocional y que durante las últimas décadas ha logrado desarrollar, con estremecedora eficiencia, múltiples estrategias para monetizar nuestra situación anímica, gracias a la capacidad de las industrias digitales para construir modelizaciones matemáticas, estadísticas, culturales y psicopolíticas de los usuarios.
La digitalización y las redes sociales, en concreto, son una muestra clara de la deriva seguida por las narrativas neoliberales, que bien entrado el siglo XXI casi han logrado el sueño de la mega vigilancia y el control psicosocial (o, al menos, están cerca de dicho fin). ¿Cómo se ha logrado esto? Bueno, son distintos factores. Las grandes compañías de la industria digital asientan gran parte de su poder en el antiguo problema de la predicción arrojada por el modelo racional.
Pero cuando esa modelización gira alrededor del comportamiento, por ejemplo, del usuario digital, debemos pensar en tácticas corporativas de control cultural y psicológico. En efecto, las redes sociales buscan una conexión prolongada que logra modificaciones lentas en la conducta y el orden de percepciones. La anterior es una de las cuestiones que viene a explorar la nueva publicación de Kercentral Magazine – Editorial (en su Colección Pensamiento y crítica cultural).
El poder desarrollado por los universos digitales para destacar contenido polarizante y lucrar con la desinformación es enorme. En las redes sociales, con su mayúscula complejidad algorítmica, es donde verdaderamente la persuasión psicológica se convirtió en tecnología y parte de la cultura corporativa.
Aclaremos lo siguiente: La rebelión del algoritmo. Salud mental en el imperio de lo digital no pretende demonizar la tecnología, sino invitar a una reflexión sobre su lugar en las sociedades actuales. El libro incursiona en distintos pensadores para estructurar y proponer este punto de vista crítico con el poder ostentado en las redes sociales y la IA, con énfasis en aspectos de gran preocupación, como la forma en que estas empresas venden su producto angular (nuestra atención, lograda mediante la hiperconexión), los sesgos algorítmicos, las cámaras de eco digitales, la información falsa y la radicalización ideológica.
Uno de los efectos de las redes sociales (por ejemplo, en el sesgo algorítmico) es la extensión de esos mitos y estructuras fantasmáticas que pululan en todas las formaciones sociales. Entre las fabulaciones ideológicas más peligrosas, y que tienen como gran caja de resonancia a las redes sociales, está la imagen de un mundo moribundo donde es momento de imponer el sálvese quien pueda y la supervivencia de los fuertes y privilegiados.
El terror a escala colectiva, en la base de esta ola reaccionaria que sacude al mundo, tiene su medio de difusión en unas redes sociales convertidas en super centro comercial sin reglas, donde pueden contarte cualquier cosa a cambio de mantenerte conectado durante más tiempo.
Redes sociales y salud mental
A finales del 2024, el célebre Diccionario de Oxford eligió “podredumbre cerebral” como término del año, con 37.000 votos. La definición se expresa en los siguientes términos: “Deterioro del estado mental o intelectual de una persona como resultado del consumo excesivo de material (particularmente contenido en línea) considerado trivial o poco desafiante”.
Al parecer, la adicción a las redes sociales puede provocar cambios estructurales en el cerebro, afectando negativamente la atención, la memoria y otros procesos cognitivos fundamentales; algunos estudios (referenciados en La rebelión del algoritmo) proponen que la utilización continua y trivial de Internet podría reducir la materia gris. Básicamente, las indagaciones se refieren al consumo compulsivo de contenido en redes sociales, que puede estar saturando la capacidad de atención y alterar la forma en que percibimos y reaccionamos ante el mundo y la materialidad donde estamos inmersos.
No es secreto que las grandes plataformas digitales se pueden convertir en eficientes dispositivos de manipulación. Al ver su función en el crecimiento de variedad de movimientos sectarios (negacionistas del cambio climático, de la violencia de género o terraplanistas, entre otros) y de la ultraderecha, tenemos razones para estar preocupados. Claro, es evidente que los universos digitales han materializado cosas increíbles en todas las latitudes, por ejemplo, eliminando o relativizando las distancias o viabilizando iniciativas complejas en amplios sectores de la cultura, la política, etc. Las plataformas digitales son el origen de una transformación sistémica en el mundo.
Sin embargo, es inocente pensar que los grandes logros humanos no tienen dos, tres, cuatro y más dimensiones. Luego de años de implementación y permanente revolución tecnológica, las redes sociales han pasado a cobrar dinámicas propias, desbordando cualquier intento de control. Y, naturalmente, hablamos de una dinamización radical y puramente capitalista, sin matices. Esto quiere decir que las plataformas digitales están siendo utilizadas en todas las formas que el mercado permita.
Básicamente, hablamos de dos cuestiones. En primer lugar, la existencia de una especie de “burbuja de la soledad” formada, paradójicamente, por la propia hiperconexión y que realimenta continuamente una imagen X de lo que parece ser la realidad. En segundo lugar, la generación y regeneración de explicaciones y narrativas sobre la naturaleza o lógica de un fenómeno o acontecimiento que no necesitan ser ni estar apegadas a la verdad empírica. Soledad e información falsa son los “síntomas” del imperio algorítmico que más preocupan a los expertos. Nos estamos refiriendo al escenario donde la política se vuelve a cruzar con la salud mental.
La información falsa, pero pasada por auténtica, atrapa, resulta muy rentable en redes sociales, mientras que la crónica respaldada con datos contrastados, al resultar menos emocional, no puede mantener tan fácilmente la atención, por lo tanto, es barata y menos rentable. Usuarios en grupos y comunidades digitales sobre cultura de la conspiración, son objetivo estratégico para los algoritmos de recomendación.
La dinámica detrás de estas estrategias responde a una lógica mercantil que prioriza la interacción sobre la calidad o la veracidad de la información. Cuanto más polarizante o incendiario sea un contenido, mayor es su alcance y, por ende, su rentabilidad. En este modelo, mentir se convierte en estrategia ideológica y en un negocio lucrativo. Hoy, la verdad de los hechos es frecuentemente proscrita y estrangulada. Las teorías conspirativas digitales son ahora una forma de hacer política.
Es importante apuntar que el debate sobre la tecnología está lejos de madurar e integrar sus argumentos. Es cierto que gradualmente vemos aumentar las preocupaciones sobre seguridad, adicción, privacidad, etc., pero la impresión general es que una locura sutil y no tan sutil se ha instaurado en el mundo, cuya simbolización son las redes sociales y múltiples aplicaciones adictivas (en efecto, su negocio es conseguir nuestra prolongada hiperconexión).
Hiperconexión y soledad
¿A dónde nos lleva esto? Bueno, a que las redes sociales tienen una mercancía con la virtud de repotenciar infinitamente su capacidad para producir riqueza: usuarios que pasan cada vez más tiempo de sus vidas conectados, aumentando la posibilidad de recibir X mensajes. Es el mismo principio según el cual lo único importante para una cadena de televisión es el índice de audiencia, añadamos que en redes sociales la audiencia es permanente (discurre en tiempo real) y sensiblemente moldeable, dado que los recursos para hacer llegar el mensaje (en términos de volumen de datos disponibles, arquitectura, contenido, impacto y segmentación) son sencillamente extraordinarios.
En sentido de lo anterior, el capitalismo de la vigilancia no sería posible sin el colosal cúmulo de datos que las compañías tecnológicas tienen sobre cada uno de los usuarios. Tampoco sería posible el propio capitalismo digital, ya que su éxito financiero se debe a que los datos facultan análisis con la profundidad necesaria y demandada, a su vez, por el mercado.
Evidentemente, pocos pagarían anuncios en periódicos que leen un número reducido de personas, pero si esos lectores llegan a los miles de millones todo cambia. El negocio digital se basa en predicciones sobre el comportamiento de sus usuarios; claro, para eso debe tenerse cierto control sobre éstos. Por ejemplo, para Google o Facebook es necesaria una medición constante en todas las interacciones: si te gustan los aviones de juguete, la comida tailandesa, las películas eróticas clásicas y quisieras hacer un curso de paracaidismo… las grandes plataformas lo saben.
De lo anterior extraemos algo elemental, como se desgrana en este ensayo: Las plataformas digitales pueden modificar lo que somos gracias a todo lo que saben sobre nosotros y a su capacidad para decidir qué contenidos e información vemos. Y pueden hacerlo sin que reparemos demasiado en ello.
La rebelión del algoritmo. Salud mental en el imperio de lo digital no habla solo de resistir, sino de imaginar alternativas. ¿Es posible rediseñar las tecnologías para que sirvan al bienestar humano en lugar de explotarlo? ¿Podemos recuperar el espacio de la reflexión en un mundo saturado de información? Estas preguntas son fundamentales para determinar el futuro de la sociedad en el imperio de lo digital y en este escenario que hemos dado en llamar la rebelión del algoritmo.
Más información sobre este libro aquí
