Maldito algoritmo: ¿estamos consumiendo lo que queremos o lo que nos vende el contenido?

¿Nos gusta lo que nos gusta porque lo elegimos o porque las redes sociales lo dicen? Una mirada sobre los sistemas de recomendaciones online y su impacto en la cultura.

Un análisis crítico sobre cómo funcionan los sistemas de recomendación online actuales, cuál ha sido su evolución y cómo inciden en nuestros gustos y hábitos cotidianos indica que estamos entrando en una era de “ansiedad algorítmica”.

Según el periodista Kyle Chayka, autor del libro Filterworld, que explora el impacto de la tecnología algorítmica en la cultura, constantemente estamos negociando con estos sistemas, preguntándonos si realmente hubiéramos elegido eso, algo que nos deja agotados y ansiosos.

Chayka da numerosos ejemplos en distintas industrias, desde cómo hemos perdido el gusto por descubrir música por cuenta propia de manera orgánica hasta cómo se crea la moda actualmente: diseñadores humanos que son reemplazados por consultoras de tendencias y motores de búsqueda online promoviendo el fast fashion y a los influencers.

¿Estamos comiendo lo que queremos o lo que nos vende el contenido? ¿Qué recetas estamos replicando? Observo rápidamente las tendencias de TikTok y eso me deja un sabor bastante amargo. La fórmula se repite: más se viraliza el posteo, más lo muestra el algoritmo, más personas lo ven y piensan que tienen que replicar exactamente eso para tener éxito. Por eso, lo primero que podemos hacer para salir de este loop infernal es tomar conciencia”, escribe la cocinera y blogger @lujan.mv, haciendo referencia a la homogeneización de los contenidos también en lo culinario.

Breve historia de los sistemas de recomendación

Un algoritmo es, matemáticamente hablando, un conjunto de pasos para realizar un cálculo, sea una fórmula compleja para determinar si una foto coincide con un rostro real o algo más simple, como una suma. Hoy en día es importante entender que cuando hablamos de algoritmos con relación a los gustos, nos referimos a los tan mentados sistemas de recomendación, que se vienen empleando desde el arribo de las computadoras personales.

Y aunque podríamos pensar en la televisión o en las revistas gráficas como las “viejas influenciadoras” manipulando nuestros deseos, lo cierto es que en la actualidad prácticamente cualquier plataforma web usa algún tipo de recomendación algorítmica, lo que se ha convertido en un modelo tecnológico que, aparte de más ubicuo, es mucho más potente y, por ende, digno de ser observado de cerca.

Fue recién a mitad de la última década que estos sistemas ganaron popularidad y se volvieron una parte intrínseca de nuestras vidas, gracias a que las redes sociales (Facebook, Instagram y Twitter) y otros sitios, como Spotify y ahora TikTok, comenzaron a emplearlos para organizar su contenido, determinar la disposición de las publicaciones en el feed y sugerir contenidos similares a los usuarios.

Recordemos que en la prehistoria de las redes sociales, los feeds eran cronológicos y los contenidos se veían por orden de aparición y no por lo que determina con base en criterios opacos (y que cambian todos los meses) un algoritmo.

Modelos de negocio como el de Netflix volvieron el “arte de la cyber-recomendación” un agregado de valor, introduciendo interfaces “personalizadas” que buscan recomendarte algo, anticipándose a lo que podrías querer ver.

Asimismo, modelos de negocio como el de Netflix volvieron el “arte de la cyber-recomendación” un agregado de valor para servicios de streaming en cualquiera de sus formas, introduciendo interfaces curadas y “personalizadas” que buscan recomendarte algo que podría gustarte, anticipándose a lo que podrías querer ver o escuchar.

Todo esto, en conjunto con el crecimiento de disciplinas como el neuromarketing, que busca explotar técnicas de las neurociencias para el marketing y la venta de productos (aprovechando tanto la extracción de datos del usuario como el análisis de los niveles de emoción y atención evocados por las publicidades), hizo que las tecnologías se volvieran menos transparentes y previsibles.

Y, como todo, estos cambios con los que muchos crecieron siendo nativos digitales y otros aprendimos a asimilar terminaron por naturalizarse y, por tanto, volverse casi invisibles. El caso paradigmático presentado hace una década en los medios, “How Companies Learn Your Secrets”, fue acerca de cómo Target, una cadena minorista, podría haber estado haciendo data mining para crear un modelo de predicción de embarazo, de manera de enterarse antes que un padre que su hija de 17 años estaba embarazada.

Otro caso icónico de los últimos años en términos de extracción de datos del usuario –y uso para publicidad totalmente gratuita– es el famoso Wrapped de Spotify (los resúmenes anuales), en el que la compañía hace claro uso de nuestra información personal para seguir construyendo su imagen y afianzarse en el mercado, como han señalado numerosos activistas en favor de los derechos civiles y la privacidad.

Spotify ha hecho un gran trabajo convirtiendo la vigilancia del marketing en algo divertido; la gente no solo participa de su propia vigilancia, sino que además la celebra y comparte, alardeando al mundo”, explicaba la periodista Amanda Hoover en una nota reciente de Wired. Lo más irónico de todo es que sabemos que nos están espiando y usando nuestros datos a su favor, pero aun así la aplicación se sigue utilizando y, de hecho, cada año es más popular.

Un caso icónico en términos de extracción de datos del usuario –y uso para publicidad totalmente gratuita– es el famoso Wrapped de Spotify (los resúmenes anuales), en el que la compañía hace claro uso de nuestra información personal para seguir construyendo su imagen.

Cultivar un buen grado de escepticismo

Lo cual nos trae al problema actual, que quizás no lo sea tanto, como desarrollaba una extensa editorial de The New Yorker (“La era de la ansiedad algorítmica”): el poder desconfiar de aquello que se nos ofrece o sugiere como lo más acertado o mejor para nosotros y, fundamentalmente, aprender a cuestionar las tecnologías que nos rodean y el uso que les estamos dando.

“Más que de ansiedad algorítmica, podríamos hablar de conciencia algorítmica. Sabemos que existen los algoritmos, a veces los criticamos, a veces los domesticamos. Les decimos: ‘No me muestres más esto’, por ejemplo. Una estudiante me dijo una vez: ‘Instagram siempre sabe quién me gusta y me lo muestra primero’. Ahora muchas personas están compartiendo en redes su año en Spotify, moldeado, en parte, por algoritmos, así que además los algoritmos pueden ayudarnos a descubrir rasgos o gustos personales”, sugiere Eugenia Mitchelstein, profesora de la Universidad de San Andrés y coautora del flamante libro El entorno digital.

¿Si somos lo que consumimos, entonces acaso los algoritmos se estén revelando como nuevas formas de autoconocimiento o pequeños oráculos modernos? Tal vez no sea para tanto, lo que es seguro es que detrás de las tecnologías siempre hay humanos, por eso es importante cultivar una dosis saludable de escepticismo, buscando estrategias para moldearlas o hackearlas.

Algunos están volviendo a maneras más analógicas de experimentar la cultura (ya se habla de una vuelta pospandemia a lo analógico, ver The Future is Analog, de David Sax); otros, volcándose a plataformas y aplicaciones menos masivas y más respetuosas, y otros, a tiempos más simples de la web (la vuelta de Flickr, el crecimiento de servicios como Glass o Discord, el slow internet).

Al final del día, con cada recomendación de un colchón, un disco o un par de zapatillas nuevas, vale recordar que el “culpable” no es solo el algoritmo, sino también un modelo de negocios y tecnocultural basado en la extracción y utilización de nuestros datos y tiempo, del que participamos, a veces, gustosamente.

Artículos Relacionados>

Por El Planeta Urbano
El "metalúrgico de la moda", como lo bautizó Coco Chanel, marcó a una generación con su visión radical de la moda y su estética singular. Símbolo de la revolución en el diseño, es también reconocido por la creación de fragancias que dieron la vuelta al mundo.
Por Tomás Gorrini

A 2 años de su lanzamiento, la plataforma de alquileres temporales cuenta con más de 35.000 usuarios registrados y está presente en los destinos turísticos del país. Las claves del crecimiento: pagos en pesos, en cuotas, sistema antifraude e identidad argentina.

Por El Planeta Urbano

El cometa C/2022 E3 (ZTF), que pasó por última vez por la Tierra hace 50.000 años, volverá a acercarse a nuestro planeta. Su aproximación será mañana y podrá observarse a simple vista, sobre todo en horas de la mañana.

Por El Planeta Urbano

La colaboración más inesperada de 2023 entre la firma de la pipa y la joyería de lujo más importante del mundo dio como resultado "un par legendario" que saldrá al mercado próximamente y valdrá 400 dólares. 

Por El Planeta Urbano

Una moda inesperada pero consecuente con los tiempos asoma: disociar las bebidas alcohólicas del encuentro social y la diversión. Aquí, las claves del fenómeno y una selección de spots porteños donde experimentar los famosos mocktails.

Por Karina Noriega

El 1 de mayo se celebrará la edición 2023 de la gala anual más esperada, organizada por Vogue. Todos los detalles de uno de los eventos más importantes del calendario de la moda. 

Por El Planeta Urbano

Según un estudio de Pinterest, el Año Nuevo Chino trajo aparejadas en esa plataforma una cantidad notoria de búsquedas (y creación de tableros) relacionados al bienestar, relajar la mente y manifestar propósitos. 

Por El Planeta Urbano

En el barrio de Recoleta, ya se puede disfrutar de esta experiencia multisensorial que fusiona el universo pictórico de Frida con la tecnología.