The social dilemma: nada nuevo y falta de soluciones

Me ha sorprendido la reacción del público ante el nuevo documental “The social dilemma” (“El dilema de las redes” en castellano) de Netflix, porque realmente no cuenta nada nuevo. Probablemente sea el tono de película de terror que ayuda a que la gente por fin se plantee por unos instantes qué está haciendo con su tiempo e información personal, en lugar de rechazarlo directamente como alarmista o conspiranoico. El metraje tiene un punto bastante sensacionalista, y contiene fallos de documentación tanto en la perspectiva internacional como en detalles menores como cuando afirma que “las redes sociales se percibieron siempre como una amenza, cosa que no pasaba con, por ejemplo, las bicicletas”… lo que también es falso. Siendo un producto destinado principalmente a Estados Unidos, cumple su función de dar a conocer el problema de los productos de las grandes tecnológicas más allá de las filtraciones de datos, y lo hace de forma divulgativa aunque sesgada.

Cartel de "The social dilemma"

El modelo de la economía de atención, llevado al extremo en una situación ubicua como la que se da al tener nuestros dispositivos móviles siempre con nosotros, puede tener efectos negativos en la psicología por la técnicas de manipulación que emplea. El uso de diseños no éticos llevados al extremo por la automatización suele ir seguido, como no, clásica disculpa de que no se dieron cuenta de las consecuencias de lo que estaban haciendo. También resulta más fácil echarle la culpa a una compañía que sabían perfectamente que usaban unos sistemas algorítmicos nocivos pero que producían grandes beneficios, y aún más cómodo creerles cuando dicen que van a arreglarlo con algún algoritmo de inteligencia artificial: el abuso de esos algoritmos dejados en manos de Inteligencia Artificial y no supervisados, que dan tan buenos resultados para maximizar beneficios económicos, es precisamente lo que nos ha llevado aquí, y usar esa misma idea para solucionarlo difícilmente va a resultar. Dado que en mi trayectoria profesional he trabajado en cuestiones de aplicaciones de gamificación y redes sociales, creo estar capacitada para tener una opinión bastante sólida al respecto de este tema, y la solución no puede ser simplemente delegada a la IA o cualquier otra palabra que esté de moda en el mundo de los negocios: se necesita gente, educación y ética.

La tecnología es algo maravilloso: nos abre un montón de puertas para facilitarnos nuestro trabajo diario. De por sí son solo un montón de piezas, que no son ni buenas ni malas. La ética en el montaje de esas piezas debe venir de los desarrolladores y testers, que revisan el diseño e incluso pueden negarse a implementarlo en caso de resultarles perverso (aunque eso evidentemente tiene un riesgo de cara a mantener el puesto de trabajo), pero también es importante que el usuario final sea lo suficientemente espabilado para darse cuenta de si están jugando con él, y si debe usar ese servicio o no.

El concepto de las aplicaciones de mensajería existe desde hace muchísimos años. Las redes sociales tampoco inventaron nada: solo juntaron una serie de elementos que ya existían en agregadores RSS, chats y foros, y los pusieron juntos en un bonito envoltorio, que no requería que el usuario tuviese conocimientos de cómo funcionaban por debajo, y luego los fueron vallando progresivamente (quitar el soporte RSS de los feeds públicos, obligarte a registrarte para poder ver leer contenido más allá del primer pantallazo…). La decisión de entrar en él (en muchos casos como resultado de técnicas de growth hacking) y que la información quedase atrapada (el sistema hace lo más difícil posible exportar los datos) allí es siempre del usuario, y al cabo de un tiempo comenzaron a apretar aún más tus botones con el FOMO (Fear of Missing Out, miedo a que pierdas la oportunidad): mis amigos ya no me mandaban un correo electrónico con fotos de la última vez que quedé con ellos, sino que me mandaban un enlace a Facebook (y en España mientras Facebook no tuvo interfaz en castellano, a Tuenti). No lo voy a negar, me molestaba no poder acceder y tener que molestarles diciendoles “envíame el archivo de foto, no un enlace”, pero jamás me abrí una cuenta en esos servicios porque ya existían servicios que cumplían esa función sin complicarme el recuperar mi información para tenerla fuera de ellos, además de evitarme perder tiempo. El sentimiento de “poder reencontrarte con tus amigos del colegio y mantener el contacto” tampoco funcionaba: no tenía interés en ver cómo se reproducía el esquema de “patio de colegio” en un espacio digital con toneladas de anuncios. Además ya tenía los correos electrónicos de aquellos con quien me interesaba seguir hablando, y combinando eso con chats XMPP a los que te podías conectar por aplicaciones libres de anuncios, foros de temas concretos en los que se compartía información, o pudiendo usar un servicio de correo desde Thunderbird que te quitaba todos los anuncios del correo web, ¿por qué torturarme y perder tiempo?

En consecuencia, no me sumergí seriamente en esta cuestión hasta que el mundo laboral me llevó a tocó desarrollar servicios en Twitter, y con la migración de la API 1.0 a 1.1 la cosa empezó a oler mal también allí: en el momento que comenzaron a experimentar con el orden del feed (información que te mostraban en pantalla, originalmente con actualizaciones en orden cronológico), que distorsionaba los mensajes que intentaban transmitir en hilos, al perderse completamente el contexto. Además en medio de esa distorsión se añadían elementos patrocinados que “estaban relacionados” y añadían más ruido, pero para que eso funcionase correctamente y la gente viese lo patrocinado debían evitar que los usuarios accediesen al contenido mediante sistemas que te protegiesen de esos cambios y mantuviesen la señal clara: Twitter comenzó a cerrar progresivamente el acceso a aplicaciones de terceras partes que mantenían el orden cronológico y sin influencias. Desde el origen de esa red social me he negado a usar su interfaz porque está diseñada para hacerte perder la mayor cantidad de tiempo posible en ella mediante el uso de patrones oscuros, y por la naturaleza en aquel entonces abierta del servicio, teníamos la opción de usar otro cliente, pero con el fin de desarrollo de Twicca, la caída de gwiber, y que los correos de menciones dejasen de contener la mención para ser un familiar mensaje de “entra a ver esa mención”, mi uso de esa red pasó a un estado moribundo. A partir de ese momento tomé la decisión de buscar una alternativa que no jugase conmigo: desconecté las notificaciones a correo (si no aportan nada, son correo basura) y pasé a entrar solo desde navegador una vez al mes para revisar menciones y mensajes directos de una pasada, lo que me suele llevar menos de 10 minutos. Lo mismo me pasó con Pinterest, que pasó a ser un “bonito tablón digital con fotos y enlaces de interés” que consultar cuando necesitase a un montón de contenido que no solicité, cerrado al público mas allá del primer pantallazo y sin opción de cliente alternativo, con lo que en ese caso directamente borré la cuenta. Twitter me “es necesario” por cuestiones profesionales y tiene la ventaja de que el límite de caracteres ayuda a que cuando me contacten sean concisos en lo que necesitan; en cambio las otras redes me resultan  superfluas y reemplazables.

Para mi, el factor clave es que en cuanto notas que pierdes mas tiempo del que deberías en una aplicación por cuestiones no significativas, debería saltarte la alarma interna. Y si eso sucede, pregúntate “por qué”, o “qué ha cambiado”. La respuesta tiende a ser la misma: la introducción de un nuevo sistema de monetización. Su negocio real es la publicidad segmentada: recopilar la mayor cantidad datos de los “usuarios” para poder clasificarlos, y venderles tu atención a anunciantes para los que seas receptivo. En consecuencia, su interés es mantenerte dentro su terreno vallado la mayor cantidad de tiempo posible, minando tus datos (qué miras, por cuánto tiempo, si respondes a ese contenido) y consumiendo anuncios, (tanto los descarados como camuflados en las aplicaciones como contenido con los llamados microinfluencers, personas relativamente populares a los que se les paga por hablar de tal o cual producto, dando una imagen de confianza sobre el mismo), y así tu atención es vendida al mejor postor gracias a los datos qué obtengan de ti. Esa subasta carece de supervisión ética o moral, porque el algoritmo que la supervisa tiene como único objetivo hacer dinero: como necesitan qué sigas allí pegado en un ciclo de proporcionarles datos y consumir anuncios, los algoritmos de recomendación te presentaran contenido que cada vez será mas tendencioso, hasta llegar a un punto de ir directamente a escandalizarte para mantener tu atención (YouTube y Netflix por ejemplo son 2 servicios alucinantes si los dejas un tiempo en modo automático) y aumentando la burbuja de información al retroalimentarse.

El primer problema que se obvia completamente en el documental, es que hay un problema subyacente de educación. Si no hay sentido crítico ni supervisión mínima (la escusa de los nativos digitales es un clásico en este asunto), se es completamente vulnerable a estas tácticas y no hay consciencia de que cómo se va polarizando tu flujo de información recibida. En cambio el programa salta directamente al tema de las fake news (noticias falsas) y cómo estas se han disparado aún mas durante la Pandemia para meter miedo.

El segundo y mayor problema del es que tampoco trata posibles soluciones a nivel individual, porque existen alternativas más allá de esperar a que las grandes tecnológicas se sientan benevolentes para arreglarlo. Quizás sea porque este documental está en Netflix, que tiene un algoritmo de recomendación bastante interesante, y probablemente no esté interesado en que sus suscriptores empiecen a bloquearle su recopilación de datos 😈 . Por mi parte yo puedo señalar las siguientes:

  • Uso de servicios libres: el software libre es por definición más ético. El de código abierto debe revisarse porque puede contener componentes opacos que no controlas, ¡ten cuidado con el Openwashing! Aunque este software puede tener en muchos casos una interfaz menos atractiva (fíjate por donde, ¡al final esto va a ser una ventaja asegurándote que no está manipulada para que pases más tiempo allí!), y requerirte algo más trabajo, tienen la gran ventaja de que tú tienes el control. Existen redes sociales libres, que te dan un servicio similar que no contiene algorítmica secreta ni patrones de diseño nocivos. Migrar y conseguir que tus contactos migren da mucha pereza, pero deberías considerar hay alternativas para casi todo… ¡Y además sin vallas que bloqueen el contenido! Es más, puedes incluso tener tu propio servidor, teniendo soberanía total sobre tus datos, y pudiendo elegit si conectarlo a otros (tal como puedes mandar un correo electrónico de gmail a outlook, o yahoo, o tu propio servidor personal), o no (puedes tener una red social cerrada solo a tu familia).
  • Usar un programa cliente alternativo al oficial (preferentemente de Software Libre o Código Abierto que hayas revisado), desarrollado por una tercera parte: esto te coloca una capa extra entre la algorítmica y tú, teniendo un uso “más limpio” de esos servicios de correo en sobremesa o móviles, chat o redes sociales. Por desgracia estas opciones escasean cada vez más porque las grandes tecnológicas pueden intentan bloquear dichos accesos alternativos para que forzarte a usar su producto oficial bajo control algorítmico, y así monetizarte.
  • No navegar por Internet teniendo una sesión de un servicio web abierta. Haz lo que tengas que hacer en el servicio, sal, limpia las cookies, sigue navegando. Evita usar Chrome y derivados, que tienden a mandar datos a Google de serie, o úsalo exclusivamente para los servicios de Google. Mientras escribo esto, la alternativa mayoritaria es Mozilla Firefox, que posee sus propias extensiones oficiales para aislar rastreos masivos, como por ejemplo Facebook Container.
  • Usar el servicio desde un navegador web con bloqueadores de publicidad y rastreo: esto ayuda a evitar la recupilación de datos de “shadow profiles” (si, Facebook recopila tus datos aunque no tengas cuenta con ellos y aceptado sus condiciones),  y combatir los “contenidos recomendados” que distraen tu atención ayuda a no perder tanto tiempo, pero no te protege de los patrones oscuros de diseño. Mis recomendaciones como extensiones de navegador son uBlock origin y privacy badger.
  • Desconectar las notificaciones en tu dispositivo móvil si no son fundamentales: configúralas solo para contactos verdaderamente relevantes. Si la aplicación no te lo permite, deberías considerar usar otra aplicación que sí posea esa opción. Reduce interrupciones y vuelve a ser dueño de tu tiempo.
  • Recordar que si es algo que “desaparecerá muy rápido”, probablemente no es muy interesante a largo plazo. El formato “stories” (actualizaciones que caducan en 24 horas) es directamente FOMO en estado puro para intentar dejarte pegado a la red. Además recuerda que ese formato no es seguro: si algo está Internet por un tiempo limitado se puede grabar perfectamente con un capturador de vídeo de streaming y en consecuencia  guardar para la postreridad. No vayas a subir algo de lo que vayas a arrepentirte, y menos a LinkedIn.
  • Tú debes decidir siempre qué es lo siguiente que quieres ver: evita la reproducción automática o “lo siguiente recomendado por el algoritmo”. Si lo haces un día como experimento en YouTube y vas anotando los vídeos que van saliendo, fíjate en cuanto tiempo se empieza a desviar de tu intención original y en qué momento pasa a ser tendencioso. En caso de que encuentres algún video de contenido preocupante, puedes reportarlo a Mozilla para que tome acción.
  • En casi de poder seguir a la fuente de información desde su propio sitio en lugar de desde un tercer actor que no supervises, hazlo. Los agregadores de RSS te permiten tener el contenido ordenado cronológico y sin manipulación, esperándote para cuando tú tengas un momento sin presionarte continuamente con avisos.
  • Y lo más importante de todo: contrastar con fuentes de información alternativas, a las que accedas directamente desde su web, no mediante un sistema recomendador. Está bien que busques en Google, pero no te quedes con el resultado de 0 clicks: mira un par de enlaces, y luego repite la operación en otro buscador “sin burbuja” como DuckDuckGo o Qwant, mirando a su vez varios enlaces de los que te presenten como respuesta. Tu mundo será más grande y tu opinión más amplia y sólida.

Mi intención escribiendo esto no es decirte que uses o dejes de usar una plataforma, sino que lo hagas mientras puedas evitar que, como dice Richard Stallman, “the users become useds” (los usuarios pasan a ser los usados). Si pensándolo fríamente consideras que ese servicio no puede ser utilizado de forma sana y beneficiosa para tí, o no logras acceder de una forma alternativa que garantice esos mínimos, ¡reemplazalo y elimínalo! Si tienes dudas frente un contenido que recibas, ¡pide una segunda opinión garantizando que viene desde otra fuente! Tu salud y bienestar tanto físico como mental valen más que un falso sentido de conexión, proporcionado por un sistema que te mina a ti para obtener un producto (tus datos), que venderá a un tercero a un alto precio para su lucro.

2 respuestas a “The social dilemma: nada nuevo y falta de soluciones

  1. clibreio 14 octubre, 2020 / 15:27

    Esta claro que no cuenta nada nuevo, pero lo cierto que esa forma de contar, sensacionalista, alarmista, e imprecisa en muchos casos ha provocado que gente a la que no le interesan estos temas vean el documental.

    Muy interesantes tus reflexiones y recomendaciones!

Responder

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Cerrar sesión /  Cambiar )

Google photo

Estás comentando usando tu cuenta de Google. Cerrar sesión /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Cerrar sesión /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Cerrar sesión /  Cambiar )

Conectando a %s

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios .