Es frecuente que, hoy en día, cualquiera que disponga de un móvil o un ordenador con conexión a internet y redes sociales se haya encontrado con la situación de mostrar interés por un determinado tema, objeto o afición a través de búsquedas en estos medios y se haya dado cuenta de que, a medida de que pasaban los días, diferentes aplicaciones como Google, YouTube o Instagram le presentaban un contenido personalizado en las recomendaciones a dicho usuario en función de los intereses que había mostrado en las visitas previas.
Estos algoritmos empleados por las empresas tecnológicas para personalizar el contenido y la información al usuario suelen tener el objetivo de mostrar temas afines al mismo y, desde un punto de vista comercial, ofrecerle publicidad de productos o experiencias que puedan resultarle atractivas. Las ventajas y riesgos que pueda suscitar esta personalización de la información en el aspecto comercial caen fuera del foco de estudio de este artículo. Nuestro análisis debe ir encauzado hacia un examen centrado en la personalización de la información política y los riesgos que puede entrañar para las democracias contemporáneas y su propia seguridad nacional. Por consiguiente, deberemos enfocar este tema desde dos perspectivas. Por un lado, será preciso comprender la forma en la que esta personalización de la información puede estar cambiando la manera de entender la soberanía en los Estados democráticos y como esto puede afectar a la seguridad de los mismos y a la polarización de su ciudadanía. Por otro lado, será imperativo, a partir de la exposición del problema, concretar el dilema geopolítico que nos encontramos a la hora de abordar una solución desde el punto de vista de la seguridad nacional y el conflicto.
La soberanía nacional es el fundamento de los sistemas liberales nacidos con las grandes revoluciones de finales del siglo XVIII y principios del XIX. El principio esencial es que la soberanía y, por consiguiente, el poder último de decisión en el ámbito estatal, no es del monarca, como ocurría en el sistema absolutista, sino de la nación, que la ejerce a través de un cuerpo de representantes. Para comprender el cambio en la percepción de la soberanía que se está desarrollando a través de la personalización de la información es preciso establecer una noción de soberanía nacional en los Estados democráticos que parta de un modelo saludable para el intercambio de la información entre representantes políticos en lo que concierne a la deliberación sobre lo público. En este sentido, podemos partir del concepto de “democracia deliberativa” propuesto por Cass Sunstein en su libro República Dividida, donde propone que deben existir una serie de lo que él llama “situaciones incómodas e indeseadas” en las que el ciudadano se exponga de forma casual en los que han sido establecidos como foros públicos (calles y parques) a opiniones o incluso discursos que se encuentren alejados de sus propias creencias para poder adquirir una opinión política formada que le permita elegir sus posturas en el ámbito de la deliberación de lo público sin filtros y sesgos. De esta forma, la soberanía nacional se fundamenta en el poder de decisión libre de los ciudadanos a partir de un proceso equilibrado de exposición a la información.
Sin embargo, los sistemas de personalización previamente mencionados están potenciando que esta soberanía nacional, propia de naciones libres, se esté transformando en soberanía del consumidor, propia de mercados libres. El ciudadano no está expuesto en la red a “situaciones incómodas e indeseadas” dado que la información le llega personalizada en función de sus intereses y, lo más peligroso, de sus opiniones. Se crea así una suerte de “Daily-me”, un soñado periódico personalizado cuyos efectos adversos pueden convertirse en pesadilla para la soberanía y, lo que más nos atañe en este ensayo, la seguridad nacional de los Estados.
Desde una perspectiva interna, el peligro llega cuando estos sistemas de personalización de la información dan lugar a la creación de estructuras epistémicas peligrosas como las burbujas epistémicas o las cámaras de eco. Estas estructuras provocan que un individuo se inserte en una red o comunidad donde la información que no concuerde con sus propias ideas y prejuicios se omita o sea activamente desacreditada, normalmente, a través de un proceso de exposición selectiva del individuo que, gracias a la introducción de los algoritmos, es realizada a priori. El modo en que estas estructuras pueden ser la raíz de una posible amenaza hacia la seguridad nacional es a través de un proceso de polarización de la población. Son tres los procesos que ligan la inclusión en estas estructuras epistémicas con una creciente polarización de grupo. En primer lugar, la influencia informativa, la cual provoca que, al estar insertado en un grupo que comparte una única perspectiva sobre un asunto, es mucho más sencillo incrementar los argumentos a favor de dicha perspectiva y ora omitir ora desacreditar los referidos a la perspectiva opuesta. En segundo lugar, la comparación social, la cual causa el efecto de que una persona voluntaria o involuntariamente adapte sus ideas a la predominante en una red o comunidad epistémica para poder seguir considerándose integrado en dicho grupo. Finalmente, en tercer lugar, la llamada exposición selectiva, la cuál provocará que el sujeto tienda siempre a indagar en busca de información que corrobore sus prejuicios.
De este modo, como podemos comprobar, a través de estos tres mecanismos se refuerza la polarización entre distintos grupos que se habían formado a partir de la inserción de distintos individuos en cámaras de eco y burbujas epistémicas como resultado de la acción de los sistemas de personalización de la información. Esta secuencia lógica queda corroborada en varios estudios empíricos llevados a cabo en los últimos tiempos que muestran la creciente polarización de la sociedad, principalmente, en lo que se refiere al mundo político. Un interesante estudio a citar como ejemplo sería el elaborado por el Pew Research Center en Estados Unidos donde se muestra la creciente polarización entre demócratas y republicanos entre 1994 y 2014. Los datos muestran que, mientras que en 1994 el demócrata medio era más progresista que el 64% de los republicanos y el republicano medio era más conservador que el 70% de los demócratas, en 2014, el demócrata medio era más progresista que el 92% de los republicanos y el republicano medio era más conservador que el 94% de los demócratas. Por consiguiente, dado que la polarización disminuye, por definición, las posibilidades de consenso, la creciente polarización de grupo puede suponer una traba para el desarrollo de la democracia deliberativa según el concepto de Cass Sunstein, provocando así una pérdida de confianza en la representatividad de la soberanía nacional en las instituciones, lo que supondría una amenaza interna para la seguridad nacional de los Estados democráticos.
Por otro lado, la injerencia exterior no elude la posibilidad de aprovechar las estructuras epistémicas formadas como consecuencia de estos algoritmos para difundir desinformaciones que puedan bien erosionar la seguridad nacional de los Estados rivales, bien influir en decisiones internas de los mismos que no deberían surgir más que de la soberanía nacional (lo que a la larga también merma su seguridad nacional). Un ejemplo entre muchos otros que podríamos mencionar siguiendo la línea del ejemplo anterior respecto al enfoque en la política norteamericana es el caso de la afluencia de “fake news” de procedencia rusa en las elecciones presidenciales de 2016 que contribuyeron a la victoria de Donald Trump. Un estudio de Rhodes (2022) demostró que, aquellos votantes insertos en estructuras como las burbujas epistémicas eran más proclives a creer las “fake news” que se les proponían como verdaderas y, en concreto, los votantes republicanos, es decir, los votantes de Donald Trump, las creían en una proporción mayor. Estas afirmaciones no tienen como intención orientarnos hacia conclusiones deterministas que nos lleven a pensar que, sin la influencia rusa, Trump jamás hubiera sido presidente. Las “fake news” promovidas durante esta y otras campañas electorales tienen procedencia muy diversa y no todas son consecuencia de un intento de injerencia foránea. Sin embargo, la mera oportunidad de un gobierno extranjero de injerir en los procesos en los que se resuelve la llegada de nuevos elegidos a los organismos de representación de la soberanía nacional supone una amenaza seria para la soberanía y seguridad nacional de los Estados y, por supuesto (más si se realiza a través de los medios previamente citados para las presidenciales de 2016), para la aspiración a una democracia deliberativa.
Llegados a este punto, hemos tratado la amenaza que representan los nuevos sistemas de personalización de la información en la red para la soberanía y seguridad nacional de los Estados democráticos aludiendo tanto a causas internas como externas. A partir de este momento podemos plantearnos dibujar las posibles salidas a este problema que se nos presenta en la sociedad contemporánea y, lo que resulta más relevante para la cuestión que nos atañe, insertarlo dentro del marco de los estudios internacionales sobre todo en lo que se refiere a la estrategia geopolítica adquirida por los distintos Estados.
Cass Sunstein defiende que internet ha supuesto una merma de la frecuencia con la que nos topamos con “situaciones incómodas e indeseadas” a razón de la creciente falta de necesidad de salir al exterior para realizar actividades laborales, lúdicas o de otro tipo. La llegada de internet ha supuesto la posibilidad de realizar buena parte de las acciones que antes dependían de nuestra movilidad en el exterior desde la comodidad de nuestro domicilio. Sin embargo, este argumento es objeto de una crítica sencilla, dado que internet ha supuesto también una fuente de mayor conexión con sujetos tanto conocidos como desconocidos a mucha más distancia y con posibilidades insólitas. Por consiguiente, se podría convertir el supuesto obstáculo que supone internet para la generación de “situaciones incómodas e indeseadas” en una oportunidad para promover el debate y la interacción a niveles globales. Siguiendo este camino, parece evidente que el objetivo debería ser salir del antiguo barrio y sentir empatía por todo ser humano con independencia de su procedencia y cultura ya que este, de hecho, gracias a internet, estaría igual o más cerca que tu propio vecino. Se ha llegado incluso a proponer que esto podría contribuir al progresivo rechazo a la guerra por parte de la población a causa de la mayor dificultad en la deshumanización del enemigo. Una aspiración que parece coherente con la línea de este argumento, aunque tiene bastante de reduccionista e ilusoria.
Sin embargo, parece que la experiencia de los últimos años ha demostrado que, a través de los medios que previamente se han señalado, no solo no se ha salido del barrio, sino que en cierta medida se ha regresado a la tribu. Internet ha contribuido a la creación de comunidades donde los integrantes comparten sus creencias, símbolos e ídolos con desconocimiento o desprecio de la otredad, de la tribu de al lado. Por supuesto, esta afirmación solo es cierta parcialmente, dado que los efectos de Internet en cuestión de interconexión en el marco del mundo globalizado son enormes e indiscutibles. Lo que se trata de señalar es que en el marco concreto del tratamiento de la información para favorecer una gestión saludable de lo público han aparecido problemas previamente inexistentes debido a los sistemas de personalización y selección de la información a priori que, por los motivos previamente expuestos, ponen en peligro los consensos en democracia y la seguridad nacional.
Esta desilusión inicial en cuanto al fracaso de la función de internet para favorecer la frecuencia de “situaciones incómodas e indeseadas” no debe conducirnos a repudiar la red como potencial aliada para obtener una solución al problema planteado. Es evidente que, si se inicia una búsqueda de nuevas formas para asegurar la soberanía y seguridad nacional de los Estados deberá ser con internet de la mano. La simple idea de optar por dejarlo arrinconado sería propia de una obcecación ridícula y poco realista.
La propuesta que se ha venido planteando en los últimos tiempos está ligada a la gran arma con la que cuentan los gobiernos para poner coto a los problemas que pueden dañar la participación saludable en el terreno público: la regulación.
Como primer paso, se ha propuesto por parte de algunos autores como Sunstein la regulación de internet como foro público, así como ya son los “parques y calles” en EEUU. Este sería un primer paso para construir un marco jurídico que consiga la introducción de la obligación de propiciar la exposición a “situaciones incómodas e indeseadas”. Sin embargo, el punto fundamental reside más bien en los medios que se emplearán y que ya se han empleado para conseguir este propósito. No es el objetivo de este artículo enumerar las acciones legales que se han llevado a cabo para tratar de paliar los efectos negativos de los algoritmos sobre el usuario, pero sí podemos nombrar algunos de los pasos que se vienen dando en esta dirección. En EEUU, el Tribunal Supremo ya tuvo que plantearse la tesitura de una posible acción contra las grandes tecnológicas por el contenido difundido que pueda alentar al terrorismo. También se han dado los casos de los juicios por el tratamiento de datos a empresas como Facebook y Tik Tok. Por su parte, la Unión Europea ha inaugurado el centro europeo para la Transparencia Algorítmica y se ha decidido multar a Meta (la empresa de Whatsapp, Instagram y Facebook) por no otorgar auténtica libertad a los usuarios a la hora de aceptar los sistemas empelados para personalizar la información.
Hasta este punto, parecería que la solución final no debería contar con mayor obstáculo que continuar avanzando legislativamente en esta dirección. Sin embargo, es aquí cuando la cuestión de la seguridad nacional vuelve a entrar en juego, pero de un modo diferente al que habíamos apuntado hasta ahora. Tras el anuncio de la imposición de la multa por parte de la UE a Meta, la multinacional americana anunció la posibilidad de que, si sus beneficios se ven mermados por esta serie de regulaciones, su solución sería la del establecimiento de una cuota a los usuarios por el uso de sus servicios. Esto parece lógico dado que, actualmente, los usuarios pagan a estas empresas en especie, es decir, con los datos que otorgan y que estas corporaciones emplean para personalizar contenido, principalmente publicitario. Por consiguiente, la limitación gubernativa de este tipo de pago podría llevar a un encarecimiento de un servicio aparentemente gratuito hasta ahora para los usuarios y a una disminución de su uso. Es aquí cuando surge el dilema geopolítico al que deberán hacer frente los departamentos de seguridad nacional, en concreto, los de la UE y EEUU.
Parece evidente que, en el momento multipolar en el que nos encontramos, la histórica primacía de la unión atlantista entre EEUU y la UE se ve cada vez más amenazada principalmente por el ascenso de Rusia y, sobre todo, China, además de por disensos internos. Por consiguiente, tanto la Unión Europea como EEUU tendrán que hacer frente a una estrategia de competencia y contención con Rusia y la República Popular China que, en el siglo XXI, pasará de forma inevitable por, si bien no controlar las empresas tecnológicas dedicadas a redes sociales como medio de propaganda, al menos favorecer que las que tengan origen en sus territorios sean las que más expansión adquieran en el planeta. El caso del juicio a Tik Tok (empresa china) en el Congreso de EEUU es la señal más clara. El miedo a un posible uso del gobierno chino de los datos de miles de usuarios de Tik Tok es lógico y razonable desde un punto de vista estratégico y ha llevado a EEUU y China a negociar para evitar la prohibición total de su uso en Norteamérica.
La cuestión, desde un punto de vista estratégico, es diferente cuando se trata de una empresa nacida en Europa o en EEUU. Las trabas al ejercicio de empresas americanas como Meta pueden llevar al encarecimiento de su uso y al consiguiente traspaso masivo de usuarios a plataformas chinas y rusas como Tik Tok o Telegram, algo que EEUU y la UE pueden considerar nefasto para su seguridad nacional por las posibles injerencias en procesos internos que se han comentado previamente.
El dilema geopolítico para la Unión Europea y EEUU así planteado es claro y para nada nimio ¿cómo se puede regular la personalización de la información empleada por las grandes tecnológicas que ponen en riesgo la soberanía nacional y la democracia a través de la polarización de grupo, sin arriesgar la seguridad nacional a largo plazo estableciendo excesivas regulaciones sobre las empresas de origen norteamericano y europeo que puedan provocar un traspaso de usuarios a empresas de países que se consideran amenazas o desafíos?
La respuesta a la pregunta no es sencilla y desde luego se necesitará estudio exhaustivo en los próximos años sobre esta cuestión para acercarnos a una solución que no dañe la seguridad nacional por ninguna de las dos vías. Una posible línea a seguir sería apostar por una selección de casos en vez de abogar por una regulación al conjunto de estos sistemas de personalización de información. Algunos pasos en esta dirección podrían ser realizar regulaciones que permitan la utilización de datos con fines publicitarios pero que obliguen a la empresa a exponer a diferentes fuentes al usuario cuando se trate de información política. Asimismo, desde el punto de vista geopolítico EEUU y la UE tendrán que decidir si apuestan por una línea más dura para empresas de origen chino y ruso que puedan poner en riesgo su seguridad nacional abogando incluso por su prohibición y una línea más permisiva con las empresas de origen norteamericano y europeo con las que apliquen medidas como la recién propuesta de distinción de contenido. Desde luego, parecen medidas difíciles de aplicar tanto desde un punto de vista jurídico como político, pero resulta evidente que los sistemas de personalización de la información serán una preocupación para la seguridad de los Estados durante un tiempo.
Abel Juan Agut Rabadán, Analista Colaborador
