Se habla siempre de China como país pionero en estos sistemas de puntuación social que controlen el comportamiento y, en función de este, otorguen calificaciones a los ciudadanos, también son cosa de Europa y Estados Unidos.
Clasificar, organizar, etiquetar; vigilar, castigar, premiar... son impulsos muy humanos y, a la vez, actividades en las que se basan todos los gobiernos, independientemente de su tipo y época. Ya en la sátira política que es Gulliver en Liliput, el autor describe un sistema sociopolítico organizado sobre la base de una recompensa dual: el premio y el castigo. En Vigilar y castigar, Michael Foucault nos habla de cómo surgen formas de control de los individuos que les imponen docilidad, denominadas disciplinas, y su relación con la economía del castigo.
Estos principios se encuentran ahora, gracias al desarrollo de las tecnologías analíticas y de big data, en posición de dar un salto cualitativo. Sistemas que controlen el comportamiento y, en función de este, otorguen calificaciones a los ciudadanos, que les permitan acceder o no a determinados beneficios, nos acercan a un estado de vigilancia perfecta. Se habla siempre de China como país pionero en estos sistemas de puntuación social, pero lo cierto es que en Europa y Estados Unidos la introducción de estas técnicas también está en el debate público.
En qué consisten estos sistemas y qué aplicaciones tienen
Explicándolo de forma breve, un sistema de crédito social o puntuación social es un sistema basado en datos que registra, controla y evalúa los comportamientos de una población. Dicha población puede estar compuesta por los clientes de una compañía, los vecinos de una ciudad o los ciudadanos de un país. El primer caso es habitual desde hace décadas, pero la implantación de sistemas similares por parte de instituciones públicas genera mucha más inquietud.
Este tipo de sistemas se basa en tres pilares. El primero, el registro y control de los comportamientos. El segundo, la evaluación y clasificación de los individuos en función de esos comportamientos. Y el tercero, la aplicación de penalizaciones y recompensas derivadas de esa evaluación.
El registro y control se efectúa tomando datos relativos al comportamiento público, pero también privado, del individuo. Multas de tráfico, impago de impuestos, deudas, infracciones en el transporte público o de las ordenanzas municipales (arrojar basura, fumar en el Metro...), pero también la participación en actividades de voluntariado, la solvencia como consumidor, el respeto por la propiedad o el cuidado de familiares enfermos. A ello puede añadirse la información recabada en redes sociales y por cámaras de videovigilancia, o las evaluaciones de jefes, caseros y autoridades. Y por supuesto, su lugar de residencia, la situación familiar y el puesto de trabajo.
Formar parte de una lista negra supone serias dificultades para comprar una casa, pedir un crédito o encontrar trabajo, puesto que los bancos y compañías tienen acceso a estas listas.
A la hora de evaluar esos comportamientos, los sistemas de “social score” suelen partir de una puntuación inicial, a la que se suman o restan puntos en función de si la información recabada presenta un valor negativo o positivo. Por ejemplo, si te pillan colándote en el autobús, pierdes puntos; si colaboras con una ONG local, los ganas. Suele haber un límite mínimo y máximo de puntos, entre los que fluctúa la calificación de cada individuo.
Finalmente, y quizá este sea el punto más polémico de estos sistemas, a raíz de la calificación se establece un programa de premios y castigos. El procedimiento es, en esencia, similar al de los conocidos programas de fidelización y recompensa que ofrecen numerosas compañías, desde telecos hasta supermercados. Las dos grandes diferencias estriban en que aquí no solo hay premios, también castigos; y que, al estar implementados y gestionados por el Estado, el alcance de las recompensas y las penalizaciones es mucho mayor. Las ventajas pueden ir desde créditos virtuales para gastar en actividades lúdicas y culturales promovidas por entidades públicas o comercios colaboradores, hasta privilegios a la hora de acceder a servicios públicos: educación, sanidad, empleo, transporte, vivienda...
En cuanto a las penalizaciones, suelen ir asociadas a las restricciones para realizar determinadas actividades o acceder a ciertos servicios. Por ejemplo, te pueden prohibir viajar en avión o tren, desplazarte al extranjero o alojarte en los grandes hoteles. Pero también limitar la velocidad de tu conexión a Internet, negarte préstamos bancarios, vetar el acceso a escuelas de prestigio o impedir que te contraten para empleos de alto nivel. En muchos casos, el “castigo” va asociado a la “falta”: la prohibición de viajar se aplicaría a aquellos a los que han pillado fumando en el avión o colándose en el tren; la limitación de Internet, a los que difunden noticias falsas o pasan demasiado tiempo enganchados a los videojuegos; la imposibilidad de obtener préstamos, a los morosos, etcétera.
El límite extremo es la inclusión en una lista negra pública, en la cual las autoridades registran a los ciudadanos y empresas que han violado las leyes, normas y regulaciones sectoriales existentes. En el otro lado estarían las llamadas listas rojas o blancas, donde se incluye a las personas y compañías que actúan de forma especialmente respetuosa con la ley y los principios imperantes en la sociedad. Formar parte de una lista negra supone serias dificultades para comprar una casa, pedir un crédito o encontrar trabajo, puesto que los bancos y compañías tienen acceso a estas listas.
Los proyectos pioneros en China
A pesar de lo mucho que se habla de ellos, los sistemas de puntuación social todavía no son una realidad extendida, pero sí en expansión. El primer país donde se ha planteado implantar un sistema de este tipo es China, pero a diferencia de la idea que predomina en Occidente sobre el mismo, a día de hoy no es un sistema que abarque la totalidad del país ni de las actividades de sus ciudadanos, sino más bien un conjunto de sistemas parciales.
El "Proyecto de Planificación para el Desarrollo de un Sistema de Crédito Social (2014-2020)" del Gobierno chino, anunciado en junio de 2014, pretendía desarrollar este sistema en todo el país a partir de 2020. Sin embargo, a mediados de 2021 las estimaciones hablaban de que solo se habían implantado unos 70 proyectos piloto, principalmente en las grandes ciudades y las zonas más pobladas. Todavía está por ver cómo se establecerá en el ámbito rural, donde viven 544 millones de personas, el 37% de la población.
La ciudad de Rongcheng, de 740.000 habitantes, situada a 800 kilómetros al Este de Pekín, ha sido la pionera en desarrollar un mecanismo de puntuación para sus ciudadanos, que parte de 1.000 puntos y va sumando para recompensar las buenas conductas públicas y los resta por las acciones contra la comunidad, por lo general infracciones de la ley. He Junning, subdirector de la Oficina de Gestión del Crédito Social de Rongcheng, explicaba a Foreign Policy que “cualquier cosa que influya en los puntos debe estar respaldada por hechos oficiales, con documentos oficiales”. Parece pues un sistema más reactivo que proactivo.
Esto daría un poder casi omnímodo al Estado sobre el futuro de las personas y crearía un conjunto de ciudadanos y empresas de segunda categoría, marcados por su baja puntuación social.
En cambio, sí existen sistemas de crédito social plenamente desarrollados en el ámbito financiero. Por ejemplo, Ant Financial desarrolló en 2015 el Zhima Credit o Sesame Credit para Alibabá, un grupo empresarial que ofrece servicios de ecommerce, pagos electrónicos y almacenamiento en la nube y tiene 960 millones de usuarios. Zhima Credit recoge los datos del usuario y elabora un Credit Score con información como las compras hechas con Alipay, la profesión y residencia, los pagos de facturas y con tarjetas de crédito y los retrasos en los mismos, o el número de amigos que usan el sistema. De hecho, Zhima Credit tiene una componente social-gamificada, animando al usuario a compartir su Credit Score con sus amigos, como si del Candy Crush se tratase.
Su rival Tencent dispone por su parte de Tencent Credit, un sistema similar que genera bases de datos principalmente a través de WeChat, un servicio de mensajería instantánea que ha ido ampliando su oferta de servicios incluyendo el sistema de pago móvil WeChat Pay. La cuestión es que muchas entidades -bancos, compañías de transporte e incluso el Gobierno- usan los datos de Zhima Credit para efectuar sus propias calificaciones. Por lo que una puntuación baja o alta puede influir en las facilidades a la hora de conseguir un visado o viajar al extranjero, por ejemplo.
¿Se producirá el salto desde estos sistemas locales y sectoriales a uno estatal que abarque todos los ámbitos de la vida ciudadana? Ese parece ser el plan y, a la pregunta de cómo será ese modelo de crédito social, por el momento tenemos algunas respuestas.
A priori, el Shèhuì Xìnyòng Tǐxì o Sistema de Crédito Social chino se basará en los principios citados: a mejor comportamiento, más puntos; a más infracciones, menos puntos. Si se establece una puntuación base, una mínima y una máxima, la situación del ciudadano variaría en función de si se va acercando a una u otra.
De esta manera, entre las recompensas para los buenos ciudadanos que se barajan estarían la preferencia al conseguir una plaza en la universidad o un puesto de trabajo, facilidades de crédito, descuentos en el transporte público y en el alquiler de coches y bicicletas, reducción de la espera para acceder a la sanidad o a una vivienda pública, e incluso desgravaciones de impuestos y más posibilidades de ascender en el trabajo.
Por el contrario, una persona que vulnere las normas y pierda puntos podría encontrarse con dificultades para, por ejemplo, acceder a prestaciones sociales o usar servicios públicos, llegando incluso al veto para trabajar en el sector público, la denegación de licencias y permisos de actividad económica o las restricciones a la hora de viajar. Algunas de estas restricciones se aplicarían tanto a personas físicas como jurídicas (empresas).
Por último, ¿qué sucede si un individuo o una compañía comete faltas muy graves o acumula numerosas infracciones del orden social? Si su puntuación cae por debajo del límite mínimo, entraría a formar parte de una lista negra denominada “lista de entidades de escasa confianza”. Las consecuencias, sobre todo en el campo laboral y de los negocios, serían serias: resultaría difícil encontrar un empleador o un inversor que quiera firmar un contrato con alguien considerado “de escasa confianza” por las autoridades. Aunque el carácter nacional chino, mucho más reverente con la autoridad que el europeo, facilita la aceptación de un sistema que promete más seguridad y menos corrupción, son muchas las voces que alertan de que esto daría un poder casi omnímodo al Estado sobre el futuro de las personas y crearía un conjunto de ciudadanos y empresas de segunda categoría, marcados por su baja puntuación social.
Europa y EEUU, la reticencia y los “consumer scores”
Las noticias sobre la implantación del Sistema de Crédito Social chino se utilizan habitualmente por parte de dirigentes y medios de comunicación occidentales para atacar al Gobierno del rival asiático, al que acusan de totalitario. Se diría que en las democracias liberales, muy garantistas de la libertad individual, estamos a salvo de este tipo de métodos. Sin embargo, la idea de palo-zanahoria para mantener la paz social que implican estos sistemas resulta atractiva a diversas instituciones en Europa y Estados Unidos.
La puntuación social en EEUU es más comercial que política y la llevan a cabo compañías privadas en lugar del Gobierno, pero la posibilidad de verse excluido de los servicios de una aseguradora, de un banco o de una compañía de taxis por un mal paso son reales
En la Unión Europea, la nueva Ley de Inteligencia Artificial prohíbe expresamente aplicar los algoritmos de inteligencia artificial para la vigilancia biométrica masiva y para gestionar sistemas de puntuaciones o crédito social, impidiendo aprovechar el potencial de la IA para monitorizar y evaluar los distintos aspectos de la vida de las personas, la UE confía en preservar los derechos fundamentales de los ciudadanos cerrando la posibilidad de que las autoridades puedan valorar la confiabilidad de los mismos.
Sin embargo, el pasado mes de marzo, en Italia se publicaba una noticia que contradice esta reticencia europea al crédito social. El Ayuntamiento de Bolonia, ciudad de 400.000 habitantes al Norte del país, anunciaba el lanzamiento del Smart Citizen Wallet. Esta “billetera ciudadana inteligente” recompensará con puntos a aquellos que reciclen correctamente sus residuos, usen el transporte público a ahorren energía. “Empezaremos con un proyecto piloto para la ciudad: en el centro está el ciudadano virtuoso, el que, por ejemplo, clasifica bien los residuos o no derrocha energía, o utiliza el transporte público y no es multado, o siempre está activo con la tarjeta de bienvenida de Bolonia". El ayuntamiento les dice a estas personas: "Te vamos a dar una puntuación como parte de una recompensa circular con beneficios económicos para los usuarios individuales”, declararon desde el ayuntamiento, encabezado por Matteo Lepore.
La iniciativa, enmarcada en el Plan de Innovación Digital 2022-2024 de la ciudad, apunta que los puntos podrán canjearse por bonificaciones, como descuentos en compras y servicios en comercios locales, actividades culturales gratuitas... Según el Corriere di Bologna, la aplicación, de uso voluntario, será lanzada este otoño. En Roma, por su parte, una iniciativa similar se encuentra en una fase experimental. En principio, solo se habla de recompensas para los “ciudadanos virtuosos”, pero no se dice nada de castigos, lo que hace al sistema menos agresivo para la opinión pública y los garantes de los derechos fundamentales. Queda por ver si estos sistemas irán extendiéndose por otras ciudades de Europa.
En Estados Unidos, por su parte, no existe un sistema de crédito social estatal propiamente dicho. Pero sí existen los “consumer scores”, calificaciones de consumidores efectuadas por empresas privadas poco conocidas que, sin embargo, trabajan con compañías mucho más grandes, según el New York Times. Estas empresas rastrean las operaciones de los usuarios de aplicaciones y plataformas como Airbnb, Yelp o Coinbase para recopilar y analizar datos con los que elaboran puntuaciones comerciales individualizadas que venden a otras compañías. Del valor de este “consumer score”, explica el diario, dependerá la atención dispensada ante una reclamación o una devolución de un artículo.
Asimismo, las compañías de seguros tienen en cuenta las publicaciones en redes sociales de sus clientes para determinar sus primas y una firma llamada PatronScan ofrece a los propietarios de bares y restaurantes una base de datos de clientes potencialmente conflictivos, según informaba Fast Company. Y los sistemas de valoración de Uber y Airbnb son parte de la vida cotidiana desde hace años. Como vemos, la puntuación social en Estados Unidos es más comercial que política y la llevan a cabo compañías privadas en lugar del Gobierno, pero la posibilidad de verse excluido de los servicios de una aseguradora, de un banco o de una compañía de taxis por un mal paso son reales.
¿Distopía o justicia?
Queda visto, pues, que los sistemas de puntuación o crédito social van tomando forma en diversas partes del mundo, avanzando entre la reticencia de los defensores de la igualdad y la privacidad, y el deseo de seguridad de ciudadanos, compañías y Gobiernos. De hecho, los riesgos y ventajas de estos sistemas suelen argumentarse en torno a esos dos principios.
Para los detractores del crédito social, estos sistemas conducen a un mundo distópico, donde el libre albedrío y el destino de cada persona se ve muy condicionado por unos algoritmos de puntuación alimentados por factores que, en muchos casos, el individuo no puede controlar o corregir. La metáfora más conocida es la que plantea el episodio Nosedive de la serie británica Black Mirror, donde la sociedad está regida por puntuaciones y una mujer que goza de buena reputación empieza a perderla a raíz de un desgraciado incidente con un empleado, precipitándose poco a poco hacia el abismo de las bajas calificaciones para acabar finalmente en prisión.
¿Podría darse este caso en la realidad? En teoría, no, puesto que los sistemas actuales se basan en numerosos factores y no dependen tanto de un único input, como la reputación en una app o una red social. Pero a escala sectorial, un problema como una factura impagada o un conflicto con una compañía telefónica sí puede llevar a una persona a una lista negra de morosos y, como consecuencia, dejarla fuera del sistema de préstamos bancarios o imposibilitarla para para contratar la luz, el gas o Internet.
Si estos sistemas de puntuación se van popularizando y ampliándose a sectores más allá del financiero, especialmente en las instituciones gubernamentales, entonces sí podríamos encontrarnos con una situación en la que la existencia de un individuo se vea muy condicionada por la valoración que el Estado tenga sobre él. A los riesgos derivados de la vigilancia estatal casi omnímoda que se necesita para determinar si alguien es o no un buen ciudadano, se suma la posibilidad de que las autoridades faculten a los ciudadanos para valorarse unos a otros. Ello convertiría el cotilleo y la delación en fuentes de autoridad, e instalaría la paranoia como forma de relación entre amigos, vecinos, compañeros de trabajo...
Aquellos que poseen una mentalidad más innovadora se encontrarían con que la habitual resistencia al cambio puede traerles también un descrédito social en forma de bajas puntuaciones.
Queda además la cuestión de qué criterios se emplean para determinar qué comportamientos son admirables y cuáles condenables. En principio, todos los que favorecen el bien común merecen un premio y los que lo perjudican un castigo. Pero, ¿se limitaría el Estado o el Gobierno de turno a aplicar este principio utilitarista, o añadiría otros criterios para perseguir a los disidentes? El crédito social podría ser muy funcional para los regímenes autoritarios. Llegaríamos a una situación en la que, como en el panóptico diseñado por Jeremy Bentham, el funcionamiento automático del poder estaría garantizado sin necesidad de ejercer ese poder de manera efectiva en cada momento, ya que cada ciudadano se sentiría continuamente fiscalizado, con la espada de Damocles de una puntuación negativa sobre su cabeza en todo instante.
Y sin ir tan lejos, el miedo a salirse de la norma ante la posibilidad de recibir valoraciones negativas haría las sociedades mucho más cerradas. Aquellos que poseen una mentalidad más innovadora se encontrarían con que la habitual resistencia al cambio puede traerles también un descrédito social en forma de bajas puntuaciones por parte de los que prefieren que todo siga igual. Nombrar y avergonzar públicamente es una de las tácticas que se asocian con estos sistemas. El temor constante a la condena al ostracismo se convertiría en algo paralizador y en un freno para todo pensamiento crítico, e incluso original.
Desde el punto de vista de sus defensores, los sistemas de puntuación social son fundamentalmente una manera de preservar la confianza en el buen comportamiento de los ciudadanos. “Mantener la confianza es algo glorioso y romperla es algo vergonzoso”, reza un documento gubernamental chino que evalúa estos sistemas. Hablaríamos de confianza del Estado en los habitantes de un país, pero también de confianza de los habitantes entre sí.
En esta línea, hay otro principio, este occidental, que se basa en que el ser humano es injusto por naturaleza. El mito del Anillo de Giges, recogido por Platón en La República, sostiene que si fuéramos invisibles a la autoridad y a nuestros semejantes, nos comportaríamos de manera injusta con ellos. Solo somos justos por miedo al castigo de la ley o ante la perspectiva de recibir algún beneficio por nuestro buen comportamiento.
Hay, por último, una razón más simple: la de que si todo mal comportamiento merece un castigo, las buenas acciones deben ser recompensadas. El crédito social funcionaría así como una especie de karma. El problema se plantea cuando nos paramos a pensar quién decide lo que es correcto e incorrecto y por qué razones lo hace. Como vemos, hay más dudas y preguntas sobre estos sistemas que certezas. Dudas y preguntas que no deberíamos dejar de responder si estos sistemas de puntuación siguen expandiéndose.