La Inteligencia Artificial está tomando relevancia en todos los aspectos de nuestra vida. ¿Puede usarse para evaluar a las personas y, en función de la puntuación que obtengan, para concederles determinados privilegios sociales? La idea suena a capítulo de Black Mirror, pero en el año 2009 comenzó a probarse un nuevo sistema de crédito social chino que se conoce actualmente como Social Score o Social Scoring. El gobierno chino tenia como principal objetivo mejorar la confianza social y controlar temas como la seguridad alimentaria, hurto de propiedad intelectual o fraude económico.
Como lo lees: En China, existe un sistema de puntuación social llamado «Sistema de Crédito Social» que ha recibido atención y debate a nivel internacional. Este sistema utiliza tecnología de vigilancia y recopilación de datos para evaluar el comportamiento de los ciudadanos y asignarles una puntuación social.
Esta puntuación puede influir en aspectos de la vida cotidiana, como el acceso a préstamos, empleo, educación y otras oportunidades sociales. El sistema busca promover comportamientos socialmente deseables y penalizar aquellos que se consideren indeseables según los criterios establecidos por el gobierno.
Este sistema está planteando dilemas que han hecho que el mundo occidental lo prohíba en sus ciudades, por eso vamos a conocer un poco más sobre este tema.
¿Cómo se puede definir el Social Score o Social Scoring?
El Social Score o Social Scoring es un sistema de clasificación en las que se le dan puntuaciones a personas o RRSS, determinando su reputación o credibilidad. Para conseguir la calificación se utilizan varios factores, como los datos personales o la actividad que se hace online o en la vida diaria.
El sistema Social Scoring evalúa el comportamiento personal fuera y dentro de Internet, como el tipo de interacciones y publicaciones en RRSS o foros. En vista de que evalúa las interacciones como negativas o positivas y los ciudadanos reciben puntos para optar a disfrutar de ciertos beneficios, se considera discriminatorio.
Una persona podría sentirse excluida de la sociedad, ya que al disponer de puntuaciones negativas podrían incluso negarle comprar un billete de avión o hasta de tren. En caso contrario, el sistema también podría determinar su factibilidad para ofrecer un crédito bancario u otros beneficios sociales al tener puntuaciones positivas.
¿Cómo funciona el sistema de calificación de las personas?
El sistema Social Score o Social Scoring se implementó de forma general en China desde el año 2020 y genera puntuaciones recopilando datos de toda índole. Para ello utiliza información de las infracciones de tráfico, incumplimientos de normas, el impago de impuestos, las compras por Internet o personales, si dona sangre, etc.
El gobierno chino vigila las actividades físicas y en línea de los ciudadanos, usando una red de monitoreo con más de 170 millones de cámaras. Todas utilizan sistemas de reconocimiento facial mediante Inteligencia Artificial, procesando los datos con Big Data; por lo que el Estado conoce todos los movimientos de los ciudadanos.
Con el Social Score China les da a los ciudadanos una puntuación entre 350 y 950 puntos, así quienes tengan mejores puntuaciones podrán acceder a varios beneficios. Pero si la persona tiene una calificación baja tendrá sanciones, no podrá entrar a restaurantes, hoteles lujosos, hacer ciertos trabajos o ser atendido en un hospital.
Todo este tema recuerda el argumento de la novela distópica 1984 de George Orwell. En ella, el omnipresente y vigilante Gran Hermano controla una sociedad donde se manipula la información, se practica la vigilancia masiva y hay represión tanto política como social.
10 usos sorprendentes de la inteligencia artificial en la vida diaria
¿Qué opina la Unión Europea del Social Score?
La clasificación social con la ayuda de la IA no se usará en la Unión Europea, se cree que la vigilancia extrema es de alto riesgo. Es tanto así que cualquier actividad semejante para conseguir un sistema de puntuación social tendrá penalizaciones de hasta un 4% de los ingresos totales.
De hecho, una nueva Ley de inteligencia artificial de la UE prohibirá su uso para vigilancia sin control, no se podrá seguir a las personas en espacios físicos.
Por otro lado, será necesaria una autorización especial para que una empresa utilice algún sistema de identificación biométrica remota. También será obligatorio que se notifique a los ciudadanos el estar interactuando de algún modo con un sistema de IA.
Esta nueva ley se sancionará mediante un Consejo Europeo de Inteligencia Artificial, integrado por representantes de todos los Estados de la UE. Con ella se supervisará las aplicaciones de la inteligencia artificial que de algún modo representen un peligro para la sociedad. Esto será en particular para acciones donde una IA tenga que tomar decisiones como la conducción de coches autónomos o elegir a alguien para un puesto laboral.
¿Puede la IA destruir la humanidad? Estas son las advertencias de algunos expertos
Periodista de tecnología.
