El anuncio del Ministerio de Capital Humano sobre la implementación de un ‘Gemelo Digital’ para aplicar Inteligencia Artificial a la política social se mostró con el relato habitual de la época: modernización, eficiencia quirúrgica y el fin de los intermediarios.
La medida promete cruzar bases de datos para predecir conductas y automatizar la asistencia. Casi al mismo tiempo, el nuevo papa León XIV publicó su primera encíclica, “Magnifica Humanitas”, centrada justamente en los riesgos de la Inteligencia Artificial y el dominio de la lógica tecnocrática sobre la vida humana.
La coincidencia es llamativa. Mientras una parte del mundo político imagina un futuro donde los algoritmos ordenen la sociedad con criterios de eficiencia, el Papa advierte sobre algo bastante distinto: el riesgo de que las personas empiecen a ser tratadas como datos antes que como sujetos.
Detrás de la estética futurista del “Gemelo Digital” aparece una idea vieja: la pobreza entendida como un problema de control y no como crisis social, intentando una vez más, quitar a los humanos la humanidad.
El proyecto, por lo poco que se ha informado oficialmente, buscaría seguir trayectorias de vida, detectar incompatibilidades, monitorear comportamientos y anticipar situaciones mediante IA. Dicho más crudamente: construir un sistema capaz de observar a los sectores vulnerables con un nivel de detalle y trazabilidad que ningún gobierno tuvo hasta ahora.
La pregunta como tantas otras veces es ¿Por qué la obsesión tecnológica del Estado siempre mira para abajo?
La sofisticación algorítmica aparece para controlar beneficiarios de programas sociales, no para auditar grandes evasores, mecanismos de fuga o maniobras financieras. Eso, al igual que la lógica de una IA, no tiene nada de neutral.
Un sistema de Inteligencia Artificial aprende mirando datos del pasado. Y el pasado está lleno de desigualdades, prejuicios y criterios de sospecha sobre la pobreza. Lo que antes hacía un burócrata desde un escritorio ahora puede automatizarse a una escala gigantesca.
Una familia que cambia seguido de domicilio. Un trabajador informal con ingresos irregulares. Varias personas viviendo en la misma casa. Plata que entra y sale de manera desordenada. Lo que para millones de personas forma parte de la vida cotidiana puede convertirse, para un sistema predictivo, en una señal de riesgo.
La lógica es peligrosa porque transforma estrategias de supervivencia en indicadores sospechosos.
No se trata de un delirio teórico. Ya pasó.
En Países Bajos, uno de los países más digitalizados del mundo, un sistema algorítmico utilizado para detectar supuestos fraudes en subsidios sociales terminó destruyendo miles de familias trabajadoras. Errores administrativos mínimos derivaron en acusaciones automáticas, endeudamiento y pérdida de derechos. El escándalo fue tan grande que terminó provocando la caída del gobierno de Mark Rutte.
Lo más grave no fue solamente el daño económico. Fue la lógica deshumanizada del sistema. Nadie podía explicar por qué ciertas personas habían sido marcadas como sospechosas. El algoritmo decidía y el Estado ejecutaba.
El Papa no plantea un rechazo ingenuo a la tecnología. Lo que cuestiona es otra cosa: la idea de que los problemas humanos pueden reducirse a cálculos de eficiencia. Advierte sobre una cultura donde la técnica deja de ser una herramienta y pasa a convertirse en el criterio principal para organizar la sociedad.
Y eso se vuelve especialmente delicado cuando el objeto de administración son personas vulnerables.
Una política social no es solamente distribución de recursos. También implica comprender contextos, capacidad de escucha, criterio humano y sensibilidad frente a situaciones que no entran en una fórmula algorítmica de decisión.
Cuando la pobreza empieza a analizarse únicamente como flujo de datos, algo importante se pierde en el camino. La desigualdad deja de verse como una injusticia social y empieza a tratarse como una anomalía administrativa.
El estado puede llenarse de información sin volverse más justo. Puede saber cuántos pobres hay, dónde viven, qué consumen, cómo se mueven y hasta anticipar sus conductas. Y aun así no entender nada de lo que les pasa.
