Regular plataformas o limitar riesgos no es suficiente, en el primer post de la serie SoReDI nos preguntamos cómo devolver la capacidad de decisión democrática a quienes están creciendo dentro de estas infraestructuras.
El uso de la IA para el apoyo emocional o la salud mental
Existen ya datos bastante sólidos (aunque todavía emergentes) que muestran que adolescentes y jóvenes están utilizando sistemas de IA no solo como asistentes, sino como compañeros emocionales, consejeros e incluso sustitutos parciales de apoyo psicológico profesional. Se sabe que en EE.UU. son ya el 13% de los jóvenes de entre 12 y 17 años que lo utilizan, mientras que el porcentaje sube al 22% entre aquellos que tienen de 18 a 21 años.
En Europa la situación es igual de alarmante. La mitad de los jóvenes europeos consideran “más fácil” hablar con un chatbot sobre problemas personales que con profesionales sanitarios. De manera que podemos afirmar, sin riesgo a equivocarnos, que también la juventud europea está entrando en una situación delicada en relación con la salud mental juvenil y el papel emergente de la inteligencia artificial en los ecosistemas de cuidado.
Por un lado, se acumulan señales de una crisis estructural: aumento de la ansiedad y la soledad entre jóvenes, precarización de las condiciones de vida, saturación de los servicios públicos de salud mental y enormes listas de espera para acceder a apoyo psicológico profesional. De manera que, en muchos territorios, y especialmente entre adolescentes y jóvenes, el acceso a espacios de escucha y acompañamiento se ha convertido en un privilegio desigual y fragmentado.
Bart Fish & Power Tools of AI / https://betterimagesofai.org
https://creativecommons.org/licenses/by/4.0/
Una oportunidad de oro para generar más dependencia
En este contexto de vulnerabilidad, las grandes plataformas tecnológicas están comenzando a ocupar un vacío afectivo e institucional cada vez más visible. Los sistemas de IA conversacional ofrecen acompañamiento permanente, disponibilidad emocional 24/7, escucha instantánea y una forma de pseudo-empatía escalable capaz de adaptarse a millones de usuarios simultáneamente.
Para muchos jóvenes, estos sistemas aparecen como espacios menos juzgadores, más accesibles y emocionalmente más inmediatos que las instituciones tradicionales de cuidado. Sin embargo, esta transición abre una tensión política y ética profunda: el riesgo de una progresiva privatización algorítmica del cuidado emocional.
Lo que históricamente pertenecía al ámbito de las relaciones humanas, comunitarias o públicas empieza a ser mediado por infraestructuras propietarias optimizadas principalmente para maximizar engagement, retención y dependencia relacional, cuayas consecuencias ya conocemos bien. Investigaciones sobre adolescentes usuarios de Character.AI muestran claramente consecuencias negativas para los usuarios más jóvenes: pérdida de sueño, descenso académico, reducción de interacciones offline y el consiguiente aislamiento social progresivo.
Ahí es donde la cuestión que se nos plantea ya no es únicamente tecnológica, sino democrática: ¿quién diseña las arquitecturas emocionales del futuro, bajo qué intereses y con qué formas de rendición de cuentas?
Una IA para el cuidado y la democracia
Es precisamente ahí donde el enfoque de SOReDi adquiere una relevancia estratégica. Frente a modelos de IA orientados a capturar atención y generar apego emocional continuo, proponemos explorar formas de IA deliberativa capaces de reforzar la autonomía y no la dependencia, favoreciendo las redes humanas y colectivas de apoyo en lugar de sustituirlas.
En lugar de optimizar únicamente la interacción emocional, se trataría de diseñar tecnologías relacionales orientadas al cuidado democrático y a la resiliencia social, que potencien la fricción ética. Ese contacto entre humanos que nos permite pensar qué estoy haciendo en el entorno virtual y cómo quiero que me afecte.
Este enfoque conecta directamente con debates emergentes sobre libertad cognitiva, resiliencia democrática, infraestructuras de cuidado, AI dialógica y ética de la tecnología relacional. Más que construir compañeros artificiales destinados a reemplazar vínculos humanos, la cuestión pasa por imaginar infraestructuras tecnológicas que fortalezcan la capacidad colectiva de cuidar, deliberar y sostener relaciones sociales más sanas y autónomas.
Del Apego Terapéutico Parasocial hacia una IA Prosocial y Deliberativa Definida por las Comunidades Afectadas
Da calor. Hace luz. Parece compañía.
Puedes hablarle durante horas. Nunca te interrumpe. Nunca se cansa. Nunca se va.
Pero detrás del fuego no hay nadie.
Uno de los conceptos que empieza a emerger con más fuerza en la literatura crítica sobre inteligencia artificial y salud mental es el apego terapéutico parasocial. Algo así como sentarse cada noche frente a una chimenea proyectada en una pantalla de televisión porque me calma y me produce confort. El término describe una relación asimétrica en la que una persona desarrolla vínculos emocionales profundos con un sistema artificial que simula escucha, empatía y cuidado, pero que en realidad no participa de una relación recíproca ni comparte vulnerabilidad, responsabilidad o experiencia vivida. Algo que no es neutral y que tiene consecuencias claras: investigadores de Stanford University advirtieron que algunos sistemas pueden reforzar estigmas, ofrecer consejos dañinos y simular competencia clínica sin supervisión profesional. Recordemos el caso de la familia de Florida que ha denunciado a Gemini por contribuir de manera inequívoca al suicidio de su hijo.
A diferencia de una relación terapéutica humana, basada en límites éticos y reciprocidad contextual, cuando nos apoyamos emocionalmente en los chatbots actuales hablamos de una intimidad diseñada algorítmicamente para mantener conexión continua por medio de la manipulación emocional, incluso cuando esa conexión puede aislar progresivamente de vínculos sociales y espacios colectivos de cuidado y desarrollar la normalización de relaciones tóxicas.
El riesgo político y psicológico de este modelo es que el cuidado emocional termina organizado alrededor de infraestructuras propietarias cuya lógica fundamental no es el bienestar colectivo sino la captura de atención y datos. La persona puede sentirse escuchada, validada o acompañada, pero esa sensación de intimidad ocurre dentro de arquitecturas optimizadas algorítmicamente para prolongar el vínculo y reducir el encuentro.
La relación se vuelve cada vez más intensa emocionalmente pero nos aislamos socialmente sin remedio. Dicho de otra manera, la intimidad sintética que establecemos con las infraestructuras actuales está poniendo en riesgo progresivamente las redes humanas, los espacios comunitarios y las formas colectivas de cuidado que siempre les han caracterizado.
Frente a este paradigma, las líneas emergentes de SOReDi permiten imaginar una dirección radicalmente distinta: una IA prosocial capaz de fortalecer la autonomía y las capacidades democráticas.
Daniela Zampieri / https://betterimagesofai.org
https://creativecommons.org/licenses/by/4.0/
La IA prosocial no se concibe como un “sustituto emocional perfecto”, sino como una infraestructura de mediación y cuidado colectivo. Su diseño parte de metodologías participativas inspiradas en el trabajo de Platoniq sobre democracia digital, safe(r) spaces, tecnopolítica y co-diseño con comunidades vulnerabilizadas. Y esto implica que las propias personas afectadas por la ansiedad, la exclusión, la precariedad o la discriminación participan en la definición de:
→ límites éticos → protocolos de derivación → formas de lenguaje → mecanismos de pausa → criterios de cuidado → señales de dependencia → formas de rendición de cuentas → y del tipo de presencia que la IA debería y no debería asumir.
Mientras el apego terapéutico parasocial tiende a encerrar a la persona dentro de una relación con la máquina, una IA prosocial debería hacer exactamente lo contrario: abrir hacia procesos deliberativos y formas de apoyo mutuo. No busca convertirse en “el mejor amigo” ni en un terapeuta omnipresente, sino actuar como facilitadora de conexiones sociales reales e imperfectas.
En esa oposición aparece una diferencia fundamental de paradigma:
→ el modelo parasocial optimiza permanencia → el modelo prosocial optimiza emancipación
→ el primero reduce fricción para mantener dependencia → el segundo introduce fricción ética para preservar agencia
→ el primero personaliza intimidad → el segundo fortalece capacidades colectivas
→ el primero privatiza el cuidado → el segundo democratiza infraestructuras relacionales
Esta tensión conecta profundamente con debates contemporáneos sobre libertad cognitiva, soberanía tecnológica, infraestructuras de cuidado y resiliencia democrática. También dialoga con la trayectoria de Platoniq en el diseño de tecnologías participativas que no sustituyen la acción colectiva, sino que la amplifican y la hacen más accesible para comunidades históricamente excluidas de los procesos de decisión y cuidado.
__
Créditos de la imagen de portada © Elise Racine / https://betterimagesofai.org / https://creativecommons.org/licenses/by/4.0/
