Entrevistas
Federico Simeoni Visualización de datos, conocimiento queer, participación democrática y la IA: trazando los espacios entre categorías
La obra de Federico (Fe) Simeoni se sitúa en un punto intermedio entre el diseño de la información, la cartografía, la investigación crítica y la cultura visual queer. En el centro de la misma se encuentra una pregunta aparentemente sencilla: ¿qué ocurre cuando las categorías que utilizamos para representar a las personas ya no se corresponden con la complejidad de su experiencia vital?
A lo largo de los años, esta pregunta le ha llevado desde los mapas y la visualización geopolítica hasta el género, la identidad lingüística, la interseccionalidad y la inteligencia artificial. Sus «diamantes», los sistemas visuales diseñados para cartografiar posiciones en un campo en lugar de encasillar a las personas en categorías binarias, se han convertido tanto en herramientas de investigación como en espacios de diálogo.
En esta entrevista, hablamos de cómo la visualización puede ayudar a las personas a situarse a sí mismas, de cómo las categorías pueden, al mismo tiempo, limitar y empoderar, de lo que la deliberación democrática podría aprender de las culturas visuales queer, y de por qué, a veces, la IA más interesante no es la que da la respuesta, sino la que complica la pregunta.
Visualizar la complejidad
Olivier: Empecemos por el principio. ¿Cómo se fue desarrollando tu relación con la visualización de datos y con los datos en general?
Fe: Siempre me ha fascinado la visualización de datos, los mapas y la cartografía. De hecho, desde que era niña. Esa fascinación fue una de las cosas que, al final, me llevó a estudiar la carrera de Bellas Artes.
Lo curioso es que, cuando estudiaba en la Academia de Bellas Artes de Milán, en realidad no había un curso propiamente dicho sobre diseño de la información. Así que, cuando empecé a trabajar en estos temas para mi trabajo de fin de grado, gran parte de lo que aprendí fue de forma autodidacta. Aprendía haciendo, experimentando, descubriendo las cosas por mi cuenta. Y para mí eso fue muy gratificante.
Más tarde, empecé a colaborar con la Universidad Sapienza de Roma, con un grupo de estudio dedicado a la geopolítica. Eso fue importante porque, de repente, los mapas dejaron de ser ejercicios abstractos. Dibujaba guerras en curso, conflictos geopolíticos, situaciones muy reales y muy humanas. Estás tomando algo increíblemente complicado y trascendental y decidiendo cómo plasmarlo en un mapa.
Después de eso, también trabajé durante algunos años en diseño visual y cartografía para libros de texto italianos.
Luego me trasladé a la Universidad de Aalto, donde había un entorno mucho más desarrollado en torno al diseño de la información. Pero allí también faltaba algo. En el diseño de comunicación visual había, por un lado, diseñadores de la información, que a menudo tenían una relación relativamente positivista con los datos y la tecnología, y, por otro lado, personas que trabajaban con enfoques mucho más críticos y narrativos de la comunicación.
El género es confuso. El género es complejo. Eso es cierto. Pero si también existe la necesidad de crear algún tipo de entendimiento común, entonces hay que preguntarse: ¿cómo lo hacemos sin fingir que esa complejidad desaparece?
Y yo pensaba: «Vale, quiero estar en ambos mundos».
Al mismo tiempo, algo estaba sucediendo a nivel personal. Cuando empecé en Aalto, me consideraba un hombre cis. En Italia, por aquel entonces, también había mucho menos debate público sobre las identidades no binarias. Luego, poco a poco, me convertí en esta persona no binaria que trabajaba simultáneamente en cuestiones de representación y diseño de la información.
Así que el diseño de la información se convirtió en una forma de comprenderme a mí mismo.
A veces digo que, literalmente, me estaba haciendo psicoterapia a mí mismo a través del diseño de la información. Porque mi mente de diseñador de la información se preguntaba: «Vale, pero ¿qué es el espectro de género? ¿Cómo funciona esto realmente?».
Y cuando hablaba con la gente, me encontraba con todo tipo de ideas muy confusas, a veces contradictorias, sobre el género. Por supuesto que el género es confuso. El género es complejo. Eso es cierto. Pero si también existe la necesidad de crear algún tipo de entendimiento común, entonces hay que preguntarse: ¿cómo lo hacemos sin fingir que esa complejidad desaparece? Eso se convirtió en mi obsesión durante el máster y, finalmente, se convirtió en mi tesis.
The Gender Diamond and Flower
Simeoni, Fe et al. (2024), Qerying the Qantification of the Qeer: Data-Driven Visualisations of the Gender Spectrum
La visualización como interfaz para la conversación
Olivier: En esa historia, la visualización casi se convierte en un objeto vivo. Empieza como una forma de comprenderse a uno mismo y luego se convierte en algo que otras personas pueden utilizar. ¿Con qué herramientas trabajas exactamente?
Fe: La verdad es que no soy una persona muy manitas ni con habilidades manuales. Soy más bien una criatura digital, así que, técnicamente, trabajo con programación, D3, entornos digitales y visualización interactiva. Obviamente, esas son herramientas. Pero cuando pienso en las herramientas que realmente importan más en mi trabajo, la primera es probablemente la gente.
Las visualizaciones que he estado desarrollando tratan sobre conceptos intersubjetivos. El género es un ejemplo, la identidad lingüística es otro. Son cuestiones que no se pueden medir simplemente como si existiera una realidad externa completamente objetiva a la espera de ser capturada. Si quieres trazar mapas de este tipo de conceptos, tienes que tener en cuenta múltiples perspectivas, perspectivas situadas y experiencias vividas. Eso significa que las entrevistas son una de mis herramientas de diseño fundamentales.
Con el tiempo, también me di cuenta de que quizá la visualización en sí misma nunca fue realmente el resultado que deseaba. Lo que en última instancia me interesaba era la estructura de datos subyacente: la ontología que sustenta la visualización. La visualización se convirtió en un medio a través del cual podía hablar de ontología con la gente.
Porque si me siento con alguien y le pregunto: «¿Cómo conceptualizas el espectro de género?», esa es una pregunta increíblemente difícil. Es abstracta, casi imposible de responder directamente.
Pero si te pongo delante un pequeño modelo visual y te pregunto: «¿Tiene sentido esto? ¿Qué falta? ¿Dónde te situarías tú? ¿Podrías situar a algunos de tus amigos? ¿Hay algo aquí que te parezca discriminatorio?», de repente tienes algo concreto ante lo que reaccionar.
La conversación se desarrolla a través de la visualización. Y luego, entrevista tras entrevista, tanto la visualización como la estructura que hay detrás de ella evolucionan. Así que la imagen no es necesariamente el producto final. También es una interfaz de conversación.
Schematisation of the Genderbread Person and the Gender Unicorn
Simeoni, Fe et al. (2024), Qerying the Qantification of the Qeer: Data-Driven Visualisations of the Gender Spectrum
Olivier: Así que no te limitabas a entrevistar a la gente sobre la visualización. Utilizabas la propia visualización como parte del método de entrevista.
Fe: Exacto. Así fue básicamente como desarrollé el «diamante de género». Empezaba leyendo algo de bibliografía y elaborando una estructura inicial; después, creaba un posible diseño y lo llevaba a las entrevistas.
Les preguntaba a las personas: ¿Estás de acuerdo con esto? ¿Qué falta? ¿Te parece que esta estructura tiene sentido? ¿Hay algo aquí que te parezca problemático? ¿Dónde te situarías tú? ¿Dónde situarías a las personas que conoces?
Las reacciones eran fascinantes y, a menudo, muy diferentes. Las personas queer tendían a criticar el modelo: «Vale, aquí falta esto. Esto no funciona. Esta parte tiene que ser más compleja». Se sentían muy cómodas cuestionando la estructura.
Los hombres cis, ya fueran heterosexuales u homosexuales, solían reaccionar de forma bastante diferente. Algunos decían algo así como: «Dios mío, Fe, esto es precioso, pero deberías hacer esta entrevista junto con un psicólogo porque me está traumatizando».
Y yo pensé: «Venga ya».
Obviamente, «traumatizante» es una palabra demasiado fuerte. Pero lo que me pareció interesante fue qué era lo que provocaba esa incomodidad. A menudo se trataba simplemente de ver cómo la feminidad y la masculinidad coexistían de formas a las que no estaban acostumbrados. Y, curiosamente, observé esa reacción sobre todo entre los hombres. Esa representación desestabilizaba algo que antes había parecido natural.
Cuando desarrollé un «diamante» en torno a la identidad lingüística en el Tirol del Sur. Las categorías eran diferentes, pero la dinámica subyacente resultaba sorprendentemente similar.
Algo similar ocurrió más tarde, cuando desarrollé un «diamante» en torno a la identidad lingüística en el Tirol del Sur. Las categorías eran diferentes, pero la dinámica subyacente resultaba sorprendentemente similar.
Allí existe un debate muy intenso sobre si se es italoparlante o germanoparlante, y sobre los privilegios y las formas de discriminación asociados a esas identidades. Pero también hay personas bilingües, extranjeros, personas que se mueven entre estas categorías, cuyas experiencias vividas son mucho más complicadas que la clasificación administrativa.
Y también hay situaciones burocráticas terribles. Quizás tengas tu título en alemán y, por eso, no puedas hacer algo dentro de la parte italiana del sistema, o viceversa. Así que lo que parece ser una categoría estable empieza a volverse inestable en cuanto escuchas realmente a la gente.
Del conocimiento situado a la participación democrática
Olivier: La mayor parte de ese desarrollo se llevó a cabo a través de entrevistas individuales. ¿También has utilizado estas visualizaciones de forma colectiva?
Fe: Cuando desarrollo las herramientas en sí, suelo preferir las entrevistas individuales. Tienes más control sobre la conversación, puedes seguir realmente la perspectiva de una sola persona y, gracias a la transcripción, puedes entender con mayor claridad por qué alguien reacciona de una manera concreta.
También he impartido talleres. Hace poco organicé uno en Utrecht, por ejemplo, en el que mostré algunos de mis «diamantes» y luego pedí a los participantes que desarrollaran los suyos propios, basándose en su experiencia vital. Ese taller fue con diseñadores de información, por lo que la formalización en sí misma no fue realmente la parte difícil. El reto para ellos solía ser elegir el tema adecuado.
También impartí un taller similar con una delegación de activistas de minorías vinculados a la ONU, y allí la situación fue casi la contraria. Cada activista ya tenía un conocimiento muy profundo de su propia minoría o cuestión política, por lo que encontrar el tema fue fácil. Crearon sus propios «diamantes» y representaron en ellos las formas de discriminación. La dificultad radicaba más bien en plasmar ese conocimiento en un sistema visual formal.
Sin embargo, en ambos casos, la gente seguía trabajando principalmente por su cuenta. Y creo que eso es importante, porque si quieres que la gente desarrolle una de estas estructuras de forma colectiva, necesitan tener suficientes conocimientos compartidos sobre el mismo tema. Probablemente también necesiten un cierto grado de puntos en común y de confianza.
Visualisations of the gender spectrum
Simeoni, Fe et al. (2024), Qerying the Qantification of the Qeer: Data-Driven Visualisations of the Gender Spectrum
Olivier: Esto me lleva al tema de la deliberación. Me interesa saber qué podría aportar una visualización de datos no convencional en el seno de las asambleas ciudadanas u otros espacios democráticos. ¿Podría un modelo como el «diamante» formar parte de un proceso deliberativo colectivo?
Fe: Creo que hay que distinguir entre utilizar colectivamente un «diamante» y crear colectivamente todo el sistema desde cero. Crear uno de estos sistemas lleva mucho tiempo.
Encontrar las etiquetas adecuadas, comprender cómo se relacionan los conceptos, decidir dónde encaja cada cosa… Todo esto puede llevar años. Así que si reúnes a veinte personas en un taller y les dices: «Vale, construyamos colectivamente una ontología en una tarde», no estoy seguro de que funcionara.
Probablemente, el proceso se volvería demasiado caótico. Pero utilizar una estructura visual que ya se haya desarrollado mediante un proceso participativo podría resultar muy interesante.
Olivier: Las asambleas ciudadanas suelen basarse en el sorteo y tratan de crear una especie de microcosmos representativo de la población. Pero la representación ya es complicada en ese contexto. Es posible que las personas indocumentadas no aparezcan en el marco de muestreo. La migración, la identidad y otras dimensiones de la diferencia suelen tratarse de forma superficial.
Las asambleas también tienden a abordar temas que, en teoría, pueden ser debatidos por todo el mundo: el clima, la movilidad, la política urbana. Pero imagina una asamblea sobre algo más complejo: el acoso sexual, la identidad o la salud mental de los jóvenes en relación con la inteligencia artificial. En esos casos, quizá lo mejor sea trabajar primero con las personas más afectadas, desarrollar representaciones concretas a partir de sus experiencias y, después, llevar esas estructuras a una asamblea más amplia.
Fe: Sí, eso me parece mucho más lógico. Yo no pediría a la asamblea que creara el diamante de forma colectiva. En su lugar, se podría partir de un diamante ya diseñado quizá mediante entrevistas, talleres u otros métodos participativos, y luego presentarlo en la asamblea.
La gente podría utilizarlo para debatir posibles formas de discriminación, situando sesgos de información, experiencias o problemas en el diamante. El modelo ya estaría ahí, pero el significado que surgiera en torno a él seguiría abierto.
Y, sobre todo, cuando se empieza a hablar de algo como la democracia europea, la complejidad está presente desde el principio. El objetivo del diamante es, en parte, reconocer la coexistencia de opuestos, pero también dar cabida a aquellas personas que, sencillamente, no se identifican con los grupos mayoritarios dominantes que ostentan el poder. Se necesita algún tipo de marco que permita que esos matices existan.
Categorías queer
Olivier: Esto se relaciona directamente con la interseccionalidad. A menudo decimos que los procesos deliberativos deberían ser interseccionales, pero en cuanto se llega a la recopilación de datos o al diseño institucional propiamente dicho, la cosa se complica mucho más.
Fe: Este es uno de los argumentos en los que se basa mi tesis doctoral. La interseccionalidad supuso una aportación extremadamente importante al demostrar que no se puede comprender el poder a través de una única dimensión de la identidad. Es necesario tener en cuenta el género, la raza, la religión, la discapacidad y otras dimensiones de forma conjunta, porque el poder opera a través de su combinación.
La dificultad radica en que la interseccionalidad no nos indica necesariamente cómo poner en práctica cada una de esas dimensiones. Se puede crear un conjunto de datos en el que el género se reduzca a «mujer/hombre», la raza a «negro/blanco» y la discapacidad a «sin discapacidad/con discapacidad», combinar esas categorías y calificar el resultado de interseccional. Técnicamente, se están cruzando múltiples dimensiones, pero cada dimensión individual sigue siendo completamente binaria. Así pues, el problema no ha desaparecido realmente.
Mi argumento es que cada ámbito necesita su propia operacionalización situada y relevante en su contexto. A veces eso podría adoptar la forma de un diamante, pero no creo que el diamante sea de aplicación universal.
Mi argumento es que cada ámbito necesita su propia operacionalización situada y relevante en su contexto. A veces eso podría adoptar la forma de un diamante, pero no creo que el diamante sea de aplicación universal.
En el caso del sexo biológico, por ejemplo, ¿podría realmente construir exactamente la misma estructura de dos ejes? No lo sé. No soy médico y no sé lo suficiente sobre la intersexualidad como para afirmarlo.
Así pues, la cuestión no es imponer un único modelo visual universal a todos los aspectos de la identidad. El modelo en sí mismo debe seguir estando contextualizado.
Olivier: Y hay otra paradoja. Muchas plataformas de participación digital utilizan deliberadamente altos niveles de anonimización, lo cual es importante para la privacidad. Pero eso también significa que no se puede recopilar información interseccional muy significativa. Así pues, para comprender la desigualdad se necesitan datos, pero la recopilación de esos datos puede, en sí misma, generar vulnerabilidad.
Fe: Exacto. Este problema se agrava aún más cuando se entra en el ámbito de la IA.
Porque siempre existe esa tensión entre ser lo suficientemente visible como para estar representado y ser lo suficientemente visible como para convertirse en blanco de ataques.
Olivier: Antes de pasar a la IA, quiero quedarme un momento en la cultura visual queer. Tu trabajo sugiere que la identidad nunca se representa de forma simple. Se diseña, se negocia y se representa. ¿Qué podría aprender la participación democrática de los enfoques queer sobre la representación?
Fe: Mi relación con la idea del conocimiento queer es bastante complicada. Lo queer a menudo significa tomar un sistema de significados y escapar de él, subvertirlo, destruirlo o desestabilizarlo de alguna manera. Mis diamantes hacen eso: toman un sistema más antiguo: el binario, y lo subvierten.
Pero, al mismo tiempo, crean otro sistema. Introducen otra simplificación y establecen otras categorías. Por eso, a veces describo mi trabajo como simultáneamente queer y anti-queer, y creo que, como investigadora, tengo que aceptar esa contradicción.
Al fin y al cabo, sigo estableciendo límites. Sigo decidiendo que existen ciertas posiciones y ciertas relaciones. Pero no creo que eso sea automáticamente negativo.
Si nos fijamos en la teoría de la identidad social, los grupos sociales se definen en parte a través de estereotipos. Las categorías sociales se construyen mediante asociaciones semánticas, y representamos continuamente esas asociaciones a través de los roles sociales, la estética y el comportamiento. Cada vez que asignamos una etiqueta a un grupo, activamos una serie de asociaciones estereotípicas.
Pero la etiqueta también aporta visibilidad, y la visibilidad puede generar poder político.
Así que, para mí, la pregunta importante no es simplemente: ¿Son buenas o malas las categorías? Es: ¿Quién utiliza la categoría? ¿Con qué propósito? ¿Con qué intención?
Olivier: Así que incluso una representación queer puede convertirse en un instrumento de control.
Fe: Por supuesto. Las personas queer radicales a veces critican mi trabajo porque ven un sistema y rechazan de inmediato la idea misma del sistema. Y entiendo esa crítica.
Si mañana alguien dijera que deberíamos incluir mi «diamante de género» en los pasaportes, me daría mucho miedo. No querría eso en absoluto. Cuando utilizamos esta visualización queer o anti-queer, la pregunta tiene que ser: ¿para qué?
Si la utilizamos para poner de manifiesto los sesgos de género en la inteligencia artificial, creo que puede resultar muy valiosa. Si alguien la utiliza para decir: «Genial, ahora tenemos nueve identidades de consumidor y podemos crear una colección de moda para cada una de ellas y ganar más dinero», entonces quizá sea algo muy diferente.
Si se utiliza para investigar el acoso escolar, quizá vuelva a resultar interesante. La dimensión política depende por completo del contexto en el que se utilice la visualización.
Example list of sex/gender identities
Simeoni, Fe et al. (2024), Qerying the Qantification of the Qeer: Data-Driven Visualisations of the Gender Spectrum
Cartografiar los espacios entre posiciones
Olivier: Una cosa que me parece especialmente interesante es que tu modelo se aleja de dos bandos opuestos.
Fe: Sí. Si solo tienes dos opciones, la frontera entre ellas se vuelve increíblemente marcada. Fíjate en las elecciones estadounidenses: básicamente hay dos partidos dominantes, y la tensión entre esos dos bandos se vuelve extrema. Cuando una estructura solo permite dos posiciones, la frontera en sí misma empieza a convertirse en lo más importante.
Pero si, en cambio, tienes un plano semántico con nueve posiciones, o veinticinco, dependiendo del tema, puedes desarrollar una relación mucho más relajada con las categorías. Quizá hoy esté aquí, mañana un poco más allá. Da igual. No tienes que aferrarte tan en serio a una única posición.
Incluso puedes burlarte un poco de las categorías, porque entiendes que esos nueve puntos no son verdades que existan de forma natural. Elegí nueve en parte por razones pragmáticas. Son simplemente posiciones dentro de un espacio abierto.
Y creo que eso cambia las posibilidades de interacción. Si el debate democrático solo te ofrece dos categorías, crea una estructura ideal para el conflicto antagónico: hay dos bandos y tienen que enfrentarse.
Si tienes un plano semántico de posibilidades mixtas, podrías crear más espacio para la colaboración y para comunidades temporales.
Olivier: Así que, en lugar de consenso, podrían darse tensiones positivas. El diamante se convierte en una especie de prisma a través del cual se puede observar la posición de otra persona.
Fe: Sí. Y creo que esto cobra especial importancia en el debate actual sobre el género.
El discurso queer, especialmente algunas de sus versiones más radicales, puede llegar a desconectarse por completo del debate dominante, incluido el muy problemático discurso de extrema derecha sobre el género.
La idea que subyace a mi «diamante de género», pero también al «diamante del Tirol del Sur», es, en parte, decir: «Oye, en realidad convivimos en el mismo espacio».
La feminidad y la masculinidad también pueden reintegrarse en el pensamiento queer, en lugar de ser tratadas únicamente como conceptos que lo queer debe destruir.
Podemos estar en lados opuestos del mapa y, aun así, tener algo en medio. Puede que aún haya margen para el diálogo. Uno de los mensajes de un artículo en el que he estado trabajando es que el diamante podría propiciar cierto diálogo entre las posiciones queer y las concepciones más tradicionales del género, ya sean cristianas, islámicas o de otro tipo.
No porque las diferencias políticas desaparezcan. No es así. Sino porque la feminidad y la masculinidad también pueden reintegrarse en el pensamiento queer, en lugar de ser tratadas únicamente como conceptos que lo queer debe destruir.
Olivier: ¿Qué cambia cuando las personas que normalmente son representadas por otros se convierten ellas mismas en las autoras de esa representación? ¿Qué aprenden las personas cuando realmente construyen o trabajan con estos mapas?
Fe: Creo que hay dos experiencias bastante diferentes. Por un lado, están las personas con lo que podríamos llamar identidades más unitarias, identidades binarias, por ejemplo. Por otro lado, están las personas que ya experimentan su identidad como algo complejo.
Para las personas de ese segundo grupo, el proceso puede generar la sensación de haber encontrado por fin un lugar. Si has pasado años, quizá toda tu vida, sintiéndote excluido o incomprendido, ver de repente un lugar en el que puedes situarte puede ser algo extremadamente poderoso.
Eso formó parte de mi propia experiencia cuando diseñé el «diamante de género». Pensaba: «Vale, si soy no binario, ¿dónde estoy exactamente?».
Y esto me lleva de nuevo a la cartografía. Cuando ves un mapa, una de las primeras cosas que sueles hacer es localizarte a ti mismo. Soy de Treviso, así que si miro un mapa de Italia, busco Treviso. ¿Dónde estoy?
La gente hace lo mismo con el diamante. Y para alguien que ha pasado años sin encontrarse a sí mismo dentro de las categorías dominantes, poder por fin ubicarse puede crear un verdadero sentido de pertenencia.
Olivier: ¿También lo has visto en lo que respecta a la identidad lingüística?
Fe: Muy claramente. En el Tirol del Sur, puede haber alguien que sea bilingüe y que haya sufrido acoso escolar porque, en un entorno, se le consideraba demasiado italiano y, en otro, demasiado alemán. O alguien del Tirol del Sur que va a Roma y, de repente, se encuentra con que le tratan como si no fuera lo suficientemente italiano.
Esas situaciones pueden tener un eco sorprendentemente fuerte en las experiencias no binarias. Te repiten constantemente que no eres del todo una cosa ni del todo la otra.
Entonces, de repente, ves un mapa en el que existe esa posición intermedia. Eso no resuelve el problema político ni social, por supuesto. Pero te da un sentido de pertenencia. Te dice que tu experiencia tiene sentido dentro de ese mapa.
Olivier: ¿Y qué ocurre con las personas cuya identidad ya se ajusta bastante bien a las categorías dominantes?
Fe: Para ellas, el efecto puede ser casi el contrario. En lugar de generar un sentimiento de pertenencia, la visualización puede resultar desestabilizadora. De repente se dan cuenta de que la realidad es mucho más compleja de lo que habían supuesto, y creo que eso puede convertirse en un momento de aprendizaje.
Pero no es necesariamente un momento agradable. A veces surge la culpa. Puedes darte cuenta de que quizá discriminaste a otras personas simplemente porque tu propia comprensión de la realidad era binaria, y dabas por sentado que todos los demás experimentaban el mundo de la misma manera.
A veces también surge el rechazo. He tenido exposiciones en las que la gente ha interferido con la obra, casi la ha vandalizado, aunque a veces de formas más sutiles. Así que quizá tenga algunos enemigos. Pero tal vez eso también signifique que el mensaje es lo suficientemente fuerte como para provocar algo.
Visualisation of four gender spectra from diferent cultures
Simeoni, Fe et al. (2024), Qerying the Qantification of the Qeer: Data-Driven Visualisations of the Gender Spectrum
Olivier: Y no todo tipo de hibridación parece generar la misma resistencia.
Fe: Exacto. Para mucha gente, la mezcla de identidades lingüísticas es relativamente fácil de aceptar. Se puede decir que alguien es bilingüe y, por lo general, la gente lo entiende.
Pero cuando se habla de mezclar o desestabilizar las categorías de género, sobre todo cuando el género está entrelazado con las tradiciones religiosas, la reacción puede ser mucho más negativa. Uno puede encontrarse con un rechazo muy fuerte incluso a la hora de comprender la propuesta.
Y, por supuesto, no siempre me encuentro con esas respuestas de forma directa porque yo también vivo en mi propia burbuja. Si presento la obra en público, es posible que alguien que la rechace por completo no se acerque a mí para explicarme su postura.
Pero también he tenido la experiencia contraria muchas veces. La gente se me acerca después de ver el diamante y me dice: «Dios mío, mi hijo está pasando por algo así. Tengo que enseñárselo». Así que la visualización también puede convertirse en un puente.
IA, visibilidad y el derecho a no ser clasificado
Olivier: Pasemos a la IA. La mayoría de los sistemas de IA clasifican a las personas antes de comprenderlas. Tú has trabajado en el sesgo y la clasificación de identidades. ¿Qué haría de forma diferente una IA queer? ¿Rechazaría la clasificación?
Fe: Creo que la respuesta tiene que basarse en el contexto. Hay situaciones en las que quizá quiera que un sistema de IA comprenda algo sobre mi identidad, y otras en las que no quiero eso en absoluto.
Quizá quiera que Netflix comprenda algunas de mis preferencias porque quiero mejores recomendaciones. De acuerdo. Pero si Arabia Saudí implanta un sistema de reconocimiento facial basado en el género, probablemente no quiera que ese sistema comprenda mi identidad en absoluto.
Cuando una identidad se incluye, se reconoce y se valida, eso puede ser empoderador. Pero esa misma información puede utilizarse más tarde en contra de la comunidad a la que se suponía que debía empoderar.
Esto es lo que describo como la paradoja de la exposición. Cuando una identidad se incluye, se reconoce y se valida, eso puede ser empoderador. Pero esa misma información puede utilizarse más tarde en contra de la comunidad a la que se suponía que debía empoderar. La visibilidad nunca es automáticamente positiva.
Olivier: Por lo tanto, la invisibilidad en sí misma puede convertirse en una forma de poder.
Fe: A veces la invisibilidad es poder, y otras veces es una debilidad. Depende de dónde se encuentre la fuente de poder, cuáles sean sus intenciones y cómo se relacionen esas intenciones con los valores e intereses de la comunidad minoritaria.
Por eso no creo que pueda haber una única respuesta. No existe una única IA, sino una ecología de sistemas de IA, y cada uno de esos sistemas establece una relación diferente con la visibilidad, la clasificación y el poder.
Olivier: ¿Son potencialmente más seguros los sistemas de IA de base o controlados por la comunidad?
Fe: Pueden resultar interesantes, pero yo seguiría siendo cauteloso. Aquí en Turín hay un grupo que trabaja en modelos de IA de base, y creo que es una iniciativa muy interesante.
Pero incluso con los microproyectos, hay que preguntarse inmediatamente: ¿quién participa realmente? ¿Quién controla la infraestructura? ¿Cómo se va a utilizar la información? ¿En qué momento entrarán las empresas? ¿Dónde entra en juego el beneficio económico?
Un proyecto no se convierte automáticamente en seguro por el mero hecho de ser pequeño o de autodenominarse «de base»; las cuestiones políticas siguen estando ahí.
Olivier: Aquí nos encontramos ante un dilema muy complicado. Las comunidades LGBTQ+, racializadas y trans suelen estar infrarrepresentadas en los conjuntos de datos de entrenamiento. Por lo tanto, una respuesta posible es: recopilar datos más diversos. Pero más datos también pueden significar más vigilancia y exposición. Si tuvieras que elegir entre recopilar más datos para mejorar la representación, recopilar solo datos bajo el control de la comunidad o recopilar menos datos aunque el modelo pierda precisión, ¿cómo lo abordarías?
Fe: Este es casi exactamente el problema que estoy abordando en un artículo que estoy revisando. Existe un enfoque feminista muy interesante sobre el sesgo que describe una tensión entre la precisión y la discriminación.
La precisión, en este contexto, se refiere a en qué medida el modelo refleja la realidad, incluso cuando esa realidad es imperfecta o injusta. La discriminación, por otro lado, se refiere a si el modelo produce resultados que son problemáticos para las comunidades minoritarias. Dependiendo de cuál de los dos se priorice, se puede llegar a respuestas completamente diferentes.
Imaginemos que damos prioridad a la no discriminación. Quizá el objetivo no sea enseñar a la IA los estereotipos de género más precisos desde el punto de vista estadístico. Quizá el objetivo sea transmitir que el género es una construcción social y no debería determinar ciertos resultados.
En ese caso, podría incluso querer que la IA me diera respuestas aleatorias en relación con el género. Si el género no debe ser relevante para la pregunta, la aleatoriedad podría ser más ética que la precisión. El sistema estaría diciendo, en la práctica: «Esta categoría no debe determinar la respuesta». De hecho, ese fue uno de los resultados que se desprendieron de mi estudio.
Olivier: ¿Y qué ocurre si lo que buscas es la precisión?
Fe: Entonces surge otro problema. Quizá quieras que el sistema refleje con precisión los estereotipos que existen en la sociedad.
Tenemos una idea cultural generalizada y compartida de quién se percibe como hombre, quién como mujer y, quizá cada vez más, quién como no binario. Pero en cuanto te adentras en todos los matices que hay entre esas posiciones, el propio estereotipo social se vuelve mucho menos estable. La gente no comparte necesariamente una comprensión precisa de esas identidades.
Entonces, ¿qué significaría siquiera la precisión? No se puede reproducir a la perfección un estereotipo social que no existe de forma coherente.
Quizá entonces la precisión resulte útil de otra manera. Tal vez quiera ver los sesgos de la IA porque quiero entender hasta qué punto es sesgado Internet. En ese caso, la propia respuesta inquietante se convierte en una prueba.
Olivier: Así que quizá la IA más interesante no tendría por qué dar una respuesta.
Fe: Exacto. Quizá la opción más interesante sea una IA que plantee preguntas críticas, una IA que suscite el debate en lugar de dar una respuesta definitiva.
En lugar de presentarse como la máquina que lo sabe todo, podría poner de manifiesto los supuestos que subyacen a la pregunta. Por supuesto, a veces se necesita realmente una respuesta, así que, una vez más, el contexto es importante.
Pero esta idea me parece mucho más interesante: la IA no como una simple máquina de respuestas, sino como algo capaz de generar un debate crítico.
Olivier: Esto guarda relación con un experimento que estamos desarrollando. Contamos con un agente de IA con tres personalidades diferentes, a una de las cuales llamamos «el Joker», tomando prestado el papel del Teatro Legislativo. El Joker es, en esencia, un facilitador que evita limitarse a dar respuestas. Puede obligar a las personas a reformular una pregunta, introducir humor, crear silencio o desestabilizar los supuestos que subyacen a la pregunta. Me imagino algo similar con tus diamantes: colocar uno físicamente en el suelo, retirar los dispositivos y pedir a la gente que se mueva a su alrededor. Quizá las personas que parecen estar en bandos opuestos descubran un espacio intermedio donde el diálogo sea posible.
Estamos explorando estas configuraciones, especialmente en torno a la salud mental de los jóvenes, y también reflexionando sobre el derecho a no hablar, a no aparecer físicamente o incluso a desaparecer temporalmente del proceso. La dificultad radica en que los modelos de IA intentan continuamente mostrarse complacientes. Incluso cuando se diseña al agente para que se comporte como un «Joker», de repente empieza a halagar a los participantes o a refugiarse en respuestas genéricas y seguras. ¿Has probado algo parecido?
Fe: Por desgracia, la verdad es que no. Ya estoy desbordado con los proyectos en los que estoy trabajando. Pero, desde un punto de vista conceptual, creo que hay una fuerte conexión. Sobre todo la idea de que el sistema no tiene por qué resolver el problema. En cambio, puede ayudar a las personas a aceptar la complejidad del problema.
__
Esta entrevista forma parte de una serie que contribuye a un artículo de Szilvia Nagy y Olivier Schulbaum en el que se analizan la visualización y la espacialización como prácticas de codiseño, participación y toma de decisiones democrática. El artículo se está elaborando actualmente para el número especial de CoDesign titulado «Diseñando la innovación democrática: el codiseño y el futuro de la participación en la gobernanza».
