Entrevistas
Lucy Mugo & Michael Geoffrey Abuyabo Asia La fuerza de trabajo humana que mueve la Inteligencia Artificial
La inteligencia artificial suele presentarse como algo automático, fluido y casi mágico. Pero detrás de muchos sistemas de IA existe una fuerza de trabajo inmensa y en gran parte invisible que recopila, etiqueta, modera, limpia y clasifica los datos que permiten que estos sistemas funcionen. En esta conversación, Lucy y Michael, de la Data Labelers Association, hablan sobre las realidades del trabajo de datos en Kenia y en distintos lugares de África: salarios bajos, falta de transparencia, daños a la salud mental, vacíos legales y la necesidad urgente de reconocer a las personas trabajadoras de datos como actoras esenciales dentro de la cadena de suministro de la IA.
Olivier: Para empezar, ¿cómo describiríais el trabajo de datos a alguien que nunca ha oído hablar de él?
Lucy: El trabajo de datos es la fuerza laboral oculta detrás de los sistemas de IA. En términos sencillos, diría que representa quizá el 70% o más.
Como trabajadoras de datos, recibimos datos en bruto: imágenes, vídeos, textos u otros materiales. Después se nos pide que los etiquetemos, marquemos o anotemos. Las distintas empresas usan diferentes nombres para este trabajo, pero básicamente etiquetamos los datos para que, más adelante, puedan utilizarse para entrenar un sistema de IA.
Por ejemplo, si estás entrenando un coche autónomo, tienes que etiquetar cosas como: esto es una persona, estas son marcas viales, esto es un árbol, esto es un semáforo. Así, cuando ese coche autónomo llega a un paso de cebra, puede identificar que hay personas cruzando y detenerse. Esa identificación ocurre gracias al trabajo que hemos hecho.
Michael: El trabajo de datos gira en torno al entrenamiento de estos sistemas. Normalmente, las personas trabajadoras de datos reciben datos en bruto y un conjunto de instrucciones, o un manual, y tienen que etiquetar los datos de acuerdo con ese manual.
Todo empieza con lo que se está construyendo. Una vez que quienes desarrollan el sistema tienen claro qué quieren crear, elaboran un conjunto de reglas. Después se forma a las personas trabajadoras, muchas veces mediante tareas de entrenamiento que tienen que aprender por su cuenta. Por ejemplo, si una empresa quiere datos para reconocimiento facial, puede tomar fotografías aleatorias de personas y pedir a las trabajadoras que dibujen recuadros alrededor de los rostros y los identifiquen.
Se necesitan miles y miles de fotografías, porque las personas son diferentes: altas, bajas, niñas, personas en silla de ruedas, personas en bicicleta. Todo eso tiene que etiquetarse para que el sistema llegue a ser preciso
Lo mismo ocurre con los coches autónomos. Hay que ayudar al sistema a entender qué puede encontrarse en la carretera: una persona cruzando, un animal, una boca de incendios, otro coche, marcas viales, semáforos. Y esto no puede hacerse con unas pocas imágenes. Se necesitan miles y miles de fotografías, porque las personas son diferentes: altas, bajas, niñas, personas en silla de ruedas, personas en bicicleta. Todo eso tiene que etiquetarse para que el sistema llegue a ser preciso.
Incluso algo como el cielo debe etiquetarse correctamente. Si no etiquetas el cielo, el sistema podría confundir más tarde un cielo azul con una masa de agua porque ambos son azules. Así que el trabajo de datos consiste en ayudar a las máquinas a identificar objetos de interés de una forma muy precisa.
Cuando la gente oye términos como “datos de entrenamiento” o “conjuntos de datos”, suele imaginar algo puramente técnico. ¿Qué realidades humanas se esconden detrás de esas palabras?
Michael: Lo primero que hay que entender es que esto no es realmente inteligencia “artificial”. Es inteligencia humana. No hay nada artificial en la inteligencia que está detrás de estos sistemas. Hay pura inteligencia humana detrás de las pantallas.
Lo que parece magia es, en realidad, trabajo humano. Yo diría que somos la magia humana detrás de las máquinas. Ese aspecto humano no puede eliminarse de esta conversación, aunque muchas grandes empresas tecnológicas intenten ocultarlo.
Esta fuerza laboral existe en muchas categorías distintas. Una persona puede estar trabajando en subtítulos para vídeos, otra en imágenes tomadas por drones, otra en datos de seguridad, otra en datos médicos. Cada sistema se desarrolla para una necesidad específica. Si un país quiere desarrollar un sistema de seguridad, necesitará un tipo de datos. Si alguien está desarrollando una herramienta médica, necesitará otro. El trabajo es muy diverso, pero en todos los casos las personas trabajadoras tienen responsabilidad sobre cómo estos sistemas clasifican e interpretan el mundo.
¿Cuáles son las cuestiones más urgentes que el público y las personas responsables de políticas públicas deberían entender sobre el trabajo de datos, especialmente en África?
Lucy: Lo primero es que la gente debería dejar de creer la narrativa de que la IA está completamente automatizada. La inteligencia artificial no puede razonar por sí sola. No puede funcionar sin seres humanos en el proceso.
Hay muchos ejemplos. Un día etiquetas como humana a una persona que está de pie. Otro día, el sistema ve a una persona en silla de ruedas, o a una persona que se desplaza arrastrándose porque no tiene acceso a una silla de ruedas. El sistema puede confundir a esa persona con otra cosa si no ha sido entrenado correctamente. Hemos corregido casos así muchas veces.
Así que si la IA no puede funcionar sin seres humanos, y si estos sistemas están generando miles de millones, entonces las personas trabajadoras deberían estar protegidas. Pero las empresas externalizan este trabajo a países donde hay menos protecciones, donde nadie comprueba si se paga el salario mínimo y donde las trabajadoras tienen muy poco poder.
Muchas trabajadoras no tienen contratos. No tienen prestaciones sociales. Las condiciones laborales son muy malas
A veces nos pagan tan poco que ni siquiera podemos permitirnos ir al trabajo. No podemos pagar el transporte o la comida. Muchas trabajadoras no tienen contratos. No tienen prestaciones sociales. Las condiciones laborales son muy malas.
Yo fui formadora, y a veces ni siquiera teníamos puestos de trabajo adecuados. Tenía que estar de pie 14 horas seguidas, de 7 de la mañana a 9 de la noche, porque como formadora se esperaba que me moviera constantemente y formara a cientos de personas. Estas son las condiciones que hay que visibilizar.
No es que no queramos los trabajos. Queremos los trabajos. Pero si estas empresas traen empleo aquí, deberían traer empleo digno. Deberían pagar al menos el salario mínimo, o más.
Michael: A falta de una palabra mejor, las condiciones son patéticas.
Si estás desarrollando un sistema que se va a utilizar en Europa o en Estados Unidos, ¿por qué es tan difícil pagar adecuadamente a las personas que hacen el trabajo? Por lo que sabemos, muchas de estas tecnologías ni siquiera se desarrollan para nosotras. Estamos construyendo sistemas para otros, pero se nos paga como si nuestro trabajo no tuviera valor.
Las empresas también imponen condiciones a las trabajadoras sin hacerse responsables de ellas. Te dicen que necesitas un portátil con especificaciones concretas, quizá 16 GB de RAM, disco SSD y una determinada velocidad de internet. Pero no te proporcionan ni el portátil ni la conexión. Así que, para trabajar, tienes que invertir tu propio dinero.
Como el pago es tan bajo, la gente acaba aceptando varios trabajos. A veces las personas trabajadoras permanecen conectadas 20 horas al día solo para ganar algo razonable. Hemos visto casos en los que alguien ganó solo 0,10 dólares en toda una semana. También hemos visto contenido sucio o gráfico pagado a 0,30 dólares por 1.000 tareas. ¿Cuánto tiempo se necesita para completar 1.000 tareas? ¿Cómo se puede llamar a eso de otra manera que no sea esclavitud moderna?
Y luego está la discriminación. A veces las trabajadoras en Kenia cobran 0,30 dólares por 1.000 tareas, mientras que alguien haciendo un trabajo similar en Estados Unidos puede ganar 50 dólares por hora. La selección de territorios es estratégica.
Gran parte del trabajo más perturbador se hace aquí. Las trabajadoras ven contenido gráfico, a veces durante largos periodos, sin apoyo en salud mental. Conozco casos de personas que quedaron profundamente afectadas por lo que vieron. Pero no hay protecciones, no hay disposiciones legales, y las empresas utilizan los vacíos del marco jurídico contra las trabajadoras.
¿Cómo empezasteis a organizaros y a construir incidencia alrededor de este trabajo?
Lucy: Empezamos localmente, en Kenia. No habría sido posible empezar organizando a todos los países a la vez. Primero necesitábamos crecer a nivel local y ahora, con el impulso que tenemos, estamos empezando a conectar con otras personas. Ya tenemos miembros de otros países, aunque todavía no participen activamente.
También nos conectamos con otras trabajadoras de plataformas. Por ejemplo, tuve la oportunidad de ir a Ginebra para la Conferencia Internacional del Trabajo, donde conocí a trabajadoras de otros sectores: conductores de plataformas, asociaciones de niñeras y otras personas. Nos dimos cuenta de que no podemos luchar solas.
Puede que las empresas no siempre sean exactamente las mismas, pero el modelo es parecido. Necesitamos campañas globales. Necesitamos unidad entre trabajadoras de plataformas, ya estén en el trabajo de datos, en los cuidados, en el transporte o en otros sectores.
Con la aprobación del Convenio 193, necesitamos una campaña global para presionar a los gobiernos a implementar estas normas y mejorar las condiciones laborales.
Muchos abusos laborales permanecen invisibles porque son difíciles de documentar. ¿Cómo recopiláis pruebas y testimonios de las trabajadoras?
Michael: Hemos enfrentado muchos retos con la documentación. No todo el mundo quiere hablar públicamente porque teme represalias. Por eso intentamos recoger historias con cuidado y de forma discreta, asegurándonos de entender bien el espacio antes de hacer públicas ciertas cosas.
También hay represalias. A veces, después de que se denuncian violaciones, las empresas cambian de jurisdicción. Eso dificulta emprender acciones legales porque ya no operan bajo la misma jurisdicción. Lo vimos con el caso de Meta en Kenia, cuando más de 1.100 trabajadoras fueron despedidas. Después de que salieran informes sobre el trabajo, la empresa cambió de jurisdicción.
Algunas plataformas monitorizan a las trabajadoras con cámaras durante todo el turno. Si alguien pasa por detrás de ti, eso puede ser suficiente para que pierdas el trabajo
También tenemos que tener en cuenta los acuerdos de confidencialidad. A las trabajadoras se les dice que no hablen de su trabajo, a veces ni siquiera con sus parejas. Imagina trabajar desde casa, pero que tu pareja no deba saber lo que haces. Algunas plataformas monitorizan a las trabajadoras con cámaras durante todo el turno. Si alguien pasa por detrás de ti, eso puede ser suficiente para que pierdas el trabajo.
Esto aísla a las trabajadoras de la sociedad. Las hace más fáciles de controlar.
Como asociación, sabemos que estos temas son sensibles. No queremos actuar de forma imprudente, porque la gente puede perder su trabajo. Cuando más de 1.100 personas perdieron su empleo, no estábamos en condiciones de ofrecer una solución inmediata. Pero el hecho de que las trabajadoras hablaran sobre sus condiciones y la empresa respondiera marchándose demuestra que estas prácticas son deliberadas.
Por eso no limitamos la asociación a un solo país. Nuestra plataforma de afiliación está abierta a trabajadoras de todo el mundo. Pero como organización joven, también necesitamos construir estructuras sólidas antes de expandirnos más ampliamente.
¿Quién se convierte en trabajador o trabajadora de datos? ¿Son principalmente personas jóvenes o atraviesa distintas generaciones?
Lucy: Atraviesa toda la demografía. Durante mi etapa como tasker, formadora y jefa de equipo, formé a todo tipo de personas. A veces venían familias enteras: una madre, una hija, una prima.
El desempleo en Kenia es muy alto, y creo que esa es una de las razones por las que las grandes tecnológicas externalizan mano de obra barata aquí. Cualquier persona que no tenga trabajo puede intentar entrar en estas plataformas.
Las plataformas presentan el proceso de entrada como algo fácil. Solo tienes que registrarte y ya estás dentro. Pero una vez dentro, te das cuenta de que el trabajo tiene muchos requisitos. Tienes que entender materiales de formación muy largos, a menudo escritos en un inglés complejo, y traducir eso a tareas prácticas.
Muchas personas abandonan porque la formación no se paga. Si la formación es presencial, las trabajadoras tienen que desplazarse cada día, alimentarse y seguir manteniendo a sus familias. Las personas mayores muchas veces no pueden permanecer mucho tiempo en las plataformas porque tienen más gastos y responsabilidades. A veces se van a trabajos de limpieza que pagan mejor.
Pero muchas personas, especialmente madres y padres, son muy persistentes. Formé un proyecto durante tres meses seguidos. A las trabajadoras se les prometieron tareas reales, que son las tareas que completas y por las que cobras. Pero la dirección seguía diciendo que todavía no estaban listas porque el proyecto era “sensible”. Las trabajadoras esperaron meses, con la esperanza de que finalmente les pagaran. Al final, muchas se fueron frustradas.
Así que puede parecer que hay muchas personas jóvenes en el sector, pero no son solo jóvenes. Afecta a muchos tipos de trabajadoras.
¿Están las trabajadoras de datos en una posición única para identificar riesgos, daños o puntos ciegos en los sistemas de IA?
Michael: Sí, pero muchas trabajadoras son vulnerables y quizá no saben cuándo se están violando sus derechos. A veces lo saben, pero lo ignoran porque necesitan el dinero.
Por ejemplo, hay proyectos en los que se pide a las trabajadoras que tomen fotografías de personas de entre 60 y 70 años, o de bebés de entre nueve meses y dos años. Una trabajadora puede hacerlo sin darse cuenta de que es una violación. Quizá solo lo entiende más tarde, cuando entra en espacios de incidencia, y se da cuenta de que lo que le pidieron hacer estaba mal.
Estas empresas suelen dirigirse a grupos vulnerables. En algunas escuelas de formación, se preguntaba a las trabajadoras si venían de un barrio marginal. Si no venías de un barrio marginal, quizá no te seleccionaban. Eso dice mucho. Se dirigen a personas desesperadas por trabajar y con menos probabilidades de cuestionar las vulneraciones.
¿Saben las trabajadoras cómo se utilizan finalmente los datos que etiquetan?
Lucy: No. Prácticamente no hay transparencia.
No puedo decirte cómo se ha utilizado ningún dato en el que haya trabajado. Las empresas no son transparentes sobre qué hacen con nuestra productividad.
Por ejemplo, hubo un proyecto en el que teníamos que hacernos selfies. Los selfies tenían muchas especificaciones: en una habitación oscura, en una habitación bien iluminada, con casco, sin casco, mostrando las manos, desde distintos ángulos. Teníamos que enviar lotes de unas 15 fotos.
No puedo decirte cómo se ha utilizado ningún dato en el que haya trabajado. Las empresas no son transparentes sobre qué hacen con nuestra productividad
En ese momento, nos dijeron que nos pagarían unos 10 dólares, lo que sonaba como mucho dinero solo por hacerse selfies. Así que la gente lo hizo. Algunas recomendamos el proyecto a amigas. Pero después de enviar las fotos, la empresa decía que una imagen no cumplía los requisitos, así que rechazaba toda la tarea. Ya tenían las fotos, pero nadie cobraba.
¿Adónde fueron esas fotos? ¿Para qué se utilizaron? Nunca nos lo dijeron.
Otros proyectos piden a la gente que tome fotografías de bebés. Eso es una violación, pero muchas trabajadoras no conocen sus derechos. Las empresas se aprovechan de esa falta de conocimiento.
Incluso los nombres de los proyectos están ocultos. Trabajábamos en proyectos con nombres como Austria, Porcupine, Zebra o Giraffe. Esos nombres no te dicen nada. No sabes si tu trabajo se está utilizando para Tesla, aspiradoras inteligentes, robots médicos, drones u otra cosa.
Si nuestro trabajo ayuda a crear productos que generan miles de millones, ¿no tenemos algún tipo de relación de propiedad intelectual con eso? Como mínimo, necesitamos transparencia.
Michael: La gente sigue en la oscuridad porque la IA se presenta como magia. Pero la IA nunca es magia. No hay ninguna máquina que se haya construido a sí misma. Fue construida por seres humanos. No hay ninguna máquina que haya obtenido información por sí sola. Fue alimentada por seres humanos.
También trabajé en un proyecto llamado moderación de chat. Al principio pensé que respondería a tickets o ayudaría a usuarios con problemas. Pero con el tiempo el trabajo cambió.
Nos dijeron que chateáramos con personas solitarias, personas que buscaban amor en internet. Pero teníamos que suplantar distintas identidades. Soy hombre, pero a veces tenía que responder como mujer. A veces tenía que actuar como una persona gay, o como una lesbiana, o como una mujer mayor que había perdido a su marido. Tenía que ofrecer atención emocional, pero bajo reglas estrictas. No podía compartir mi información personal. Si lo hacía, el sistema podía detectarlo y suspender mi cuenta.
La persona al otro lado podía creer que estaba hablando con una IA, pero en realidad estaba hablando con seres humanos. Se esperaba que escribiéramos al menos 50 palabras por minuto y que mantuviéramos el hilo de conversaciones que pasaban de una trabajadora a otra. Si una trabajadora paraba, la conversación pasaba a otra persona disponible, que tenía que leer rápidamente los mensajes anteriores y continuar como si nada hubiera cambiado.
Esa es otra forma de desinformación. La gente cree que está hablando con una IA, pero está hablando con trabajadoras humanas que cobran muy poco, a veces 0,05 dólares por mensaje.
¿Podría desarrollarse la IA de otra manera, de forma que beneficiara a las comunidades locales?
Lucy: Sí, y nos gustaría muchísimo. Ahora mismo, no nos beneficiamos localmente de gran parte de este trabajo.
Por ejemplo, con los selfies, más tarde nos dimos cuenta de que quizá se habían utilizado para desarrollar software de reconocimiento facial. Pero en ese momento no lo sabíamos. Puede que alguien en otro lugar recibiera nuestras imágenes para etiquetarlas. Nosotras nunca lo sabemos.
En Kenia, nunca he visto un Tesla autónomo. Quizá haya alguno en algún sitio, pero yo nunca he visto que esa tecnología se utilice aquí. Una vez pedí una aspiradora inteligente por internet porque me hacía ilusión. Había trabajado en cosas parecidas y pensé que podría ayudarme en casa. Pero lo que llegó era como un juguete. Apenas cabía en la palma de mi mano y se quedaba girando en el mismo sitio mientras los gatos corrían alrededor.
No experimentamos los beneficios de estas tecnologías. Si las empresas ganan miles de millones con nuestro trabajo, deberían devolver algo a las comunidades que ayudan a desarrollar sus productos.
Podrían apoyar sistemas de IA que ayuden con el tráfico, las infraestructuras, las escuelas o los servicios públicos. Las trabajadoras podrían etiquetar imágenes de nuestras propias carreteras y calles. Eso podría ayudar a identificar baches, mejorar infraestructuras y responder a necesidades locales. Pero ahora mismo, la mayor parte del valor sale del país.
¿Qué tipo de incidencia y formación ofrece la Data Labelers Association?
Lucy: Organizamos encuentros de trabajadoras. Tuvimos uno en febrero y otro el día 13 de este mes. Cada vez que reunimos a las trabajadoras, nos centramos en temas diferentes.
Invitamos a profesionales, como abogadas, para que enseñen a las trabajadoras sobre políticas y derechos. También invitamos a terapeutas, porque la salud mental es uno de los mayores problemas para las trabajadoras de datos.
Estas empresas nos aíslan. Las trabajadoras firman acuerdos de confidencialidad, y muchas personas de su entorno no pueden entender por lo que están pasando. La gente se derrumba. Algunas personas se suicidan. Así que intentamos crear espacios seguros donde las trabajadoras puedan hablar, compartir experiencias, conocer a otras personas y recibir apoyo.
Michael: Cuando hicimos nuestro mapeo, queríamos entender cuáles eran los temas más urgentes. La salud mental apareció con mucha fuerza. Por eso creamos DLA Health, que se centra en salud mental. También tenemos DLA Voice, que se centra en incidencia, y DLA Community, que se centra en la participación.
Reunimos a trabajadoras para sesiones sobre salud mental, educación cívica, derechos y políticas públicas. También nos relacionamos con aliadas, organizaciones de la sociedad civil y actores gubernamentales, porque necesitamos cambios en las políticas y regulaciones.
A veces sufrimos represalias. Nos dicen que estamos alejando a los inversores. Pero nuestra posición es sencilla: sentémonos y abordemos estos problemas
Ha sido un camino difícil. Somos una organización joven y la financiación es un reto. A veces sufrimos represalias. Nos dicen que estamos alejando a los inversores. Pero nuestra posición es sencilla: sentémonos y abordemos estos problemas.
Muchas personas ni siquiera sabían qué era el etiquetado de datos. Lo confundían con moderación de contenidos o creación de contenidos, que son cosas distintas. Así que parte de nuestro trabajo consiste simplemente en hacer que la gente entienda qué es el etiquetado de datos y por qué importa.
¿Cómo pueden apoyar vuestro trabajo las personas de fuera del sector?
Lucy: La gente puede ayudar nombrando y reconociendo a la Data Labelers Association. La sensibilización es importante, especialmente ahora, con la aprobación del Convenio 193. Necesitamos que las personas contribuyan a la campaña global y presionen a los gobiernos para que implementen protecciones para las trabajadoras de plataformas.
Ahora mismo, lo más importante es sumarse a la campaña global.
Michael: Lucy lo ha dicho casi todo. Este trabajo debería llegar lejos, y no podemos hacerlo solas.
