Ilustración tomada de https://dsm.forecastinternational.com
Ramón López de Mántaras es uno de los pioneros de la inteligencia artificial en España y Europa, fundador y exdirector del Instituto de Investigación en Inteligencia Artificial (IIIA-CSIC), además de una voz muy crítica con el desarrollo de la IA en mano de tecnofascistas. Su trayectoria combina investigación científica de primer nivel, liderazgo institucional y una intensa labor de divulgación sobre los retos éticos de la IA. Fue, además, el primer investigador fuera de los Estados Unidos en recibir el premio Robert S. Engelmore de la AAAI (Association for the Advancement of Artificial Intelligence), en 2011.
Queremos compartir con ustedes una charla de este año, como así también una entrevista que Jon Hernández le hiciera al investigador a comienzos del año pasado. La primera fue una ponencia que De Mántaras dictó en enero de 2026 en Chile, para Congreso Futuro, que se presenta como “la principal plataforma de divulgación científica y reflexión interdisciplinaria de Latinoamérica.”, en el marco de la actividad titulada “Humanidad, ¿hacia dónde vamos?” A continuación pueden encontrar el video y la transcripción de la charla. Con respecto a la entrevista –mucho más extensa–, a ésta la publicamos exclusivamente en formato audiovisual, por razones de espacio. Recomendamos a nuestros lectores leer también el artículo de nuestro compañero Ariel Petruccelli titulado “¿Cómo orientarse en la niebla de la IA? Un esbozo cartográfico y una brújula ecomunista”, que acompaña este número y que presenta un panorama crítico ampliado del desarrollo de la IA y sus consecuencias, además del artículo de Moreno Pasquinelli, titulado “El cibercapitalismo y las tres variantes de la tecnocracia”, y la nota de Diego Genoud, “Empleo en la era IA: el Sindicato Mundial de Trabajadores de Datos”.
LA CARA OCULTA DE LA INTELIGENCIA ARTIFICIAL
La promesa que lanzan los líderes de las grandes tecnológicas de Silicon Valley es clara. Las actuales inteligencias artificiales generativas evolucionan hasta el punto –o evolucionarán hasta el punto– en que tendremos unas supuestas futuras superinteligentes artificiales que se encargarían de hacer todo tipo de trabajos, resolverán todos los problemas actuales y futuros, y así los seres humanos podremos dedicarnos a la creatividad, el ocio y a vivir una vida plena. Una utopía de tintes casi renacentistas, en el que el progreso tecnológico abriría las puertas a una nueva edad dorada de la humanidad.
Sin embargo, esta narrativa tan triunfalista como simplista oculta una realidad mucho más incómoda. Detrás de cada modelo generativo, de cada asistente conversacional y de cada imagen producida por algoritmos, hay millones de trabajadores invisibilizados cuya labor resulta imprescindible para que la inteligencia artificial funcione. Los chatbots que hoy responden a millones de consultas diarias no son fruto exclusivo del talento de muy bien remunerados ingenieros en California, sino también de la explotación de una fuerza laboral masiva, dispersa e invisible que está detrás de las inteligencias artificiales generativas.
Estos trabajadores invisibilizados son los llamados data workers o trabajadores de los datos, que son personas encargadas de clasificar y etiquetar imágenes, corregir textos, transcribir audios, señalar errores en traducciones y depurar el océano de datos que alimentan los algoritmos durante la fase de entrenamiento. Sin estos data workers, los algoritmos que luego se presentan como inteligentes y autónomos simplemente no funcionarían. Como explica Mary L. Gray [y Siddharth Suri] en un artículo titulado “The Humans Working Behind the AI Curtain”, publicado ya en 2017 en la revista Harvard Business Review, la supuesta inteligencia de la inteligencia artificial es inseparable del trabajo de multitud de humanos detrás de las cortinas. Por su parte, John P. Nelson en un artículo titulado “ChatGPT and Other AI Languages Are Nothing Without Humans”, publicado en 2023 en The Conversation, también señala que los chatbots que parecen inteligentes solo existen porque millones de personas entrenan, corrigen y supervisan sus respuestas. Es decir, gracias a estos data workers, las empresas de inteligencia artificial generativa colocan de forma continua parches que nunca hacen públicos, por cierto, sobre sus modelos de lenguaje, solucionando cada nuevo problema a medida que aparece, y este ciclo se repite sin fin.
Según estimaciones recogidas por el Banco Mundial en un informe de 2023 titulado “Trabajar sin fronteras”, entre 150 y 425 millones de personas ya participan de esta economía digital invisible. Google, en un documento de 2022 titulado “Who is the AI dream”, calculó que pronto podrían superar el millar de millones. El aspecto más perturbador de este trabajo no es solo la precariedad salarial, sino el tipo de contenidos a los que esos trabajadores deben enfrentarse. Para que un sistema de inteligencia artificial sea capaz de reconocer un discurso de odio, alguien ha debido leerlo, clasificarlo y marcarlo como tal. Para que un modelo filtre pornografía, violencia extrema o material pedófilo, alguien ha tenido que visualizarlo antes. Esto significa que multitud de personas pasan jornadas larguísimas expuestas a lo peor de la condición humana: violaciones, torturas, grabaciones de asesinatos, etcétera. Las periodistas Rebecca Tan y Regine Cabato, en el artículo titulado “Behind the AI boom, an army of overseas workers in digital sweatshops”, publicado en The Washington Post en 2023, documentan cómo estas condiciones laborales extremas son sistemáticas. Esta exposición continuada genera consecuencias devastadoras: cuadros de ansiedad, depresión, insomnio y, en muchos casos, trastornos de estrés postraumático que persisten incluso años después de haber abandonado el empleo.
El documental “Les sacrifiés de l’IA” de Henri Poulain, producido por la televisión francesa en 2024, lo revela con gran crudeza. Este documental, muy recomendable, por cierto, recoge testimonios estremecedores de trabajadores que nunca lograron recuperarse del daño psicológico, consecuencia de su trabajo. En muchos casos, ni siquiera tuvieron acceso a un acompañamiento terapéutico mínimo, porque las empresas subcontratadas que gestionan esas tareas rara vez ofrecen apoyo psicológico. Además, el silencio se impone a través de contratos de confidencialidad que prohíben hablar del trabajo, incluso con familiares cercanos.
La localización de esta mano de obra no es casual. Los grandes gigantes tecnológicos subcontratan estas tareas a empresas situadas en países con muy bajos salarios y débiles sistemas de protección social. El resultado es que los trabajadores que sostienen la inteligencia artificial viven en contextos de máxima vulnerabilidad. Refugiados ucranianos, madres solteras en Kenia, estudiantes en India, Pakistán o Filipinas, todos forman parte de una cadena de producción global que opera bajo las condiciones perfectas para que las empresas que los contratan esquiven regulaciones laborales y obligaciones sociales. La gran mayoría cobran menos de cinco dólar al día. Trabajan desde casa, aislados, sin contacto con colegas ni supervisión efectiva, convertidos en pieza fungible de un engranaje despiadado. Se trata de un proletariado digital que reproduce con nuevas formas las viejas lógicas del colonialismo. El beneficio se acumula en Silicon Valley, mientras los costes humanos se reparten en lugares como Nairobi, Bangalor o Manila.
Uno de los elementos ideológicos que sirve de cuartada a esta situación es el llamado “largoplacismo”. Esta corriente filosófica, estrechamente vinculada al altruismo efectivo, se presenta como un ejemplo paradigmático de cómo ciertas élites tecnológicas utilizan el futuro como coartada para desentenderse del presente. Defensores de esta visión, liderados por el controvertido filósofo Nick Bostrom, sostienen que el valor moral de un hipotético futuro dorado sería inconmensurablemente mayor que cualquier preocupación inmediata. El altruismo efectivo se convierte así en una excusa para justificar políticas y decisiones que priorizan muy dudosos beneficios futuros por encima de los grandes costos humanos y sociales presentes.
La fórmula es archiconocida: el fin justifica los medios. Esta forma de pensar ha influido de manera notable en la mayoría de líderes de Silicon Valley. El problema es evidente: bajo esta lógica, problemas actuales como la pobreza o la desigualdad pasan a un segundo plano. Esta ideología opera como un potente velo moral que encubre desigualdades presentes y concentra poder en manos de unas pocas corporaciones.
A este preocupante panorama se suma otro coste habitualmente minimizado por las grandes tecnológicas: el coste ambiental. Los centros de datos que alimentan a la inteligencia artificial generativa requieren cantidades ingentes de electricidad y agua. Su huella de carbono es colosal, y su demanda de minerales estratégicos como el cobalto, el litio y las tierras raras multiplica tensiones geopolíticas y expone a comunidades locales a condiciones de extracción devastadoras. En los últimos 5 años, el coste mayorista de la electricidad en las zonas próximas a grandes centros de datos se ha triplicado. Lamentablemente, Chile también se enfrenta al problema de la construcción de grandes centros de datos. A corto plazo, la mayoría de estos centros se abastecerá de combustibles sólidos. Promotores y tecnológicas compran terrenos cerca de yacimientos de gas natural donde se están reconvirtiendo antiguas centrales de carbón en enormes plantas de gas. Una sola de ellas podría emitir 2.000 toneladas de dióxido de carbono por hora, el equivalente, por cierto, a 4 millones de coches al ralentí. El planeta se calienta ya a un ritmo de tres décimas de grado por década. Seguir construyendo plantas térmicas para alimentar las decenas o centenares de miles de servidores en centros de datos y gigafactorías de inteligencia artificial solo acelerará un calendario climático que ya bordea lo catastrófico.
¿Es realmente necesario seguir añadiendo más y más centros de datos a los 12.000 ya existentes en todo el mundo para alimentar inteligencias artificiales generativas de dudosa utilidad? Pero el cuello de botella podría ser no solo energético, sino también informacional. Los datos, la materia prima de la inteligencia artificial generativa, son finitos. Los grandes modelos se entrenan con casi todo lo que existe en internet: textos, imágenes, audios, videos, muchos de ellos protegidos por derechos de autor. En septiembre, la empresa Anthropic, creadora de Claude, aceptó pagar 1.500 millones de dólares por haber usado libros pirateados en su entrenamiento. Se trata del mayor acuerdo por infracción colectiva de derechos de autor de la historia. Demandas similares contra OpenAI, Meta, Google y Nvidia siguen pendientes. Además, tenemos otro problema añadido. Según varios estudios, el suministro de texto humano de calidad podría agotarse entre este año 2026 y 2032.
Gran parte del contenido de internet es basura generada precisamente por los sistemas de inteligencia artificial generativa. A medida que los modelos de inteligencia artificial se entrenan en base a material previamente generado por otros modelos de inteligencia artificial, su lenguaje se vuelve predecible, plagado de clichés y giros repetidos. La paradoja es inquietante: cuanto más grandes son los modelos de lenguaje, más pobres son sus resultados.
Los data workers, el agua, la energía, la tierra y los datos se han convertido, pues, en recursos estratégicos que deben ser explotados en la nueva era de la inteligencia artificial generativa. Los defensores del largoplacismo afirman que esta explotación merece la pena. El razonamiento es perverso: una vez más se sacrifica el presente en nombre de un hipotético futuro, ignorando que los problemas actuales, como por ejemplo el calentamiento global, exigen medidas urgentes, no promesas hipotéticas.
La narrativa triunfalista sobre la inteligencia artificial generativa debe ser desmontada. No debemos dejarnos seducir por la retórica triunfalista alrededor de la inteligencia artificial generativa. Como he dicho antes, detrás del mito de esta inteligencia artificial hay millones de personas sometidas a explotación, daños psicológicos y salarios de miseria. Hay también un planeta que soporta los costes ambientales de una industria energéticamente voraz. La pregunta fundamental que debemos hacernos es si, en nombre de esta inteligencia artificial, estamos dispuestos a seguir precarizando trabajadores, a gastar cantidades exorbitadas de energía acelerando el calentamiento global, y a exponer a comunidades locales a condiciones de extracción devastadoras de minerales estratégicos. En mi opinión, la respuesta debe ser un no rotundo. Kerry Kennedy, en su brillante charla inaugural, nos recordaba que, por difícil que sea, hay ocasiones en que debemos tener el coraje de decir no. La respuesta ante la narrativa triunfalista de la inteligencia artificial generativa no puede ser la indiferencia. Si queremos un futuro justo, la innovación tecnológica debe ir acompañada de una reflexión ética colectiva, regulación política, protección del planeta y protección laboral. De lo contrario, lo que nos aguarda no es el paraíso tecnológico, sino un futuro distópico en un planeta en ruinas. Y no olvidemos que ninguna inteligencia, ni humana ni artificial, puede sostenerse sobre un planeta en ruinas.
Ramón López de Mántaras
LA GRAN MENTIRA DE LA INTELIGENCIA ARTIFICIAL