El pasado 5 de diciembre tuvimos el honor de recibir en nuestras oficinas de Buenos Aires a Milagros Miceli, la investigadora Argentina que fue reconocida por la revista Time como una de las 100 personas más influyentes del mundo en materia de inteligencia artificial. Milagros es muy crítica de las empresas que desarrollan IA, y eso es justamente lo que a nosotros nos interesa y desafía ya que nos provoca a hacernos nuevas preguntas para seguir mejorando y ampliando la perspectiva.

Su exposición y el conversatorio que se generó luego dejó muchas reflexiones interesantes. Milagros abre una mirada alejándose del discurso dominante de hiper entusiasmo por el desarrollo y consumo exagerado de IA; también conocido como “hype”. Es más preciso hablar de tecnologías de automatización, ya que el término IA tiende a ocultar su funcionamiento real, su materialidad y sus impactos sociales, laborales y ambientales.


Milagros Miceli, Juan Santiago y Walter Abrigo

Milagros sostiene que la IA (especialmente la generativa, que está al alcance de todo el mundo) no es inmaterial ni neutral; sino que se basa en tres formas centrales de explotación:

1. Explotación de las personas y de la creatividad humana: Los modelos de IA se entrenan a partir del uso masivo y no consentido de contenidos producidos por artistas, periodistas, escritores y traductores. Este material es apropiado como datos sin reconocimiento ni compensación, generando conflictos por derechos de autor y concentración de beneficios en pocas empresas tecnológicas.
2. Explotación del trabajo humano invisibilizado: Detrás de la IA existe una enorme cantidad de trabajo humano, especialmente el llamado trabajo de datos (etiquetado, moderación de contenido, validación y mantenimiento de modelos). Este trabajo, realizado por varios cientos millones de personas en el mundo, se desarrolla mayoritariamente en condiciones precarias, tercerizado en países del sur global, sin derechos laborales ni estabilidad. Esta precarización no es casual: busca reducir costos y limitar la capacidad de cuestionamiento de quienes producen los datos que sostienen los modelos.
3. Explotación de recursos naturales y territorios: La infraestructura que sostiene la IA (especialmente los data centers) requiere enormes cantidades de agua, energía y territorio. La llamada “nube” tiene una materialidad concreta que genera impactos ambientales, contaminación y conflictos locales. Por eso es tan importante que, en el contexto del anuncio de la instalación de un mega data center en la Patagonia, en lugar de dejarnos llevar por la noticia, indaguemos las condiciones, los impactos directos e indirectos, y en base a un balance integral y profesional que contemple desarrollo tecnológico, productivo, comunitario y ambiental, tomemos una decisión como país soberano.

También se cuestionó la idea de que la IA sea objetiva o neutral. Por el contrario, se la define como una tecnología epistémica, capaz de imponer clasificaciones, visiones del mundo y “verdades”, que reflejan los intereses e ideologías de quienes la diseñan. Esto se ve, por ejemplo, en clasificaciones rígidas de género o en la ausencia de diversidad en los criterios de entrenamiento.

También se analizó la concentración de poder económico, político y simbólico en pocas empresas tecnológicas, que no solo obtienen ganancias extraordinarias sino que influyen en la forma en que se produce conocimiento y se toman decisiones sociales. Frente a este panorama, se propone no caer ni en el tecno-optimismo ingenuo ni en la distopía paralizante. Se plantea la necesidad de recuperar la pregunta “para qué y para quién” antes de aplicar IA, promover regulaciones, fortalecer el pensamiento crítico y diseñar tecnologías desde las necesidades reales de las comunidades, especialmente desde el sur global.

La conclusión general del conversatorio invita a no resignarse, a imaginar alternativas posibles y a discutir colectivamente qué tipo de tecnologías se quieren desarrollar, bajo qué condiciones y con qué impacto social, ambiental y humano. Nosotros, como compañía que fabrica tecnología, nos encontramos en una posición en la cual tenemos una responsabilidad enorme. Ésta ha dejado de ser una conversación técnica y ha pasado a ser una conversación ética. La IA abre un nuevo paradigma, en el que lo que está en juego no es una tecnología sino el posicionamiento humano, individual y colectivo, y la necesidad de que cada uno de nosotros defina si lo que queremos perpetuar es una lógica extractivista, que destruye y genera solo para pocos, o ecosistémica, donde ganemos todos.

(*) Juan Santiago: CEO de Santex