
Contra el oráculo de IA
Mario Villarreal nos propone una vía de acción contra el embrujo de la Inteligencia Artificial: tal vez la clave está en herramientas del pasado, en rastros del presente, en ideas de futuro. En su propuesta epistemológica, la Rosca acompaña.
Vivimos en un mundo donde la irrupción de la inteligencia artificial generativa (IAGen) ha provocado un tsunami de textos, imágenes y códigos que simulan con asombrosa fluidez el razonamiento humano. Frente a esta velocidad técnica, se nos ofrece una tentadora promesa: delegar el esfuerzo de pensar a cambio de una eficiencia sin precedentes. Sin embargo, bajo la superficie de los chats conversacionales se esconde una reorganización profunda del poder, el conocimiento y la subjetividad. Esta mediación algorítmica no es neutral, sino que redefine los regímenes de saber-poder en nuestra región, situando los futuros tecnológicos como un territorio de disputa social.
¿Cómo podemos reaccionar ante este escenario sin caer en la prohibición tecnofóbica ni en la celebración ciega? La respuesta no está en Silicon Valley, sino en las raíces de la pedagogía crítica de nuestra América Latina.
Recuperar la mirada de Paulo Freire y las tradiciones de la educación popular se vuelve urgente para transformar el monólogo del algoritmo en una herramienta de emancipación colectiva.
La seducción del oráculo y la nueva "educación bancaria" digital
En su obra cumbre y más difundida, “Pedagogía del oprimido”, Paulo Freire denunció la "educación bancaria": un modelo pedagógico donde el docente deposita de forma lineal y descontextualizada contenidos en la mente de un estudiante pasivo, quien simplemente los memoriza y archiva.
Para Paulo Freire, la educación no es una práctica aséptica ni neutral, sino procesos gnoseológicos, éticos y estéticos que conllevan una radical toma de posición frente a la realidad. Todo acto educativo es un acto político; no existe la neutralidad en la enseñanza: o bien la educación se utiliza para reproducir las condiciones de desigualdad y opresión existentes, o bien se convierte en un instrumento de liberación a través del diálogo, la concienciación y la acción transformadora. En este sentido, Freire estructuró su pedagogía en contraposición a la "educación bancaria", aquel modelo tradicional y reproductivo donde el educando es tratado como un depositario pasivo de contenidos estáticos, una "caja vacía" donde el docente "vierte" información digerida. Este modelo anula la curiosidad epistemológica del estudiante y promueve una adaptación inerte a una realidad social presentada como inmutable.
Hoy, las grandes corporaciones tecnológicas actúan como los nuevos banqueros del saber, donde las plataformas de IAGen se presentan como oráculos infalibles que siempre tienen una respuesta rápida y pulida para cada pregunta. El peligro radica en que estas herramientas no "piensan" ni "comprenden" en sentido humano. Son lo que la lingüista Emily Bender nomina "loros estocásticos": sistemas que procesan datos masivos mediante cálculos probabilísticos y predicen la secuencia de palabras estadísticamente más probable en función de sus datos de entrenamiento.
Cuando un estudiante, investigador o cualquiera de nosotrxs acepta ciegamente los resúmenes o ensayos de la IA sin contrastarlos, se somete a una versión automatizada de la educación bancaria. En lugar de construir el conocimiento de manera artesanal y situada, el sujeto se convierte en un receptor pasivo de un simulacro de mensaje.
Autoridad algorítmica y la ilusión de la "nube" inmaterial
Otro gran malentendido que refuerza el carácter de “embrujo” de la IAGen es asumir que la tecnología es un territorio neutral y deslocalizado. Los sistemas de IA se erigen sobre lo que se denomina autoridad algorítmica: un régimen epistémico donde los cálculos opacos de una máquina establecen qué saberes son relevantes, legítimos o verdaderos, presentándose bajo una máscara de objetividad matemática. A través de esta mediación, el capitalismo cognitivo devalúa el conocimiento como una práctica situada e histórica, provocando una "desincorporación epistémica" que invisibiliza los cuerpos, territorios y relaciones de poder que sostienen la producción de datos. Esta supuesta neutralidad oculta las perspectivas de una élite técnica, corporativa e indudablemente del Norte Global que decide de antemano el diseño del sistema.
Los modelos de lenguaje de gran escala (LLM) no operan en un vacío social; constituyen un ensamblaje complejo que condensa decisiones políticas, económicas y culturales de un puñado de corporaciones transnacionales. La genealogía de la IA está cargada de intereses que imponen una visión hegemónica y universalizadora: un "universal antropológico" basado en un modelo monotecnológico, monolingüe y monocultural que tiende a borrar la pluriversalidad de saberes y lenguas del Sur Global (Ferrarelli y Ricaurte, 2024). Esta asimetría estructural da lugar a lo que se denomina una exclusión epistémica por diseño dado que estos modelos se entrenan con conjuntos de datos masivos recolectados de internet que reflejan de forma abrumadora los sesgos, valores y normas culturales del Norte Global, las personas, lenguas y cosmologías de América Latina quedan marginadas o distorsionadas bajo clasificaciones algorítmicas que actúan como "cajas negras" opacas.
De esta manera, el Sur Global asume una posición subordinada en la economía digital: actúa como proveedor de datos brutos y energía, como mercado de consumo de tecnologías enlatadas mientras que los beneficios del valor agregado y la propiedad intelectual se concentran en el Norte.
Este orden algorítmico produce una preocupante exclusión epistémica. Pensadoras decoloniales como Paola Ricaurte denuncian que estas tecnologías imponen un "extractivismo epistémico" que captura y mercantiliza la vida de las comunidades locales del Sur Global, tratándolas como simples depósitos de datos y silenciando sus propios saberes y autonomías. Cuando interactuamos con estas plataformas comerciales, consumimos de manera silenciosa una clasificación del mundo que homogeneiza las ideas y borra la pluralidad cultural de nuestros territorios.
Por eso nos urge desmitificar el relato de la "nube" inmaterial y subrayar que la Inteligencia Artificial es un proyecto biofísico de dimensiones planetarias, cuya expansión se sostiene sobre un intercambio desigual y un colonialismo ecológico digital donde no existe software sin hardware, ni cómputo sin un consumo devastador de la litosfera y la hidrosfera. Los inmensos centros de datos devoran energía eléctrica, agua dulce para refrigeración de servidores y minerales críticos como el litio, externalizando su entropía y degradación ambiental hacia las periferias desigualmente estructuradas del Sur Global.
El "Inédito Viable" como brújula de soberanía tecnológica
Frente a la opacidad y el despojo del capitalismo digital, la noción freireana de inédito viable surge como una brújula indispensable de resistencia. El inédito viable no es una fantasía utópica abstracta, sino una posibilidad de transformación real y concreta que se construye colectivamente a partir de las grietas de la opresión en el presente. No constituye un idealismo ingenuo, sino un motor de la acción política que permite concretar el futuro deseable a partir de una práctica presente de resistencia, donde su fin es transformar integralmente las formas de vínculo social, subvirtiendo las relaciones cotidianas de subordinación y opresión.
El inédito viable nos invita a recuperar el "acto político de soñar" de manera intencional y colectiva para construir "otros mundos posibles" desde el aquí y el ahora.
Aplicado al entorno de la inteligencia artificial, el inédito viable representa la urgencia de transitar del papel de meros consumidores pasivos de "la nube" extranjera a gestores soberanos de nuestras propias infraestructuras digitales. Esto exige disputar de manera radical la soberanía tecnológica. En América Latina, la soberanía tecnológica universitaria y estatal no puede pensarse como una condición absoluta o autárquica en el capitalismo periférico, sino como una capacidad relacional y disputada de intervenir en las infraestructuras, datos, modelos y reglas que organizan el conocimiento científico y pedagógico.
Para que la soberanía tecnológica deje de ser una retórica abstracta y se constituya en un inédito viable encarnado, el "Consenso de las Comunidades Informáticas de Argentina" (2026) y la "Declaración de Montevideo sobre Gobernanza de la IA" (2023) proponen líneas de acción concretas, desde impulsar una "IA de bandera", de producción nacional y regional, diseñada colectivamente para atender las necesidades específicas de nuestras industrias, sistemas de salud y agro, hasta fortalecer infraestructuras públicas soberanas, tales como data centers estratégicos y nubes nacionales propias (ej. ARSAT), para evitar convertirnos en "Estados inquilinos" que alquilan el sustrato material de su gobernanza a monopolios transnacionales. Y en línea con el presente artículo, se demanda garantizar el "derecho a la explicabilidad" y la transparencia algorítmica, eliminando las cajas negras inescrutables que deciden de manera automatizada sobre la vida de los ciudadanos, además de fomentar tecnologías de código abierto (open source) y consorcios regionales de software libre para el desarrollo cooperativo de modelos abiertos que mitiguen la asimetría de recursos frente al Norte global, entre otros puntos.
El inédito viable nos convoca a disputar la soberanía tecnológica: la capacidad de nuestros pueblos para intervenir, gobernar y rediseñar las infraestructuras, datos y reglas que rigen nuestra vida digital. Esto se traduce en acciones de organización popular y resistencia creativa porque la digitalización y el uso de la IAGen sin soberanía, no es modernización, es desposesión. Desobedecer al oráculo algorítmico es, en última instancia, defender nuestra capacidad de soñar, decidir y modelar la realidad en nuestros propios términos. Freire afirma de forma rotunda: la historia es tiempo de posibilidad y no de determinismo; las cosas no son así; están siendo así y, por lo tanto, pueden ser transformadas.
Comentarios(5)
Nadie tiró la papa