Todos los días, desde hace uno o dos años, nos sorprenden profundamente las soluciones basadas en inteligencia artificial: entornos conversacionales, generación de contenido multimedia, producción automática de texto y código, asistentes para la ciencia de datos, consolidación de hojas de cálculo y conjuntos de datos, apoyo a la resolución de problemas científicos y acertijos simbólicos, entre muchas otras aplicaciones. Diríamos que somos personas alfabetizadas en inteligencia artificial. Somos especialistas en procesamiento y gestión de datos, con una sólida formación disciplinaria, y hemos presenciado varios momentos de oro de la inteligencia artificial. También hemos visto cómo la inteligencia artificial se ha convertido en un dominio productivo en la práctica científica mundial. Sin embargo, hoy la situación es distinta. La diferencia no reside solamente en el desempeño técnico, sino en el uso exponencial, democratizado, infraestructural y político de la inteligencia artificial. La inteligencia artificial ya no es únicamente un campo técnico ni una familia de métodos computacionales. Se está convirtiendo en un programa de sociedad.
Esta transformación exige una interrogación profunda sobre el mundo que estamos inventando, o quizá simplemente siguiendo, según nuestro margen de influencia. La educación, en particular la universitaria, ocupa un lugar central en esta transformación. En distintas disciplinas, colegas de diversos dominios del conocimiento debaten cómo adaptar las prácticas pedagógicas y educativas, porque la inteligencia artificial cuestiona casi todas las dimensiones del conocimiento: su adquisición, su acceso, su validez, su producción, su circulación y su transformación en perfiles profesionales, trayectorias laborales y expectativas del mercado de trabajo. Estas preocupaciones dialogan con críticas de larga data a los sistemas algorítmicos entendidos no como herramientas neutrales, sino como infraestructuras de clasificación, optimización, exclusión y poder (Benjamin, 2019; Bowker & Star, 1999; Eubanks, 2018; Noble, 2018; O’Neil, 2016).
¿Cómo educar en un mundo de cyborgs?
Durante las últimas décadas, la tecnología ha exigido repetidamente cambios en la ingeniería, las ciencias y, posteriormente, en las humanidades y las ciencias sociales. Hoy, sin embargo, ese llamado se extiende aún más: a las matemáticas, la informática, la ingeniería en computación, el arte, el ocio, la intuición y la vida cotidiana. El futuro cercano suele imaginarse como un mundo «cyborg» o poshumano (Haraway, D. J.,1991), en el que entidades artificiales interactúan continuamente con seres humanos y plantean preguntas fundamentales sobre la responsabilidad civil, jurídica y profesional, la rendición de cuentas, la justicia, la ética, los derechos humanos y la agencia de las personas frente a sistemas robóticos y automatizados. Sin embargo, la pregunta no es únicamente qué pueden hacer las máquinas. También debemos preguntar qué formas de dependencia, obediencia, estrechamiento epistémico, explotación laboral y clasificación social se producen cuando las instituciones se organizan en torno a sistemas automatizados (Crawford, 2021; Gray & Suri, 2019; Zuboff, 2019).
¿Cómo educar, entonces, en un mundo así? ¿Cuál es el lugar de los seres humanos en una sociedad que puede volverse tan fácilmente distópica? ¿Qué permanece irreductiblemente humano y qué puede, o no debe, ser automatizado? ¿Qué formas de conocimiento, juicio, cuidado, creatividad, duda, atención y capacidad crítica debemos cultivar, proteger y negarnos a abandonar en nombre del “progreso”? Estas preguntas no son nostálgicas. Son preguntas políticas, pedagógicas y epistemológicas. Tienen que ver con el tipo de humanidad que la educación debe sostener.
La política de la IA
Este debate está abierto. Sin embargo, no creemos que la respuesta consista en permitir que los tentáculos de la inteligencia artificial invadan nuestros sistemas educativos bajo la bandera de un tecnosolucionismo irresponsable y acrítico. La inteligencia artificial no es inmaterial. Tiene costos en trabajo humano, agua, minerales, energía, territorio y atención. Daña los ecosistemas y afecta a las comunidades de manera desigual. Intensifica formas de daño ya generalizadas, racializadas, geopolíticas, coloniales, capacitistas y económicas (Bender et al., 2021; Crawford, 2021; Criado Perez, 2019; D’Ignazio & Klein, 2020; Hicks, 2017; Mohamed et al., 2020; Shew, 2023). También afecta la salud mental de nuestras y nuestros estudiantes, su relación con el esfuerzo, su confianza en su propio razonamiento y su capacidad para habitar la incertidumbre.
Por esta razón, cuanto más se desarrolla una sociedad basada en inteligencia artificial, a través de proyectos como la visión explícitamente política de Palantir de una “república tecnológica”, la emergencia de sistemas frontera como Mythos de Anthropic, y la consolidación tecnofeudal más amplia del poder en torno a infraestructuras de nube, datos e inteligencia artificial, más debemos defender formas de educación que no sean simplemente “basadas en IA”, sino alfabetizadas en IA, críticas de la IA, históricamente informadas y centradas en lo humano.[1] El manifiesto reciente de Palantir en 22 puntos, asociado con The Technological Republic de Alex Karp y Nicholas Zamiska, ha sido ampliamente discutido porque vincula la inteligencia artificial, la capacidad militar, el poder estatal, la identidad política occidental y las obligaciones de Silicon Valley frente a la estrategia nacional.[2] Mythos de Anthropic, presentado como un modelo frontera orientado a la ciberseguridad, también ha suscitado preocupaciones sobre capacidades de doble uso, acceso desigual, adopción estatal y concentración de capacidades avanzadas de inteligencia artificial en un número reducido de empresas y agencias.[3] Mientras tanto, la noción de tecnofeudalismo, especialmente desarrollada por Varoufakis (2023), permite nombrar una transformación en la que el capital de la nube, las plataformas, las infraestructuras de inteligencia artificial y la extracción de datos reorganizan la dependencia, la renta y el poder más allá de las relaciones clásicas de mercado.[4]
Por lo tanto, el desafío educativo no consiste simplemente en enseñar a las y los estudiantes a usar herramientas de inteligencia artificial. Consiste en ayudarles a comprender la inteligencia artificial en sus dimensiones teóricas, algorítmicas, técnicas, éticas, sociales, ambientales, coloniales, feministas y geopolíticas. Las y los estudiantes necesitan aprender cómo se entrenan, evalúan, despliegan y gobiernan los modelos. También necesitan comprender quién se beneficia, quién queda expuesto, quién se vuelve invisible, quién realiza el trabajo oculto, quién soporta el costo ecológico y quién queda excluido de la toma de decisiones (Costanza-Chock, 2020; Crawford, 2021; D’Ignazio & Klein, 2020; Gray & Suri, 2019; Ricaurte, 2022).
Otro futuro es posible
Dado el mundo competitivo, capitalista y precario al que nuestras y nuestros estudiantes ingresarán como profesionales, necesitan algo más que la fluidez operativa. Deben estar preparadas y preparados para contribuir a un progreso real: un progreso humano, en el que las personas, con toda su complejidad, fortalezas, vulnerabilidades, contradicciones y responsabilidades colectivas, permanezcan en el centro. En este sentido, la educación crítica en inteligencia artificial no debe reducirse a la ingeniería de prompts, a la adopción de herramientas, al aumento de la productividad o de la empleabilidad. Debe cultivar la autonomía intelectual, el juicio situado, la responsabilidad social, la competencia técnica y la valentía para rechazar sistemas dañinos.
Sabemos que, en la era del uso intensivo y extensivo de la inteligencia artificial, se espera cada vez más que la educación universitaria sitúe la inteligencia artificial en el centro de los planes de estudio y de la práctica profesional. También sabemos que muchas universidades presentan hoy la enseñanza y el uso de la inteligencia artificial como un beneficio evidente para preparar a las y los profesionales del mañana. Cuestionar esta estrategia puede parecer extraño, ingenuo o incluso incómodo. Aun así, creemos que debemos recuperar algo de los ideales educativos anteriores: la promoción de una relación crítica con el conocimiento, la técnica y la evolución social. La educación no debe guiarse únicamente por la aceleración tecnológica. Debe estar fundamentada en conocimientos centrales, dominio disciplinario, imaginación ética, autonomía intelectual y capacidad para identificar las limitaciones y los efectos dañinos de los sistemas técnicos.
Educar críticamente en la era de la inteligencia artificial no implica rechazar la tecnología. Significa rechazar la sumisión a la inevitabilidad tecnológica. Significa enseñar a las y los estudiantes que las tecnologías se diseñan, se financian, se gobiernan, se disputan y se resisten. Significa mostrar que otros futuros computacionales son posibles: feministas, decoloniales, accesibles, ecológicos, democráticos y liberados de forma colaborativa (Benjamin, 2022; Costanza-Chock, 2020; D’Ignazio & Klein, 2020; hooks, 1994; Noble, 2018; Ricaurte, 2022). Solo desde esa posición podremos tomar distancia, imaginar alternativas menos dañinas y construir tecnologías que no optimicen únicamente el lucro, la dependencia, la vigilancia o la dominación, sino que sirvan genuinamente a las personas, a las comunidades y a la posibilidad de un mundo más justo.
Nota explicativa
Por «Palantir» se entiende aquí a Palantir Technologies y, más concretamente, a la visión político-tecnológica asociada a la obra de Alex Karp y Nicholas Zamiska The Technological Republic, recientemente analizada a través de un manifiesto de 22 puntos que vincula la IA, el poder estatal, la capacidad militar, Silicon Valley y la estrategia nacional. Mythos se refiere a Claude Mythos Preview, de Anthropic, un modelo de IA de vanguardia de acceso restringido orientado a la ciberseguridad y la detección de vulnerabilidades, cuyo lanzamiento y evaluación han suscitado preocupaciones sobre el riesgo de doble uso, la preparación del Estado y el acceso desigual a capacidades estratégicas de IA. El «tecnofeudalismo» se refiere al argumento, asociado especialmente a Yanis Varoufakis, de que el capitalismo contemporáneo está siendo transformado por las plataformas en la nube, las infraestructuras de IA, la extracción de datos y el control del comportamiento, en un régimen de dependencia y poder de tipo rentista, controlado por las grandes empresas tecnológicas.
Aclaración sobre el uso de IA generativa
Este texto es de nuestra autoría. Usamos el corrector ortográfico de Microsoft Word, que utiliza Copilot. La huella estimada no es insignificante: entre 5 y 50 Wh de electricidad, entre 1 y 50 ml de agua y entre 18 y 180 kJ de calor residual. Estos valores son aproximados y dependen del centro de datos, del sistema de refrigeración, de la combinación energética y del método de cálculo, pero ponen de manifiesto que el trabajo digital sigue dependiendo de infraestructuras materiales.
[1] Palantir, Mythos y tecnofeudalismo ver la nota explicative al final del texto.
[2] https://techpolicy.press/palantirs-manifesto-is-as-subtle-as-a-maga-hat
[3] https://red.anthropic.com/2026/mythos-preview/
[4] https://www.yanisvaroufakis.eu/2025/01/28/cloud-capital-vs-ai-what-deepseek-means-for-technofeudalism-the-new-cold-war/r a construir qué sociedad y qué mundo?
Referencias:
Benjamin, R. (2019). Race after technology: Abolitionist tools for the New Jim Code. Polity Press.
Benjamin, R. (2022). Viral justice: How we grow the world we want. Princeton University Press.
Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the dangers of stochastic parrots: Can language models be too big? En Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (pp. 610–623). Association for Computing Machinery.
Bowker, G. C., & Star, S. L. (1999). Sorting things out: Classification and its consequences. MIT Press.
Broussard, M. (2018). Artificial unintelligence: How computers misunderstand the world. MIT Press.
Costanza-Chock, S. (2020). Design justice: Community-led practices to build the worlds we need. MIT Press.
Crawford, K. (2021). Atlas of AI: Power, politics, and the planetary costs of artificial intelligence. Yale University Press.
Criado Perez, C. (2019). Invisible women: Data bias in a world designed for men. Abrams Press.
D’Ignazio, C., & Klein, L. F. (2020). Data feminism. MIT Press.
Eubanks, V. (2018). Automating inequality: How high-tech tools profile, police, and punish the poor. St. Martin’s Press.
Gray, M. L., & Suri, S. (2019). Ghost work: How to stop Silicon Valley from building a new global underclass. Houghton Mifflin Harcourt.
Haraway, D. J. (1991). A cyborg manifesto: Science, technology, and socialist-feminism in the late twentieth century. In Simians, cyborgs, and women: The reinvention of nature (pp. 149–181). Routledge.
Hicks, M. (2017). Programmed inequality: How Britain discarded women technologists and lost its edge in computing. MIT Press.
hooks, b. (1994). Teaching to transgress: Education as the practice of freedom. Routledge.
Karp, A., & Zamiska, N. (2025). The technological republic: Hard power, soft belief, and the future of the West. Crown Currency.
Mohamed, S., Png, M.-T., & Isaac, W. (2020). Decolonial AI: Decolonial theory as sociotechnical foresight in artificial intelligence. Philosophy & Technology, 33, 659–684.
Noble, S. U. (2018). Algorithms of oppression: How search engines reinforce racism. New York University Press.
O’Neil, C. (2016). Weapons of math destruction: How big data increases inequality and threatens democracy. Crown.
Ricaurte, P. (2022). Tecnocolonialismo: Cuando la tecnología para el bien reproduce el daño. Debate.
Shew, A. (2023). Against technoableism: Rethinking who needs improvement. W. W. Norton.
Varoufakis, Y. (2023). Technofeudalism: What killed capitalism. Bodley Head.
Zuboff, S. (2019). The age of surveillance capitalism: The fight for a human future at the new frontier of power. PublicAffairs.
Nota bibliográfica. Varias de las obras citadas forman parte de listas de lectura sobre computación crítica, diseño de justicia, feminismo de datos, tecnocolonialismo y enfoques co-liberadores de la tecnología.[5]
[5] https://co-liberative-computing.github.io/books/
Sobre el autor
José-Luis Zechinelli Martini*, Genoveva Vargas-Solar&
*Departamento de Computación Electrónica y Mecatrónica
Fundación Universidad de las Américas, Puebla
joseluis.zechinelli@udlap.mx
&CNRS, Univ Lyon, INSA Lyon, UCBL, LIRIS, UMR5205
F-69221 Villeurbanne, France
genoveva.vargas-solar@cnrs.fr