Estamos en la mitad de la segunda década de los 2020 y el mundo definitivamente no es el mismo. Hoy por hoy, el AI Now Institute muestra que vivimos en un mundo profundamente influenciado por la inteligencia artificial.
¿Qué entendemos realmente por inteligencia artificial?
Antes de analizar sus impactos, riesgos o promesas, es necesario detenerse en algo más básico: entender qué es realmente la inteligencia artificial.
Por lo general, las personas suelen pensar que la IA es una entidad casi autónoma, una inteligencia superior capaz de pensar, decidir y, en cierto modo, “comprender” el mundo. Pero esa idea es profundamente engañosa.
Más allá de los titulares y las narrativas futuristas, la inteligencia artificial no es una conciencia ni una forma de pensamiento humano replicado. Es un conjunto de sistemas diseñados para procesar grandes volúmenes de datos, identificar patrones y tomar decisiones basadas en esos patrones.
Sin embargo, el problema es que esos datos no son neutrales.Estos datos provienen de sociedades marcadas por desigualdades históricas, sesgos estructurales y relaciones de poder.
Y cuando estos datos alimentan sistemas automatizados, lo que hacen no es corregir esas desigualdades, sino muchas veces reproducirlas —e incluso amplificarlas— a escala.
Por eso, cuando se habla de algoritmos “objetivos”, lo que en realidad se está invisibilizando es el contexto en el que han sido creados.
La IA no surge en el vacío
La inteligencia artificial no surge en el vacío.
Se diseña dentro de empresas, instituciones y marcos culturales concretos. Responde a intereses económicos, decisiones políticas y prioridades sociales. Y todo eso queda inscrito —aunque no siempre sea visible— en su funcionamiento.
Entender esto lo cambia todo. Porque desplaza la conversación.
En lugar de centrarse en la fascinación por lo que la tecnología puede hacer, la atención pasa a la responsabilidad sobre lo que está haciendo.
De la eficiencia a la justicia. De la innovación al poder.
Y es precisamente desde ahí —desde esa necesidad de mirar más allá de la superficie— donde el trabajo de organizaciones como AI Now Institute cobra sentido.
Porque antes de regular la inteligencia artificial, antes incluso de desarrollarla, hay una tarea más urgente: aprender a verla con claridad.
AI Now Institute: cuando la tecnología decide quién importa.
La inteligencia artificial ya no es una promesa de futuro. Es una estructura de poder en el presente.
Está en los sistemas que filtran quién accede a un empleo, en los algoritmos que determinan qué información vemos, en las herramientas que influyen en decisiones judiciales, educativas y financieras.
La IA no solo organiza el mundo: empieza a jerarquizarlo.
Y ahí surge el problema central.
No estamos ante una tecnología neutral ni distribuida de forma equitativa. Este es un sistema diseñado, financiado y controlado por un número reducido de actores.
La gran mayoría de ellos son grandes corporaciones tecnológicas que concentran datos, infraestructura y capacidad de decisión a una escala sin precedentes.
Obviamente, esto tiene consecuencias profundas.
Cuando la inteligencia artificial toma decisiones, lo hace a partir de datos históricos que arrastran desigualdades.
Y cuando esas decisiones se automatizan, esas desigualdades no desaparecen: se amplifican, se normalizan y, lo más peligroso, se vuelven invisibles.
A esto se suma otra dimensión igual de preocupante: la dependencia.
A medida que la IA se integra en la vida cotidiana, comienza a ocupar espacios que antes pertenecían exclusivamente a lo humano.
No solo tomamos decisiones con ayuda de la IA; además, empezamos a relacionarnos con ella.
La comodidad de una inteligencia artificial disponible 24 horas, que no juzga y se adapta a nuestras necesidades, plantea una pregunta incómoda: ¿qué ocurre cuando empezamos a confiar emocionalmente en sistemas que no pueden sentir, pero sí influir?
En este contexto, el problema ya no es solo tecnológico. Es social. Es político. Y, sobre todo, es humano.
El problema central no es qué puede hacer la inteligencia artificial, sino quién define lo que debe hacer y para quién.
Una respuesta incómoda: cuestionar el poder
La inteligencia artificial avanza más rápido que nuestras preguntas sobre sus consecuencias. Mientras celebramos avances y algoritmos “inteligentes”, pocas veces nos detenemos a preguntarnos quién realmente decide y con qué intereses. En este sentido, la IA no es neutral; la neutralidad es la ilusión más cómoda de las corporaciones tecnológicas.
La IA ya no es una promesa de futuro: es una estructura de poder en el presente.
Seamos sinceros: la inteligencia artificial filtra quién accede al empleo, determina qué información vemos e influye en decisiones judiciales, educativas y financieras.
La verdad es que no organiza el mundo de manera neutra; lo jerarquiza. Y lo hace a favor de unos pocos: grandes corporaciones tecnológicas que concentran datos, infraestructura y capacidad de decisión a una escala sin precedentes.
Gobernanza, datos y concentración de poder
Como recuerda el AI Now Institute: “La introducción de sistemas de IA concentra poder en quienes los despliegan, dejando a las personas más vulnerables e incapaces de cuestionar las decisiones de la ‘máquina inteligente’” (AI Now Institute, 2023).
Cada automatización basada en datos históricos arrastra desigualdades, las amplifica y las normaliza, mientras que la dependencia emocional y funcional de estos sistemas redefine nuestras relaciones humanas.
Fundado en 2017 en colaboración con la New York University, el AI Now Institute nació de un simposio de la Oficina de Política Científica y Tecnológica de la Casa Blanca (2016).
Esta oficina estaba liderada por Meredith Whittaker y Kate Crawford. Su misión: analizar las implicaciones sociales de la IA y desarrollar políticas públicas para abordar la concentración de poder en la industria tecnológica.
Desde entonces, colabora con organizaciones como Distributed AI Research Institute, Data & Society, Ada Lovelace Institute, Partnership on AI y la ACLU.
Su enfoque es claro: no basta con desarrollar IA; hay que entender a quién beneficia, a quién perjudica y bajo qué condiciones. Entre 2021 y 2022, asesoraron a la Federal Trade Commission de EE. UU., trasladando investigación académica al terreno regulatorio.
Sus informes anuales cuestionan la ética tradicional de la IA y proponen auditorías algorítmicas, mayor transparencia y eliminación de sistemas opacos (“cajas negras”) en justicia, salud y educación.
Cuestionar el poder no es solo un acto académico; es una urgencia política. Solo al identificar quién define qué decisiones automatizadas se consideran válidas podemos comenzar a construir sistemas que respeten derechos y dignidad. La pregunta central no es qué hace la IA, sino quién se beneficia y quién queda marginado.
AI Now Institute: datos invisibles y poder oculto
No es suficiente mirar los algoritmos: la verdadera fuerza de la IA reside en los datos invisibles que procesa.
Se trata de correos electrónicos, mensajes, documentos e imágenes: fragmentos dispersos que, al estructurarse y analizarse, permiten prever comportamientos, influir en decisiones y moldear sociedades.
El verdadero poder de la IA no reside solo en los algoritmos, sino en los datos que procesa.
Quien controla esos datos puede anticipar comportamientos, influir en decisiones y redefinir dinámicas económicas y sociales.
Sin mecanismos de control, surgen riesgos masivos: problemas de seguridad, falta de gobernanza, pérdida de control operativo y exposición de información sensible. La IA no solo organiza el mundo visible: lo controla.
El debate sobre IA no es tecnológico; es político, social y humano.
La IA interviene en infraestructuras críticas, desde la justicia penal hasta la educación y la salud, y en todos los casos, concentra poder en manos de los ya poderosos (AI Now Institute, 2023).
Casos como el DOGE Power Grab o la estrategia de OpenAI de integrarse con Google muestran cómo Big Tech consolida hegemonía mientras marginaliza a la ciudadanía.
Los beneficios de la IA no son colectivos, sino corporativos. Políticas públicas diseñadas para fomentar la industria desvían recursos de los trabajadores hacia empresas que maximizan ganancias mediante automatización y vigilancia.
Mirar los datos invisibles es mirar el poder mismo. El AI Now y el poder de la IA recuerdan que la transparencia y la supervisión activa son indispensables: la IA no solo organiza, sino que también jerarquiza y decide quién importa y quién no.
AI Now Institute: el trabajo invisible y precarización
La IA no solo transforma decisiones: transforma el trabajo. Pero lo hace de forma sutil, casi invisible. Mientras las empresas celebran aumentos de productividad, la rutina, la autonomía y la seguridad de los trabajadores se ven erosionadas.
La IA transforma el trabajo: lo hace legible para máquinas, rutinario, jerárquico y vigilado.
Cada decisión de despliegue tecnológico redefine la vida laboral, la seguridad y la autonomía de millones. Se pierde la oportunidad de un futuro donde la IA respalde trabajos estables, dignos y significativos, salarios justos y protección social.
Los algoritmos que determinan precios, sueldos o evaluaciones laborales son invisibles para quienes los sufren, y las empresas los usan para justificar decisiones previamente negociadas humanamente.
El El AI Now Institute propone acciones concretas frente a estas problemáticas:
** Focalizar la IA en el poder, no en el progreso: analizar cómo la industria actúa contra los intereses de la población.
** Fortalecer la organización laboral: los trabajadores tienen poder para decidir el uso de IA y recalibrar la industria tecnológica.
** Políticas de ‘cero confianza’: regular el ciclo de vida de la IA y evitar que la industria se autoevalúe.
** Redes de experticia y narrativa: conectar investigación, política y activismo para presionar a la industria.
** Innovación centrada en lo público: tecnologías que sirvan al interés colectivo sin depender de la IA como eje.
El trabajo invisible de la IA solo puede combatirse con visibilidad: entender cómo y por qué estas herramientas toman decisiones es esencial para proteger la autonomía y los derechos de quienes trabajan.
La IA no debe ser un instrumento de precarización, sino una herramienta que, bajo regulación ética, apoye el trabajo humano en lugar de reemplazarlo.
Conclusión
Todos merecemos vivir en un mundo donde nuestra vida personal, política y económica esté libre de coerción. Pero la trayectoria actual de la inteligencia artificial está marcada por la opacidad y la concentración de poder.
Las empresas que dominan la IA han asumido el control sobre muchos aspectos de nuestra existencia, imponiendo prácticas coercitivas diseñadas para maximizar sus propios beneficios.
Estas dinámicas se evidencian, por ejemplo, en los algoritmos de precios personalizados, que recaban enormes cantidades de datos para fijar tarifas individuales.
La IA, como tecnología centralizadora, se despliega también para sostener y beneficiarse de sistemas de vigilancia, lógicas carcelarias y técnicas militares, integrando los intereses corporativos en los aparatos estatales y viceversa, haciendo la vida más coercitiva y violenta.
Pero no todo está perdido. La IA podría contribuir a un futuro basado en autonomía, transparencia y justicia social.
Podría apoyar un ecosistema de recursos públicos robusto, servicios y bienes regulados por principios de competencia justa y decisiones económicas que no se aprovechen de los cambios en la vida de las personas.
Una vida pública invertida en libertad se desmarcaría de la proliferación de sistemas de vigilancia, de lógicas punitivas y de aparatos estatales militares, permitiendo que las personas y las comunidades prosperen.
El AI Now Institute nos recuerda que aún hay un camino para recuperar control y visibilidad sobre la tecnología que nos rodea. La lucha no es solo contra la automatización: es por una IA que sirva a la humanidad y no al lucro, que proteja derechos y dignidad, y que nos permita decidir colectivamente el mundo que queremos construir.
