Wir befinden uns in der Mitte der zweiten Dekade der 2020er Jahre, und die Welt ist definitiv nicht mehr dieselbe. Heute zeigt das AI Now Institute deutlich, dass wir in einer Welt leben, die tiefgreifend von künstlicher Intelligenz geprägt ist.
Was meinen wir eigentlich mit künstlicher Intelligenz?
Bevor wir ihre Auswirkungen, Risiken oder Versprechen analysieren, ist es notwendig, bei etwas Grundlegendem innezuhalten: nämlich zu verstehen, was künstliche Intelligenz wirklich ist.
Im Allgemeinen neigen Menschen dazu, KI als eine nahezu autonome Einheit zu betrachten, als eine überlegene Intelligenz, die denken, entscheiden und in gewisser Weise die Welt „verstehen“ kann. Doch genau diese Vorstellung ist zutiefst irreführend.
Denn jenseits von Schlagzeilen und futuristischen Erzählungen ist künstliche Intelligenz weder ein Bewusstsein noch eine Replik menschlichen Denkens. Sie ist ein Bündel von Systemen, die darauf ausgelegt sind, große Datenmengen zu verarbeiten, Muster zu erkennen und auf dieser Grundlage Entscheidungen zu treffen.
Doch hier entsteht ein zentrales Problem: Diese Daten sind nicht neutral.
Vielmehr stammen sie aus Gesellschaften, die von historischen Ungleichheiten, strukturellen Verzerrungen und Machtverhältnissen geprägt sind.
Wenn diese Daten automatisierte Systeme speisen, korrigieren sie diese Ungleichheiten nicht; im Gegenteil, sie reproduzieren sie häufig – und verstärken sie sogar – in großem Maßstab.
Deshalb wird, wenn von „objektiven“ Algorithmen gesprochen wird, oft der Kontext unsichtbar gemacht, in dem sie entstanden sind.
KI entsteht nicht im luftleeren Raum
Künstliche Intelligenz entsteht nicht im luftleeren Raum.
Sie wird innerhalb konkreter Unternehmen, Institutionen und kultureller Rahmenbedingungen entwickelt. Dabei reagiert sie auf wirtschaftliche Interessen, politische Entscheidungen und gesellschaftliche Prioritäten. All dies ist – wenn auch nicht immer sichtbar – in die Funktionsweise dieser Systeme eingeschrieben.
Dieses Verständnis verändert alles, denn es verschiebt die Perspektive grundlegend.
Statt sich von den Möglichkeiten der Technologie faszinieren zu lassen, richtet sich die Aufmerksamkeit auf die Verantwortung für das, was sie tut.
Von Effizienz zu Gerechtigkeit. Von Innovation zu Macht.
Und genau von diesem Punkt aus – von der Notwendigkeit, über die Oberfläche hinauszublicken – erhält die Arbeit von Organisationen wie dem AI Now Institute ihre Bedeutung.
Denn bevor künstliche Intelligenz reguliert oder überhaupt weiterentwickelt wird, gibt es eine dringendere Aufgabe: zunächst zu lernen, sie klar zu sehen.
AI Now Institute: wenn Technologie entscheidet, wer zählt
Künstliche Intelligenz ist keine Zukunftsverheißung mehr. Vielmehr ist sie eine Machtstruktur der Gegenwart.
Sie steckt in Systemen, die filtern, wer Zugang zu einem Job erhält, in Algorithmen, die bestimmen, welche Informationen wir sehen, und in Werkzeugen, die gerichtliche, bildungspolitische und finanzielle Entscheidungen beeinflussen.
KI organisiert die Welt nicht nur: sie beginnt zunehmend, sie zu hierarchisieren.
Und genau hier entsteht das zentrale Problem.
Wir haben es nicht mit einer neutralen, gerecht verteilten Technologie zu tun. Stattdessen handelt es sich um ein System, das von einer kleinen Anzahl von Akteuren entworfen, finanziert und kontrolliert wird.
Die überwiegende Mehrheit davon sind große Technologiekonzerne, die Daten, Infrastruktur und Entscheidungsmacht in einem bisher beispiellosen Ausmaß konzentrieren.
Offensichtlich hat das tiefgreifende Konsequenzen.
Wenn künstliche Intelligenz Entscheidungen trifft, stützt sie sich auf historische Daten, die Ungleichheiten enthalten.
Und sobald diese Entscheidungen automatisiert werden, verschwinden diese Ungleichheiten nicht; vielmehr werden sie verstärkt, normalisiert und – am gefährlichsten – unsichtbar gemacht.
Hinzu kommt eine weitere ebenso besorgniserregende Dimension: Abhängigkeit.
Je stärker KI in den Alltag integriert wird, desto mehr beginnt sie Räume einzunehmen, die zuvor ausschließlich Menschen vorbehalten waren.
Wir treffen nicht nur Entscheidungen mithilfe von KI, sondern zunehmend beginnen wir auch, mit ihr in Beziehung zu treten.
Der Komfort einer rund um die Uhr verfügbaren künstlichen Intelligenz, die nicht urteilt und sich kontinuierlich an unsere Bedürfnisse anpasst, wirft eine unbequeme Frage auf: Was geschieht, wenn wir beginnen, emotional Systemen zu vertrauen, die nicht fühlen können, aber dennoch Einfluss ausüben?
In diesem Kontext ist das Problem nicht mehr nur technologisch. Es ist sozial. Es ist politisch. Und vor allem ist es menschlich.
Das zentrale Problem ist nicht, was künstliche Intelligenz kann, sondern wer festlegt, was sie tun soll – und für wen.
Eine unbequeme Antwort: Macht hinterfragen
Künstliche Intelligenz entwickelt sich schneller als unsere Fragen zu ihren Konsequenzen. Während wir Fortschritte und „intelligente“ Algorithmen feiern, halten wir jedoch selten inne, um zu fragen, wer tatsächlich entscheidet – und mit welchen Interessen.
In diesem Kontext ist KI nicht neutral; vielmehr ist Neutralität oft die bequemste Illusion für Technologiekonzerne.
KI ist keine Zukunftsverheißung mehr: Sie ist eine Machtstruktur der Gegenwart.
Machen wir es klar: Künstliche Intelligenz filtert den Zugang zu Arbeit, bestimmt, welche Informationen wir sehen, und beeinflusst gerichtliche, bildungsbezogene und finanzielle Entscheidungen.
Die Wahrheit ist: Sie organisiert die Welt nicht neutral; sie hierarchisiert sie. Dabei geschieht dies zugunsten weniger – großer Technologiekonzerne, die Daten, Infrastruktur und Entscheidungsmacht in nie dagewesenem Ausmaß bündeln.
Governance, Daten und Machtkonzentration
Wie das AI Now Institute betont: „Die Einführung von KI-Systemen konzentriert Macht bei denen, die sie einsetzen, und lässt die verletzlichsten Menschen ungeschützt und unfähig zurück, die Entscheidungen der ‚intelligenten Maschine‘ anzufechten“ (AI Now Institute, 2023).
Jede auf historischen Daten basierende Automatisierung trägt Ungleichheiten in sich, verstärkt und normalisiert sie – während gleichzeitig die emotionale und funktionale Abhängigkeit von diesen Systemen menschliche Beziehungen neu formt.
Das AI Now Institute wurde 2017 in Zusammenarbeit mit der New York University gegründet und ging aus einem Symposium des White House Office of Science and Technology Policy (2016) hervor.
Diese Initiative wurde von Meredith Whittaker und Kate Crawford geleitet. Ihre Mission: die sozialen Auswirkungen von KI zu analysieren und politische Maßnahmen zu entwickeln, um die Machtkonzentration in der Technologiebranche zu adressieren.
Seitdem hat sie mit Organisationen wie dem Distributed AI Research Institute, Data & Society, dem Ada Lovelace Institute, Partnership on AI und der ACLU zusammengearbeitet.
Ihr Ansatz ist klar: Es reicht nicht aus, KI lediglich zu entwickeln; vielmehr ist es notwendig zu verstehen, wem sie nützt, wem sie schadet und unter welchen Bedingungen.
AI Now Institute: unsichtbare Daten und verborgene Macht
Es reicht nicht, auf Algorithmen zu schauen: Denn die wahre Macht der KI liegt in den unsichtbaren Daten, die sie verarbeitet.
Dazu gehören E-Mails, Nachrichten, Dokumente und Bilder – verstreute Fragmente, die, wenn sie strukturiert und analysiert werden, ermöglichen, Verhalten vorherzusagen, Entscheidungen zu beeinflussen und Gesellschaften zu formen.
Die eigentliche Macht der KI liegt nicht nur in den Algorithmen, sondern in den Daten, die sie verarbeitet.
Wer diese Daten kontrolliert, kann Verhalten antizipieren, Entscheidungen beeinflussen und wirtschaftliche sowie soziale Dynamiken neu definieren.
Ohne Kontrollmechanismen entstehen massive Risiken: Sicherheitsprobleme, mangelnde Governance, Verlust operativer Kontrolle und die Offenlegung sensibler Informationen. Infolgedessen organisiert KI nicht nur die sichtbare Welt – sie beginnt, sie aktiv zu kontrollieren.
Die Debatte über KI ist nicht technologisch; vielmehr ist sie politisch, sozial und menschlich.
KI greift in kritische Infrastrukturen ein – von der Strafjustiz bis hin zu Bildung und Gesundheitswesen – und konzentriert dabei in allen Fällen Macht in den Händen derjenigen, die sie ohnehin bereits besitzen (AI Now Institute, 2023).
Beispiele wie der DOGE Power Grab oder die Integrationsstrategie von OpenAI mit Google zeigen, wie Big Tech seine Hegemonie festigt und gleichzeitig Bürger marginalisiert.
Die Vorteile der KI sind nicht kollektiv, sondern unternehmerisch. Daher lenken öffentliche Politiken zur Förderung der Branche Ressourcen von Arbeitnehmern hin zu Unternehmen, die ihre Gewinne durch Automatisierung und Überwachung maximieren.
Unsichtbare Daten zu betrachten bedeutet, Macht selbst zu betrachten. In diesem Sinne erinnern AI Now und die Macht der KI daran, dass Transparenz und aktive Kontrolle unerlässlich sind: KI organisiert nicht nur, sie hierarchisiert und entscheidet, wer zählt und wer nicht.
AI Now Institute: unsichtbare Arbeit und Prekarisierung
Künstliche Intelligenz verändert nicht nur Entscheidungen – sie verändert Arbeit. Doch sie tut dies auf subtile und nahezu unsichtbare Weise. Während Unternehmen Produktivitätsgewinne feiern, werden Routinen, Autonomie und Sicherheit der Beschäftigten ausgehöhlt.
KI verändert Arbeit: Sie macht sie für Maschinen lesbar, routiniert, hierarchisch und überwacht.
Jede Entscheidung über den Einsatz von Technologie verändert das Arbeitsleben, die Sicherheit und die Autonomie von Millionen Menschen. Dadurch geht jedoch oft die Chance verloren, eine Zukunft zu gestalten, in der KI stabile, würdige und sinnvolle Arbeit, faire Löhne und soziale Absicherung unterstützt.
Gleichzeitig bleiben Algorithmen, die Preise, Löhne oder Leistungsbewertungen bestimmen, für die Betroffenen unsichtbar, während Unternehmen sie nutzen, um Entscheidungen zu rechtfertigen, die früher von Menschen ausgehandelt wurden.
Das AI Now Institute schlägt konkrete Maßnahmen vor, um diesen Herausforderungen zu begegnen:
** Fokus auf Macht statt Fortschritt: analysieren, wie die Branche gegen die Interessen der Bevölkerung agiert.
** Stärkung der Arbeitsorganisation: Beschäftigte haben die Macht, über den Einsatz von KI zu entscheiden und die Technologiebranche neu auszurichten.
** „Zero Trust“-Politiken: Regulierung des gesamten Lebenszyklus von KI und Verhinderung von Selbstkontrolle durch die Industrie.
** Netzwerke aus Expertise und Narrativ: Verbindung von Forschung, Politik und Aktivismus, um Druck auf die Branche auszuüben.
** Gemeinwohlorientierte Innovation: Technologien, die dem kollektiven Interesse dienen, ohne KI zum zentralen Dreh- und Angelpunkt zu machen.
In diesem Kontext kann die unsichtbare Arbeit hinter KI nur durch Sichtbarkeit hinterfragt werden: Denn zu verstehen, wie und warum diese Systeme Entscheidungen treffen, ist entscheidend, um die Autonomie und Rechte von Arbeitnehmern zu schützen.
Daher sollte KI kein Instrument der Prekarisierung sein, sondern vielmehr ein Werkzeug, das unter ethischer Regulierung menschliche Arbeit unterstützt, anstatt sie zu ersetzen.
Fazit
Wir alle verdienen es, in einer Welt zu leben, in der unser persönliches, politisches und wirtschaftliches Leben frei von Zwang ist. Derzeit jedoch ist die Entwicklung der künstlichen Intelligenz von Intransparenz und Machtkonzentration geprägt.
In der Praxis haben die Unternehmen, die KI dominieren, die Kontrolle über viele Aspekte unseres Lebens übernommen und setzen Zwangspraktiken durch, die darauf abzielen, ihre eigenen Vorteile zu maximieren.
Diese Dynamiken zeigen sich beispielsweise in personalisierten Preisalgorithmen, die enorme Datenmengen sammeln, um individuelle Preise festzulegen.
Darüber hinaus wird KI als zentralisierende Technologie eingesetzt, um Überwachungssysteme, carcerale Logiken und militärische Technologien zu stützen und davon zu profitieren, wodurch sich Unternehmensinteressen zunehmend mit staatlichen Apparaten verflochten – und umgekehrt – entwickeln, was das Leben zwanghafter und gewaltsamer macht.
Dennoch ist nicht alles verloren. Im Gegenteil: KI könnte zu einer Zukunft beitragen, die auf Autonomie, Transparenz und sozialer Gerechtigkeit basiert.
Sie könnte beispielsweise ein starkes Ökosystem öffentlicher Ressourcen, Dienstleistungen und Güter unterstützen, das durch faire Wettbewerbsprinzipien reguliert wird und wirtschaftliche Entscheidungen ermöglicht, die Veränderungen im Leben der Menschen nicht ausnutzen.
Eine am Ideal der Freiheit orientierte Öffentlichkeit würde sich zugleich von der Ausbreitung von Überwachungssystemen, strafenden Logiken und militarisierten Staatsapparaten entfernen und es Menschen und Gemeinschaften ermöglichen, sich zu entfalten.
Letztlich erinnert uns das AI Now Institute daran, dass es noch einen Weg gibt, die Kontrolle und Sichtbarkeit über die Technologie zurückzugewinnen, die uns umgibt. Der Kampf richtet sich daher nicht nur gegen Automatisierung: Er gilt einer KI, die der Menschheit dient und nicht dem Profit, die Rechte und Würde schützt und uns erlaubt, gemeinsam zu entscheiden, welche Welt wir aufbauen wollen.
