Gedankenstrich.org

Mitte September 2026 hat Anthropic-CEO Dario Amodei (nicht zum ersten Mal) dazu aufgerufen, die Entwicklung besonders leistungsfähiger KI-Systeme zu verlangsamen – diesmal allerdings mit quasi instantaner Unterstützung von Sam Altman, Demis Hassabis und Elon Musk. Der Anlass dafür ist eine Zuspitzung der Debatte um sogenannte »Frontier AI«: Im Zentrum stehen nicht mehr allein Falschinformationen, Urheberrechtsfragen oder die Veränderung von Arbeit, sondern Szenarien, in denen hochautonome Systeme Cyberangriffe skalieren, sich der Kontrolle entziehen oder zentrale gesellschaftliche Infrastrukturen gefährden könnten. Es brauche daher eine Verlangsamung oder Pause der KI-Entwicklung sowie unabhängige Prüfungsverfahren.

Darin liegt zunächst ein nachvollziehbares Anliegen: Wenn technische Systeme in immer mehr Arbeits-, Kommunikations- und Entscheidungszusammenhänge eingebunden werden, sollte ihre Entwicklung nicht allein durch Wettbewerbsdruck und kurzfristige Marktchancen bestimmt sein. Gleichzeitig ist der Aufruf nach einem »KI-Slowdown« kein neutraler Sicherheitsvorschlag, sondern Teil eines Konflikts über Deutungshoheit, Zuständigkeit und die legitime Gestaltung technischen Wandels – und hat daher berechtigte Kritik hervorgerufen (siehe u.a. The Guardian, Reason):

• Eine erste Kritik betrifft die Glaubwürdigkeit der Forderung: Wenn gerade die Unternehmen, die massiv in immer leistungsfähigere Modelle, riesige Rechenzentren und die Erschließung neuer Einsatzmärkte investieren, nun zur Verlangsamung aufrufen, liegt die Frage nahe, warum sie ihr eigenes Entwicklungstempo nicht eigenständig reduzieren. Ein öffentlicher Ruf nach internationaler Koordination könne wie der Versuch erscheinen, die Verantwortung vom eigenen Unternehmen auf Staaten und Konkurrenten zu verlagern.
• Eine zweite Kritik benennt die Gefahr eines Regulierungskartells: Strenge Regeln für Trainingsrechenleistung, Modellzugang, Evaluierung und Dokumentation könnten gerade jenen Unternehmen nützen, die bereits über Kapital, Cloud-Infrastruktur, exklusive Datenzugänge und große Compliance-Abteilungen verfügen. Kleinere Unternehmen, zivilgesellschaftliche Projekte und Open-Source-Initiativen würden dadurch noch abhängiger von wenigen marktführenden Plattformen.
• Zum dritten verengt die Debatte den Blick auf hypothetische Fernrisiken: Die Vorstellung einer in naher Zukunft außer Kontrolle geratenen Superintelligenz mobilisiert zweifelsohne öffentliche Aufmerksamkeit, geht aber mit der Gefahr einher, gegenwärtige und empirisch greifbare Konflikte nachrangig erscheinen zu lassen, darunter die Ausbeutung von Daten- und Klickarbeit, urheberrechtlich umstrittene Trainingsdaten, Diskriminierungsrisiken, sozioökonomische Machtasymmetrien, die Umgestaltung qualifizierter Arbeit sowie der erhebliche Energie- und Ressourcenbedarf großer KI-Modelle.

Es geht insofern nicht nur darum, wie schnell KI leistungsfähiger wird; es geht darum, in welchen Bereichen sie eingesetzt wird, welche Entscheidungsrechte damit verbunden sind, wie Verantwortung zugerechnet werden kann und welche Akteure über die technischen Grundlagen verfügen.

Techniksoziologische Perspektiven

Eine techniksoziologische Perspektive kann hier hilfreich sein, denn sie behandelt KI weder als bloßes Werkzeug noch als eigenständige Macht, die der Gesellschaft von außen gegenübertritt. Technische Systeme (oder besser: soziotechnische Systeme) erweitern Handlungsmöglichkeiten, erleichtern die Koordination und vereinfachen die Informationsverarbeitung. Zugleich kanalisieren sie Handlungsabläufe, indem sie Optionen vorselektieren, Schnittstellen festlegen, Datenformate definieren und bestimmte Formen der Beobachtung und Kontrolle erleichtern.

Das gilt in besonderer Weise für KI-Systeme. Sie können Texte erzeugen, Informationen bündeln, Muster erkennen, Vorschläge machen und innerhalb vorgegebener Parameter Entscheidungen vorbereiten. Und zugleich fußen ihre Leistungen auf Daten, Recheninfrastrukturen, Modellarchitekturen und organisatorischen Vorgaben, die von Menschen und Organisationen erzeugt, ausgewählt und verantwortet werden. Die Handlungsträgerschaft ist insoweit verteilt – zwischen Entwicklerinnen und Entwicklern, Unternehmen, Plattformbetreibern, Auftraggebern, Beschäftigten, Nutzerinnen und Nutzern, Regulierungsbehörden sowie den technischen Systemen selbst.

Eine solche Sichtweise kann dazu beitragen, zwei verbreitete Kurzschlüsse zu vermeiden. Der erste Kurzschluss besteht darin, KI letztlich als autonome Instanz oder eine zwangsläufige Entwicklung zu betrachten, der sich die Gesellschaft zwangsläufig unterwerfen müsste. Und der zweite Kurzschluss liegt darin, die Technik für vollständig steuerbar zu halten, sobald politische oder betriebliche Akteure sich nur dafür entscheiden. Stabilisierte technische Infrastrukturen prägen ihre sozialen Kontexte auf substanzielle Weise; zugleich aber schälen sich ihre konkreten Wirkungen stets erst in organisationalen und alltäglichen Aneignungsprozessen heraus.

Überdies sind die laufenden KI-Debatten selbst Teil des Transformationsprozesses, den sie beleuchten. Zukunftserwartungen strukturieren Investitionsentscheidungen, Unternehmensstrategien, Forschungsprogramme und politische Prioritäten. Sie beeinflussen, was als »dringend« gilt, welche Risiken Aufmerksamkeit erhalten und welche technischen Lösungen als unvermeidlich erscheinen. Die Aussicht auf eine nahezu grenzenlose Automatisierung kognitiver Leistungen mobilisiert Kapital und Anpassungsbereitschaft; die Erwartung einer baldigen, schwer kontrollierbaren Superintelligenz mobilisiert Sicherheitsprogramme und Forderungen nach regulativen Eingriffen. Beide Zukunftsbilder können reale Folgen haben – ganz unabhängig davon, ob sie sich in ihrer radikalen Form eintreffen sollten oder nicht. Insofern gilt es nicht nur zu fragen, wie wahrscheinlich entsprechende Vorhersagen sind, sondern auch um die Frage, welche Gegenwartsprobleme in solchen Debatten sichtbar werden oder eher aus dem Blick fallen. Die Rede von existenziellen Risiken durch KI kann reale Sicherheitsfragen aufwerfen, aber sie kann gegenwärtige Verteilungs-, Arbeits- und Machtkonflikte ebenso verdecken.

Ein »KI-Slowdown« kann durchaus sinnvoll sein, wenn er an klar definierten Risiken ansetzt und nicht nur Symbol bleibt. Die entscheidende Herausforderung besteht aus techniksoziologischer Sicht freilich darin, die Entwicklung und Nutzung von KI sehr viel breiter gesellschaftspolitisch einzubetten, so u.a. durch demokratisch legitimierte Regeln, eine wirksame Kontrolle wirtschaftlich-infrastruktureller Konzentration, eine institutionalisierte Beteiligung von Beschäftigten und Betroffenen sowie schließlich – auch wenn der Weg dahin derzeit weit erscheint – die Entwicklung öffentlicher Alternativen zu vollständig privat kontrollierten Basistechnologien.