Gedankenstrich.org

Mitte September 2026 hat Anthropic-CEO Dario Amodei (nicht zum ersten Mal) dazu aufgerufen, die Entwicklung besonders leistungsfähiger KI-Systeme zu verlangsamen – diesmal allerdings mit quasi instantaner Unterstützung von Sam Altman, Demis Hassabis und Elon Musk. Der Anlass dafür ist eine Zuspitzung der Debatte um sogenannte »Frontier AI«: Im Zentrum stehen nicht mehr allein Falschinformationen, Urheberrechtsfragen oder die Veränderung von Arbeit, sondern Szenarien, in denen hochautonome Systeme Cyberangriffe skalieren, sich der Kontrolle entziehen oder zentrale gesellschaftliche Infrastrukturen gefährden könnten. Es brauche daher eine Verlangsamung oder Pause der KI-Entwicklung sowie unabhängige Prüfungsverfahren.

Darin liegt zunächst ein nachvollziehbares Anliegen: Wenn technische Systeme in immer mehr Arbeits-, Kommunikations- und Entscheidungszusammenhänge eingebunden werden, sollte ihre Entwicklung nicht allein durch Wettbewerbsdruck und kurzfristige Marktchancen bestimmt sein. Gleichzeitig ist der Aufruf nach einem »KI-Slowdown« kein neutraler Sicherheitsvorschlag, sondern Teil eines Konflikts über Deutungshoheit, Zuständigkeit und die legitime Gestaltung technischen Wandels – und hat daher berechtigte Kritik hervorgerufen (siehe u.a. The Guardian, Reason):

• Eine erste Kritik betrifft die Glaubwürdigkeit der Forderung: Wenn gerade die Unternehmen, die massiv in immer leistungsfähigere Modelle, riesige Rechenzentren und die Erschließung neuer Einsatzmärkte investieren, nun zur Verlangsamung aufrufen, liegt die Frage nahe, warum sie ihr eigenes Entwicklungstempo nicht eigenständig reduzieren. Ein öffentlicher Ruf nach internationaler Koordination könne wie der Versuch erscheinen, die Verantwortung vom eigenen Unternehmen auf Staaten und Konkurrenten zu verlagern.
• Eine zweite Kritik benennt die Gefahr eines Regulierungskartells: Strenge Regeln für Trainingsrechenleistung, Modellzugang, Evaluierung und Dokumentation könnten gerade jenen Unternehmen nützen, die bereits über Kapital, Cloud-Infrastruktur, exklusive Datenzugänge und große Compliance-Abteilungen verfügen. Kleinere Unternehmen, zivilgesellschaftliche Projekte und Open-Source-Initiativen würden dadurch noch abhängiger von wenigen marktführenden Plattformen.
• Zum dritten verengt die Debatte den Blick auf hypothetische Fernrisiken: Die Vorstellung einer in naher Zukunft außer Kontrolle geratenen Superintelligenz mobilisiert zweifelsohne öffentliche Aufmerksamkeit, geht aber mit der Gefahr einher, gegenwärtige und empirisch greifbare Konflikte nachrangig erscheinen zu lassen, darunter die Ausbeutung von Daten- und Klickarbeit, urheberrechtlich umstrittene Trainingsdaten, Diskriminierungsrisiken, sozioökonomische Machtasymmetrien, die Umgestaltung qualifizierter Arbeit sowie der erhebliche Energie- und Ressourcenbedarf großer KI-Modelle.

Es geht insofern nicht nur darum, wie schnell KI leistungsfähiger wird; es geht darum, in welchen Bereichen sie eingesetzt wird, welche Entscheidungsrechte damit verbunden sind, wie Verantwortung zugerechnet werden kann und welche Akteure über die technischen Grundlagen verfügen.

Techniksoziologische Perspektiven