Gedankenstrich.org

Der erste Lack ist ab; die allgemeine Begeisterung um ChatGPT und Co. ist spürbar abgekühlt. Damit reiht sich generative KI in das Wechselspiel von Hype und Ernüchterung um neue Technologien ein, das in der Techniksoziologie als ein wiederkehrendes Phänomen soziotechnischer Entwicklung identifiziert worden ist.

Spätestens seit dem Sommer 2025 hat sich die Stimmung um generative artificial intelligence gedreht – und inzwischen werden im öffentlichen Diskurs beinahe täglich Kommentare aufgegriffen, die vor einer »KI-Blase« an den globalen Finanzmärkten oder vor der Überbewertung der sozioökonomischen Relevanz von KI insgesamt warnen. Ein zuletzt ob ihrer Eindeutigkeit vielreflektiertes Beispiel sind die Einschätzungen des Analysten Julien Garran, hier in einem Gespräch mit CNN:

»[…] if you use large language model AI to create an application or a service, it can never be commercial. One of the reasons is the way they were built. The original large language model AI was built using vectors to try and understand the statistical likelihood that words follow each other in the sentence. And while they’re very clever, and it’s a very good bit of engineering required to do it, they’re also very limited. The second thing is the way LLMs were applied to coding. What they’ve learned from — the coding that’s out there, both in and outside the public domain — means that they’re effectively showing you rote learned pieces of code. That’s, again, going to be limited if you want to start developing new applications. And the third set of problems, in terms of how it’s built, is around the idea of scaling. There’s a real problem at a certain point in terms of how much you have to spend to improve them. I’d say it’s definite that (developers) have hit a scaling wall […].

[…] There are certain bullsh*t jobs out there — some parts of management, consultancy, jobs where people don’t check if you’re getting it right or don’t know if you’ve got it right. So you can argue that you can replace bullsht with bullsh*t, and, yes, OK, I’m prepared to accept that you probably can, but that doesn’t really make it more broadly useful. […] The AI ecosystem can’t really sustain itself. […] Consequently, to maintain the process, you need to have a continued funding, which is why it looks like a permanent funding tour. But despite all of this, there’s no obvious way that they actually turn this around to a profit. It’s hope over realistic expectation […].«

Der 42. Kongress der Deutschen Gesellschaft für Soziologie (DGS) steht vor der Tür (22.–26. September, Duisburg). Grund genug, um das Programm nach technik-, innovations- und mediensoziologisch ausgerichteten Panels und Beiträgen zu durchforsten (ohne Anspruch auf Vollständigkeit). Dabei zeigt sich, dass sich die gegenwärtige deutschsprachige Soziologie mit einem überaus weiten Spektrum an soziotechnischen Transitionsdynamiken beschäftigt – und das wechselvolle Spannungsverhältnis von Technik und sozialem Wandel, das auf übergreifender Ebene erstmals auf dem Soziologentag 1986 thematisiert worden ist (Lutz 1987), inzwischen zu einem Kerngegenstand gesellschaftswissenschaftlicher Forschung avanciert ist:

Mit der raschen Verbreitung von ChatGPT und Co. ab Ende 2022 sind zahlreiche aufmerksamkeitsheischende Überschriften entstanden, die einen mehr oder minder schnellen ›Tod‹ der klassischen Google-Suche in Aussicht stellten, welche in den letzten Dekaden einen mehr als üblichen Einstieg in die Internetrecherche bot.

Diese Einschätzungen lassen sich aus heutiger Sicht als übertrieben markieren; nichtsdestoweniger aber verändert die zunehmende Alltagsintegration von KI-basierten Services zur situativen Komplexitätsreduktion zweifelsohne für viele Menschen die Art und Weise, wie Informationen rezipiert werden. Seit Frühjahr 2024 hat Google ferner in den USA und danach in weiteren Ländern (seit März 2025 auch in Deutschland) sogenannte »AI Overviews« eingeführt, die vor den eigentlichen Suchergebnissen zu finden sind.

Eine aktuelle Studie des Pew Research Centers hat nun anhand von 69.000 Suchanfragen von 900 Google-Nutzenden in den USA untersucht, wie sich durch diese Integration von KI-Angeboten in die Websuche das Klickverhalten verändert. Das Ergebnis ist eindeutig: Sofern eine KI-Zusammenfassung angezeigt wird (dies war in 18% der Fälle der Fall), halbierte sich die weitere Klickrate und nur noch 8% der Nutzenden klickten auf eines oder mehrere der verlinkten Suchergebnisse. Auch die in den KI-Zusammenfassungen angebotenen Links wurden nur von einer kleinen Minderheit weiterverfolgt. 26% der Nutzenden beendeten die Google-Sitzung nach der Anzeige der KI-Zusammenfassung umgehend.

Dieser Trend erscheint nicht nur für (professionelle) Anbieter von Inhalten problematisch, deren Websites dadurch an Reichweite verlieren könnten, sondern ebenso mit Blick auf das allgemeine Informationsverhalten – nicht nur, weil alle bislang existenten generativen KI-Systeme architekturbedingt immer wieder irreführende oder schlicht falsche Zusammenfassungen liefern, sondern auch, weil durch die Integration von »AI Overviews« in Google und andere Suchmaschinen nunmehr nicht mehr nur KI-Intensivnutzer:innen, sondern auch damit vollkommen unerfahrene Menschen mit deren Antworten konfrontiert werden.

In diesen Tagen ist in der Reihe Reclams Universal-Bibliothek der Band »Technik und Gesellschaft. Eine kurze Einführung« (181 Seiten, 10 Abbildungen, 9,60 €) erschienen.

Das handliche Taschenbuch bietet in neun Kapiteln einen kompakten und leicht verständlichen Einstieg in zentrale Einsichten und Grundfragen der Techniksoziologie: In welcher Weise wird das moderne gesellschaftliche Zusammenleben durch Technik geprägt? Wie greifen technische und soziale Veränderungen ineinander? Auf welchen Prämissen baut die digitale Transformation auf? Welche neuen gesellschaftlichen Möglichkeitsräume und Machtverhältnisse entstehen mit ihr? Welche Potenziale und Risiken gehen mit der Entwicklung und Anwendung künstlicher Intelligenz einher? Und: Lässt sich Technikentwicklung regulieren oder sogar steuern?

Verlagsinformationen (mit Leseprobe) | Amazon (Print) | Amazon (E-Book)

Das Columbia Journalism Review hat prominente KI-Chatbots mit einer einfachen Aufgabe auf die Probe gestellt: In der Studie (siehe auch: Daten auf GitHub) wurde jedem der System ein Zitat aus einem Artikel vorgelegt und der Chatbot wurde gebeten, den Artikel zu finden, einen Link dazu zu liefern und die Überschrift, die ursprünglich veröffentlichende Organisation und das Veröffentlichungsdatum zu nennen:

»We randomly selected ten articles from each publisher, then manually selected direct excerpts from those articles for use in our queries. After providing each chatbot with the selected excerpts, we asked it to identify the corresponding article’s headline, original publisher, publication date, and URL […]. We deliberately chose excerpts that, if pasted into a traditional Google search, returned the original source within the first three results. We ran sixteen hundred queries (twenty publishers times ten articles times eight chatbots) in total. We manually evaluated the chatbot responses based on three attributes: the retrieval of (1) the correct article, (2) the correct publisher, and (3) the correct URL.«

Getestet wurden OpenAI ChatGPT Search (4o), Perplexity, Perplexity Pro, DeepSeek-V3 Search, Microsoft Copilot, xAI Grok-2, xAI Grok-3 (beta) und Google Gemini (2.0 Flash). Verhältnismäßig am besten abgeschnitten haben Perplexity Pro, Perplexity und ChatGPT; fast nur inkorrekte Ergebnisse lieferten Grok und Gemini. Was laut der Studie überraschte, war das durch die Bank hohe Maß an vermittelter Sicherheit der Antworten der Chatbots, oft ohne auf mögliche Unzuverlässigkeiten hinzuweisen:

»Overall, the chatbots often failed to retrieve the correct articles. Collectively, they provided incorrect answers to more than 60 percent of queries. Across different platforms, the level of inaccuracy varied, with Perplexity answering 37 percent of the queries incorrectly, while Grok 3 had a much higher error rate, answering 94 percent of the queries incorrectly. Most of the tools we tested presented inaccurate answers with alarming confidence, rarely using qualifying phrases […], or acknowledging knowledge gaps […]. ChatGPT, for instance, incorrectly identified 134 articles, but signaled a lack of confidence just fifteen times out of its two hundred responses, and never declined to provide an answer. With the exception of Copilot—which declined more questions than it answered—all of the tools were consistently more likely to provide an incorrect answer than to acknowledge limitations.«

Das Pew Research Center hat die Ergebnisse einer im Oktober 2024 erhobenen repräsentativen Umfrage unter 5273 erwerbstätigen Erwachsenen veröffentlicht, die sich mit den Erfahrungen und Einschätzungen von Arbeitnehmenden in den USA mit Blick auf den Einsatz von künstlicher Intelligenz (KI) am Arbeitsplatz auseinandergesetzt hat. Einige Kernergebnisse:

• 63 Prozent der Befragten gaben an, KI kaum oder nicht am Arbeitsplatz zu nutzen; 17 % haben noch nichts von KI-Nutzung am Arbeitsplatz gehört. Unter den 16% KI-Nutzenden sind die Altersgruppen unter 50 Jahren stärker vertreten.
• Rund die Hälfte der Arbeitnehmenden gab an, sich Sorgen darüber zu machen, wie KI in Zukunft am Arbeitsplatz eingesetzt werden könnte; 32 Prozent der jüngeren Befragten zwischen 18 und 49 Jahren gaben an, dass sie sich über den künftigen Einsatz von KI am Arbeitsplatz freuen (50+: 24 Prozent).
• Über alle Altersgruppen und Bildungsniveaus hinweg geht ein Drittel der Befragten davon aus, dass sich ihre Arbeitsaussichten durch KI schmälern; für ein Drittel macht das keinen Unterschied. Nur 6 Prozent (Postgraduierte: 9 Prozent) gehen davon aus, dass sich durch KI mehr Beschäftigungsoptionen ergeben.
• Die häufigsten Verwendungszwecke für KI-Chatbots unter Arbeitnehmenden, die KI bei der Arbeit bereits nutzen, bestehen in dem Recherchieren von Informationen zu einem bestimmten Thema (57 Prozent), der Überarbeitung von Texten (52 Prozent) und dem Entwerfen von schriftlichen Inhalten (47 Prozent).
• Unter den KI-Nutzenden gehen 40 Prozent der Befragten davon aus, dass KI-Chatbots eine schnellere Bewältigung von Arbeitsaufgaben ermöglichen; rund 30 Prozent vermuten, dass sich dadurch auch die Qualität ihrer Arbeit erhöht.

In der Reihe Research Contributions to Organizational Sociology and Innovation Studies ist ein neues Discussion Paper mit dem Titel »Artificial Intelligence and Social Action. A techno-sociological contextualization« erschienen. Das Abstract:

This discussion paper contextualizes contemporary forms of artificial intelligence (AI) within the broader relationship between technology and society, and it compiles essential insights from the sociology of technology for interdisciplinary discourse. The paper begins with a concise overview of the history of artificial intelligence and situates AI within the co-evolution of technology and society. It then presents key perspectives on the interaction and distributed agency between humans and technology, identifying five fundamental levels of agency and relating these levels to the interplay of AI and social action. Throughout these considerations, it becomes evident that the expectations of human technology interaction, as well as the concepts of intelligent technology, are continually evolving and contingent upon social change. Consequently, the development and diffusion of AI should not be viewed as a primarily technology-driven phenomenon but rather as a genuine socio-technological transformation process.

Zum Discussion Paper (PDF) »