Gedankenstrich.org

Hermann C. Flessner hat 1978 im Spiegel das Buch »Die Macht der Computer und die Ohnmacht der Vernunft« des kritischen Informatikers Joseph Weizenbaum (1923–2008) besprochen. Nachfolgend einige Auszüge aus diesem Artikel, die auch im Zeitalter »künstlicher Intelligenz« nicht an Aktualität eingebüßt haben:

»Weizenbaum rechnet den Computer nicht zu jener Gattung von Werkzeugen, die prothetische Eigenschaften aufweisen […]. Aber der Autor macht auch deutlich, daß ein Vergleich zwischen menschlichen Fähigkeiten und denen von Computern auf sehr schwachen Füßen steht, da der Mensch selbst erstens keine Maschine ist und da es zweitens ›bestimmte Aufgaben gibt, zu deren Lösung keine Computer eingesetzt werden sollten, ungeachtet der Frage, ob sie zu deren Lösung überhaupt eingesetzt werden können‹.

[…] Auf welche Weise Computer die Gesellschaft zu ändern und die Bevölkerung zu beeinflussen drohen, wird erst klar, wenn man den Computer nicht nur als technisches Instrument kennengelernt hat und ihn zu bedienen versteht, sondern – was mindestens ebenso wichtig ist – erörtert hat, woher die Macht des Computers […] zu kommen scheint […]. Daß Computer auch das Leben von solchen Menschen schon heute nachhaltig beeinflussen, die mit Computern direkt nichts zu tun haben, macht Weizenbaum an einer lange zurückliegenden vergleichbaren Entwicklung deutlich: ›Die Druckerpresse verwandelte die Welt selbst für jene Menschen, die, etwa zur Zeit Martin Luthers, Analphabeten blieben und vielleicht nie in ihrem Leben ein Buch zu Gesicht bekamen.‹

[…] Wenn Computer Maschinen sind, autonom arbeitende Maschinen, und wenn sie richtig funktionieren, dann folgen sie nicht einfach einem Gesetz; sie sind Verkörperungen von Gesetzen. […] Die Fähigkeit, Programme schreiben zu können, erzeugt aber in vielen das Gefühl, einen Teil der Macht der Computer für sich einsetzen zu können. Dabei ist nach kritischer Beurteilung diese Macht bestenfalls daran erkennbar, daß in der Regel mühsam begründete und aneinandergereihte Arbeitsschritte mit Hilfe des Computers in unvorstellbar großer Geschwindigkeit ablaufen können. […] Es ist übrigens für Programmierer problematisch, große Rechenprogramme herzustellen, die sie in allen Schritten durch und durch verstehen.

[…] Die Macht der Computer wird aber erst unheimlich, wenn die Vernunft ihrer nicht mehr mächtig ist. Zum Beispiel dann, wenn mächtige Personen unserer Erde, mit den Möglichkeiten und Grenzen von Computern nicht vertraut, letzteren größere Leistungsfähigkeiten unterstellen, als man ihnen abverlangen kann. Schlimm wird es, wenn bei derartiger Überforderung zwangsläufig nicht brauchbare Ergebnisse als Hilfe bei wichtigen Entschlüssen verwendet werden. Somit sind Weizenbaums Kapitel über die künstliche Intelligenz […] diejenigen mit den wichtigsten Aussagen.

Was ist, wenn Computer von Personen bedient werden, die nicht die geringste Ahnung davon haben, was in diesen Maschinen eigentlich vor sich geht? […] Was ist, wenn Programme nur von ihren geistigen Vätern verstanden werden, die aber nicht zwangsläufig die Bedeutung der Parameter, sprich Eingabedaten, für den Ablauf der Programme überblicken? Und was ist, wenn die Kenner der Ausgangsgrößen und Parameter Programme in Unkenntnis ihrer Fähigkeiten und in Unkenntnis des Umfanges ihrer Aussagekraft einsetzen und den Computer-Ergebnissen mehr Aussagekraft unterstellen als zulässig?

Ausführlich setzt sich der Autor mit der Gefahr von Mißverständnissen und der Überschätzung der Fähigkeiten von Programmen auseinander. Es ist nicht allein die Gefahr, daß Computer uns verleiten, alle Denkarbeiten mit Routinecharakter immer schneller ausführen zu lassen, und wir dabei vergessen, nach welchen Kriterien wir programmierwürdige Aufgaben auswählen sollen, bei welchen der Einsatz von Computern sinnvoll ist und bei welchen absolut unsinnig und unwichtig […]. ›Ich plädiere für den rationalen Einsatz von Naturwissenschaft und Technik, nicht für deren Mystifikation und erst recht nicht für deren Preisgabe. Ich fordere die Einführung eines ethischen Denkens in die naturwissenschaftliche Planung. Ich bekämpfe den Imperialismus der instrumentellen Vernunft, nicht die Vernunft an sich.‹ Weizenbaum meint eine Vernunft, die auch die Fähigkeit einbezieht, eine Wahl zu treffen und nicht nur eine Entscheidung.«