Dreißig Jahre ist es her, dass Joseph Weizenbaum und Klaus Haefner ein Streitgespräch führten, das in Buchform vom Piper-Verlag veröffentlicht wurde. In diesem Beitrag, den ich bereits 2019 zum ersten Mal veröffentlichte, stelle ich ihre Positionen einander gegenüber, denn letztlich berühren sie bereits alle Grundfragen, die uns auch heute noch beschäftigen.
Können Computer, kann künstliche Intelligenz wirklich etwas Neues hervorbringen? Oder bedeutet das Lernen von Maschinen einfach nur, dass neue Daten auf der Grundlage konservierten Wissens entstehen? Wie unterscheidet sich menschliches Schaffen von der maschinellen Datengenerierung? Entsteht Sinn und Wert eines Kunstwerkes aus der Produktion oder aus dem Resultat? Gibt es überhaupt Vergleichspunkte zwischen Mensch und Computer, zwischen ihren Formen von Intelligenz und ihrer Befähigung zur Erfahrung?
Diese und viele weitere Fragen bestimmten das Streitgespräch zwischen Klaus Haefner und Joseph Weizenbaum, das bereits 1992 unter dem Titel „Sind Computer die besseren Menschen?“ in der Serie Piper herausgegeben wurde. Seitdem hat sich die Computerisierung der Welt längst vollzogen und einige Menschen sind davon überzeugt, dass mit KI ausgestattete Roboter einmal die besseren, da klügeren und effizienter funktionierenden Menschen sein werden.
Das Streitgespräch stammt aus einer Zeit, in der man dem Leser noch erklären musste, was ein Laptop ist. Der eine oder die andere wird vielleicht meinen, es leiste daher für die aktuelle Debatte um Digitalisierung und künstliche Intelligenz keinen Beitrag mehr. Doch letztlich lädt es dazu ein, zu verstehen, wie unterschiedlich die Standpunkte hierzu sein können – und wie wichtig es wäre, endlich eine Diskussion zu führen, in der es nicht nur um ökonomische Fragen oder irreversible Entwicklungen geht. Doch bevor ich euch einen kleinen Einblick in die verschiedenen Sicht- und Denkweisen beider Wissenschaftler gebe, möchte ich sie kurz vorstellen.
Vom Entwickler zum Kritiker: Joseph Weizenbaum
Joseph Weizenbaum wurde 1923 in Berlin geboren, 1936 emigrierte die Familie, die jüdischen Glaubens war, in die USA. Weizenbaum studierte Mathematik und arbeitete ab 1950 an dem Entwurf und dem Bau eines Großrechners. Er realisierte u.a. eines der ersten Computer-Bankensysteme und wurde 1963 schließlich Professor am Massachusetts Institute of Technology (MIT).
Einer breiteren Öffentlichkeit wurde Weizenbaum durch seine Mitarbeit an Programmen zur Spracherkennung und zur künstlichen Intelligenz bekannt. Er entwarf das Programm ELIZA, das einen therapeutischen Gesprächsverlauf simulieren sollte und das heute als Prototyp für Chatbots gilt.
In einer seiner Gastvorlesungen, die Joseph Weizenbaum an der Uni Bremen gab und an der ich teilnehmen durfte, kam er auch auf ELIZA zu sprechen. Er schilderte uns, die wir den digitalen Wandel so bewusst erlebten, wie wohl keine Generation nach uns mehr, wie verblüfft und entsetzt er war, als er feststellen musste, dass Menschen sich dem von ihm entwickelten Programm „anvertrauen“. Und malte dies auf humorvolle Weise aus, indem er von seiner Sekretärin berichtete, die ihn eines Tages mit der Begründung aus dem Raum schickte, dass sie mit ELIZA etwas Persönliches zu besprechen habe.
Ob diese Geschichte stimmt oder nicht – man weiß es nicht. Weizenbaum war ein hervorragender Erzähler und Lehrer, einer, der zum abstrakten Denken ebenso befähigt war wie zu dessen Veranschaulichung. Ein großartiger Mensch, der sich wie andere große Geister in eben dem Moment von der eigenen Forschung abwandte, als er sie in die Freiheit entlassen und machtlos mit ansehen musste, was daraus wurde. Joseph Weizenbaum starb 2008 und wurde in Berlin beerdigt.
Evolution, Genetik, Informatik – lässt sich unser Wissen maschinell organisieren?
Klaus Haefner, Weizenbaums Partner im Streitgespräch, wurde 1936 in Berlin geboren, studierte dort Physik, war Professor in Dallas und Berkeley und nach seiner Rückkehr nach Deutschland Prorektor der Universität Freiburg, an der er von 1970 bis 1972 das Projekt „Computerunterstützter Hochschulunterricht“ leitete.
Zuvor hatte er sich in Freiburg auf dem Gebiet der Genetik habilitiert. Von 1972 bis 1974 übernahm er eine Professur für computerunterstützte Hochschullehre in Bremen, 1982 lehrte er in Bremen als Professor für angewandte Informatik. Zahlreiche weitere Aufgaben und Ämter prägten sein Berufsleben, beispielsweise war er als Berater des Bundesministers für Forschung und Technologie tätig. 2001 ging er in den Ruhestand.
Haefner trat zu Beginn der 1980er Jahre an die Öffentlichkeit und beklagte, dass Deutschland unmittelbar vor einer Bildungskatstrophe stehe, da es sich den neuen Technologien verweigere und immer noch Studenten ausbilde, die von Digitalisierung und der zu erwartenden Sozialisierung durch Computer nichts verstehen. Während Weizenbaum immer wieder nach dem Warum und nach den Grenzen der Digitalisierung fragte, beschäftigte sich Haefner vor allem mit dem Wie und den Möglichkeiten, diese Entwicklung voranzutreiben.
Rechner und künstliche Intelligenz: hilfreiche Technologien oder Meister eines universalen Wissens?
Versucht man den Standpunkt beider Wissenschaftler im Verhältnis zu Computern und künstlicher Intelligenz zu verorten, lässt sich vielleicht Folgendes sagen: Für Weizenbaum sind Rechner und alles, was damit zusammenhängt, vom Menschen entwickelte Technologien, die dem Menschen dienen sollen. Er formt sie wie ein Werkzeug für seine Zwecke und schaltet sie nach Belieben ein oder aus.
Letztlich entscheidet der Mensch, was er entwickeln will und was nicht. Und er hat jederzeit die Wahl, sich einer Weiterentwicklung, die nicht in seinem Sinne ist, zu widersetzen. Entsprechend gibt es für Weizenbaum weder einen Vergleichspunkt zwischen Mensch und Maschine (wer ist besser?) noch einen Zwang, sich an die Digitalisierung oder an Möglichkeiten der künstlichen Intelligenz anpassen zu müssen.
Haefner dagegen geht davon aus, dass es sehr wohl Vergleichspunkte zwischen Mensch und Maschine gibt, und bemisst beide „Systeme“ letztlich daran, was sie besser oder schlechter können. Er vertritt zudem jene Position, die noch heute die Diskussionen um Digitalisierung und künstliche Intelligenz bestimmt: Der Mensch hat darin seine Entscheidungsgewalt längst abgegeben an eine „Entwicklung“, die vom System und vom Machbaren bestimmt wird. Wie im prozessualen Denken üblich, gibt es darin keinen Verursacher, keinen Entscheider, niemanden, der die Weichen stellt, sondern alles geschieht einer rationalen Teleologie folgend.
Aus Alt mach Neu: Kann datengestütztes Wissen wirklich etwas eigenständig Neues generieren?
Eine spannende Frage, der sich beide Wissenschaftler im Gespräch stellen, ist die nach dem „neuen Wissen“, das Computer und künstliche Intelligenz produzieren sollen. Weizenbaum bestreitet, dass „Computer Informationen produzieren“. Seiner Ansicht nach setzen Computer Rechenwege um, produzieren dabei aber nichts Neues.
Haefner widerspricht dem und verweist darauf, dass Computer beispielsweise bereits Gedichte und Tonwerke generieren könnten, die dem, was Menschen schaffen, überlegen sind. Zumindest aber sei kein Unterschied zwischen einem Gedicht, das ein Autor verfasst habe, und einem, das von einem Computer stamme, erkennbar.
Im weiteren Verlauf des Gesprächs wird deutlich, dass Weizenbaum den Schaffensprozess selbst als etwas dem Menschen Wesentliches betrachtet. Dabei geht es auch um Bedeutung und Sinnhaftigkeit, die sein Handeln motivieren und die er daraus bezieht. Haefner dagegen betrachtet in erster Linie das Resultat des Schaffens oder Generierens.
Weizenbaum sieht die Einzigartigkeit eines Kunstwerkes unter anderem darin, dass es von einem Menschen in einer bestimmten Absicht und aus einer Erfahrung heraus, die nur diesem Individuum zu eigen ist, geschaffen wurde. Haefner meint, Tätigkeiten wie Dichten oder Komponieren würde bestimmten Anforderungen folgen, die sich klar ermitteln und entsprechend in Programme umsetzen ließen.
Erfahrung versus Abstraktion
Weizenbaum bezieht sich letztendlich auf die Erfahrung, Haefner auf Effizienz als Grundlage menschlicher Kunst – sei es in der Musik, der Poetik, der Wissenschaft oder auch in der Architektur. Gerade die Abstraktion von jeglicher Erfahrung würde es demzufolge ermöglichen, dass Computer dem Menschen eines Tages auf nahezu allen Gebieten überlegen sind.
Weizenbaum widerspricht dem und verweist auf die Einzigartigkeit des Menschen und damit auf den Zirkelschluss einer Definition, die ihn auf das begrenzt, was er besser oder schlechter kann als eine Maschine:
„Ich glaube, es ist ein großer Fehler, das Menschsein nach dem zu definieren, was der Mensch kann, aber der Computer nicht. Aus solchen Versuchen geht ein Bild des Computers hervor, der insgeheim als Maßstab des Menschseins dient. Jeder Mensch ist aber ein Sonderfall – jeder Mensch ist von seiner eigenen und einzigartigen Lebensgeschichte geprägt. Ein Computer kann einfach keine menschliche Geschichte oder menschliche Erfahrung haben. Schon deswegen sind Mensch und Computer in einem strengen Sinn unvergleichbar“ (a.a.O.Seite 90).
Wessen Wissen ist wahr?
Ein weiterer wesentlicher Streitpunkt, der die Unterschiede im Denken beider Wissenschaftler aufzeigt, besteht in der Frage danach, welchen Stellenwert der Naturwissenschaft und den von ihr behaupteten Gesetzmäßigkeiten zukommt. Haefner geht von der Überlegenheit des naturwissenschaftlichen Denkens aus und möchte das aktuelle Wissen, das sich daraus ableiten lässt, in externen Speichersystemen organisieren, möchte es in die menschliche Evolution integrieren.
Weizenbaum bezweifelt die Sonderstellung der naturwissenschaftlichen Erkenntnis. So sei gerade die „Gesetzmäßigkeit“, die das naturwissenschaftlich bestimmte Weltbild als seine Grundlage behauptet, letztlich durch nichts zu beweisen.
Naturwissenschaft ist Weizenbaum zufolge
„ein Organisationsprinzip […], das mir erlaubt, die sonst chaotische Menge meiner Wahrnehmungen der physikalischen Phänomene meiner Umwelt kohärent zu verstehen. Naturwissenschaft ist also eine Mythologie. Sie ist eine Mythologie, die es geschafft hat, sich so gründlich in den Glauben der Menschheit, besonders in den des abendländischen Teils der Menschheit, einzubetten, daß sie als absolute und unbestreitbare Wahrheit angenommen ist – genau so wie die fundamentalistischen Religionen. Jeder Zweifel an der Macht der Naturwissenschaft, absolute Wahrheit zu liefern, wird verspottet, ins Lächerliche gezogen, sogar bestraft. Aber es gibt in der Tat auch andere Mythologien, die als Ordnungsprinzipien dienen können und es auch tun. Die Weltreligionen sind Beispiele“ (a.a.O., S. 117).
Der gläubige Mensch, so Weizenbaum, erfahre die Wirklichkeit Gottes auf dieselbe Weise wie der Naturwissenschaftler die Gesetzmäßigkeit seiner Hypothesen über die Wirklichkeit. Wieder geht er damit letztlich auf den Begriff der Erfahrung zurück, dem Wissenschaftler gern jede Bedeutung absprechen. (Persönliche Bemerkung: Dabei ist es wohl gerade die Erfahrung, im Gegensatz zum nur Angenommenen, die den Grundstein aller naturwissenschaftlichen Erkenntnis, wie wir sie heute verstehen, legte.) Tatsächlich sei aber das Wissen, „über das die Wissenschaft und unser rationales Denken verfügen, nur ein sehr winziger – wenn auch wichtiger – Teil des menschlichen Wissens“ (a.a.O., S. 118).
Ein kleines Streitgespräch von noch stets aktueller Bedeutung
Wird die Digitalisierung uns mehr Demokratie bringen oder ist sie eine Technologie, die allein der sie steuernden Elite nützt? Lassen sich menschliche Erfahrungen und Emotionen in computergesteuerte Prozesse übersetzen? Wird ein Roboter ein Baby in den Armen tragen und nähren können wie dessen leibliche Eltern? Wird es uns in einer noch unbestimmten Zukunft überhaupt noch möglich sein, zwischen Mensch und Maschine zu unterscheiden? Dürfen wir uns dem Machbaren widersetzen oder müssen wir nach dem Prinzip „never change a running system“ allem folgen, was sich als „überlegen“ gebiert?
Es ist so faszinierend wie beschämend, zu lesen, dass diese und viele weitere Fragen bereits seit Jahrzehnten im Raum stehen, ohne dass wir als Gesellschaft sie aufgreifen und leidenschaftlich debattieren.
Ist nämlich öffentlich von Digitalisierung die Rede, sprechen wir zumeist über Roboterisierung und Automatisierung, über Ökonomie und die Verlierer/Gewinner der damit verbundenen Marktwirtschaft. Haefner und Weizenbaum haben bereits vor zwei Jahrzehnten Fragen gestellt, die zeigen, dass die gesamte Entwicklung deutlich tiefer in die menschliche Existenz, in jede Pore unseres Alltags, unserer Beziehungen und unserer Vorstellungskraft eindringen wird.
Digitalisierung verändert nicht nur unsere Wirklichkeit, sie stellt den Menschen und dessen Erfahrung grundsätzlich infrage. Das kleine Büchlein, in dem das Streitgespräch erschienen ist, hat daher für mich noch nichts von seiner Aktualität verloren.
Die Seitenangaben und Zitate beziehen sich auf folgende Ausgabe: