Laut einer Untersuchung vertrauen angeblich bereits 20 Prozent der Befragten der KI ihre geheimsten Probleme an.

Die KI sei nämlich zugewandt und empathisch wie kaum ein Mensch.

Echt jetzt?

 

 

Joseph Weizenbaum

Vielleicht kennen diesen Mann nur wenige. Er war ein Ketzer gegen den Computer. Und selbst ein genialer Informatiker. Er unterrichtete ab 1963 am MIT und baute dort mit anderen das Arpanet auf, einem Vorläufer des Internets.

Ich hatte das Glück, ihn zwei Mal bei einem Vortrag zu erleben. Der eine glich dem anderen weitgehend, aber das schmälerte nicht das Vergnügen, ihn zu sehen und zu hören. Er war ein begnadeter Redner, genauer gesagt: Er sprach so, dass alle ihn verstehen konnten. Außerdem war er humorvoll und selbstkritisch.

Ich erinnere mich an die Anekdote mit seiner Enkeltochter, die er erzählte. Sie fragte ihn, wie spät es sei. Und ergänzte: Aber bitte erkläre mir nicht, wie eine Uhr funktioniert.
Das war wohl seine selbst auferlegte Aufgabe: Die Menschen sollten verstehen, warum etwas so ist, wie es ist.

Seine Bücher „Die Macht der Computer und die Ohnmacht der Vernunft“ und „Computermacht und Gesellschaft“ bestätigten mich in meiner naiven Ablehnung dieser Maschine: Ich fand sie zu einem kleinen Teil nützlich, zu einem großen gefährlich. Der nützlichste Teil davon war, dass ich meine Texte einfach korrigieren konnte. In früheren Zeiten war das nervend. Text tippen, lesen, ausbessern, den überarbeiteten Text nochmals tippen, Teile ausschneiden, einfügen, kopieren. Eine beschissene Arbeit.
Mein erster Computer hieß Schneider Joyce und mit ihm fiel die Korrekturarbeit wunderbar aus. Mein Buch „Wiener Brut“, das bei #rororo erschien, hätte ohne ihn sehr viel länger gedauert.

 

Lehrt Wichtiges!

Weizenbaum war ein Radikaler, er ging an die Wurzeln der EDV. Es ist Unsinn, meinte er, junge Menschen bloß mit Programmen zu konfrontieren und ihnen zu zeigen, wie man sie verwendet.
Besser wäre es, wenn sie einen Computer selbst zusammenbauen könnten. Dann verstünden sie, wie er funktioniert und wären nicht abhängig von ihm.

Ich stimmte seinen Sätzen gerne zu. Etwa diesen:
„Man spricht heute häufig von einer Wissensexplosion, mit der wir konfrontiert sind. … Was wir hatten und haben ist eher eine ‚Quatsch-Explosion‘.“

Das galt auch für ‚wissenschaftliche‘ Arbeiten, die ebenfalls aus einer Quatschbude stammen könnten.
„Die Studenten an meinem Institut, dem MIT, haben uns gezeigt, daß man sogar Papiere verfassen kann, die man nicht einmal selber lesen muß. Dies alles geht mit Hilfe des Computers.“

Dieser Joseph Weizenbaum erlaubte sich vor über einem halben Jahrhundert einen Scherz.
Dachte er anfangs.
Er erfand 1966 ein Programm namens ‚Eliza‘, das auf Fragen eines Menschen Antworten gab. Diese Antworten orientierten sich an der Arbeitsweise des Psychotherapeuten Carl Rogers.

„Ein solcher Therapeut ist verhältnismäßig leicht zu imitieren, da ein Großteil seiner Technik darin besteht, den Patienten dadurch zum Sprechen zu bringen, daß diesem seine eigenen Äußerungen wie bei einem Echo zurückgegeben werden.“
Im Buch folgt das Beispiel eines solchen Gesprächs mit einem Computer. Die Antworten des Computers sind in Großbuchstaben dargestellt.

 

Eliza bzw. Doctor

Die Männer sind alle gleich.

IN WELCHER WEISE?

Sie machen uns immer wegen irgendwas verrückt.

KÖNNEN SIE EIN BEISPIEL NENNEN?

Naja, die Idee zu diesem Gespräch stammt von meinem Freund.

DIE IDEE ZU DIESEM GESPRÄCH STAMMT VON IHREM FREUND?

Er sagt, daß ich oft deprimiert bin.

ES TUT MIR LEID VON IHNEN ZU HÖREN, DASS SIE DEPRIMIERT SIND

Das stimmt, ich bin unglücklich.

Und in der Art immer weiter. Ein Gespräch, das eigentlich keines ist. Der Computer ist nämlich kein Mensch und kann nur mit Floskeln, die vom Programmierer gut gewählt sind, auf das Gegenüber eingehen.

Da die Aufmerksamkeitsspanne der meisten Leserinnen und Lesern heute angeblich ziemlich gering ist, fasse ich die weitere Entwicklung des Scherzes zusammen:
Das Programm wurde zuerst in DOCTOR umbenannt, was viel besser klingt als ELIZA. Dann wurde es Psychiatern vorgestellt. Die waren von dem Programm – heute Chatbot oder KI genannt – so begeistert, dass sie tatsächlich und allen Ernstes hofften, es würde zu einer automatischen Form der Psychotherapie ausgebaut werden.
Weizenbaum war entsetzt!

„Ich konnte bestürzt feststellen, wie schnell und wie intensiv Personen, die sich mit DOCTOR unterhielten, eine emotionale Beziehung zum Computer herstellten und wie sie ihm eindeutig menschliche Eigenschaften zuschrieben.“

Diese Erkenntnis ist, wie gesagt, über ein halbes Jahrhundert alt. Weizenbaums Scherz hat sich leider in eine irreale Wirklichkeit verwandelt. Menschen fühlen sich vom Computer besser verstanden als von Menschen.
Das sagt viel über den Zustand der (westlichen) Welt aus.
Und über ihren Bildungsstand.

Schöne Grüße aus den Alpen
Ihr/euer
Erich Ledersberger

PS: Joseph Weizenbaum starb 2008 in seiner Geburtsstadt Berlin. Er wurde auf dem Jüdischen Friedhof Weißensee begraben.
Seine Bücher sollten zur Pflichtlektüre aller Pädagoginnen und Pädagogen gehören.
https://de.wikipedia.org/wiki/Joseph_Weizenbaum