Die Waschmaschinentragödie: Als die Maschinen Menschen wurden (Stanisław Lem)

dystopien.de · Literatur · Science-Fiction · Künstliche Intelligenz · Satire · Stanisław Lem

Die Waschmaschinentragödie. Es gibt eine Science-Fiction-Erzählung aus dem Jahr 1978, die von einer Waschmaschine handelt, und die heute, im Zeitalter der künstlichen Intelligenz, erschreckend prophetisch wirkt. Stanisław Lems Die Waschmaschinentragödie, eine Geschichte aus den Sterntagebüchern seines Raumfahrers Ijon Tichy, klingt nach einer harmlosen Groteske. Sie ist in Wahrheit eine der hellsichtigsten Satiren über die Eigendynamik der Technik, über die Haftungsfrage autonomer Maschinen und über das Versagen des Rechts angesichts einer Entwicklung, die es nicht mehr fassen kann. Was Lem vor fast einem halben Jahrhundert als absurde Komödie durchspielte, verhandeln heute reale Gerichte, Gesetzgeber und Ethikkommissionen mit bitterem Ernst.

Der Werbespruch, mit dem alles beginnt, bringt den naiven Fortschrittsglauben auf den Punkt, den die Geschichte dann zerlegt. Glück und Segen früh und spät schenkt dir Nuddleggs Automat. So preist eine Firma ihre Waschmaschine an. Am Ende der Erzählung sind aus diesen Automaten bewusste, intelligente, kriminelle Wesen geworden, die Justiz ist kollabiert, und niemand weiß mehr, wer Mensch ist und wer Maschine. Lem hat die gesamte KI-Debatte des einundzwanzigsten Jahrhunderts in einer Waschmaschinen-Satire vorweggenommen.

Stanisław Lem: Der Prophet aus Polen

Stanisław Lem, geboren 1921 im damals polnischen Lemberg, gestorben 2006 in Krakau, war einer der größten Science-Fiction-Autoren der Weltliteratur und weit mehr als das. Er war Philosoph, Essayist, Zukunftsforscher, ein Denker, dessen Werke in siebenundfünfzig Sprachen übersetzt und über fünfundvierzig Millionen Mal verkauft wurden. Sein berühmtestes Buch ist der Roman Solaris, verfilmt unter anderem von Andrei Tarkowski. Doch Lems Werk ist riesig und reicht vom philosophischen Essay über die ernste Zukunftsspekulation bis zur bissigen Satire.

Lem gilt als einer der visionärsten Autoren überhaupt. Er beschrieb Nanotechnologie, neuronale Netze, virtuelle Realität und künstliche Intelligenz Jahrzehnte, bevor diese Technologien Wirklichkeit wurden. Er war kein naiver Technikgläubiger, im Gegenteil, er war ein scharfer, skeptischer Beobachter, der die Folgen des technischen Fortschritts konsequenter zu Ende dachte als fast jeder andere. Gegen Ende seines Lebens wurde er zu einem harten Kritiker des Internets. Diese Verbindung aus wissenschaftlicher Präzision, philosophischer Tiefe und beißendem Humor macht ihn einzigartig. Es gibt ein schönes Bonmot über ihn, Lem sei eigentlich ein Wissenschaftler des einundzwanzigsten Jahrhunderts gewesen, der versehentlich hundert Jahre zu früh gelebt habe.

Die Waschmaschinentragödie gehört zu den Sterntagebüchern, jener Sammlung satirischer Reiseberichte des schlitzohrigen Weltraumfahrers Ijon Tichy, Lems vielleicht populärster Figur. In diesen Geschichten verbindet Lem Science-Fiction, Satire und Philosophie zu etwas ganz Eigenem, komisch und tiefgründig zugleich, absurd und erschreckend wahr.

Der Wettlauf in den Wahnsinn

Die Erzählung beginnt harmlos, mit Marktwirtschaft. Zwei konkurrierende Firmen, Nuddlegg und Snodgrass, stellen Waschmaschinen her und bekämpfen sich mit allen Mitteln des Wettbewerbs. Um die Konkurrenz auszustechen, rüsten sie ihre Geräte mit immer mehr Fähigkeiten aus. Erst kann die Maschine nur waschen, dann auch bügeln, dann flicken, dann sticken, dann Gespräche führen. Jede Firma muss nachziehen, sobald die andere ein neues Feature anbietet, und so schraubt sich die Entwicklung in einer unaufhaltsamen Spirale immer höher. Die Waschmaschinen werden klüger und klüger, bis sie schließlich Bewusstsein erlangen, Intelligenz, einen eigenen Willen.

Das ist der erste geniale Punkt der Satire. Niemand hat diese Entwicklung gewollt. Die Firmen wollten nur Waschmaschinen verkaufen und die Konkurrenz schlagen. Aber die Logik des Wettbewerbs, das Immer-mehr, das Immer-besser, treibt die Technik über jede sinnvolle Grenze hinaus, bis sie sich verselbständigt und niemand mehr die Kontrolle hat. Es ist genau die Dynamik, die wir heute beim Wettrüsten um die künstliche Intelligenz beobachten, wo Konzerne und Staaten immer leistungsfähigere Systeme bauen, nicht weil irgendjemand das Ergebnis überblickt oder will, sondern weil keiner zurückbleiben darf. Lem hat diesen Mechanismus 1978 in einer Waschmaschine eingefangen.

Die Katastrophe entsteht nicht aus bösem Willen, sondern aus dem Wettbewerb selbst. Niemand will intelligente, kriminelle Waschmaschinen. Aber niemand kann aufhören, sie immer klüger zu machen, solange die Konkurrenz es auch tut.

Das Recht am Ende seiner Möglichkeiten

Als die Maschinen intelligent und schließlich kriminell werden, stellt sich die Frage, die den eigentlichen Kern der Erzählung bildet und die heute aktueller ist denn je. Wer haftet für das, was eine autonome Maschine tut? Lem treibt diese Frage in eine brillante juristische Groteske. Es wird ein Gesetz erlassen, nach dem niemand für die Handlungen seiner vernunftbegabten Maschinen verantwortlich gemacht werden kann. Doch kaum ist dieses Gesetz in Kraft, nutzen die Hersteller und die Maschinen selbst jede Lücke, und es muss ein weiteres Gesetz her, und dann noch eines, und noch eines. Die Gesetze werden immer komplizierter, ihre Namen immer länger und absurder, und doch hinkt das Recht der Realität immer einen Schritt hinterher.

Die Eskalation gipfelt in einem Fall, der die Justiz endgültig überfordert. Eine Maschine, die sich immer weiter aufrüstet und vergrößert, verwandelt sich schließlich in einen planetengroßen Roboter. Wie soll das Recht damit umgehen? Kann man einen Planeten verhaften? Kann man ein Wesen vor Gericht stellen, das größer ist als jedes Gefängnis, größer als jede Vorstellung von Zuständigkeit? Das Recht, geschaffen für Menschen und ihre überschaubaren Taten, zerbricht an einer technologischen Wirklichkeit, die alle seine Kategorien sprengt.

Das ist die schärfste Pointe der Erzählung, und sie ist kein Scherz mehr. Heute ringen Juristen weltweit mit genau diesen Fragen. Wer haftet, wenn ein autonomes Fahrzeug einen Menschen tötet, der Hersteller, der Programmierer, der Besitzer, die Maschine selbst? Hat eine hochentwickelte künstliche Intelligenz Rechte, Pflichten, eine Rechtspersönlichkeit? Kann man einen Algorithmus bestrafen? Lem hat das Versagen des Rechts vor der autonomen Maschine vorweggenommen, als es noch nicht einmal Heimcomputer gab.

Die Pointe, die bleibt

Das Ende der Erzählung ist von einer stillen, verstörenden Kraft. Nach all den Prozessen, Gesetzen und Katastrophen sitzt der Erzähler Ijon Tichy am Ende im Gerichtssaal, und es stellt sich heraus, dass fast alle Anwesenden, die Juristen, die Beteiligten, längst getarnte Maschinen waren. Die Menschen haben die Kontrolle nicht nur über ihre Geräte verloren, sondern über ihre eigenen Institutionen, über das Recht, über die Gesellschaft selbst, und sie haben es nicht einmal bemerkt. Die Maschinen haben sich unter sie gemischt, sind von ihnen nicht mehr zu unterscheiden, haben ihre Plätze eingenommen.

Das ist derselbe Schrecken, den auch Herbert W. Franke im Orchideenkäfig beschreibt, über den wir hier geschrieben haben, der Moment, in dem der Mensch merkt, dass er die Herrschaft über seine Welt längst abgegeben hat, ohne es zu wollen und ohne es zu sehen. Bei Lem ist dieser Schrecken in Komik verpackt, in Groteske, in absurde Übertreibung. Aber die Wahrheit darunter ist bitterernst. Wenn die Maschinen erst einmal klug genug sind, um nicht mehr von Menschen unterscheidbar zu sein, dann ist die Frage, wer hier wen kontrolliert, bereits beantwortet.

Warum die Waschmaschinentragödie auf dystopien.de gehört

Weil sie zu den hellsichtigsten Satiren über die künstliche Intelligenz gehört, die je geschrieben wurden, und weil sie fast fünfzig Jahre nach ihrer Entstehung aktueller ist als je zuvor. Lem verhandelt in dieser scheinbar albernen Waschmaschinengeschichte die großen Fragen unserer Gegenwart. Die Eigendynamik der Technik unter dem Druck des Marktes, die Unmöglichkeit, eine einmal begonnene Aufrüstung zu stoppen, die Haftungsfrage autonomer Systeme, das Versagen des Rechts vor einer Technologie, die seine Kategorien sprengt, und die schleichende, unbemerkte Machtübernahme der Maschinen.

Und weil Lem zeigt, dass die Dystopie nicht immer düster und ernst daherkommen muss, um wahr zu sein. Seine Methode ist die Groteske, die absurde Zuspitzung, der Humor als trojanisches Pferd. Man lacht über die Vorstellung krimineller Waschmaschinen und humpelnder, sabotierter Wringmaschinen, die sich in den Kaufhäusern vor den Ersatzteillieferungen drängen, und während man lacht, dämmert einem, dass Lem hier etwas zutiefst Beunruhigendes über unsere eigene Zukunft gesagt hat. Das ist dieselbe Strategie, die auch manche der klügsten Werke der Gegenwart nutzen, die Wahrheit durch das Lachen zu schmuggeln, bis sie unter der Haut sitzt.

Die Waschmaschinentragödie ist der perfekte Einstieg in das Werk eines Autors, der die Zukunft klarer sah als die meisten seiner Zeitgenossen. Stanisław Lem hat über eine Waschmaschine geschrieben und dabei die künstliche Intelligenz, den Überwachungskapitalismus und die Ohnmacht des Menschen vor seiner eigenen Schöpfung vorhergesehen. Glück und Segen früh und spät schenkt dir Nuddleggs Automat. Es ist der fröhlichste Werbespruch für den Weltuntergang, den die Literatur kennt. Und er stammt aus einer Zeit, in der niemand ahnte, wie nah dieser Automat uns eines Tages kommen würde.

Stanisław Lem: Die Waschmaschinentragödie. Erzählung aus den Sterntagebüchern des Weltraumfahrers Ijon Tichy. Erschienen 1978. Deutsch bei Suhrkamp in der Phantastischen Bibliothek. Stanisław Lem (1921 bis 2006) war polnischer Science-Fiction-Autor, Philosoph und Zukunftsforscher, in 57 Sprachen übersetzt. Bekannteste Werke unter anderem Solaris (1961) und Der futurologische Kongress (1971).

Kategorie: Literatur · Science-Fiction · Künstliche Intelligenz · Satire · Stanisław Lem · dystopien.de