Kün­stliche Intel­li­genz ist ein eben­so faszinieren­des wie schwieriges Prob­lem der Philoso­phie. Der pol­nis­che Sci­ence-Fic­tion-Autor und Philosoph Stanisław Lem beschäftigte sich schon in den 60er Jahren mit der Frage, wie der Men­sch mit denk­enden Maschi­nen umge­hen soll. Doch wie aktuell sind seine Über­legun­gen noch? Eine Analyse. 

„Was ist er schon? Ein Stromkreis in einem eis­er­nen Kas­ten, weit­er nichts … Ein leben­des Wesen wäre doch damals in dem fin­steren, zer­störten Raum­schiff zugrunde gegan­gen … Bes­timmt, ganz bestimmt …“ 

Schon seit der Her­stel­lung des ersten Faustkeils schuf der Men­sch Werkzeuge und Hil­f­s­mit­tel, um sich das Leben zu erle­ichtern. Der Philosoph Got­thard Gün­ther nan­nte diese Art von Objek­ten, welche die Funk­tion des men­schlichen Kör­pers nachah­men, die „erste Mas­chine“. Vom Schmiede­ham­mer zum Ver­bren­nungsmo­tor fol­gten alle men­schlichen Kon­struk­tio­nen diesem Prinzip. Nun, im Zeital­ter des Tran­sis­tors, eröffnet sich jedoch eine neue Möglichkeit: Die Kon­struk­tion der „zweit­en Mas­chine“, eines Objek­ts, das men­schliche Gedanken zu repro­duzieren imstande ist. Der Höhep­unkt dieser Entwick­lung wäre sicher­lich die Erschaf­fung ein­er kün­stlichen Intel­li­genz (KI) – die Erfül­lung eines der ältesten Träume der Men­schheits­geschichte. Begin­nend mit den alt­griechis­chen Mythen von Pan­do­ra und Talos über Goethes Beschrei­bung des Homuncu­lus in „Faust“ bis hin zu den Robot­ergeschicht­en Isaac Asi­movs: Der Men­sch war schon immer von der Erschaf­fung eines kün­stlichen Wesens „nach seinem Bilde“ fasziniert. In gewiss­er Weise würde die Schöp­fung ein­er KI das Ende der Entwick­lung vom Homo Sapi­ens zum Homo Deus, dem „göt­tlichen Men­schen“ markieren – denn nur ein Gott hat Macht, denk­ende und sich selb­st bewusste Lebe­we­sen zu erschaffen. 

Die ungek­lärten Fra­gen und philosophis­chen Abgründe der Beziehung von Men­sch und „zweit­er Mas­chine“ spie­len in Stanisław Lems 1968 erschienen­er Kurzgeschicht­en­samm­lung „Pilot Pirx“ eine wichtige Rolle. Die namensgebende Haupt­fig­ur ist ein Raum­schiff­pi­lot, der in nicht allzu fern­er Zukun­ft seinen Dienst in den Weit­en des Son­nen­sys­tems ver­richtet und dabei immer wieder in haarsträubende, rät­sel­hafte und gefährliche Sit­u­a­tio­nen gerät. 

Echo einer Katastrophe 

Eines Tages bekommt Pirx den Auf­trag, ein altes Frach­traum­schiff zum Mars zu fliegen – im Grunde eine etwas undankbare Rou­tineauf­gabe. Neben der ange­heuerten Mannschaft befind­et sich auch ein Robot­er mit der Beze­ich­nung „Ter­mi­nus“ an Bord, der für schwere Arbeit­en am Reak­tor einge­set­zt wird. Pirx ist wed­er von dem stark ram­ponierten Raum­schiff noch vom langsamen und ver­al­teten Maschi­nen­helfer son­der­lich begeis­tert. Zu allem Über­fluss stellt sich auch noch her­aus, dass der Frachter schon bere­its eine Havarie hin­ter sich hat und nach der Beschädi­gung durch Mete­oriten 16 Jahre lang im All trieb, bevor er wiederge­fun­den und repari­ert wurde. Die dama­lige Besatzung war, durch Trüm­mer voneinan­der abgeschnit­ten, langsam zugrunde gegan­gen, bis der Sauer­stoff aufge­braucht war. Über­standen hat­te dieses Unglück nur der Arbeit­sro­bot­er – Terminus. 

Trotz dieser wenig erheben­den Vorgeschichte macht sich Pirx auf den Weg zum roten Plan­eten; zunächst ver­läuft der Flug recht ereignis­los, nur unter­brochen von Rou­tin­ear­beit­en und gele­gentlichen Repara­turen der alterss­chwachen Maschi­nen. Eines Nachts jedoch wird Pirx von unheim­lichen Geräuschen aus dem Schlaf geris­sen: Es sind Morse-Klopfze­ichen, die durch Rohrleitun­gen im ganzen Schiff zu hören sind. Beun­ruhi­gend ist, dass diese Sig­nale offen­bar von den havari­erten, nun jedoch schon lange toten Besatzungsmit­gliedern zu stam­men scheinen – verzweifelt um Antwort bit­tend, um Hil­fe und Sauer­stoff fle­hend. Nach langer Suche stellt Pirx fest, dass die Klopfze­ichen von Ter­mi­nus stam­men, der mit Aus­besserun­gen am Reak­tor beschäftigt ist und dabei anscheinend unter­be­wusst die let­zten Sig­nale der toten Mannschaft wiedergibt. Darauf ange­sprochen reagiert der Robot­er (ohne­hin nur zu rudi­men­tär­er Kom­mu­nika­tion fähig) völ­lig ver­ständ­nis­los; er scheint nicht zu begreifen, was er tut. 

In den fol­gen­den Nächt­en set­zt sich die Klopfkaskade fort; abge­se­hen von ein­er irra­tionalen Suche nach der Schiff­skatze zeigt Ter­mi­nus son­st aber kein abnormes Ver­hal­ten. Als Pirx schließlich mit sein­er Geduld (und den Ner­ven) am Ende ist, beschließt er, Ter­mi­nus sein­er­seits mit Klopfze­ichen zu antworten. Auf diese Verän­derung reagiert der Robot­er jedoch uner­wartet: Anstatt mit den Sig­nalen fortz­u­fahren oder aufzuhören, kommt die Frage „W‑e-r-s-p-r-i-c-h-t-w-e-r-s-p-r-i-c-h‑t“ zurück – Pirx sieht sich den hek­tis­chen, verzweifelt fra­gen­den Stim­men von seit 19 Jahren toten Raum­fahrern gegenüber. Ver­stört bricht er den Ver­such ab; Ter­mi­nus fährt äußer­lich ungerührt mit seinen pro­gram­mgemäßen Wartungsar­beit­en fort. 

Wieder in sein­er Kabine grü­belt Pirx über das Erlebte nach. Ter­mi­nus ist nicht darauf pro­gram­miert, Geräusche aufzuze­ich­nen und wiederzugeben, repro­duziert jedoch immer wieder die let­zten Tage der ster­ben­den Besatzung, antwortet sog­ar auf Input von außen. Hat der Robot­er die Per­sön­lichkeit­en der Toten irgend­wie in sich aufgenom­men, kön­nte Pirx sich mit ihnen sog­ar unter­hal­ten? Oder hat Ter­mi­nus in all den Jahren, eingek­lemmt zwis­chen Trüm­mern in einem umhertreiben­den Raum­schif­fwrack, eine Art rudi­men­tär­er Per­sön­lichkeit entwick­elt, die nun unter­be­wusst zum Vorschein kommt? Ist der Schreck­en, das Fle­hen nach Hil­fe, das Pirx’ Ein­mis­chung her­vorgerufen hat, nur eine Imi­ta­tion oder der Aus­druck eines Bewusst­seins? Am Ende beschließt der Pilot, diesen Fra­gen nicht weit­er auf den Grund zu gehen; er ist sich sich­er, nie befriedi­gende Antworten darauf find­en zu kön­nen. Ter­mi­nus, so seine Anord­nung, soll indes bei näch­ster Gele­gen­heit ver­schrot­tet werden. 

Zauberlehrlinge der Zukunft? 

Die Frage nach der Natur des Bewusst­seins ist nicht erst von der mod­er­nen Forschung aufge­wor­fen wor­den. Bere­its im antiken Griechen­land beschäftigten sich große Denker mit den Worten, die über dem Ein­gang des Orakels von Del­phi zu lesen waren: „Erkenne dich selb­st!“ Im 20. und 21. Jahrhun­dert bezieht sich dies nicht mehr nur auf den Men­schen, son­dern auch auf die von ihm geschaf­fe­nen kün­stlichen Intel­li­gen­zen. Kann die „zweite Mas­chine“ ein Bewusst­sein haben? Stanisław Lem ist dieser Frage wohl am präg­nan­testen nachge­gan­gen; die Kurzgeschichte „Ter­mi­nus“ rührt an den Grund­festen des men­schlichen Geistes. Was macht eine Per­son eigentlich aus? Inwiefern unter­schei­det sie sich von einem lediglich pro­gram­mierten Auto­mat­en? Der Robot­er Ter­mi­nus ist eigentlich nur zum Aus­führen pro­gram­miert­er Befehle kon­stru­iert; den­noch reagiert er aktiv auf Pirx’ Klopfen und for­muliert eigen­ständi­ge eine Frage. Solch ein unab­hängiges Han­deln deutet nor­maler­weise auf die Exis­tenz eines Bewusst­seins hin. 

Hier kommt erschw­erend dazu, dass es dem Men­schen grund­sät­zlich unmöglich ist, Bewusst­sein zu pro­gram­mieren. Das Prob­lem: Die ver­wen­dete Pro­gram­mier­sprache muss kom­plex­er sein als die Sprache, in der der Robot­er dann tat­säch­lich „denkt“. Für ein zur Selb­stre­flex­ion fähiges Bewusst­sein notwendi­ge Begriffe wie „Ich“ oder „Selb­st“ sind allerd­ings para­dox – es gibt keine noch kom­plexere Sprachebene, auf die sie sich beziehen kön­nten. Das bedeutet konkret: Wenn ein Robot­er in ein­er Sprache denken soll, die Begriffe wie „Ich“ oder „Selb­st“ als logisch rel­e­vante Ele­mente betra­chtet, gibt es keine höhere Metasprache mehr, in der man die Soft­ware des Robot­ers selb­st schreiben könnte. 

Zur Lösung dieses fun­da­men­tal­en Prob­lems hat sich die kyber­netis­che Forschung in den let­zten Jahren ver­stärkt selb­stler­nen­den Pro­gram­men zuge­wandt. Die Fähigkeit, die eigene Pro­gram­mierung verän­dern zu kön­nen, ist die Grundbe­din­gung für die Entwick­lung eines Bewusst­seins; auch unsere Gehirne – gewis­ser­maßen biol­o­gis­che Com­put­er – funk­tion­ieren im Grunde nicht anders. Diesen Pfad der Selb­st-Verän­derung einzuschla­gen kön­nte völ­lig ungeah­nte Fol­gen haben. Die Erschaf­fung ein­er wahren „zweit­en Mas­chine“ käme dann für uns selb­st uner­wartet, nicht kon­trol­liert durch eine vorge­fer­tigte Pro­gram­mierung. Lem stellt mith­il­fe des Klopfsig­nale pro­duzieren­den Ter­mi­nus die entschei­dende Frage: Sind wir auf alles vor­bere­it­et, zu dem sich unsere Maschi­nen­schöp­fung entwickelt? 

Allzu menschlich 

Vor eine ähn­liche Frage sieht sich Pirx bei ein­er anderen Mis­sion gestellt: Zusam­men mit zwei Wis­senschaftlern und einem fortschrit­tlichen, „nicht­lin­earen“ Robot­er namens Aniel soll er einen frem­den Gestein­s­plan­eten erkun­den. Die geol­o­gis­che Rou­tine­mis­sion ist fast been­det, und der Tag der Abreise rückt näher, als Aniel von einem Auf­trag nicht mehr zurück­kehrt. Die drei Men­schen begeben sich auf die Suche nach dem Robot­er und find­en seine wis­senschaftliche Aus­rüs­tung am Fuß ein­er Fel­swand. Von der Mas­chine selb­st ist keine Spur zu sehen. Völ­lig rat­los will man die Suche schon aufgeben, als Pirx mith­il­fe eines Mess­gerätes Aniels schwache Spur ortet – an der Fel­swand. Offen­bar ist der Robot­er nach Erledi­gung seines Auf­trags nicht direkt zum Lager zurück­gekehrt, son­dern die Wand hin­aufgek­let­tert. Pirx und ein­er sein­er Kol­le­gen fol­gen der Spur mith­il­fe ihrer Berg­steig­er­aus­rüs­tung. Nach ein­er äußerst gefährlichen Klet­ter­par­tie endet die Spur an einem Felss­palt; in der Tiefe unter sich ent­deckt Pirx einige Met­all­teile. Wieder unten angekom­men find­en die Men­schen nur noch zer­störte Über­reste vor; der Robot­er war anscheinend nach dem miss­lun­genen Sprung über die Spalte hinuntergestürzt. 

Was die Mas­chine zu diesem offen­bar völ­lig irra­tionalen Ver­hal­ten ver­an­lasst hat, bleibt ein Rät­sel. Pirx’ Kol­le­gen sind fest davon überzeugt, dass der Robot­er eine Fehlfunk­tion hat­te; Pirx selb­st jedoch ist ander­er Mei­n­ung. Er glaubt, dass Aniel die Her­aus­forderung ein­er Klet­ter­par­tie gereizt hat, ein Gefühl, das auch er beim Anblick des Fels­mas­sivs ver­spürte. Zwar wür­den Kyber­netik­er kat­e­gorisch das Vorhan­den­sein von Emo­tio­nen auss­chließen und lediglich von prob­a­bilis­tis­chen Prozessen sprechen, von ein­er gewis­sen „Spon­tan­ität“ nicht­lin­ear­er Robot­er. Doch beweist Aniels Ver­hal­ten für Pirx, dass man die Sache nicht so ein­fach betra­cht­en kann: „Hat­te er selb­st, Pirx, vielle­icht einen Defekt gehabt, als er unbe­d­ingt die Wand bezwin­gen wollte? Aniel war seinen Kon­struk­teuren ganz ein­fach ähn­lich­er gewe­sen, als diese zuzugeben bere­it waren.“  

Der Roboter, unser Mitmensch? 

Die von Lem hier aufge­wor­fene Frage ist äußerst prob­lema­tisch: Wie men­schlich darf eine KI wer­den, bevor ihr men­schlich­er Schöpfer ihre Entwick­lung hemmt? Seine nicht­lin­earen Robot­er haben eine men­schenähn­liche Form, weisen zuweilen Anze­ichen unberechen­baren Ver­hal­tens auf oder entwick­eln kleine Marot­ten und Eigen­heit­en. Set­zt man die tech­nis­che Entwick­lung und die Exper­i­mente mit selb­stler­nen­den Maschi­nen voraus, ist eine solche Entwick­lungsstufe keine reine Utopie mehr. Doch ab einem gewis­sen Punkt hört ein Robot­er (tschechisch: Arbeit­er) auf, ein ein­fach­er Robot­er zu sein. Diesen Punkt zu bes­tim­men ist schwierig, doch ist er ein­mal erre­icht, ergeben sich daraus gravierende ethis­che Kon­se­quen­zen. Sind Reflex­ions­fähigkeit und Selb­st­be­wusst­sein (und sei es auch nur in Ansätzen) vorhan­den, darf eine Mas­chine nicht mehr wie eine Sache behan­delt wer­den – sie wird, ethisch gese­hen, zum Men­schen. Ver­gle­ich­bar ist dieses Prob­lem mit der Diskus­sion um die Entwick­lung des Bewusst­seins von Embry­onen im Zuge der Abtreibungsdebatte. 

Doch vielle­icht ist die Sache noch viel kom­pliziert­er. Was ist davon zu hal­ten, wenn der Schöpfer der KI sie ger­ade unter­halb der Gren­ze zum Bewusst­sein, zur Indi­vid­u­al­ität hält? Eine Mas­chine erschafft, die zwar denken, ler­nen, spon­tan oder sog­ar men­schenähn­lich reagieren kann, aber keinen Zugang zu höher­er Erken­nt­nis oder Selb­stre­flex­ion hat? Auch die Fig­ur Pirx fühlt bei diesem Gedanken eine leichte Bek­lem­mung: „Es lag eine per­verse Raf­fi­nesse in jen­er maßvollen Ver­nun­ft, mit der der Men­sch das über sich selb­st erwor­bene Wis­sen den kalten Maschi­nen ein­hauchte und dabei auf­passte, dass sie nur ger­ade so viel Bewuss­theit beka­men wie erforder­lich, ohne Aus­sicht darauf, ihrem Schöpfer jemals die Her­rlichkeit­en der Welt stre­it­ig machen zu kön­nen.“ Ist es also unethisch, ein­er KI die Möglichkeit zum „Erkenne dich selb­st!“ zu ver­wehren? Auch ein men­schlich­er Säugling besitzt diese Fähigkeit nicht, doch besorgt das natür­liche Wach­s­tum die entsprechende Entwick­lung von ganz allein. Eine Mas­chine jedoch ist dem Willen ihres Schöpfers aus­geliefert – daher hat dieser auch eine beson­dere Ver­ant­wor­tung ihr gegenüber. Offen bleibt, wie genau diese Ver­ant­wor­tung ausse­hen soll und wie weit ein Ein­griff in die Entwick­lung ein­er KI gehen darf. Pirx bemerkt dazu: „Die Auto­mat­en wur­den in ihrer Exis­tenz nicht benachteiligt oder aus­ge­beutet – die Sache war ein­fach­er, moralisch schw­er­er anfecht­bar und schlim­mer zugle­ich.“ 

Wie man sieht, sind die von Stanisław Lem vor über 50 Jahren angeschnit­te­nen The­men noch immer aktuell, wie man auch an der aktuellen Debat­te zu selb­st­fahren­den Autos sehen kann. Mit der möglichen Kon­struk­tion ein­er „zweit­en Mas­chine“ stößt der Men­sch das Tor zu großar­ti­gen Poten­zialen auf; gle­ichzeit­ig ergeben sich jedoch neue, exis­ten­zielle Prob­leme, die unser Selb­st­bild, unseren Begriff des „Men­schlichen“ tief erschüt­tern kön­nten. Mag sein, dass Homo Sapi­ens, der „ver­ständi­ge Men­sch“, dadurch zum Homo Deus wird – doch weiß er auch, was er tut? 

  • Stanisław Lem: Pilot Pirx. Aus dem Pol­nis­chen von Roswitha Buschmann, Kurt Kelm, Cae­sar Rymarow­icz und Bar­bara Spar­ing. Berlin: Suhrkamp-Ver­lag 2003. 548 Seit­en, 12,99 Euro.
  • Ein Blick in die Maschi­nenseele? Die Illus­tra­tio­nen zu diesem Artikel wur­den nicht von einem Men­schen, son­dern von ein­er KI ange­fer­tigt. Die App­lika­tion „Night­Café Cre­ator“ kann zwar nicht wirk­lich denken, aber immer­hin anhand vorgegeben­er Begriffe und Stil­rich­tun­gen einzi­gar­tige Bilder kreieren. 
5 2 votes
Arti­cle Rating
Abonnieren
Benachrichtige mich bei
guest

Diese Website verwendet Akismet, um Spam zu reduzieren. Erfahre mehr darüber, wie deine Kommentardaten verarbeitet werden.

0 Comments
Inline Feedbacks
View all comments