Herr Ritter, halten Sie es für möglich, dass in absehbarer Zeit eine Maschine die Stufen zum Patentamt hochsteigt, den richtigen Schalter findet und sich selbst zum Patent anmeldet? Oder rechnen Sie mit gänzlich anders gearteten Überraschungen?
Überraschungen entziehen sich der Vorhersage, aber auf ein paar Spekulationen lasse ich mich gerne ein. Eine Maschine, die sich selbst zum Patent anmeldet, müsste so etwas ähnliches wie menschliche Intelligenz besitzen. Diese ist in ihrer Struktur aber stark von den Lebensbedingungen in einem dreidimensionalen Raum mit Lichtausbreitung, einem Schwerefeld und der Notwendigkeit zur Nahrungssuche geprägt worden. Nun sind wir heute dabei, künstliche Welten zu schaffen, in denen gänzlich andere Gesetze gelten. Das Internet beispielsweise ist eine reine Welt der Information, die weder die vertraute Dreidimensionalität des Raums noch so wesentliche Dinge wie Schwerkraft oder Wärmestrahlung kennt. Dafür spielen andere Faktoren, wie etwa Vernetzungsdichte oder Leitungsbandbreiten, eine wichtige Rolle.
Es spricht nichts gegen die Annahme, dass ein solcher künstlicher Raum als «Biotop» für die Entwicklung von «Wesen» dienen kann. Deren Intelligenz wäre an uns fremde Gesetze angepasst und dürfte uns damit ziemlich unanschaulich sein. Erste, noch primitive Vorläufer einer solchen Entwicklung können wir in den diversen Computerviren und in den Suchrobotern sehen, für die, bei etwas gutwilliger Auslegung, das Auffinden neuer Textdokumente eine Art Nahrungssuche ist - allerdings sind heutige Suchroboter noch strohdumm und verstehen nichts vom Inhalt der gefundenen Texte. Ein anderes «Biotop» für das Erwachen uns unvertrauter Intelligenzformen könnte die immer weiter voranschreitende Organisation und Vernetzung unserer Wirtschaft bieten: Komplexe Organisationseinheiten entstehen, entfalten eine Art Überlebensinteresse und optimieren danach ihr Verhalten. Grundsätzlich könnte Intelligenz überraschend dort auftauchen, wo wir uns gar nicht um ihre Schöpfung bemühen.
Wer wäre aber dann für den Schöpfungsakt verantwortlich?
Wir erwarten, dass wir Dinge, die wir haben wollen, normalerweise machen müssen. Wir kennen in der Natur aber auch Beispiele von «Selbstorganisation»: Wenn beispielsweise erwärmte Luft in der Atmosphäre nach oben steigt, bilden sich oft Konvektionsmuster, die an regelmässig gebänderten Wolkenstrukturen erkennbar werden. Ein ungleich komplexerer Selbstorganisationsprozess ist die schrittweise Herausbildung der dreidimensionalen Struktur eines Lebewesens aus einer befruchteten Eizelle, an deren Ende unter anderem die Bildung eines Gehirns, die Vernetzung seiner Neuronen und der Beginn organisierter Gehirnaktivität stehen.
Es gibt eine Neigung der Natur, unter geeigneten Randbedingungen spontan organisierte Muster zu erzeugen. Dieser Vorgang wird auch «Emergenz» genannt. Obwohl die Bildung regelmässiger Wolkenmuster und das Wachstum eines Lebewesens dem freien Auge als gänzlich unterschiedliche Prozesse erscheinen, werden dort, wo wir die beteiligten Vorgänge zu durchschauen beginnen, verwandte Strukturbildungsprinzipien erkennbar.
Nun ist auch Intelligenz letztlich ein «emergentes» Phänomen. Wenn wir heute mit künstlichen neuronalen Netzen intelligente Leistungen nachbilden, so machen wir uns zum Teil die Möglichkeiten der spontanen Selbstorganisation bereits zunutze. Wir können in der Regel zur Lösung einer Aufgabe das künstliche neuronale Netz nicht direkt programmieren; statt dessen verwenden wir Lernverfahren, die anhand von Trainingsbeispielen allmählich die notwendigen Verbindungen zwischen den im Rechner simulierten, künstlichen Neuronen ausbilden. Zunächst hat das Netz eine verhältnismässig einfache, unintelligente Anfangsstruktur, und es gibt Definitionen für die anzuwendenden Lernregeln - das wären in Analogie zur Natur die Randbedingungen. Durch das Lernverfahren entsteht ein intelligenteres Verschaltungsmuster, es ist ein Beispiel für einen technisch herbeigeführten Selbstorganisationsprozess.
Und was dabei herauskommt, lässt sich vorher nicht sagen?
Nein, und genau das macht ein solches Verfahren zur Erzeugung von «Intelligenz» erst attraktiv: Wir brauchen viele interne Details des Systems nicht explizit zu programmieren; statt dessen versorgen wir es lediglich mit ausreichend vielen Lösungsbeispielen für seine Aufgabe. Diese Bequemlichkeit hat jedoch auch ihren Preis: Wir sitzen beim Zusammenbau nicht mehr in der ersten Reihe und haben daher nicht mehr das klare Bild, das ein Konstrukteur üblicherweise von der Funktionsweise seines Systems hat. Wir können lediglich versuchen, durch nachträgliche Analyse der Arbeitsweise einer so entstandenen Verschaltung auf die Schliche zu kommen. Vielleicht müssen wir einen zumindest teilweisen Verlust detailgenauer, verstandesmässiger Kontrolle aber unvermeidlich akzeptieren, wenn wir komplexe, intelligente Systeme künstlich realisieren wollen. Intelligentes Verhalten ist eben nur schwer mit völliger Durchschaubarkeit vereinbar. Aber die Entstehensbedingungen von intelligentem Verhalten technisch herbeiführen zu können ist ja auch schon sehr viel.
Eine per definitionem undurchschaubare Maschinen-Intelligenz, der wir uns in einem wenn auch fernen Alltag überlassen, ist eine schaurige bis heitere Vorstellung. Der KI-Forscher Marvin Minsky meinte einmal, ein derartiges System könnte eines Tages das gesamte Universum mit Schaumstoff oder so etwas ausfüllen, weil es womöglich eine falsche Theorie darüber hätte, was für Stossdämpfer der Kosmos benötigt . . .
Wenn wir eine Aufgabe an einen Menschen delegieren, so haben wir entweder Vertrauen oder richten geeignete Kontrollmechanismen ein. Ähnlich werden wir bei künstlicher, maschineller Intelligenz vorgehen müssen. Im Extremfall können wir ihre Wirkungsmöglichkeiten auf eine reine Beratungsfunktion beschneiden. Allerdings wollen wir auch dann noch gern wissen, ob wir den Auskünften unseres elektronischen Beraters hinreichend trauen dürfen. Eine solche «Zertifizierung» von Intelligenz wird sicherlich immer schwieriger, je anspruchsvoller die gewünschte Intelligenzleistung ist. Aber selbst wenn wir dieses Problem nicht vollends lösen, brauchen wir nicht zu verzweifeln. Auch die Expertise eines Menschen können wir letztlich nur anhand seiner Leistungen in der Vergangenheit beurteilen; diese beschränkte Beurteilungsmöglichkeit genügt aber, aus menschlicher Intelligenz viel Nutzen zu ziehen. Natürlich müssen wir angesichts der dabei verbleibenden Restunsicherheiten immer ein gewisses Mass an Vorsicht walten lassen. Dies wird besonders wichtig, wenn es um die Verleihung von Machtbefugnissen geht. Hier haben wir allerdings auch beachtliche Erfahrung, worauf wir achten müssen und was alles schiefgehen kann. Zwar fassen wir eher selten den Vorsatz, das Universum mit Schaumstoff zu füllen; aber grossangelegte Handlungen aus Theorien darüber, womit man vielleicht die Köpfe der Menschheit anfüllen sollte, sollen gelegentlich schon beobachtet worden sein.
Ein emergentes Phänomen, das wir noch nicht erwähnt haben, ist das Bewusstsein. Es manifestiert sich beim Menschen darin, dass er «ich» zu sich sagen und sich über sich selbst wundern kann. Es wäre die grösste anzunehmende Überraschung, wenn das eines Tages auch eine Maschine könnte . . .
Wenn wir uns ansehen, wie sich die Computertechnik in wenigen Jahrzehnten weiterentwickelt hat, dürfen wir ruhig annehmen, dass es in hundert Jahren recht unterhaltsame und durchaus intelligent wirkende Maschinen geben wird.
Die Frage ist: Wie können wir überhaupt wissen, ob sie bewusstseinsbegabt sind? Ich denke, solange wir keine objektiven Indikatoren für die Anwesenheit von Bewusstsein in einem Lebewesen oder in einem Artefakt haben, hängt es von der Haltung ab, die wir gegenüber einem beliebigen Bewusstseinsaspiranten einzunehmen gewillt sind. Wir haben ja schon heute ein ganz analoges Problem mit der Frage, ob Tiere bewusstseinsbegabt sind oder nicht. In Zukunft müssen wir diese Frage eben auch noch auf einige smart daherkommende Roboter erweitern. Dabei sollten wir uns nicht einfach nur an deren Konstruktionsmaterial orientieren; für die Zuschreibung eines Bewusstseins erscheint mir die Struktur eines Gehirns wichtiger als das zum Bau eingesetzte Material.
Wenn die Roboter wirklich gut sind und wir ein wenig liberal, dann könnten wir durchaus zu einer positiven Antwort gelangen. Und vielleicht fragen sich die Roboter dann ja auch dasselbe über uns. Natürlich wüssten wir es gerne genauer: Im Falle menschlichen Bewusstseins beginnen die Anästhesisten in elektrisch messbarer Hirnaktivität allmählich erste Anzeichen objektiver Indikatoren zu entdecken, die unterschiedliche Bewusstseinszustände anzeigen. Dies ist beispielsweise für die Beurteilung des Eintretens der Narkosewirkung sehr wichtig. Leider ist es wenig hilfreich für die Beurteilung der Bewusstseinslagen gänzlich anders aufgebauter, künstlicher Gehirne. Hier kann uns eigentlich nur eine Theorie helfen, welche die Strukturvoraussetzungen für die Anwesenheit von Bewusstsein auf eine fundamentale, von der einzelnen «Bewusstseinsspezies» unabhängige Weise klärt. Von einer solchen Theorie sind wir allerdings Lichtjahre entfernt, wir wissen nicht einmal, ob sie überhaupt denkbar ist.
Bleiben wir also bei der künstlichen Intelligenz, ihre Möglichkeiten scheinen atemberaubend genug. Seit Kasparow von «Deep Blue» geschlagen wurde, wissen wir, dass die gegenwärtige Computergeneration einen glänzenden Schachspieler hervorgebracht hat. Was lernt die nächste Generation?
Wenn wir von künstlicher Intelligenz reden, denken wir schnell an Dinge wie logisches Schliessen, Planen oder das Lösen von Mathematikaufgaben. Ich glaube, eine sehr viel wichtigere Aufgabe wäre zunächst einmal, unsere scheinbar einfachen Fähigkeiten zu verstehen. Eine solche simple Fertigkeit ist zum Beispiel das Ergreifen eines Gegenstands, sagen wir, einer Tasse Tee, mit der Hand. Ohne dass wir es speziell wahrnehmen, vollbringt unser Gehirn dabei eine Glanzleistung: Bereits beim ersten Blick auf das Ziel haben wir unbewusst Dutzende von Muskeln in unserem Hals und im Auge koordiniert bewegt, und das nur, um die Tasse ins Blickfeld zu bekommen. Dabei war auch schon unser Sehsystem aktiv und hat die Tasse von all den anderen Dingen auf dem Tisch unterschieden. Es sagt gewissermassen unserem Arm und unseren Fingern, wo sie hin müssen. Dann greifen die Tastsensoren unserer Hand und die Kraftsensoren in unseren Gelenken in das komplexe Geschehen ein. Sie dosieren feinfühlig die Bewegungen, wenn wir eine Tasse vorsichtig anheben, sie ohne Anstossen an der Schreibtischlampe vorbei und ohne Verschütten sicher zum Mund führen. Dies ist nur ein Beispiel dafür, wie komplex die von unserem Gehirn ständig zu bewältigende Aufgabe ist, unsere Sinne mit unserer Motorik zu koordinieren.
Ist das ein Thema, mit dem Sie sich konkret beschäftigen?
Herauszufinden, welche Strategien unser Gehirn anwendet, um solche Koordinationsleistungen zu vollbringen und diese technisch, etwa mittels künstlicher neuronaler Netze, nachzubilden, ist eines unserer wichtigsten Projekte an der Universität Bielefeld. Auf Grund der Schwierigkeit der Aufgabe handelt es sich dabei eigentlich um mehrere miteinander gekoppelte Forschungsarbeiten, in denen es darum geht, Fähigkeiten der visuellen Erkennung von Gegenständen, der Bewegungssteuerung und der Kognition im Computer nachzuahmen und miteinander zu verbinden. Unser langfristiges Ziel ist die Entwicklung eines künstlichen Kommunikators. Darunter verstehen wir eine Maschine, die ihre Umgebung sieht, die mit einem Robotergreifer darin hantieren kann und mit der man über Sprache, aber auch über Gestik, etwa durch Zeigen auf Objekte, kommunizieren kann.
Die Zukunft ist voller Versprechen: Wir werden computergesteuerte intelligente Zimmer haben, die uns vom Gesicht ablesen können, welche Temperatur wir uns gerade wünschen, schlaue Computer, die uns persönlich begrüssen und im selben Moment die elektronische Post schon vorsortiert haben, smarte Software-Agenten, die uns in den weltumspannenden Computernetzen in einem Dutzend Verhandlungen gleichzeitig vertreten. Von intelligenten Implantaten heisst es gar, dass sie eines Tages Blinde wieder sehend und Taube wieder hörend machen könnten. Wie autonom bleibt dabei der Mensch, inwiefern ist er noch Herr des Geschehens? Der Medientheoretiker Marshall McLuhan sah seine Zukunft «als Geschlechtsteil der Maschinenwelt», für die er eine ähnliche Bedeutung habe wie die Bienen für die Pflanzen . . .
Sie beschreiben hier eine meines Erachtens sehr reale Gefahr, doch die Grenzüberschreitung ist nicht das Hauptproblem. Viele der neuen technischen Möglichkeiten, etwa der Medizin, sind für die Betroffenen höchst segensreich. In anderen Bereichen beschert uns die Technik mehr Mobilität. Dies sind sehr positive Dinge, wenn wir sie richtig nutzen.
Eine deutliche Gefahr sehe ich aber darin, dass die technischen Entwicklungen eine immer engere Vernetzung von Ressourcen und damit die Organisation von immer stärker verdichteter Komplexität ermöglichen. Gleichzeitig beschleunigen sich alle Abläufe. Beides wirkt in Richtung einer verringerten Kontrollmöglichkeit seitens des Menschen. Wir haben vorher über das Phänomen der Selbstorganisation gesprochen, für das wir viele Beispiele in der Natur kennen: Aus «gering intelligenten» Einzelkomponenten - Ameisen zum Beispiel oder Gehirnzellen - entsteht eine neue Organisationsstufe, ein Ameisenstaat, ein Gehirn. Wir sollten damit rechnen, dass sich analoge Selbstorganisationsprozesse auch auf anderen Ebenen einstellen können und dass wir durchaus in der Lage sind, durch hinreichend intensive Vernetzung menschlicher Zusammenarbeit mehr Komplexität zu erzeugen, als wir fassen können. Ein derartiger Prozess, einmal in Gang gekommen, wäre vermutlich ungleich schwieriger umzukehren als etwa die uns heute beunruhigenden Veränderungen im Klima oder in der Atmosphäre. Ich denke daher, wenn wir als Menschen die Kontrolle behalten wollen, dann müssen wir sehr gewissenhaft darauf achten, dass die zeitliche Dynamik von Entwicklungen in einer unseren mentalen Fähigkeiten angepassten Bandbreite verbleibt. Es kann sein, dass unser nachhaltigster Fehler unsere Anfälligkeit für den Rausch der Geschwindigkeit ist.