Das Gebiet der künstlichen Intelligenz ist bislang nicht weit über Schachcomputer und Suchmaschinen hinausgekommen. Es gibt Anzeichen dafür, dass wir in diesem Jahrhundert die Schwelle an Verständnis und verfügbarer Technik überschreiten werden, die es uns ermöglicht, das Phänomen Intelligenz technologisch nachzubilden. Ist allgemeine künstliche Intelligenz möglich? Wenn ja, auch wünschenswert?

Um sinnvoll über Intelligenz zu sprechen, muss zunächst festgelegt werden, was man unter dem Begriff Intelligenz versteht.

Was ist Intelligenz?

Ein Sprichwort sagt: Intelligenz ist das, was ein Intelligenztest misst. Ein Intelligenztest misst den Unterschied zwischen Einstein und einem Dorftrottel. Für das Gebiet der künstlichen Intelligenz sind solche Tests unbrauchbar; Intelligenztests messen den Größenunterschied von Riesen in Millimeterabweichungen vom Durchschnitt. Was wir brauchen ist eine Skala, die mit der Intelligenz eines Steines beginnt, über die Intelligenz von Mäusen geht, dann Menschen und — vielleicht weiter?

Die Frage, wie weit man auf dieser Skala nach rechts gehen kann, ist spannend.
Man vergisst leicht, dass wir Menschen nur einen kleinen Fleck im Raum aller möglichen Intelligenzen besetzen.

Eine Definition, die auf dem Gebiet der künstlichen Intelligenz in den letzten Jahren an Beliebtheit gewonnen hat, lautet: Intelligenz ist die Fähigkeit, komplexe Ziele in komplexen Umgebungen zu erreichen. Der Vorteil dieser Definition ist, dass sie sich mathematisch formalisieren lässt (was im Mai 2006 auch geschehen ist).

Der nächste Schritt sind Tests, mit denen sich Intelligenz nach dieser Definition messen lässt. Dinge, die man messen kann, lassen sich Schritt für Schritt verbessern. Das setzt allerdings voraus, dass sie überhaupt möglich sind.

Ist künstliche Intelligenz möglich?

Bislang existiert auf diesem Planeten Intelligenz nur in einer Form: Der biologischen. Es ist nicht unmittelbar klar, ob sich das Prinzip, das dahinter steckt, extrahieren und auf andere Weise umsetzen lässt. Was ist es, das dafür sorgt, dass aus einer Ansammlung von Zellen ein Denkapparat entsteht? Kann es Prozesse geben, die hier eine Rolle spielen und die nicht berechenbar sind?

Darüber, wie das Netzwerk aus 100 Milliarden Nervenzellen in unserem Kopf zu intelligentem Verhalten führt, gibt es Theorien. Darüber, wie die Interaktionen der Nervenzellen dazu führen, dass Bewusstsein, dass Ich-Gefühl entsteht, gibt es praktisch keine. Für den Bereich der künstlichen Intelligenz ist das an sich nicht zentral; jedenfalls dann, wenn ein Verständnis des Bewusstseins nicht Voraussetzung für ein Verständnis von Intelligenz ist. Die Tatsache, dass es ein Phänomen gibt, dass stark mit dem Denken zusammenzuhängen scheint und das sich all unseren Erklärungsversuchen entzieht, gibt mir aber zu denken.

Andererseits war es in jeder Generation so, dass es Phänomene gab, die so wundervoll mysteriös waren, dass sie außerhalb des Bereiches der Wissenschaft zu liegen schienen. Wissenschaft ist nur für die Phänomene gut, die nicht mysteriös sind. Der Lauf der Planeten, die verschiedenen Zustände von Materie, die Biologie des Lebens. Als ob all das nicht ebenso mysteriös gewesen wäre für tausende von Jahren; vom Anfang der Zeit bis zu dem Punkt, an dem die Wissenschaft eine Erklärung fand.

Wir vergessen zu schnell, dass die Vergangenheit auch einmal Gegenwart war.
Fragen können mysteriös sein. Antworten niemals.

Für die Machbarkeit von künstlicher Intelligenz in den nächsten Jahrzehnten spricht, dass die Leistungsfähigkeit von Computern seit deren Einführung exponentiell zugenommen hat. Wenn sich diese Entwicklung über die nächsten Jahrzehnte so fortsetzt, wie sie es die letzten zwei Jahrzehnte der Fall war, so werden werden Rechenleistung und Speicherplatz nicht die begrenzenden Faktoren darstellen.

Auch in der Neurobiologie sieht es vielversprechend aus. Mehr und mehr Forscher bemühen sich, die einzelnen Forschungserkenntnisse früherer Jahre zu einer allgemeinen Theorie der Intelligenz zu verknüpfen. Die Lücke zwischen den Geschehnissen auf molekularer Ebene und unserem tatsächlichen Verhalten wird langsam geschlossen.

Ist künstliche Intelligenz wünschenswert?

Nicht alles, was möglich ist, ist auch wünschenswert. Um herauszufinden, ob allgemeine künstliche Intelligenz (artificial general intelligence, AGI) wünschenswert ist, müssen wir uns überlegen, welche Auswirkungen diese auf unsere Welt hätte. Wie diese Auswirkungen aussehen, hängt vor allem von einem Punkt ab: Ob sich die künstliche Intelligenz unter oder über dem Level menschlicher Intelligenz befindet.

Wenn allgemeine künstliche Intelligenz auf einem Niveau unterhalb des menschlichen möglich ist, werden die Schritte von dort aus zu menschlicher und übermenschlicher Intelligenz früher oder später möglich sein. Im Gegensatz zum menschlichen Gehirn ist es einfach, ein Computerprogramm auf einen schnelleren Rechner laufen zu lassen. Dass die Evolution mit dem menschlichen Gehirn das absolute Maximum an aus physikalischer Sicht möglicher Intelligenz erreicht hat, halte ich für sehr unwahrscheinlich.

Allgemein gilt: Wenn Intelligenz jenseits der menschlichen möglich ist, wird sie höchstwahrscheinlich irgendwann umgesetzt werden. Künstliche Intelligenz unter menschlichem Niveau würde die bedeutendste Erfindung der Menschheit darstellen. Künstliche Intelligenz über menschlichem Niveau würde einen Schritt bedeuten, der den der Evolution vom Affenmenschen zum Menschen übetrifft. Eine solche Entwicklung hätte enorme Auswirkungen. Ob die positiven oder negativen überwiegen würden, ist nicht absehbar.

Zu den Fragen, die wir uns stellen müssen, zählen unter anderem:

Wenn wir Menschen schon mit den heutigen technologischen Entwicklungen moralisch überfordert sind, weil der Verstand, die Moral, die Ethik mit dem Fortschritt nicht mithalten können: Können wir es dann verantworten, uns auf Entwicklungen von ungleich größerer Auswirkung einzulassen?

Wenn wir etwas schaffen, das intelligenter ist als wir selbst: Unterliegt es dann noch unserer Kontrolle? Wenn wir vorhersagen könnten, wie jemand handeln wird, der intelligenter ist als wir selbst, wären wir selbst so intelligent.

Was bleibt für den Menschen, wenn selbst das Denken automatisiert wird?

Wer bestimmt, zu welchem Zweck künstliche Intelligenz eingesetzt wird? Zu wessen Vorteil?

Demgegenüber stehen mögliche positive Effekte.

Wir Menschen haben nur eine sehr beschränkte Auslastungskapazität und etwas, das “besser denken kann” als wir, könnte die Wissenschaft viel schneller voran bringen. Es gibt nicht nur kein Mittel gegen Dinge wie den Tod - es gibt nicht einmal ein Mittel gegen Krankheiten wie Aids. Dass es ein solches aus physikalisch-biologischer Sicht nicht geben kann, ist praktisch ausgeschlossen. Was dafür verantwortlich ist, dass wir noch keines haben, ist mangelnde Intelligenz.

Es gibt gesellschaftliche, wirtschaftliche und viele andere Probleme, die für uns einfach nur eine Überforderung darstellen.

Es gibt die Umwelt, die zerstört werden wird, wenn wir nichts tun. Dazu ist neue, bessere Forschung nötig.

Es gibt keine schwierigen Aufgaben. Es gibt nur Aufgaben, die für ein bestimmtes Maß an Intelligenz schwierig sind. Bewegt man sich auf der Intelligenzskala ein kleines bisschen nach oben, so werden einige Aufgaben von “unmöglich” zu “offensichtlich”. Bewegt man sich ein großes Stück nach oben, so werden alle offensichtlich.

Der Fortschritt in sämtlichen Gebieten würde rascher ablaufen.

Dazu zählt insbesondere das Gebiet der künstlichen Intelligenz. Mehr Intelligenz führt zu noch mehr Intelligenz. Kann es Prozesse geben, die die Effektivität ihrer eigenen Bestandteile verbessern können — einschließlich derjenigen Bestandteile, die für die Verbesserung zuständig sind?

Exponentielle Kettenreaktionen sind Dinge, auf die man achten sollte. Die Vergangenheit eines Forschungsgebiets ist nicht immer ein guter Indikator dafür, was noch vor uns liegt. Die großen Entwicklungen der Menschheit verliefen sprunghaft, nicht graduell.

Grundlage dieses Artikels ist mein Vortrag bei der Studienstiftung des deutschen Volkes.
Einfluss hatten Alexandra Surdina sowie die Texte von Eliezer Yudkowsky, insbesondere Staring into the Singularity und A Technical Explanation of Technical Explanation.