Dennett introduces three levels of abstraction we can use to describe intentional systems: Descriptions on the level of physics, a functional perspective and the intentional stance. In order to determine in how far these levels presuppose optimal design and rational behavior, I am first going to explain what Dennett means when he talks about intentional systems, then describe each of the three different levels of abstraction and finally analyze what role the notions of optimality and rationality play for each of them.

When Dennett talks about intentionality, what he refers to is a property of linguistic entities. An entity is intentional if it is not possible to replace part of its description with terms that describe the same physical object and not to lose part of what the entity means. Intentional systems are systems with states that “can be directed on something”, systems that have states that are “about something”.

Obviously, the most basic perspective of looking at a system in the physical world, be it intentional or not, is the physical stance. We base our description of a system solely on the actual physical state of a system and predict its behavior exclusively by applying our knowledge about the laws of nature to this state. Such a low-level stance makes it possible to achieve a level of perfection in our predictions that no other stance allows — only the physical point of view allows us to know beforehand when a system will break down and stop functioning as intended. There is no need to know anything about how close the behavior of the system is to optimality or whether it makes sense to even think about the system in terms of rationality. On the other hand, such a stance can’t tell us much about systems that are not really simple or simplified. Even in predicting breakdown, the causes have to be easily locatable, otherwise the sheer complexity of the system we want to explain will make it impossible to predict anything from a physical point of view.

As systems get more complex, it makes more and more sense to adapt the design stance. Thinking about how a system is designed and which functions it fulfills enables us to predict behavior in a way that is computationally much more economical. There is no need to know how the electrons within the central processing unit of my computer move in order for me to tell that typing a letter will make it appear on the screen. There is just one condition: My computer must not break down this very second, the system we are looking at needs to work as designed. Just like any other predictions on a non-physical level, design stance predictions can’t foresee malfunctions since everything we take into account when thinking about the behavior of the system is the functional design — there is no need to assume that the actual physical condition is part of our knowledge about the system. Every system can be divided into different smaller or larger functional parts. In order to make functional predictions, the first thing one needs to do is to establish the level of abstraction of the individual functional parts. How small are the functional elements that we need to look at in order to make meaningful predictions? For really complex systems, there is no clear-cut answer to this question. Since the human brain is said to be the most complex system in the known universe, we might need to adapt a different, more coarse stance.

Looking at a system from the intentional stance implies that we ascribe to the system the possession of certain information, assume that the system acts in the direction of certain goals and that it always follows the most reasonable action relative to the information and goals the system has. Call the information possessed by the system “beliefs”, call the goals “desires” and the level of abstraction of the intentional stance matches the level we use when we talk about behavior in our everyday life. There is no need to assume that a system that possesses information really believes, but it is nonetheless striking how well these two notions match. The intentional stance not only assumes that a system will function as designed as does the design stance, but also that the design is optimal and that the system therefore always chooses the most rational action relative to its goals. Therefore, whenever we can suppose that it is valid to assume that a system has optimal design, we are justified in assuming the intentional stance as it may well be impossible to apply either the design or the physical stance in a computationally feasible way. Natural selection is an optimization process that molds systems in the direction of optimal design. When we try to find out how close a system is to being optimally designed, we need to take into account the extent of the information the system has and how its actions are constrained.

If a system turns out to be unpredictable from an intentional stance, e.g. because it acts in a way that defies all rules of rationality and logic, we can still collect data about the response pattern of the system and adapt a design stance once we have collected enough data to draw some conclusions about the functional design of the system. Dennett himself makes clear that one can’t stay one the level of “belief” in order to explain the “actual, empirical” behavior of a believer — one needs to descend one level and look at the believer from a functional perspective.

According to Dennett, rationality is optimal design relative to a goal or to a hierarchy of goals and a set of constraints. When we predict intentional systems, what we are doing is no more than to predict what the most rational system would do, given the same goals, constraints and the same information about the state of affairs as the system we want to predict. The assumption of rationality entails a few other beliefs about the system that we suppose is rational. We can assume that, usually, it does not desire its own destruction and that it follows the truths of logic, since assuming that the system has some beliefs but acts contrary to what follows from these beliefs would violate basic rules of rationality. Systems in the real world are not perfectly rational, therefore not all logical truths appear in those systems, but, in order to make predictions from an intentional stance, we just assume perfect rationality and hope that the drawbacks are smaller than those associated with any other stance.

Dennett introduces the concept of an intentional system in order to connect the intentional domain to the non-intentional domain of the physical sciences. It is quite obvious that he achieves this goal. From a pragmatic point of view, our beliefs can be identified with the information we possess about the world, our desires are our goals and a large part of our behavior can be described by assuming that we approximate an optimal rational agent trying to achieve its goals within certain informational and physical constraints, a description that completely eliminates intentional wording. Dennett’s article does not explain intelligence, and neither does Dennett aim at a complete theory of mind with this article. What he does talk about is a way of thinking about systems, both intelligent and non-intelligent, that eliminates non-scientific vocabulary and that, in the end, might allow us to talk about and measure intelligence in a way that is both more formal and much more general than the Turing test or any known IQ test.

Andererseits hat jede wissenschaftliche Revolution in den Köpfen einzelner Personen angefangen und sich oft nur langsam ausgebreitet. Die Tatsache, dass eine Idee unpopulär ist, sagt nichts über ihren Wahrheitsgehalt aus. Es gab eine Zeit, als die vorherrschende Meinung war, dass die Erde eine Scheibe sei. Ein großer Teil der in unserer Gesellschaft herumschwirrenden Ideen kann einfach nicht wahr sein — allein aus dem Grund, dass sie sich gegenseitig widersprechen.

Nicht eine Person ist Anhänger einer Idee, die sie für falsch hält. Niemand will einer Randgruppe angehören, die ihrer Version der Realität hinterherläuft. Niemand will Irrtümer und irrationalen Handlungsweisen übernehmen, nur weil sie weit verbreitet sind. Rationales Denken, evolutionäre Psychologie und Entscheidungstheorie können einige offensichtliche Fehler eliminieren, aber Sicherheit gibt es nicht.

Seine Meinung nicht zu äußern hat den Vorteil, dass man nicht so schnell Gefahr läuft, an einer falschen Einstellung festzuhalten, weil das Ändern der Meinung ohne “Ich habe Blödsinn geredet”-Eingeständnisse leichter ist. Und den Nachteil, dass man nicht merkt, wenn man Blödsinn denkt.

Wer die Wahl zwischen zwei Weltbildern hat, wird sich das Weltbild zu eigen machen, das es ihm erlaubt, so weiterzuleben wie bisher und sich dabei gut zu fühlen.

Irrational behaviour is what makes us human. Do you agree? At first sight, scientific evidence seems to point in this direction. Research has shown that bees behave more rational than the average human, that is, they are better at maximizing expected utility. Evolution has done a pretty good job at stripping all the unnecessary and costly irrationalities from a bee’s mind. If a bee’s genes allow it to choose anything but the quickest and most energy efficient way, its hive won’t be the one to survive. As humans, we like to think of ourselves as way beyond the lowlands of evolution. We aren’t forced to behave in a way that maximizes expected utility all the time in order to survive. Are we better off doing it nonetheless?

The bees’ seemingly superior ability to act rational doesn’t tell us the whole story. A bee might in fact be better at fulfilling its desires than a human, but there is more to rationality than optimal goal achievement. The latter is usually termed “thin rationality” or “instrumental rationality”. Should we act according to the principles of thin rationality — always? I’d argue we should. Thin rationality, in fact, doesn’t mean more than achieving your goals in an optimal way. If my goal was to live a joyful life, why wouldn’t I do that in an optimal way? If my goal was to help others live joyful lives, shouldn’t I better pursue it rationally?

Up to now, the most important — and most distinctively human — part of the whole concept of rationality has been left out. There is thin rationality, and there is broad rationality. Remember the rational bees? According to the principles of broad rationality, they aren’t rational. Not at all. Broad rationality is the basis for our conscious choice of goals. How many bees are there which choose to change their goals? But then, how is it possible that we as humans are able to evaluate and change our goals, to choose our destiny?

In order to understand, we’ll have to look at the way our goals are structured. A few seconds of introspection and you’ll realize that there is more than one kind of goal. Psychologists often speak of first-order-desires and second-order-desires. A first-order-desire is, for instance, hunger, which could be expressed as “I’d like to eat”. An example for a second-order-desire would be an aversion regarding the desire to eat (maybe you’re on a diet), in words: “I’d like to not like to eat”.

The concept of broad rationality describes the process of evaluating both your first-order-desires and your second-order-desires, thinking about which ones deserve to be fulfilled and achieving integration of both. The fact that both your first-order-desires and your second-order-desires are likely to be influenced by forces outside yourself makes it quite difficult to decide in favor of one of these two.

First-order-desires are often caused by your genes. Your genes have only one “goal”: To replicate. It doesn’t matter whether you as the “vehicle” will profit or suffer in the course of their “plan”. Second-order-desires are prone to be the victim of another kind of replicator, the memes. A meme is any kind of belief or idea that has been or is currently part of our culture, e.g. “being thin is being beautiful”. What applies to genes, applies to memes, too: Some of them don’t act in your best interest, you as a “vehicle” are only a means to contribute to their replication.

What is so special about humans, after all? It is certainly not the “ability” to behave irrational. Irrational behaviour (in the broad meaning of the word) will lead to the replication of genes and memes which are harmful to the host — that is you. The ability to determine which of your desires are truly yours and to separate them from all the — against your will — meme- and gene-induced goals is special about us humans. Maybe we should additionally learn a lesson from the bees and make use of the principles of thin rationality to act in favor of our goals. Our own goals.

In der Einleitung von “On Intelligence” bezeichnet er Intelligenz als eine der wenigen großen Fragen der Wissenschaft, die unmittelbar mit uns zu tun haben und noch unbeantwortet sind. Aus diesem Grund gründete er im August 2002 das Redwood Neuroscience Institute (RNI), das sich ausschließlich dem theoretischen Verständnis des vermeintlichen Sitzes der Intelligenz, der Großhirnrinde, widmet.

“On Intelligence” zielt darauf ab, eine einfache Theorie des Gehirns zu präsentieren, die einzelne Erkenntnisse anderer Wissenschaftler zu einem zusammenhängenden Bild verknüpft. Dabei will Hawkins junge Wissenschaftler und Ingenieure dazu ermutigen, die vorgestellten Prinzipien praktisch umzusetzen und auf diese Weise intelligente Maschinen zu bauen.

Beim Lesen des Buches habe ich jedes Kapitel kurz zusammengefasst:

• Künstliche Intelligenz und Neuronale Netze (Kapitel 1, 2)
• Das menschliche Gehirn (Kapitel 3, 4)
• Eine neue Theorie der Intelligenz (Kapitel 5, 6)
• Bewusstsein und Kreativität (Kapitel 7)
• Die Zukunft der Intelligenz (Kapitel 8)

Die Bewertung des Buches fällt leicht: Es ist schlichtweg exzellent. Zusammen mit Co-Autorin Sandra Blakeslee hat es Hawkins geschafft, ein Buch zu schreiben, das auf 250 Seiten eine intuitiv einleuchtende Theorie der Intelligenz darlegt ohne dabei den Leser auch nur eine Minute zu langweilen. Es kommt selten vor, dass eine neue wissenschaftliche Theorie so überzeugend und für den Laien verständlich präsentiert wird.

Aus diesem Grund ist es auch verzeihbar, dass der Autor sich das philosophisch brisante Thema “Bewusstsein” etwas zu leicht macht. Die Beschreibung von Bewusstsein als das “Gefühl, eine Großhirnrinde zu haben” erklärt wenig. Dennoch ist das Buch ein Meilenstein der Neurowissenschaften. Ein Muss für jeden, der auch nur das geringste Interesse am Verständnis der “Funktionsweise” von menschlicher Intelligenz oder an den Grundlagen für künstliche Intelligenz hat.

[1] Redwood Neuroscience Institute
[2] Offizielle Website zu “On Intelligence”
[3] Offizielles Forum zu “On Intelligence”
[4] Ben Goertzels Reaktion

Großen Einfluss auf Hawkins hatte der 1979 im Scientific American erschienene Artikel “Thinking About the Brain” von Francis Crick. Dieser weckte in Hawkins den Wunsch, als Wissenschaftler das menschliche Gehirn zu studieren. Während seiner Zeit bei Intel schlug er der Firma vor, eine Arbeitsgruppe für die Untersuchung des Gehirns einzusetzen — der Vorschlag wurde zu dieser Zeit als unrealistisch abgelehnt.

Auch seine Bewerbung beim MIT, das für sein fortschrittliches KI-Labor bekannt ist, wurde abgelehnt. Hawkins war den Professoren zu sehr an den neurobiologischen Grundlagen des Gehirns interessiert. So kam es, dass er sich im Selbststudium in Biologie ausbildete und schließlich als Student im Biophysik-Programm der UC Berkeley angenommen wurde.

“On Intelligence” enthält einen kurzen Abriss der Geschichte der (symbolischen) KI, der unter anderem folgende Punkte und Personen anspricht:

• Turing und die Turing-Maschine
• McCulloch/Pitts (Neuronen als boolesche Operatoren)
• Joseph Weizenbaums Eliza
• Der Schachcomputer Deep Blue
• Searles “Chinese Room”-Argument gegen KI
• … und entsprechende Antworten auf Searles Argument

Da größere Erfolge der symbolischen KI ausblieben, nahm ab Mitte der 1980er Jahre das Interesse an künstlichen neuronalen Netzen und einer “konnektionistischen” KI zu.

Obwohl dies grundsätzlich Hawkins Interessen entsprach, nennt er drei Gründe, warum diese Methode nicht zu “echter” Intelligenz führte:

• Die Zeit, d.h. der stetige Fluss an Informationen, wurde nicht berücksichtigt. Künstliche neuronale Netze waren durchweg statisch.
• Die Bedeutung von Rückkopplung (Feedback) wurde nicht erkannt oder zumindest unterschätzt.
• Die physische Struktur des Gehirns, d.h. insbesondere die Hierarchie der Großhirnrinde, wurde nicht beachtet.

Es blieb bei stark vereinfachten Modellen, da mit diesen bereits Ergebnisse zu erzielen waren. Ein generelles Verständnis von Intelligenz wurde nicht erreicht, meist nicht einmal angestrebt.

Als zentrales Problem sieht Hawkins die intuitive Annahme, dass Intelligenz sich allein in dem Verhalten liegt, das ein Programm bzw. neuronales Netz auf eine bestimmte Eingabe hin zeigt. Er ist der Meinung, dass Verhalten zwar eine mögliche Manifestation von Intelligenz ist, jedoch nicht die zentrale Eigenschaft. Denken ohne Handeln ist möglich.

Eine weitere Ursache für den Mangel an Fortschritt im Bereich der künstlichen Intelligenz könnte nach Hawkins darin liegen, dass sich die Hirnforschung in erster Linie damit befasste, wo bestimmte Vorgänge ablaufen, nicht in welcher zeitlichen Abfolge. Abbildugsverfahren wie MRI und PET ließen den Wissenschaftler damals kaum eine andere Möglichkeit.

Ein Bereich neuronaler Netze, der laut Hawkins sehr viel Potential hatte und hat, sind auto-assoziative Speicher. Gibt man bei diesen ein (gelerntes) Muster teilweise ein, so gibt das neuronale Netz das komplette Muster zurück. Auch Sequenzen, d.h. zeitliche Muster, können gelernt werden.

Ein Argument der Vertreter der symbolischen KI lautet, dass man nicht den ineffizienten, durch Evolution entstandenen Aufbau des Gehirns nachbilden müsse, sondern ein von Grund auf anderes System verwenden könne, so lange es ähnliches Verhalten hervorbringt. Hawkins sieht das nicht so. Er hält es für unabdingbar zu verstehen, was Intelligenz ist. Gleichheit des Verhaltens, wie sie auch in Searles Gedankenexperiment vorkommt, ist nicht genug.

Der nächste Teil der On-Intelligence-Reihe: Das menschliche Gehirn

[1] Jeff Hawkins, Sandra Blakeslee: On Intelligence (Times Books, 2004)
[2] Jeff Hawkins: On Intelligence (AI Playground)

Die zentrale Frage des Buches lautet: Was passiert im Gehirn, wenn wir etwas “verstehen”? Was passiert, wenn Denken ohne von außen wahrnehmbares Verhalten stattfindet?

Hawkins antwortet mit einem Beispiel: Beim Beobachten einer bekannten Umgebung nimmt das Gehirn sofort wahr, wenn ein unerwartetes Objekt auftaucht — ganz ohne bewusstes Nachdenken. Seine Folgerung: Beim Beobachten erstellt das Gehirn anhand von Erinnerungen ständig Vorhersagen darüber, wie die nächste Beobachtung aussehen sollte. Bei Unterschieden zwischen Beobachtung und Vorhersage werden bestimmte Neuronen aktiv, unsere Aufmerksamkeit wird auf den Unterschied gelenkt.

Unsere Wahrnehmung der Welt setzt sich nicht nur aus den mit unseren Sinnen empfangenen Informationen, sondern zugleich aus den ununterbrochen erstellten Vorhersagen über die Struktur der Welt zusammen. Das Gehirn erstellt also ein Modell der Realität und vergleicht dieses ständig mit den tatsächlichen Sinnesempfindungen.

Diese Vorhersagen finden sowohl in den niedrigsten Regionen, die die Eingaben der Sinneszellen erhalten, als auch in den höheren Regionen des Denkens statt. Sie sind die primäre Funktion des “Algorithmus” der Großhirnrinde, sie sind die Grundlage von Intelligenz. Intelligenztests sind im Grunde nur Tests der abstrakteren Vorhersagefähigkeiten der Teilnehmer, Wissenschaft ist Vorhersage.

Vorhersage und Verhalten hängen eng zusammen: Durch Vorhersage erhält das Gehirn nicht nur Informationen, d.h. Muster von Sinneseindrücken, der gegenwärtigen Situation, sondern auch zukünftige Muster als “Eingaben”. Das Verhalten kann entsprechend angepasst werden.

Verhalten und Vorhersage sind zwei Seiten derselben Sache: Das Gehirn stellt eine Vorhersage auf, was auf ein bestimmtes Verhalten hin passieren wird, das Verhalten wird ausgeführt, die Vorhersage bewahrheitet sich — oder das Gehirn stellt Widersprüche fest.

Wie unterscheidet sich das menschliche Gehirn von dem eines Affen? Der vordere Teil der Großhirnrinde, der für Planung, höhere Denkvorgänge und Bewegungen zuständig ist, ist beim Menschen ungleich größer. Außerdem bildet der für Bewegungen zuständige Teil deutlich mehr Verbindungen zu den Muskeln im Körper, während bei anderen Säugetieren Verhalten und Bewegungen hauptsächlich durch ältere Teile des Gehirns bestimmt werden.

Seine Theorie nennt Hawkins “memory-prediction framework” der Intelligenz.

Eine große Schwierigkeit der Hirnforschung liegt darin, per “bottom-up”-Herangehensweise aus tausenden von Details über den biologischen Aufbau des Gehirns auf eine übergeordnete Theorie zu schließen. Hawkins hat sich für eine “top-down”-Herangehensweise entschieden: Ausgehend von der Funktionsweise, die das “memory-prediction framework” beschreibt, will der den Aufbau des Gehirns verstehen.

Obwohl sich die “Eingaben” z.B. der Sinneszellen des Auges bei den ruckartigen Blick-Bewegungen völlig ändern, nehmen wir Situationen, in denen wir uns befinden, als konstant wahr. Während sich in den niedrigeren Regionen der Großhirnrinde die Neuronenaktivität ständig ändert, findet sich umso mehr konstante Aktivität, je “höher” der Status einer Region. Es gibt beispielsweise Neuronen, die immer dann feuern, wenn wir ein Gesicht sehen. Diese Tatsache bezeichnet Hawkins als unveränderliche Repräsentationen.

Während niedrigere Regionen sinnesspezifisch sind, integrieren höhere Regionen die verschiedenen Sinne: Ein Geräusch kann auf einer höheren Ebene die Repräsentation eines Objekts aktivieren, mit deren Hilfe auf einer niedrigeren visuellen Ebene Vorhersagen gemacht werden, was wir als nächstes Sehen werden.

Der allen Regionen der Großhirnrinde gemeinsame Algorithmus wird nun näher beschrieben: Die Aufgabe jeder Region ist es, herauszufinden, in welcher Beziehung die einzelnen Signale, die diese Region erhält, zueinander stehen, die Sequenz des Auftretens zu speichern und anhand dieser Daten vorherzusagen, welche Signale zukünftig zu erwarten sind. Jede Region erzeugt also unveränderliche Repräsentationen anhand der aus den niedrigeren Regionen kommenden Daten.

Die Großhirnrinde ist hierarchisch aufgebaut, d.h. von den sinnesspezifischeren niedrigeren Regionen hin zu den abstrakt denkenden, höheren Regionen. Dadurch bildet sie die hierarchische Struktur der Welt ab. Ein Beispiel: Buchstaben werden zu Silben kombiniert, Silben zu Wörtern, Wörter zu Sätzen, …

Zu jedem Zeitpunkt können wir nur einen kleinen Teil einer Situation mit den Sinnen erfassen: Durch den hierarchischen Aufbau der Großhirnrinde wissen wir dennoch, wie dieser Moment Teil einer übergeordneten Situation ist, da invariante Repräsentationen in höheren Regionen die ganze Zeit über aktiv bleiben.

Unser Verständnis der Realität ist vom Prinzip der Vorhersagbarkeit geprägt: Wenn das Gehirn das nächste Muster einer Sequenz akkurat vorhersagen kann, wird das bei mehrmaligem Auftreten als kausale Beziehung interpretiert.

“Erkennt” eine Gehirnregion eine Sequenz, so wird der “Name” (nicht das eigentliche Muster) dieser Sequenz an die nächsthöhere Region weitergegeben so lange diese Sequenz aktiv ist. Das Gehirn kann so Sequenzen von Sequenzen erkennen und speichern. Je höher eine Gehirnregion, desto mehr Konstanz ist zu beobachten, da übergeordnete Sequenzen länger aktiv bleiben.

Da die Anzahl an möglichen Kombinationen der Eingabesignale für eine Gehirnregion unermesslich groß ist, stellt sich die Frage, aus was die Sequenzen bestehen. Die Antwort: Jede Gehirnregion ordnet die Signale, die es empfängt, einer bestimmten Kategorie zu. Sequenzen bestehen aus Kategorie-Zuordnungen (z.B. rot-gelb-rot-grün-rot-…).

Lässt sich eine Eingabe nicht eindeutig einer Kategorie zuordnen, so wird der Kontext der aktuellen Sequenz als Hilfe zugezogen und die Eingabe mit der erwarteten Kategorie verglichen. Höhere Regionen der Großhirnrinde geben hierzu Informationen an niedrigere Regionen weiter, welche Eingabe sie als nächstes zu “erwarten” haben.

Einzelne Regionen der aus sechs übereinander liegenden Ebenen bestehenden Großhirnrinde lassen sich in so genannte “Säulen” aus übereinander liegenden Zellen einteilen, die durch Axone verbunden sind und meist zur gleichen Zeit aktiv werden.

Diese Säulen können als Basis-Einheiten des Vorhersage-Modells betrachtet werden: Die große Anzahl an Synapsen, die die Zellen einer Säule mit Zellen aus anderen Teilen des Gehirns verbindet, sorgt für die nötigen Kontext-Informationen.

Informationen in den Säulen fließen dabei von unten nach oben direkt (konvergierend) während sie von oben nach unten viele Verzweigungen nehmen müssen. Auf diese Weise werden unveränderliche Repräsentationen aus höheren Regionen in spezifische, der Situation angepasste Signale verwandelt.

Um die für eine Vorhersage nötigen Muster aufzurufen bilden die Säulen eine Art auto-assoziativen Speicher. Die Ausgaben sämtlicher Säulen werden wiederum zu den Eingaben der obersten Schicht der Zellen dieser Säulen.

Aktive Säulen aktivieren — mit zeitlicher Verzögerung — über den Thalamus andere Säulen in der gleichen Region. Dadurch “weiß” die oberste Schicht der Säulen, in welchem Teil einer Sequenz wir uns gerade befinden.

Einen weiteren Teil dieses Kapitels machen Details zu der Art und Weise aus, wie Eingaben klassifiziert werden, wie Sequenzen gelernt werden, wie ein “Name” bzw. ein konstantes Muster für eine Sequenz gebildet wird und wie spezifische Vorhersagen entstehen.

Zum Zusammenhang zwischen Wahrnehmung und Verhalten: Unser Gehirn macht Vorhersagen, was wir bei bestimmten Aktionen wahrnehmen werden, wir handeln und währenddessen werden die Vorhersagen gegen die Realität geprüft.

Wenn etwas Unerwartetes passiert, wird das unerwartete Muster automatisch an die nächsthöhere Region der Großhirnrinde weitergegeben — so lange, bis eine Region dieses Muster als Teil einer Sequenz von Ereignissen interpretieren und damit eine neue Vorhersage erstellen kann, die an niedrigere Regionen zurückgegeben wird.

In einer bekannten Umgebung müssen nur wenige Fehler an höhere Regionen weitergegeben werden, d.h. die Großhirnrinde kann sich mit anderen Denkvorgängen befassen. In einer unbekannten Umgebung kommen dagegen ständig unerwartete Muster vor; die Großhirnrinde wird davon in Anspruch genommen.

Lernvorgänge finden nach Hebb dann statt, wenn zwei benachbarte Neuronen gleichzeitig feuern: Dann verstärkt sich die Verbindung, d.h. die Synapsen, zwischen ihnen. Variationen dieses Prinzips sind möglich.

Sobald eine Region der Großhirnrinde gelernt hat, eine Sequenz aus Mustern zu erkennen, verändert sich die Eingabe für die nächsthöhere Region: Anstatt einzelner Muster wird der “Name” der Sequenz von Mustern an diese weitergegeben. Die nächsthöhere Region kann daraufhin Sequenzen höherer Ordnung lernen. Je weiter Lernvorgänge fortschreiten, desto subtiler werden die Strukturen, die wir in Mustern erkennen.

Wer beide Seiten des Hippocampus verliert, verliert die Fähigkeit, neue Erinnerungen zu bilden. Der Grund: Der Hippocampus stellt — wenn man die Verbindungen mit der Großhirnrinde betrachtet — nicht eine eigene Einheit, sondern die höchste Ebene der Großhirnrinde dar. Erhalten wir unerwartete Informationen, so werden diese Schicht für Schicht nach oben weitergegeben: Fehlt der Hippocampus, so können wir mit gänzlich neuen Informationen nichts anfangen, d.h. nichts Neues mehr lernen.

Informationen können nicht nur direkt über die hierarchischen Verbindungen zwischen zwei Ebenen vermittelt werden, sondern auch indirekt über den Thalamus. Hawkins vermutet, dass diese indirekte Verbindung dazu genutzt wird, sich auf Details zu konzentrieren, die ansonsten nur Teil einer bereits gelernten Sequenz wären. Dieser Weg kann auch dann aktiv werden, wenn niedrigere Regionen feststellen, dass etwas mit den Eingaben nicht in Ordnung ist, dass ein Detail unerwartet ist.

Der nächste Teil der On-Intelligence-Reihe: Bewusstsein und Kreativität

[1] Jeff Hawkins, Sandra Blakeslee: On Intelligence (Times Books, 2004)
[2] Jeff Hawkins: On Intelligence (AI Playground)

Sind Tiere intelligent?

Wenn man “intelligent” als “benutzen Erinnerung und Vorhersage um sich erfolgreicher fortzupflanzen” definiert, so sind alle Tiere intelligent, wenn auch in unterschiedlicher Ausprägung. Selbst Einzeller: Deren Gedächtnis ist die DNA, es werden “Vorhersagen” getroffen, was der Einzeller tun muss, um an Nahrung zu kommen und Lernvorgänge finden durch Evolution statt.

Was ist das Besondere an menschlicher Intelligenz?

Erstens ist unsere Großhirnrinde schlichtweg größer, d.h. wir erkennen subtilere Strukturen in der Welt. Zweitens konnten wir aufgrund dieser Größe eine Sprache entwickelt, mit der “Erinnerungen” geschaffen und weitergegeben werden können.

Die drei Epochen der Intelligenz:

• DNA als Speichermedium für Erinnerungen, d.h. keine Lernvorgänge während der Lebenszeit.
• Anpassbare Nervensysteme, d.h. Lernvorgänge, aber keine Kommunikation des Erlernten an die Nachkommen.
• Beim Menschen: Entstehung von Sprache, Kommunikation von Erlerntem.

Was ist Kreativität?

Das Erstellen von Vorhersagen durch Analogien. Vorhersagen, und damit auch Kreativität, finden auf jeder Ebene der Großhirnrinde statt. Der umgangssprachliche Begriff “Kreativität” bezeichnet dabei meist nur die Vorhersagen auf den höheren, für abstrakteres Denken zuständigen Ebenen, und meist nur dann, wenn “ungewöhnliche” Analogien im Spiel sind.

Sind manche Menschen kreativer als andere?

Jeder Mensch macht andere Erfahrungen im Laufe seines Lebens, entwickelt also ein anderes Modell der Welt. Man ist in dem Bereich kreativ, in dem man viel Zeit mit Lernvorgängen verbracht hat und dadurch Strukturen subtilerer Art erkennt. Dazu kommt, dass sich Gehirne von den physischen Gegebenheiten her unterscheiden können, z.B. von der Anzahl der Zellen oder der Art der Verbindungen her.

Wichtig für Kreativität sind:

• Zuversicht, dass man eine Lösung finden wird.
• Nachdenken über ein Problem über einen längeren Zeitraum hinweg.
• Das Verändern der eigenen Perspektive, d.h. der Sichtweise eines Problems, um so neue Analogien zu finden.

Die Neigung des Gehirns, Korrelationen zu finden, kann allerdings — wie die Geschichte der Wissenschaft zeigt — leicht zu falschen Vorstellungen der Funktionsweise der Welt führen.

Was ist Bewusstsein?

Bewusstsein bezeichnet das Gefühl, eine Großhirnrinde zu haben. Dabei lassen sich zwei Bestandteile ausmachen: Das alltägliche “bewusst”-sein und Qualia.
Ersteres bezeichnet den Zustand, in dem wir Erinnerungen bilden, die wir später “bewusst” aufrufen können. Letzteres bezeichnet die innere Wahrnehmung von Sinneseindrücken.

Eine Frage hierbei ist, warum Sehen sich anders anfühlt als Hören — wo doch beides lediglich Muster in der Aktivität von Neuronen hervorruft. Hawkins erwägt zwei Möglichkeiten: Die verschiedenen Sinneseindrücke könnten bereits vor Eintritt in die Großhirnrinde auf unterschiedliche Weise “vorverarbeitet” werden und dort Empfindungen hervorrufen. Außerdem könnte die Struktur der Eingabemuster bestimmen, wie diese wahrgenommen werden.

Das Gefühl, dass unsere Gedanken unabhängig von unserem Körper sind, stammt laut Hawkins daher, dass unser Gehirn zwar ein Modell unseres Körpers bildet, aber kein Modell des Gehirns. Im Gehirn sind keine Sinneszellen vorhanden. Gedanken sind zwar unabhängig vom Körper, aber nicht unabhängig vom Gehirn.

Was ist Fantasie/Vorstellungsvermögen?

Wenn Vorhersagen einer Gehirnregion zu den Eingabemustern dieser Region werden, können wir die Konsequenzen unserer Vorhersagen sehen, d.h. wie stellen uns etwas vor, wir planen.

Was ist Realität?

Unser Gehirn bildet ein Modell der Realität, da wir zu jedem Zeitpunkt nur einen kleinen Teil der “absoluten” Realität wahrnehmen. Dabei wird ein Großteil unserer Wahrnehmung aus Erinnerungen konstruiert. Die physikalischen Eigenschaften der Welt werden von jedem Menschen gelernt, vieles andere ist aber von unserer sozialen und kulturellen Situation abhängig.

Der nächste Teil der On-Intelligence-Reihe: Die Zukunft der Intelligenz

[1] Jeff Hawkins, Sandra Blakeslee: On Intelligence (Times Books, 2004)
[2] Jeff Hawkins: On Intelligence (AI Playground)

Können wir intelligente Maschinen bauen?

Ja, sie werden sich aber in der näheren Zukunft auf spezifische Einsatzbereiche beschränken. Menschenähnliche Allzweck-Roboter sind unrealistisch, da Menschen nicht nur aus Großhirnrinde bestehen (Emotionen etc) und die Kosten und der Aufwand enorm wären.

Intelligente Maschinen können eine beliebige Auswahl von “Sinnesorganen” besitzen, mit denen Sie Muster in der Welt aufnehmen können. Diese werden mit einem hierarchischen System verbunden, das nach dem Prinzip der Großhirnrinde funktioniert. Durch Lernvorgänge wird das System ein Modell seiner Welt bilden, Analogien herstellen, Vorhersagen treffen und Lösungen für neue Probleme finden.

Die zwei größten technischen Herausforderungen beim Aufbau des Erinnerungsspeichers sind Kapazität und Konnektivität:

Wenn jede Synapse nur zwei Bit belegt, so benötigen wir bei 32 Billionen Synapsen etwa 7 Terabyte Speicherplatz, was etwa 80 heute handelsüblichen Festplatten entspricht. Mit zunehmender Speicherkapazität ist das durchaus im Bereich des möglichen, vor allem da nicht die gesamte Großhirnrinde simuliert werden muss.

Schwieriger ist das Problem der Konnektivität: Jede Zelle ist mit 5.000-10.000 anderen Zellen verbunden; dies lässt sich nur schwer in Silizium umsetzen.

Sollen wir intelligente Maschinen bauen?

Grundsätzlich kann fast jede neue Technologie für positive und negative Zwecke eingesetzt werden. Intelligente Maschinen werden sich aber nicht automatisch selbst vermehren und die Menschheit auslöschen: Zwischen Gehirn-ähnlichen Systemen und Selbst-Vervielfältigung besteht kein logischer Zusammenhang.

Intelligente Maschinen werden nicht mehr als extrem nützliche Werkzeuge darstellen; da sie nichts besitzen, was menschlichen Emotionen ähnelt, werden sie keine eigenen Ziele oder Ambitionen haben.

Wofür werden intelligente Maschinen eingesetzt werden?

Im Detail ist das heute nicht vorhersehbar; Hawkins trifft lediglich Prognosen über den Einsatz in naher Zukunft und über grundsätzliche Trends.

In naher Zukunft:

• Spracherkennung
• Analyse von Bildern und Videos
• intelligente Fahrzeuge

Aspekte, die auf lange Sicht von Bedeutung sein werden:

• Geschwindigkeit: Silizium-Hardware ist eine Million mal schneller als biologische; wofür Menschen Jahre brauchen, könnte in Minuten erledigt werden.
• Kapazität: Die Größe des Speichers eines intelligenten Systems muss nicht auf die Größe des menschlichen Gehirns beschränkt sein.
• Replizierbarkeit: Einmal trainiert kann eine intelligente Maschine millionenfach hergestellt werden.
• Sensoren: Intelligente Maschinen müssen sich nicht auf die dem Menschen zur Verfügung stehenden Sinnesorgane beschränken. Ein Sinnesorgan muss lediglich Daten liefern, in denen Muster erkennbar sind. Ob Sensoren für elektromagnetische Felder oder ein weltumspannendes Netz von Klimasensoren, alles ist möglich.

Hawkins glaubt, dass wir an einem Wendepunkt der KI angelangt sind und hält es für möglich, dass innerhalb von 10 Jahren intelligente Maschinen zu einem der wichtigsten Gebiete in Wissenschaft und Technik werden.

The Intels and Microsofts of a new industry built on hierarchical memories will be started sometime within the next ten years.

[1] Jeff Hawkins, Sandra Blakeslee: On Intelligence (Times Books, 2004)
[2] Jeff Hawkins: On Intelligence (AI Playground)