In our project of understanding the world, we have created physics, biology, psychology, and a number of other disciplines. Now we want to turn our project into a rational one, a science that does not only find good hypotheses about the world, but that does so effectively. This requires that we first understand science itself: How do different sciences relate to each other? Why are there different sciences in the first place? And, within a single science, why does it look like we can distinguish ordinary science from scientific revolutions?

One way to ask how biology, psychology and elementary physics relate is the following: Given enough time and space to write, could we translate each biological statement into a statement in terms of physics that is true if and only if the biological statement is true? Likewise, can we translate psychological statements into statements about the physical states and processes of a system? Can psychological statements be translated into statements about biology?

Here is the gist of my thoughts:

The laws of a correct theory of elementary physics must be able to compress complete descriptions of system without loss. A complete description is a description that, in principle, would allow you to recreate the system exactly. It contains all the information there is in the system.

In contrast, inexact physics and special sciences like biology and psychology are lossy compressors of a system’s complete description. Given a lossy description, you might be able to restore certain features of the system, but never recover it completely (except for some degenerate systems).

To make an analogy:

A .png file compresses an image without loss — given the file, you can recreate the original image on the screen perfectly. The price you pay for this ability is that your file is relatively large.

In contrast, lossy image formats like .gif and .jpg create smaller files and they allow you recreate certain features of the original image, but usually do not recover it completely. For example, .jpg is more faithful to the original colors, .gif preserves edges and structural details better, but neither can restore the initial image completely.

Consequently, taking a .jpg image and saving it to .gif will result in loss both of the information that .jpg does not preserve and of the information that .gif does not preserve.

As may already be clear from the analogy, there are implications of the compression view for the relation between the sciences:

Statements from the special sciences and approximate physics can be translated into (possibly very long, disjunctive) statements about elementary physics without additional loss. However, such a translation will not make the statements more exact — information that is not there in a statement from one of the special sciences won’t be there in its translation, so what you get might be something like “it looks like physical situation A, or like physical situation B, or like physical situation C, or …”.

Statements from the special sciences can be translated into each other, but this will result in additional loss of information. In effect, what we need to do here is to first translate into exact physics (without additional loss) and then recompress into the target special science (with loss). Since different special sciences usually keep different structural details of the state intact, such a translation will usually throw away information. The more different the features that the two special sciences keep, the more loss we suffer.

I say usually since it is conceivable that statements formulated within a certain special science contain strictly more information than the translations within another science, just like statements in a correct elementary physics contain strictly more information than any of the special sciences, and just like a .gif format with 8 bits of color information (256 colors) contains strictly more information than a .gif format with 4 bits of information (16 colors). If you’re a philosopher, you might say that the latter, more coarse theory/format supervenes on the former, and if you’re a daring philosopher of mind, you might hypothesize that the relation between biology and psychology is just like this.

Why are there different special sciences? Why do we need special sciences at all?

The analogous question can be asked about image, audio and movie compression algorithms, and here the answer is clear: We don’t have enough space for lossless compression and in the end all we care about are certain features (and in different situations, we care about different features). In the case of audio compression, we only care about sounds within the range of 20 Hz to 20,000 Hz since everything else isn’t perceivable by the human ear.

Similarly, when we want to describe a phenomenon using scientific theories, we cannot use elementary physics as it takes too much time and space (although that would give us the most accurate predictions) and in the end, we do not care about all aspects of the phenomenon equally anyway. In thinking about how the brain works, neuroscientists do not look at the brain as an arbitrary physical system whose behavior is to be predicted, but instead it is certain aspects of this system that they try to explain. The aspects we care about tell us how to compress our observations into theories, and since we are not always interested in the same aspects, we need different ways of compression: different special sciences.

The compression view also gives us a way to think of the difference between ordinary science that discovers new facts within a framework and scientific revolutions that bring conceptual change:

Ordinary science is the process of finding out how the compressed version of interesting situations look like and how lossy the compression is when we apply existing compression algorithms — theories — to different situations. We smooth out small bugs in the compression algorithm, but fundamentally, we don’t change our framework: we use the existing compression algorithm.

Scientific revolutions change how we compress our observations: Every reasonable revolution either improves how strongly we can compress (e.g. by showing that what we thought of as different phenomena can be explained by the same principle) or makes our compressions less lossy (e.g. by replacing a black box term like elan vital with a structured theory). Since compression and prediction are two sides of the same coin, another interpretation of scientific revolutions is that they change the prediction algorithm whereas ordinary science mainly makes and checks predictions.

Now you be the judge how lossy this view on science really is.

Kurze Pause im Alltagsablauf, gleich geht es weiter. Nur eine Frage: Entspricht das, was du heute tust, dem Handeln der Art von Person, die du sein willst?

Jeder Moment stellt die Frage “Was willst du tun?” und die Summe unserer Antworten ist, wer wir sind. Jede Minute, die wir vor uns selbst rechtfertigen, entfremdet uns von uns selbst. Die Welt hat einen unerschöpflichen Vorrat an Zeitfüllern, dringenden Verpflichtungen und ganz wichtigen Dingen und wir suchen uns aus, wie groß der Anteil unserer Zeit ist, den wir ihr überlassen. Jede Antwort ist okay, so lange sie für uns okay ist und so lange wir nicht glauben, wir hätten keine Wahl. Wir erschaffen uns selbst, erfinden die Erzählung unseres Lebens und die Welt passt sich an. Die Welt hat keine Wahl.

So, weiter.

“Half of the meaningful things philosophy has said about artificial intelligence have already been said by Turing 50 years ago.” I do not remember who said this, and it is probably an overstatement, but it is not far from the truth. Even the AI textbook by Russell and Norvig claims that Turing’s paper Computing Machinery and Intelligence contains “virtually all objections [against the possibility of thinking machines] that have been raised in the half century since his paper appeared.”

Here are the slides for the presentation I held in Tuesday’s philosophy class, in the hope that they may be of some use, even if part of it is incomprehensible for anyone who did not read the paper or listen to the talk:

Hier und jetzt ist der Anfang von allem, was nach uns kommt. Vielleicht werden Sonnensysteme und Galaxien einst unsere Heimat, vielleicht werden Milliarden Leben zu Trillionen, Quadrillionen oder zu einer ähnlich unvorstellbaren Zahl, so viel größer und bedeutender als alles, was jetzt ist, doch es geht nicht ohne uns. Unsere Generation hat sich Fragen und Entscheidungen zu stellen, für die es keine zweite Chance gibt. (Eine davon: Wie überleben wir die nächsten 30 Jahre, wenn fortgeschrittene Bio-, Nano- und Informationstechnologien Einzelpersonen und kleinen Gruppen enormen Einfluss geben?)

Wir Menschen unterscheiden uns nicht großartig in unseren Wünschen. Wir wollen Glück, Freude, Freiheit, Unabhängigkeit, Sicherheit, Wissen, Kreativität, Individualität, Sexualität, Freundschaft und Liebe (nun ja, Männer zumindest). Wir schätzen unser Leben, das unserer Freunde, unserer Familie und das unserer sechs Milliarden Mitmenschen. Trotzdem ziehen wir in verschiedene Richtungen, konkurrieren, intrigieren und machen generell den Eindruck, als ob wir es darauf anlegen, paradox zu handeln.

Wenn wir verstehen, welches Ausmaß die Zukunft hat, die auf dem Spiel steht, und wenn wir uns im Großen und Ganzen einig sind, was uns jetzt und für diese Zukunft wichtig ist, warum funktioniert es dann nicht besser^TM?

Warum leben wir nicht längst in Utopia, wenigstens asymptotisch?

Die Erklärung, die ich nicht glaube: Es geht nicht besser. Würde man jeden Menschen fragen, wie sehr diese Welt seinen Vorstellungen entspricht, und so zu einem Gesamtbild kommen, so gäbe es nichts, was dieses Bild dauerhaft besser machen könnte. Für diese Erklärung spricht die Anpassungsfähigkeit unseres Gehirns, die daran schuld ist, dass die meisten Änderungen unsere Gesamtzufriedenheit nicht dauerhaft verbessern. Glück ist die erste Ableitung positiver Veränderung. Aber, erstens: Lasst uns die offensichtlichen Unmenschlichkeiten dieser Welt beheben, dann können wir noch einmal darüber reden, ob es nicht besser geht. Zweitens: Manche Leute scheinen immer ein bisschen glücklicher zu sein als andere. Gene und Umwelteinflüsse legen die Biochemie unseres Gehirns fest und wir sind dabei, beides zu verstehen.

Die Erklärung, die ich gerne glauben würde: Die Probleme unserer Welt sind komplex. Wir sind auf dem Weg zu Lösungen, aber die erfordern ein gewisses Mindestmaß an Zeit und Technologie. Es wäre falsch, sich an neue Technologien zu klammern, weil diese beinahe immer zu polaren Zwecken eingesetzt werden können, aber ein Blick auf die Geschichte macht klar, dass neue Technologien Einfluss haben. Die Kombination aus omnipräsentem mobilem Web für die Massen und Suchmaschinen, die natürliche Sprache verstehen, könnte die Wissensverteilung weiter demokratisieren. Prognosemärkte (die von Google, Microsoft, HP und Intel bereits intern eingesetzt werden) könnten Teile der Politik rationaler gestalten, der Anfang der vollständigen Aufzeichnung der Menschheitsgeschichte alle kollektiven Entscheidungen.

Die Erklärung, die immer nur andere betrifft: Das sind alles egoistische Nichtsnutze, denen die Menschheit egal ist, so lange sie Familie, Job und ein halbwegs interessantes Leben haben. Unterstützt werden sie in ihrer Haltung von Wissenschaft und Wirtschaft, die Gedanken über den Lauf der Welt zugunsten kurzfristiger und handfester Resultate bestrafen. Andererseits werden gesellschaftliche Fragen gerne mal eben beim Mittagessen gelöst (wenn gerade keine Fußball-WM stattfindet) und mit zufriedenem “Tja, so müsste man’s machen” abgehakt. Zu Handlungen kommt es natürlich nicht, denn dafür bräuchte man Lösungen, die tatsächlich funktionieren, müsste herausfinden, wie man als einzelner zur Umsetzung beitragen kann, und müsste die Lösungen finden, von denen man selbst profitiert. Wozu die Menschheit retten, wenn es nicht entweder Geld, Sex oder Status bringt oder sowieso auf dem Weg zur Rettung des eigenen Lebens liegt?

Die Erklärung, die mich (und dich!) betrifft: Wir arbeiten auf Teilziele hin, die nicht direkt dem entsprechen, was wir wirklich wollen. Weil das fast jeder tut, weil verschiedene Teilziele oft gegensätzliche Aktionen erfordern und weil die Ziele selbst dann oft nicht erreicht werden, heben sich unsere Bemühungen mehr oder weniger auf. Unser Tun führt so zwar zu neuen Methoden und zu neuen Erkenntnissen über unsere Welt, die indirekt zur Realisierung unserer Wünsche beitragen können, ist aber ineffektiv und potentiell schädlich. In dem Moment, in dem wir uns einer Ideologie verschreiben, weil wir glauben, dass die Durchsetzung von deren Axiomen den Menschen das geben wird, was sie wirklich wollen, arbeiten wir an der Verbreitung der Ideologie und nicht mehr an den eigentlichen Problemen.

Glücklicherweise ist die Lösung einfach: Wir wählen in jedem Moment die Handlung, die für sich genommen am ehesten unseren Werten entspricht, anstatt uns auf eine Ideologie oder auf ein langfristiges Ziel festzulegen und darauf hinzuarbeiten.

Dummerweise funktioniert sie nicht in jedem Fall, insbesondere dann nicht, wenn wir existentielle Risiken — Katastrophen, die das Ende der Menschheit bedeuten können — in Betracht ziehen und uns der Fortbestand der Menschheit doch ein bisschen kümmert.

KI in zwei Sätzen: Die Annahme, dass wir in absehbarer Zeit auf einen relativ allgemeinen Mustererkennungsalgorithmus stoßen, der mit genügend Rechenpower die Mustererkennungs- und Vorhersagefähigkeiten des menschlichen Gehirns übertrifft, ist (für diese Art von Annahmen) weit verbreitet. Deutlich kontroverser ist die Idee, dass Algorithmen praktisch möglich sein könnten, die Veränderungen an sich selbst vornehmen, um so große Klassen von formalisierbaren Probleme bestmöglich zu lösen — unabhängig davon, wie anspruchsvoll diese Probleme sind, d.h. wie viel Intelligenz zu deren Lösung nötig ist.

Die formale Analyse der Approximierbarkeit theoretischer Modelle von Superintelligenz in unserer physikalischen Welt benötigt unsere Aufmerksamkeit, wenn wir wissen wollen, wo auf unserer Liste existentieller Risiken und Chancen maschinelles Lernen steht. Forschung auf dem Gebiet ist ein langfristiges Vorhaben, eines, das jahrelanges Lernen voraussetzt und das mit signifikanter Wahrscheinlichkeit fehlschlägt. Das ändert nichts daran, dass solche Forschung wirklich, wirklich wichtig ist.

Letzte Woche, bei Pasta und Pizza, hat Jürgen die Frage in die Runde geworfen, wie groß denn der Anteil unserer Zeit sei, den wir für das Jetzt leben, und wie groß der, den wir für die Zukunft leben. Zunächst allgemeine Übereinkunft, dass man seine Zeit wohl kaum so klar kategorisieren könne. Dann, von dem, dessen theoretische Grundlagenforschung auch in 100 Jahren noch relevant sein wird (mehr als jetzt): I don’t care about the future.

I do. Aber vielleicht macht das keinen Unterschied.

Wenn wir vermuten, dass es vergangenes Glück nie gegeben hätte, wenn wir realistischer gedacht hätten, sind wir dann gut beraten, Wahrheit auch in Zukunft für Glück aufzugeben?

Auf der Suche nach Wahrheit sollten wir Welt- und Menschenbilder in dem Moment verwerfen, in dem wir merken, dass es uns schwer fällt, Hinweise dafür zu finden, dass sie die Welt besser beschreiben als konkurrierende Ideen. Weil das, was wir momentan glauben, beeinflusst, mit wem wir zu tun haben, welche Informationen wir an uns heran lassen und wie wir Nachrichten interpretieren, sollten wir dem unguten Gefühl im großen Denkknäuel umso mehr Aufmerksamkeit schenken.

Die Realität ist, wie sie ist, unabhängig davon, was wir glauben (und das ändert sich auch nicht dadurch, dass die Autorin eines der populärsten amerikanischen Bücher der letzten Monate das Gegenteil behauptet). Die meisten von uns können nicht vermeiden, im Laufe ihres Lebens der Wahrheit näher zu kommen, sei es in Bezug auf Wissenschaft, Beziehungen oder Menschen im Allgemeinen. Insofern ist es sinnvoller, wenn wir falsche Einstellungen nicht zunächst verteidigen und uns langsam zurückziehen, sondern mit jedem gegenteiligen Indiz die Wahrscheinlichkeit unserer Ideen nach unten korrigieren und unplausible Theorien so früh wie möglich verwerfen. Wenn das bedeutet, zu verstehen, dass Zynismus in manch ungemütlicher Hinsicht Realismus ist, müssen wir auch das akzeptieren (oder private Inseln schaffen, auf denen andere Regeln gelten — aber dem Willen von Welt und Evolution widersetzt man sich nicht leicht und selten auf Dauer).

Menschen sind zu anpassungsfähig, als dass uns kurzfristiges Unglück abschrecken sollte, insbesondere nicht dann, wenn es auf längere Sicht zu mehr Wahrheit und damit zu einer höheren Chance darauf führt, unsere Ziele zu erreichen. Wir gewöhnen uns an praktisch jede Änderung so weit, dass unsere Lebenszufriedenheit nach einiger Zeit der vor der Veränderung entspricht. Wir gewöhnen uns an Klassen von Veränderungen, egal ob Tod (nun ja, zumindest an den anderer Leute — beim eigenen bleibt wenig Gewöhnungszeit), Trennung oder andere Traumata, indem wir abrufbare Verhaltensmuster entwickeln und vermutlich gewöhnen wir uns auch an den Gesamtpegel an Veränderungen in unserem Leben.

In den Augenblicken, in denen wir die Götter nicht dafür verfluchen, dass gerade diese Anpassungsfähigkeit uns gegenüber den Tragödien dieser Welt blind macht, sollten wir ihnen danken, denn manche Veränderungen sind endgültig. Manche Dinge kann man nur einmal sagen und so meinen. Das rettet unser Handeln vor Bedeutungslosigkeit; der Wert dessen, was wir tun, liegt in den Dingen, auf die wir dafür verzichten. Dinge, für die man nichts aufgeben würde, sind nichts wert. Es ist nicht die Hochzeitszeremonie, die dem “Ja, ich will” so viel Wert verleiht, sondern das Wissen, dass wir mit den Worten manche Freiheiten für jemand anderen und für immer aufgeben (oder, wenn wir sie wiedererlangen wollen, das nur unter mittelschweren gesellschaftlichen Strafen tun können).

Was wahr ist ändert sich nicht dadurch, dass wir anderer Meinung sind oder dadurch, dass wir es ignorieren. Das, was wir tun, wird durch das bedeutungsvoll, was wir nicht tun. Glück braucht Bedeutung um nicht leer zu sein, Bedeutung braucht Wahrheit um überhaupt zu existieren. Sowohl Glück als auch Unglück sind Teil unserer Welt und je besser wir diese Welt verstehen, desto mehr Einfluss haben wir auf sie.

Ich bin Determinist und jede Sekunde entscheide ich mich zwischen unzähligen Handlungen. Mit der Einsicht, dass Lazy Reason nicht alltagstauglich ist, bleibt nur nicht fassbare Freiheit.

The infinite possibilities each day holds should stagger the mind. The sheer number of experiences I could have is uncountable, breathtaking. And I’m sitting here refreshing my inbox. We live trapped in loops. reliving a few days over and over, and we envision only a handful of paths laid out ahead of us. We see the same things each day, we respond the same way, we think the same thoughts, each day a slight variation on the last, every moment smoothly following the gentle curves of societal norms. We act like if we just get through today, tomororrow our dreams will come back to us. — xkcd

In einer Welt, die ohne vorgegebenen Sinn einfach existiert, erfinden wir uns und das, was wir als sinnvoll ansehen, auf dem Weg in die Zukunft. Jegliche Gründe, Ziele und Zwecke jenseits der biologischen erschaffen wir selbst. Aus “Wie soll ich handeln?” wird “Wer will ich sein?” und “In welcher Welt will ich leben?”.

Mit jeder Handlung machen wir aus dem aktuellen Zustand unserer Welt einen anderen. Der Raum aller möglichen Zustände ist die Menge der Zustände, die keine physikalischen Gesetze verletzen. Denkbar ist eine astronomische Zahl, wünschenswert sind die wenigsten davon. Die Menge der Zustände, die bewusstes Leben enthalten, macht nur eine winzige Ecke im Raum aller möglichen Zustände aus. Unsere Welt ist ein Punkt irgendwo in dieser Ecke.

Manche Zustände unterscheiden sich stärker voneinander als andere. Der Zustand der Welt, in der die Tasse Tee neben mir zwei Zentimeter weiter links steht, liegt näher am aktuellen als der, in dem sich die Tasse in einen feuerspeienden Drachen verwandelt hat. Ein mögliches Maß für den Abstand von zwei Zuständen wäre eine Art Informationsdistanz: Die Länge oder Laufzeit des kürzesten Algorithmus, der aus einer vollständigen Beschreibung von Zustand A die entsprechende Beschreibung von Zustand B berechnet.

Indem ich mich für eine Handlung entscheide, wähle ich einen unserer Nachbarn im im Raum aller möglichen Zustände. Wie sieht die Teilmenge der Zustände aus, die vom jetzigen Zustand der Welt aus durch mein Handeln oder Nicht-Handeln erreicht werden können? Das bestimmt, welchen Einfluss ich mit meinen Entscheidungen als einzelner auf die Welt habe.

Die Frage, was festlegt, welche Zustände ich erreichen kann und welche nicht, führt unmittelbar zu der Frage danach, was unsere Position im Raum aller möglichen Zustände bis jetzt am stärksten verändert hat. Die Antwort definiert, was Optimierungsprozesse sind: Systeme, die den Zustand unserer Welt auf einen kleinen Zielraum mit bestimmten Eigenschaften hin bewegen.

• Evolution ist ein Optimierungsprozess, der Replikatoren — Bakterien, Tiere, Menschen und die Gene dahinter — durch Mutation, Rekombination und Selektion auf effektivere Vermehrung hin optimiert.
• Ein Schachcomputer ist ein Optimierungsprozess, der aus der Vielzahl möglicher Kombinationen von Schachzügen die auswählt, die die Position der Figuren auf einem Schachbrett so verändern, dass sich die Welt in einen Zielraum mit der Eigenschaft “Der Schachcomputer gewinnt.” bewegt.
• Menschliche Intelligenz ist ein mächtiger Optimierungsprozess, der für verschiedenste Ziele eingesetzt werden kann. Rationalität erreicht klar definierte Ziele, nonlineares Handeln die unbewussten.

Cognitive Science ist die Lehre von den Optimierungsprozessen. In Psychologie und Neurobiologie wird der effektivste bekannte Optimierungsprozess, das menschliche Gehirn, analysiert, in Mathe, Informatik, Statistik und Logik werden die methodische Grundlagen für den Bau von künstlichen Optimierungsprozessen unterrichtet.

Optimierung ist ein Vorhersageproblem. Jeder Maschine steht eine festgelegte Menge an Aktionen zur Verfügung. Um ein Ziel zu erreichen, muss die Maschine vorhersagen, welche Kombination aus Aktionen die Welt dem Zielzustand am nächsten bringt. Dass wir Menschen die Auswirkungen unserer Handlungen vorhersagen können, zeigt, dass Quanten- und Chaoseffekte bei Vorhersagen umgangen werden können, wenn man Abstriche bei der Genauigkeit der Prognosen macht.

Intelligenz ist die Fähigkeit, akkurate Vorhersagen zu treffen um Aktionsfolgen zu finden, die unsere Zukunft auf kleine, weit entfernte Regionen im Raum des Möglichen hinsteuern. Die Frage, ob künstliche Intelligenz möglich ist, lautet eigentlich: “Wie weit werden wir uns übertreffen? Wo liegen die Grenzen der Berechenbarkeit?”

Weil die Grenzen, denen wir unterliegen, universell sind, sehen wir sie nicht. Algorithmen, die Information optimal extrahieren, unterliegen keinen kognitiven Fehlern. Die unvoreingenommene Instrumentalisierung aller verfügbaren Mittel stellt einen enormen Machtzuwachs dar; als Menschen schaffen wir es oft nicht, funktionaler Fixiertheit zu entrinnen, sobald wir einmal gelernt haben, wozu etwas gut ist.

Im nächsten und letzten Schritt, der genauso unvermeidbar und unintuitiv ist wie die davor, schreiben wir Optimierungsprozesse, die den Teil ihrer selbst restrukturieren, der für das Optimieren zuständig ist. Algorithmen, die vorhersagen, welche Veränderungen es braucht, um bessere Vorhersagen zu treffen. Prozesse, die Welt auf Zielregionen hin bewegen, von denen wir nicht gedacht hätten, dass sie in unserer unmittelbaren Nachbarschaft liegen.

If you tend to be uncontrollable and violent, if you make unnatural sounds and movements, if you are often sick or vomit unusual objects and if your friends tell you that you live a wicked life, it is probably because you are possessed by a demon. Showing your supernatural strength and your friendship with the devil might give it away, too. “You are possessed by Choronzon, the temporary personification of the raving forces of the Abyss” clearly is an explanation for unusual behavior.

Nonetheless I do not believe in demons. The concept of demons is lousy at explaining what goes on in ill minds and has been replaced by psychological theories that, albeit less colorful, have much greater explanatory power. Nothing that exists in the real world has been shown to inhabit the causal position that was attributed to demons with regard to mental “misbehavior”.

Eliminative materialists deny that beliefs are any more real than demons. According to Paul Churchland, beliefs and other propositional attitudes don’t refer to anything in the real world. Nothing has the causal and semantic properties we attribute to beliefs, therefore these concepts will eventually be replaced by a theory of mind that explains our actions, thoughts and sensations a lot better than folk psychology and that is based on empiricism rather than introspection. Read on »

For a long time, two types of entities shared our world. On the one hand, there were entities that had intentionality and that behaved in a way that lead us to conclude that they did, namely human beings. On the other hand, there were entities like cars and rocks that clearly did not have intentionality and that did not show behavior that could have lead us to conclude that they do. Soon there may be a third type of entities: Robots that show behavior similar to the behavior of human beings and that do neither clearly possess intentionality nor clearly not possess intentionality.

It is amazing that, after almost 30 years of philosophical discussions, John Searle’s argument against the possibility of programming a robot in a way that makes it really think is still alive. I am now going to analyze what it means for an entity to have intentionality, then give a short account of the strongest version of Searle’s thought experiment and finally argue that the only way to deny intentionality to robots on the grounds of Searle’s thought experiment is to assume a priori that intentionality is tied to biochemical processes. Read on »

In April 2006, Shane Legg and Marcus Hutter suggested a formal measure of machine intelligence based on the idea that intelligence basically amounts to achieving complex goals within complex environments and that this idea can be formalized within the framework of algorithmic information theory. While not aiming at characterizing intelligent systems, Daniel Dennett’s paper “Intentional Systems” suggests something similar: A way to tell intentional systems from non-intentional ones by thinking about the behavior of systems in a way that has a normative, logical basis rather than an empirical one. Dennett’s method of comparing the actual behavior of a system to the most rational things to do, given some goals, constraints and information about the present state of affairs, sounds very much like a recipe for a general test of intentionality, if not intelligence.

Dennett introduces three levels of abstraction we can use to describe intentional systems: Descriptions on the level of physics, a functional perspective and the intentional stance. In order to determine in how far these levels presuppose optimal design and rational behavior, I am first going to explain what Dennett means when he talks about intentional systems, then describe each of the three different levels of abstraction and finally analyze what role the notions of optimality and rationality play for each of them. Read on »

Was bleibt vom Menschen, wenn er die Möglichkeit hat, selbst zu bestimmen, was ihn antreibt? Kleine Änderungen im Motivationssystem unseres Gehirns haben große Änderungen in unserem Verhalten und Denken zur Folge. Wenn wir selbst bestimmen könnten, welche Aktivitäten und Stimuli welche Gefühle verursachen, wären wir freier, als wir es so je sein können. Die Möglichkeit zu solchen Veränderungen ist nicht fern — und wird verändern, was es heißt, ein Mensch zu sein.

Wenn wir Nahrung zu uns nehmen, trinken oder Sex haben, wird in unserem Gehirn der Neurotransmitter Dopamin freigesetzt. Was auch immer wir dann gerade tun, sehen und fühlen, Dopamin verknüpft es mit einem Gefühl von Glück und Belohnung und führt so dazu, dass wir, wenn unser Dopaminspiegel wieder auf einem niedrigeren Level ist, diese Sinneseindrücke und Aktivitäten wiederholen wollen. Dopamin ist der Grund dafür, dass wir ein Verlangen danach haben, uns ein Stück Pizza in den Mind zu schieben, es zu kauen und zu schlucken.

Schon wenn wir die knusprig braune Schinken-Thunfisch-Pizza vor uns sehen, wird im Hypothalamus, dem Steuerzentrum für alles, was unbewusst in unserem Körper abläuft, etwas Serotonin freigesetzt. Mit den ersten Bissen und den damit aufgenommenen Kohlenhydraten steigt der Serotonin-Level im Hypothalamus weiter an, ein Gefühl der Zufriedenheit breitet sich aus. Wenn Schokolade glücklich macht, dann deswegen, weil sie Tryptophan enthält, eine Aminosäure, aus der im zentralen Nervensystem Serotonin aufgebaut wird. Serotonin führt dazu, dass es uns gefällt, zu essen.

Wenn wir selbst bestimmen könnten, wonach wir verlangen und was uns gefällt, beispielsweise indem wir regulieren, wann welche Neurotransmitter freigesetzt werden, hätten wir ein Maß an Kontrolle über unser Leben, das alles überschreitet, was man durch Selbstdisziplin erreichen kann. Wenn das, was wir wollen, weil es zu unseren Überlebenschancen im Sinne der Evolution beiträgt und deswegen als “gut” in unseren Genen verdrahtet ist, nicht im Einklang mit dem ist, was wir bewusst wollen, könnten wir es ändern.

Wir könnten das Verlangen nach sozialem Status und die Beeinflussbarkeit durch den sozialen Status anderer abschalten und unbeeinflusst von Autoritätsdenken objektiver denken und handeln. Wir könnten damit aufhören, Menschen unbewusst danach zu beurteilen, wie symmetrisch ihr Gesicht ist, wie sehr es dem Durchschnitt entspricht und wie sehr das Verhältnis zwischen Taillen- und Hüftumfang dem entspricht, das unsere Gene bei Menschen des anderen Geschlechts am liebsten sehen. Wir könnten uns dafür entscheiden, die romantische Liebe für einen Partner nie enden zu lassen (ein ausgeglichener Oxytocinspiegel wäre ein Anfang). Wir könnten Wissen zur aufregendsten Sache der Welt machen, zu etwas, wonach wir mehr Verlangen haben als nach allem anderen. Wir könnten dafür sorgen, dass wir in allem Sinn sehen — oder in nichts.

Unsere Gene legen die Konfiguration fest, die bestimmt, mit welchen Gefühlen wir auf welche Stimuli reagieren, wonach wir verlangen und was uns gefällt. Es ist unwahrscheinlich, dass diese Ausstattung dem entspricht, was wir als bewusste, nicht oder nicht ausschließlich an der Weiterverbreitung unserer Gene interessierte Wesen wählen würden, wenn wir die Wahl hätten.

Was von uns bleibt, wenn wir die Wahl haben, ist, wer wir wirklich sind.