‘Beginning to reason is like stepping onto an escalator that leads upward and out of sight. Once we take the first step, the distance to be travelled is independent of our will and we cannot know in advance where we shall end.’

— Peter Singer (1982)

‘You seriously believe a universe in which billions of sentient beings on this planet alone die horrible deaths in war, famine and plauge [sic], a universe in which people have a fleetingly short time to live before their health and strength drain away, a universe in which misunderstanding is endemic and barriers between minds are unbreechable, a universe in which most sentients are forced to serve others to obtain the basic necessities of life and in which a great many live under fear and repression, a universe where the only known planet with sentient life is under constant threat of being wiped clean by a whole range of disasters, where the entire population is under some degree of harmful delusion, doesn’t suck?’

— Michael Wilson

There are many situations where we lack knowledge to move the world from an undesired state to a more desired state. We call these situations problems. In the following, I describe what I see as one of the major challenges that a technical solution to the problem of problem solving faces.

If we cannot ignore a problem, what we do is this: We take our limited knowledge about the world, our limited knowledge about what we want, and use our limited reasoning capabilities to find out what we should do to move the world closer to how we want it to be. Given that we believe the world to be like this, and given that we would like the world to be like that, we infer what action we should take.

In general, inference denotes the process of assuming that certain statements about the world are true and deriving what follows for the truth of other statements. Machines are potentially much better at inference than the human mind is. Programs have the potential to encode much more and much more precise knowledge than any one of us could learn in a lifetime. The laws of probability theory and approximations thereof can be used to infer precise knowledge about the world from data and to reason using this knowledge.

The fact that we can use machine inference to solve problems that are too difficult to be solved using human reasoning makes research into inference methods important. When we use machine inference to figure out what the dynamics of protein folding are in order to solve diseases like Alzheimer’s, we do so because, given all our data and our wish to cure the disease, our human minds still cannot figure out the cure on their own. A prerequisite for the use of machine inference is to have the problem statement available formally, as a program, a mathematical object. By singling out a small, well-defined problem, we can formally write down knowledge about the problem domain (or a program for inferring such knowledge from data) and a program that uses this knowledge to solve a particular reasoning task, i.e. to help us in determining how to change things for the better.

Any such small, formal problem statement captures only very little about what we want things to be like more generally. What do we want things to be like? We know that there are some things we want because they lead to other good things — these we call instrumental values — and there are some we want for their own sake — terminal values. We can make guesses about what our terminal values are, what we value for its own sake — joy, freedom, discovery, beauty, kindness — but ultimately, what we want the world to be like is not summed up well by any (or all) of the individual concepts behind our guesses. The name for that which does capture all about what we want is preference.

Because preference is stored opaquely in our brains, we cannot directly access its content, we can only use it to some extent. Similarly, we have little access to how our minds represent concepts like “tree”, “word”, or “spring”. This does not mean that there is no precise structure behind any given concept. On the contrary, the theories that best predict human concept learning and reasoning in recent psychological experiments are those that assume that concepts are represented as probabilistic programs.

Likewise in the case of preference: Our meager introspective abilities obscure the fact that the term ‘preference’ denotes a precise informational structure. This is easy to see where limitations of reasoning make us more uncertain than dictated by what can be deduced from the information that we know is stored in our brains, but is likely to be true more generally.

Take our search for a cure for Alzheimer’s: We have an intuitive idea what results are good and what results are bad — those that actually cure the disease and that do so without side-effects are the good ones. Nonetheless, we are uncertain about how our preferences rank different states of the world; without using machine inference to figure out the dynamics of protein folding, we do not know how preference orders possible states of the world because we cannot tell which state corresponds to a cure and which to a useless substance. By using machine inference to determine which state corresponds to a cure and which does not, we factor out a small part of our preferences that we assume to be independent from the rest (although it is not!). We thus hope to improve our understanding of what this part of our preferences says about the world.

When we — or our machines — work towards the solution of any particular subproblem without taking into account our preferences as a whole, we commit what could be called a mistaken factorization of preference. Preference as a whole makes a statement about what is the best choice at any given point in time, and if we look at only a small part of this statement, we lose value. On the other hand, if we can access the formal statement that our preferences make as a whole, then we may be able to use the reasoning capabilities of machines to determine much more precisely what the best choice looks like than would be possible through introspection.

If preference is a mathematical structure — even if it is currently implemented in our brains in a distributed and implicit way — then what kind of structure could it be? I do not know the answer to this question, but there are situations that are similar in the sense that they also take an intuitive idea and reify it into a mathematical object.

In computer science, there is the notion of the future of a computation. For example, at point # in the program (* 3 (+ 4 #)), what the future holds is that whatever value we hand it, it will add 4, multiply the result by 3, and then do whatever it does to the return value of a program that has finished, e.g. print the result to the screen. The notion of a continuation captures the idea of taking the future of a computation and storing it in an object. If we capture the continuation at #, the future starting from this point becomes a mathematical object, a value that we can pass around just like any other object and that we can reason about formally.

Analogously, we would like to take the diffuse notion of the preferences of a decision-making system (like you and me) and reify it into a formal object. And analogously, we expect this object to be a computational structure that contains information about what will — or, in the case of preference, should — be done in the future, but it may take lots of computation to determine what exactly this information says.

The project of formalizing preference has two parts: understanding the structure of preference (i.e. what kind of object are preferences, how do they compose) and getting at the actual content of human preference (i.e. extracting or pointing to the preferences of a given agent).

There are proposals for what the structure of preference could look like (e.g. preference logics, utility theory), but they seem insufficient in non-trivial situations. Two examples of such situations are (1) that we want our preferences not to lose meaning when it turns out that we have been mistaken about some of the things our preferences talk about (the so-called ontology problem), and (2) that we may have preferences about how we want preferences to interact. Different people appear to want different things, and even within a single mind, seemingly contradicting wishes exist. For example, there are things we want to do and there are things we actually enjoy doing, and these are often not the same. How do we figure out the statement that such a system of preferences makes about what should be done? This is called preference aggregation across agents and could be called compositionality of preference within a single agent.

Formalizing the content of our preferences, i.e. pointing to preference in a precise, machine-readable way, poses similarly challenging problems. The strongest illustration of this that I can currently think of is the following: If our preferences determine which method of formalizing their content is the correct one (namely the one that results in our actual preferences), and if we cannot know or use our preferences with precision until they are available as mathematical objects, then how can we find the correct formalization method? I can imagine that knowing the structure of preference would clarify what properties a method needs to have that allows us to formally refer to the preference content of any given agent, but to what extent this is the case is an open question.

To summarize, the fundamental problem is this: We have only limited access to what we want, and we cannot really figure out what follows from that which we do know about what we want. Machines are potentially much better at reasoning about what follows if we can give a formal description of what we want. However, if we formalize only a few small problems, we lose value due to our limited reasoning about the remaining part of our preferences and due to assuming independence between preferences when in reality they are intertwined. We need to understand preference as a formal object if we want to use machine inference to figure out what should be done to make this world a nicer place.

I thank Vladimir Nesov for useful discussion and for originating many of the ideas mentioned here.

As a child, everything is new, confusing and exciting. You encounter many things you have never seen before, and many things you have seen but for which you have not yet built good abstractions. You see individual data points, but not how they connect. There are many concepts that want to be discovered and put together in a larger model of how the world works, and because it’s fun, that is what you do.

As you grow up, your perceptions gain depth: In your head, you have built up an elaborate model of the world and its structure and behavior. When you perceive, you perceive more than the immediate — you see context. You look at the thing in front of you and you see a computer, a keyboard, its functioning and, below the surface of perception, you know how it relates to other things, people and ideas.

As you grow old, your internal representation of the world gains more and more detail, albeit the rate of incremental updating slows down. Simultaneously, the world outside keeps on changing as rapidly as before. At some point, there you are, trying to interpret data from a world that has changed using a model that is no longer accurate. What can be expressed succinctly in the terminology that your outdated conceptual framework uses is different from that which is simple for younger people, and your framework is no longer an efficient representation of what is out there in the world.

What you see has always been an interpretation imposed on the data your eyes provide, but now your interpretation mechanism is tuned to a world from 30 years ago. When you talk to people and perceive the meaning of what they say, you round to the nearest simple interpretation in your model and reply to that; the actual intended meaning may not be easily expressible within the conceptual language you use to organize your world. You see and hear that which is in terms of what has been. You are growing blind.

Das letzte Semester habe ich als Visiting Student im Brain and Cognitive Sciences Department des MIT verbracht. Was folgt ist der Versuch einer Zusammenfassung dessen, was ich in Cambridge getan und gelernt habe. Besonders wenn ich von dem berichte, was ich gelernt habe, wird vieles skizzenhaft bleiben und vieles andere werde ich gar nicht erwähnen, weil ich nur begrenzt Zugriff auf die Veränderungen habe, die in meinem Kopf stattgefunden haben. Ich weiß jetzt mehr über das Denken und wie ich es erforschen will, über meine Zukunft und darüber, was für ein Mensch ich sein will. Im Folgenden will ich ein Bisschen davon vermitteln.

Mein Verständnis davon, wie das menschliche Denken funktioniert, hat Fortschritte gemacht. Grob lassen sich diese Fortschritte in drei Kategorien einteilen: Modelldenken, Wahrscheinlichkeitsdenken und Entwicklungsforschung. Zusammen haben sie dazu geführt, dass ich eine Vorstellung davon habe, wie ein Pfad hin zu einem naturwissenschaftlichen Verständnis des menschlichen Geistes aussehen könnte und, fundamentaler, dass ich mir überhaupt vorstellen kann, wirklich zu verstehen, wie das menschliche Denken funktioniert. Letzteres ist schwer zu vermitteln, und doch ist es das, was mir lange Zeit gefehlt hat (auch wenn mir das nicht klar war) und was zentrale Teile der Kognitionswissenschaft für mich weg von der Philosophie und in die Naturwissenschaftsecke rückt.

Der erste Punkt, das Modelldenken, ist der, der am meisten Auswirkungen auf meinen Alltag hat. Wissenschaftlich meine ich damit die repräsentationale Theorie des Geistes, insbesondere wie von Fodor in seiner Theorie einer Sprache des Geistes beschrieben. Im Alltag äußert sich das darin, dass ich häufiger zwischen meinem (und anderer Leute) geistigem Modell der Welt und der dahinter liegenden, wirklichen Welt unterscheide. Wenn ich eine E-Mail bekomme, die auf den ersten Blick schwer nachvollziehbare Dinge sagt, dann hilft es, wenn ich mir überlege, wie das Modell der Welt und das Modell von mir im Kopf des Schreibers aussehen könnte. Erst dann kann ich mir überlegen, was ich schreiben muss, um in diesem Modell das zu rekonstruieren, was ich beschreiben will. Wenn ich dagegen direkt das schreibe, was mich überzeugen würde, weil es in mein Modell der Welt passt, dann würde oft keine Kommunikation zustande kommen.

Dass man nicht um Wahrscheinlichkeitstheorie herumkommt, wenn man das Denken verstehen will, war auch schon vor der Zeit hier meine Einstellung. “I am interested in the theoretical foundations of inductive learning” hatte ich in der E-Mail geschrieben, mit der ich mich um das Praktikum hier am MIT beworben hatte, und bei induktivem Lernen hatte ich an probabilistisches Generalisieren gedacht. Und auch daran, dass für das Denken und Handeln in der echten Welt Annäherungen an das exakte Berechnen von Wahrscheinlichkeiten (z.B. von zukünftigen Ereignissen) wohl nötig sind, weil die exakte Lösung prinzipiell zu rechenaufwändig sein könnte, hatte ich schon damals wenige Zweifel. In einem Philosophie-Aufsatz schrieb ich: “Besides using approximate reasoning, prior beliefs that are tuned to the statistics of our world and access to a large amount of real-world data are two other strategies that are likely to be used in any solution to the AI problem.” Wovon ich wenig wusste, war, wie solche Annäherungen aussehen könnten und, allgemeiner, wie Wahrscheinlichkeitstheorie und die oben genannten — oft sehr komplexen — mentalen Modelle zusammen passen. Durch meine Arbeit an der probabilistischen Programmiersprache Church und an probabilistischen Modellen von schlussfolgerndem Denken, von Pragmatik und Konzeptlernen ist mir das klarer geworden.

Bevor ich am MIT-Harvard Seminar “Computational Models and Cognitive Development” teilgenommen hatte, wusste ich nicht zu schätzen, wie geeignet das Denken von (Klein-)Kindern als Studienobjekt ist, wenn man mehr über das Denken im Allgemeinen lernen will. Drei Fragen, die mich in meiner Forschung interessieren, sind: Was sind Konzepte? Wie lernen wir Konzepte? Was läuft ab, wenn wir in unserem Denken Konzepte manipulieren? Insbesondere wenn man annimmt, dass Konzepte aufeinander aufbauen, wird klar, warum man von Kindern besonders viel über das Denken mit Konzepten lernen kann: Die vorhandenen Konzepte sind weniger komplex und es kann praktisch live beobachtet werden, wie sich die Konzepte verändern. Ein Beispiel dafür ist das phasenweise Verstehen von Zahlen (no-knower, one-knower, two-knower, three-knower, number-knower), das in praktisch allen Kindern der zivilisierten Welt gleich abläuft.

Wenn ich sage, dass ich jetzt besser verstehe, was für eine Art von Mensch ich sein will und was für ein Leben ich leben will, dann ist das wahr, aber auch irreführend. Auch vor meiner Zeit hier war klar, dass, besonders wenn man nach gesellschaftlichem Urteil “alles richtig macht”, die Gefahr groß ist, sich und die großen Fragen, die man einst hatte, in institutionalisierten Systemen zu verlieren. Auch ohne groß zu suchen findet man in solchen Systemen zu jedem beliebigen Zeitpunkt im Leben Ausreden, warum jetzt gerade nicht die richtige Zeit ist für die großen Fragen. Systeme sind wie Lückentexte — sie machen es einfach, weil sie Struktur vorgeben, und aus dem gleichen Grund machen sie es schwierig, wenn man Wert auf die Freiheit legt, seinem Handeln selbst Struktur zu verleihen. Vor meinem inneren Auge sehe ich mich als Postdoc rechtfertigen, warum ich unbedingt an einem Projekt arbeiten muss, das zwar nicht wirklich spannend ist, aber die Konferenz-Deadline ist nahe, so langsam wird es Zeit für eine Professorenstelle und irgendetwas muss beim Vorstellungsgespräch ja erzählt werden — nur dummerweise wurde die PhD-Arbeit schon zu oft wiedergekäut, darum muss jetzt was Neues her, aber die großen Fragen sind dafür ungeeignet, die brauchen viel mehr Zeit, die kann ich mir jetzt nicht leisten. Die Gefahr sah und sehe ich, aber es macht einen Unterschied, ob man sich ihrer abstrakt bewusst ist oder ob man sich regelmäßig mit PhD-Studenten und Postdocs unterhält, die einen ähnlichen Hintergrund haben und sich ähnliche Fragen stellen und sieht, wie sie die in den Institutionen der Wissenschaft verwirklichen und nicht verwirklichen. “Ist das deine Zukunft?” frage ich mich regelmäßig und in verschiedenen Situationen habe ich diese Frage unterschiedlich beantwortet. Konkret stellt sich die Frage jetzt, wenn ich mir überlege, ob ich nach dem Bachelor einen PhD machen will, und bis jetzt ist meine Antwort “ja, aber”.

Auch außerhalb meines Labs habe ich interessante Menschen getroffen, und vielleicht war die Hauptmoral, die sich mir dabei eingeprägt hat, dass wir alle nur Menschen sind, ohne Ausnahmen. Vom Abendessen mit dem Physik-Nobelpreisträger Wolfgang Ketterle sind mir die karriereorientierten Fragen in Erinnerung geblieben, die die anderen Anwesenden gestellt haben, außerdem Ketterles Erzählung davon, wie er zeitweise seine Arbeit für seine Familie und zeitweise seine Familie für seine Arbeit vernachlässigt hat. Und die Erkenntnis, dass auch Handeln, das zu allgemeiner Anerkennung führt, oft aus Zielen folgt, die nur von innen einsichtig sind und unter Reflektion vielleicht nicht in sich konsistent wären. Vom Abendessen mit Garrett Lisi (unabhängig arbeitender Physiker und Extremsportler) blieb mir ein Wortwechsel besonders in Erinnerung. Ich habe ihn gefragt, ob er jetzt (da er gerade viel mit anderen Wissenschaftlern zu tun hat) glücklicher ist oder eher früher (als er hauptsächlich für sich allein gearbeitet hat), und er meinte daraufhin, dass er bis jetzt sagen würde, dass es früher schöner war. Dass es schwierig sei, die Vorstellungen verschiedener Menschen zu koordinieren. Worauf ich gefragt habe, ob es ihm denn lieber wäre, wenn jeder genau das täte, was er ihnen zu tun gäbe, und er wurde fast ein bisschen wütend, jedenfalls lauter als im Gespräch davor: “NO! No! Everyone should do what they want to do!” Seitdem denke ich ab und an daran, wie er das gesagt hat, und wie sehr ich das auch so sehe.

Es gibt zahlreiche andere Dinge, die ich letztes Semester gelernt habe — dass ich aus wissenschaftsphilosophischer Sicht struktureller Realist bin, dass ich klassische Musik hören kann, dass ich Hermann Hesse mag — und einige andere Dinge, die ich getan habe — der Lab-Ausflug nach New Hampshire, das Treffen mit Lena in New York, Neujahrsklettern in Dresden — aber was ich oben beschrieben habe ist das, was mir aus akademischer Sicht und aus dem aktuellen Moment heraus am bedeutendsten scheint.

After reading Kuhn, visiting the ICP and talking to friends, one thing became clear to me: From an individual point of view, science is often slow, frustrating and not at all like childhood thoughts and popmedia depictions. This is a problem for two kinds of people: Those who started out as idealists but ended up cynical, seeing science as just a job, and those who are about to choose their path and who have second thoughts. I am in the latter camp and I feel like I have ample company. What’s one to do in this situation?

You know the situation. Someone is presenting his research, PowerPoint slides up, room slightly darkened, and what you understand best is what he communicates nonverbally: “I don’t care either. I know that the question my research answers is not the kind of question that keeps me from falling asleep at night, but hey, it’s not as if that’s what I’m living for.” — at the same time, he goes on talking about the effects of auditory priming on the calcium ion concentration in parvocellular neurons of the chimpanzee lateral geniculate nucleus. If you were thinking in words, your thoughts would be along these lines:

“I want to learn about the world, but this does not feel right. It’s not the fact that what’s presented is a minuscule piece of detail — I care about details. But the reason I care about details is because they are necessary to piece together the larger picture. I want to find answers to the big questions. To study, to travel, to get to know people and to exchange ideas sounds perfect, but then I see those who call themselves ‘scientists’ and, most of the time, I don’t want to live their lives.”

“I don’t want to spend two years working on a project where the result is a 2% improvement of efficiency in some manufacturing procedure and a journal article. At the same time, I don’t want to deceive myself by pretending to tackle the big questions while all I’m engaged in is philosophical word games. I don’t want to solve puzzles for the sake of puzzle-solving. Enjoyment from puzzle-solving has never been my primary motivation for doing science. It may be part of my motivation, but a necessary condition for me to enjoy what I do is to feel that it is significant. I want to believe in choosing science, but reality always gets in the way.”

So, do you choose an academic career, hoping that things will be different for you, or that, by then, you have changed enough not to notice anymore?

“Academia” is a name for a set of standard solutions to standard problems. You don’t have to accept all of them, or any of them, to do science. It’s just the most convenient way. It appears to me that, if you don’t want to, you do not need to make any choices in life — there is always a most convenient way. Once you start out (and you did not have a say in that decision), there is a default answer to almost every question life poses, conditioned on how well you perform at certain tests and on what you state as your interests.

If ‘knowledge’ is high on your list of interests, here’s what to do: Finish high school, get a bachelor’s degree and don’t forget to take some jobs at your university (you want experience in teaching!), write your bachelor’s thesis about a topic that’s somewhat familiar to you (even if it’s not the thing you really want to do — after all, it’s only three months of your life) and get a bachelor’s degree. Next step, join a master’s program, internship included, during which you publish a few papers (research experience is crucial!). Your master’s thesis ends up using knowledge you already have from working on your bachelor’s thesis (because there is not enough time to start from scratch) and luckily you manage to suppress any thoughts about how your research is taking more and more directions that are not truly yours, for the sole reason that that’s what you’re an expert in. By the time you are working on your PhD thesis, you’re thinking that you are probably the only person that understands why one would spend years working on the problem you are trying to solve, and sometimes you are close to admitting that you do not understand it yourself, but rationalization goes a long way. By then, a significant portion of the possibility that once lay before you and that you didn’t appreciate at that time is already gone.

You can deviate from the most convenient way, of course, but only a small minority does. The sad thing about the whole situation is that there are people who want to do science but for whom the most convenient way is soul-crushing, while alternative choices are not an option (think money, acceptance, etc.). Therefore, they either don’t end up in science (despite their interest and motivation) or they do choose academia and suffer from the restrictions it imposes, fighting against the windmills of institutionalization that, like Dementors, suck out any sense of purpose until it’s just a job, fight over, next generation please.

(This is a gloomy way of seeing things, but to me it’s a real problem in search of a solution — not necessarily or primarily for personal reasons, but because, for some people, academia does not live up to its promise, the primacy of the pursuit of knowledge. I believe that it could and should, since they tend to be the kinds of people that would make good scientists.)

“To believe in progress does not mean believing that progress has already taken place. This would not be belief.” — Franz Kafka, Reflections on Sin, Suffering & Hope

The groovi and gyri of your cerebral cortex identify you like your fingerprint.

“If — as some physical theories speculate — there is only one possible initial state of the universe and only one self-consistent set of physical laws, then the initial state required no bits of information to describe.” — Seth Lloyd

Goldbach’s conjecture: Every even number greater or equal to 4 is the sum of two prime numbers.

Doogie mice are mice that have been genetically altered to be smarter. Enrichment of the environment improves the cognitive performance of control animals but not of Doogie mice.

A state of a multiplayer game is Pareto optimal if there is no solution which is better for ALL participants. A state is a Nash equilibrium if NO player can improve his situation by changing only his own strategy.

Subliminal (16ms) unconscious stimuli have a measurable influence on your consumption behavior IF you are thirsty. And you will not be aware of the fact that such stimuli were shown to you.

Thermodynamic depth, a complexity measure for physical systems, relates the entropy of a system to the number of possible historical paths that led to their state.

If the same odor is present during slow-wave sleep that is present during learning new things, this improves performance. Induced slow oscillations by electric stimulation also improve declarative learning.

Distinguish horizontal from vertical explanations. Horizontal explanations correlate events on the same level of detail, they tell us why a certain event happened. Vertical explanations are explanations in terms of the level(s) below. They tell us why a certain generalization holds. If you get a horizontal explanation and still feel the need to ask “why?”, look for vertical explanations.

“We say we measure time with clocks, but we see only the hands of the clocks, not time itself. And the hands of a clock are a physical variable like any other. So in a sense we cheat because what we really observe are physical variables as a function of other physical variables, but we represent that as if everything is evolving in time.” — discovermagazine.com

Epistemic actions are actions that are intended not to change the world but to minimize the computational load on your brain. For example, walking around a chessboard, reshuffling your cards. Actions that could have taken place in your mind, were your mind not extended into the world.

The majority of the connections from the prefrontal cortex to other brain areas is inhibitory. Is what we perceive as conscious control not so much involved in the creation and execution of plans but mostly in their inhibition?

Is the distinction between autopilot and deep thought not a distinction between planning vs. not planning, but a distinction between attention vs. no attention?

Duality: Map your problem to another space, find a solution there and map it back to get the solution you need. Think Category theory.

Patients with brain damage that prevents REM sleep do not appear to have a memory deficit.

Children below the age of four do not have a concept of what other people know. They believe that their knowledge is equal to other people’s knowledge. As soon as they learn something, they suppose that others know it, too.

Apes seem to understand basic intentions, but not cooperative intentions.

A brain area could respond to a stimulus by not responding while most other areas are active.

Use machine learning to create thousands hypotheses for lots of small patches of a brain in parallel, test the predictive value of each of them and discard all but those that work.

Four challenges to mind reading based on machine learning: The temporal and spatial resolution of current scanners; the potentially “unlimited” number of thoughts vs training on specific patterns; some types of brain activity have stereotypical patterns across people (e.g. lying), others seem not to; individuals change over time.

1 is not a prime number because factorization needs to be unique.

Perfect numbers are numbers that are equal to the sum of their proper divisors. 6 = 3 + 2 +1. Are there any odd perfect numbers?

Goal-directedness means equifinality: Different initial states lead to the same final state. Goal-directedness implies a reduction in entropy.

We know no good reasons why neurons have dendritic trees beyond increasing the surface area for synapses from other neurons.

Four different types of answers to the question why a certain animal behaves in a certain way: Proximate cause; current survival value; ontogeny (development of the individual); phylogeny (development of the species).

Humans were linguistic 100.000 years ago.

All of your mitochondrial DNA is from your mother.

Acheulean hand axes have been produced practically unchanged for over a million years. Many have been found in a state of not having been used at all. Social artefacts?

We are the only species vulnerable to ideas. Think religion. Freedom. Democracy. Justice.

Language digitizes.

In an experiment, children and chimpanzees try to get food out of a box after being shown a technique with an unnecessary additional step. Chimpanzees leave out the unnecessary step. Children copy the whole procedure.

Be precise.

If you have always wondered why everyone says that your pancakes taste interesting, why women tend to be better at cooking (hint: they think in relations) and what your friends really mean when they rave about heuristic search planning for first-order Markov decision processes, wonder no more. Few answers but lots of pretty pictures, fresh from today’s relational reinforcement learning seminar:

“Half of the meaningful things philosophy has said about artificial intelligence have already been said by Turing 50 years ago.” I do not remember who said this, and it is probably an overstatement, but it is not far from the truth. Even the AI textbook by Russell and Norvig claims that Turing’s paper Computing Machinery and Intelligence contains “virtually all objections [against the possibility of thinking machines] that have been raised in the half century since his paper appeared.”

Here are the slides for the presentation I held in Tuesday’s philosophy class, in the hope that they may be of some use, even if part of it is incomprehensible for anyone who did not read the paper or listen to the talk:

Einige Ideen, wie man den Osnabrücker Studiengang Cognitive Science für jetzige und zukünftige Studenten noch attraktiver machen könnte.

Übersicht

1. CogSci muss bekannter werden!
2. Methodische Grundlagen
3. Ethik der Kognitionswissenschaft
4. Uni statt Schule
5. Forschung, mehr und früher
6. Interdisziplinarität statt Multidisziplinarität
7. Ideen für zusätzliche Kurse
8. Mentorenprogramm
9. Unterstützung für Aktivitäten außerhalb von Osnabrück

CogSci muss bekannter werden!

Das, was einen Studiengang ausmacht, sind die Studenten. Elite-Universitäten unterscheiden sich vom Rest in der Qualität der Lehre und in der Ausstattung der Vorlesungssäle, aber wenn dieser Unterschied zählt, dann nur indirekt. In den Worten eines Professors für kognitive Mathematik: “Auf meine Frage, wo denn der größte Unterschied liege, sagte sie, es wären die Leute. Dass du immer jemanden findest, der mitzieht.”

Osnabrück ist keine Elite-Universität. Allerdings hat der Cognitive-Science-Bachelor bislang eine Monopolstellung in Deutschland inne. Damit ist er, neben den Systemwissenschaftlern und European Studies, einer der drei Osnabrücker Studiengänge, den Leute studieren, die sich wirklich kümmern. Wer 700 Kilometer umzieht, um sich für einen zeitfressenden Studiengang ohne NC, elitären Ruf und mit unklarer beruflicher Zukunft einzuschreiben, ist entweder verrückt, wirklich am Thema interessiert oder beides.

1. Cognitive Science könnte viel mehr Bewerber haben.

Die Mehrheit der Studenten kommt immer noch aus der Umgebung von Osnabrück. Keiner meiner ehemaligen Mitschüler wusste, dass es einen Studiengang namens Cognitive Science in Deutschland gibt. Die, die von weiter her kommen, haben den Studiengang “zufällig” über den Wikipedia-Artikel zur Kognitionswissenschaft gefunden oder sind “zufällig” über einen Zeitungsartikel gestolpert, in dem ein Prof aus Osnabrück zitiert wurde. Studiengänge, die man nicht kennt, bezieht man selten in seine Zukunftsplanung mit ein. Natalie, die kommendes Semester aus Bayern nach Osnabrück zieht, schreibt:

Ich glaube, es würden mehr Leute Cognitive Science studieren, wenn sie wüssten, dass dieser Studiengang überhaupt existiert. (Mehr Hochglanzbroschüren drucken ;) Ich bin mehr per Zufall drauf gestoßen, wenn man in der Nähe der Uni wohnt, ist die Wahrscheinlichkeit wohl größer auf den Studiengang zu stoßen.

2. Mehr Bewerber heißt bessere Studenten.

Jedes Jahr beginnen etwas unter hundert Leuten das Studium. Viel größer kann der Studiengang nicht werden, ohne dass die Qualität des Studiums leidet. Daraus folgt, dass nicht jeder, der sich bewirbt, aufgenommen werden kann; es muss entweder nach NC oder — besser — individuell je nach Motivationsschreiben, Noten in studiumsrelevanten Fächern und Auswahlgespräch gefiltert werden. “Bessere Studenten” heißt nicht nur, und auch nicht in erster Linie, “Studenten mit guten Noten”, sondern “Studenten, die sich wirklich kümmern”. Wenn du für das Fachschaftstreffen zum Thema “Tutorien für die nächsten Erstsemester” einen Vorlesungssaal brauchst, weil jeder daran teilnehmen will, hast du die richtigen Leute erwischt. (Ja, ist so passiert.)

3. Bessere Studenten sind gut für uns.

Der Ruf des Studiengangs hängt vom Erfolg seiner Studenten ab. Mit fähigen und motivierten Leuten zusammenzuarbeiten macht mehr Spaß. Leute zu haben, die man fragen kann, wenn man etwas nicht versteht und die dann entweder Antworten wissen oder zusammen mit dir Antworten suchen, ist viel wert. Vorlesungen und Übungen, in denen die Mehrheit der Leute nur anwesend ist, weil sie den Schein braucht, sind frustrierend.

Was tun? Vielleicht genügt es wirklich, (mehr) Hochglanzbroschüren und Poster zu drucken und an Schulen zu verteilen. RoboCup-Weltmeisterschaften zu gewinnen und Schlagzeilen bei Wired zu machen schadet auch nicht.

Methodische Grundlagen

Die ersten Jahre des Studiums sollten die sein, die uns Studenten mit einem Grundrepertoire an Methoden und mit einer gewissen geistigen Disziplin in der Anwendung der Methoden ausstatten. Bei Cognitive Science ist der Versuch in verschiedenen Fächern verschieden erfolgreich.

Auf dem Gebiet der Informatik sieht es sehr gut aus, wenn man die entsprechenden Vorlesungen (Informatik A bis D) besucht. Für die Psychologie sind Grundkenntnisse der deskriptiven Statistik, der Inferenzstatistik und der Versuchsplanung wichtig. Beides ist Teil des ersten Semesters; was man daraus macht, bleibt jedem selbst überlassen. Im Bereich der Linguistik werden die Grundlagen in Introduction to Linguistics vermittelt, bei der Philosophie soll das mit einer umstrukturierten Einführung kommendes Sommersemester der Fall sein.

Manchen Mathematik-Studenten fällt es schwer, die Denkweise zu verinnerlichen, die für das Lösen abstrakter mathematischer Probleme nötig ist, selbst wenn sie während des Semesters nicht viel anderes zu tun haben. Wenn Mathe nur eines von sieben Fächern ist und keine Zeit bleibt, um erst nach stundenlangem Nachdenken auf das Ergebnis einer Aufgabe zu kommen, können die Veränderungen im Kopf, die es braucht, nicht stattfinden. Das ist deswegen problematisch, weil die Herangehensweise der Mathematik eine ist, die sich leicht auf andere Bereiche übertragen lässt — und die in den seltensten Fällen anhand von anderen Bereichen gelernt wird. Der Mathe-Vorkurs, die darauf aufbauende Vorlesung Formalisierung von Wissen und die Vorlesung Introduction to Logic gehen in die richtige Richtung. Die Tatsache, dass in Mathe II noch genau zwei Coxis saßen, spricht dafür, dass das nicht ausreicht.

Würde ich nach meinem CogSci-Bachelor meine Zukunft in den Neurowissenschaften sehen, so würde ich mir Sorgen um meine Grundkenntnisse der Biologie und Chemie machen. Bei der Erstellung des Studienplans wurde offensichtlich angenommen, dass die in der Schule vermittelten Grundkenntnisse in diesen Bereichen hinreichend sind und dass die Neurobiologie-Vorlesungen darauf aufbauen können. Tatsächlich genügen die Kenntnisse für Introduction to Neurobiology und Sensory Physiology. Um mit denjenigen auf ihrem Fachgebiet konkurrieren zu können, die beispielsweise den Studiengang Neurowissenschaften in Köln abgeschlossen haben, rät es sich an, Vorlesungen wie Biochemie I und Biochemie II zu besuchen, auch wenn die laut Stud.IP nicht explizit für Coxis vorgesehen sind.

Was tun? Grundlagenvorlesungen wie Biochemie I und II verpflichtend zu machen lässt sich zeitlich kaum umsetzen. Es sollte jedoch klar sein, dass es solche Vorlesungen gibt und dass diese für Coxis geeignet sind. Es könnte sinnvoll sein, solche Vorlesungen für das Fach für verpflichtend zu erklären, in dem man seine Bachelor-Arbeit schreibt.

Und sonst? Die Mathematik-Vorlesung ist im aktuellen Format für die wenigsten Coxis sinnvoll, allerdings ist es schwierig, eine Alternative zu finden, die sich im vollen Stundenplan der ersten zwei Semester unterbringen lässt. Eine Möglichkeit wäre, Mathe I auf das zweite oder dritte Semester zu verschieben und Formalisierung von Wissen im ersten Semester zum Pflichtfach zu machen.

Ethik der Kognitionswissenschaft

“Erinnerst du dich an den Vortrag des Inders, in Foundations of Cognitive Science?”, fragt Susanne, “Der mit den Robotern, den alle so toll fanden? Die Roboter, die in Japan dafür eingesetzt werden, für alleinstehende alte Menschen zu sorgen? Das ist furchtbar!” Der Vortrag blieb im Gedächtnis. Die ethische Bedeutung von oberflächlich menschenähnlichen Robotern ist keineswegs klar, geschweige denn die von Maschinen mit “wirklicher” Intelligenz.

Es gibt wenige Wege, die man nach dem CogSci-Studium einschlagen kann und auf denen man nicht mit ethischen Fragestellungen konfrontiert wird. (Und nicht nur deswegen, weil man generell kaum Lebenswege einschlagen kann, auf denen man nicht mit solchen Fragen konfrontiert wird.) “Sollen wir in die ersten zwei Semester noch einen Pflichtkurs mehr packen?” ist keine befriedigende Begründung dafür, ein Diskussionsseminar zur Ethik von Neurobiologie und künstlicher Intelligenz nicht Teil des Curriculums sein zu lassen.

Was tun? Ein solches Seminar als Wahlkurs einrichten.

Uni statt Schule

Zumindest in den ersten zwei Semestern hat das Studium zwei Eigenschaften, die mich schon am Schulsystem gestört haben und von denen ich gehofft hatte, dass ich ihnen an der Uni nicht nochmals begegnen würde.

1. Die Heuristik, autoritär präsentierte Ideen ohne Nachdenken als wahr zu akzeptieren, funktioniert so gut wie während der Schulzeit. Im Wissenschaftsalltag wird die nicht mehr funktionieren.
2. Wissen wird Detail-für-Detail und weitgehend von tatsächlichen Anwendungen abstrahiert eingetrichtert. Selbständigkeit und Kreativität sind optional.

Wenn ich diejenigen, die in einem Fach wirklich gut sind, mit denen vergleiche, die auf passable Klausurergebnisse hin lernen, fällt eigentlich nur eine Sache auf: Erstere merken, wenn sie etwas nicht verstehen. Was sie verstehen, können sie in einfachen Worten erklären. Über Textstellen hinwegzulesen und sie später, wenn in der Klausur gefragt, ohne Verständnis wörtlich wiedergeben zu können, ist eine Fähigkeit, die kurzfristig nützlich und langfristig sehr schädlich ist.

Echtes Verständnis braucht mehr Zeit, vielleicht mehr, als im aktuellen Studienplan vorgesehen ist. Ich kann mir vorstellen, dass mit gleichem Zeitaufwand — abhängig vom eigenen Engagement — mehr erreicht werden könnte, wenn die Zahl der Vorlesungen und Übungen auf dem Stundenplan stark reduziert würde und so mehr Zeit für eigenständige Arbeit zu Hause bliebe. Deren Ergebnis würde dann einmal pro Woche besprochen, offene Fragen würden geklärt und das nächste Treffen fände erst eine Woche später statt. Übungen, in denen die Lösungen von Aufgaben im Vorlesungsstil an die Tafel geschrieben werden (wie das in Mathe der Fall ist) waren für mich nur begrenzt nützlich.

Es gibt verschiedenen Methoden zu lernen. “Auf ein Blatt Papier starren und versuchen, die Konzepte in seinen Kopf zu bekommen” ist nur eine davon. Was in der Regel leichter fällt, mehr Spaß macht und sich sinnvoller anfühlt, ist das Lernen “by doing”, das unvermeidbar ist, wenn man an einem umfangreicheren Projekt arbeitet. Der Versuch, ein möglichst realistisches Modell eines neuronalen Netzes in Java zu programmieren, lediglich mit dem Wissen der Neurobio-Vorlesung, Mathe I und Informatik A wäre ein Beispiel. Man könnte einwenden, dass die Methode nicht auf alle Fächer anwendbar ist, aber auf den Großteil der CogSci-Fächer trifft das nicht zu.

Was tun? Frontalunterricht reduzieren, so dass mehr Zeit für wirkliche Arbeit bleibt. Umfangreichere, fächerübergreifende Projekte statt wöchentlicher Hausaufgaben.

Forschung, mehr und früher

Fast jeder, der Cognitive Science nicht nur als interessanteres Informatik-Studium missbraucht, will später in die Wissenschaft. Wenig ist dafür so wichtig wie ein echtes Verständnis der Methoden, die den einzelnen Teilbereichen der Kognitionswissenschaft zugrunde liegen. Begeisterung und Neugierde sind zwei Dinge, die wichtiger sind.

Würde ich es mir zum Ziel setzen, beides so gut es geht zu zerstören, würde ich dafür sorgen, dass Studenten in den ersten Semestern möglichst 100% der Zeit damit beschäftigt sind, vorgegebene Fakten zu akzeptieren, auf keinen Fall mit aktueller Wissenschaft in Kontakt kommen oder gar selbst an einfachen Problemen arbeiten.

Zum Glück sieht es in Osnabrück nicht so aus. Ich habe mich jedes Mal heimlich gefreut, wenn in Neurobio ein Satz mit “… but current science doesn’t really know what this region is good for” endete und, wie Basti schreibt, gibt es durchaus spannende Projekte hier an der Uni:

Es gibt viele Projekt-Gruppen, an denen man sich beteiligen kann. Keine Bange – sobald du etwas spezialisiertere Fächer belegst, bekommst du davon Wind (im ersten Semester bekommst du wirklich nur das absolut nötigste Grundwissen regelrecht eingeprügelt). Ab Semester 3 wird es also richtig spannend! Projekte wie FeelSpace oder der RoboCup sind die Flaggschiffe des Instituts. Aber auch die CogPsys machen interessante fMRI Studien!

Ich frage mich, ob man aus “Ab Semester 3″ nicht “Ab Semester 1″ machen könnte und ob man nicht direkt zu (oder vor) Beginn des Studiums deutlich machen sollte, welche Möglichkeiten man als Student hat. Es ist kein Zufall, dass Universitäten wie Berkeley, das MIT und Yale spezielle Programme für Undergraduate Research anbieten. Vielleicht gibt es noch nicht genügend Studenten in Osnabrück, die daran Interesse haben, aber selbst dann sieht die beste Lösung so aus, dass man eine Umgebung schafft, die für solche Studenten attraktiv ist und mehr davon nach Osnabrück führt.

Was tun? Integration der Studenten in Forschungsprojekte, vom ersten Semester an. Klären, zu wem man mit eigenen Projektideen am besten geht und welche Unterstützung man erwarten kann. Häufigere Verweise auf die Themen und Grenzen der aktuellen Forschung in den Vorlesungen. Zusätzlich zu den einsteigerfreundlichen Materialien anhand der ursprünglichen wissenschaftlichen Veröffentlichungen arbeiten.

Interdisziplinarität statt Multidisziplinarität

Cognitive Science ist interdisziplinär, nicht multidisziplinär. Die Zusammenstellung der Teilbereiche ist nicht beliebig. Fast jedes Thema lässt sich aus mehreren Perspektiven betrachten, zu fast jeder Methode gibt es Analogien in anderen Fächern. Nur sagt niemand, wo die Zusammenhänge liegen, insbesondere nicht die Professoren der jeweiligen Fächer.

Neurobiologen könnten erwähnen, wie weit die Neuroinformatik bei der Modellierung der primäre visuelle Kortex ist, Statistiker auf die Auswirkungen eines Theorems auf den Bereich des maschinellen Lernens hinweisen und kognitive Psychologen könnten sich zusammen mit AI-Professoren darüber Gedanken machen, welche Parallelen und Unterschiede zwischen Menschen und Maschinen beim Lösen NP-schwerer Probleme bestehen. So bleibt es der Verantwortung der Studenten überlassen, die entsprechenden Verknüpfungen im Kopf zu erzeugen.

Dabei sind es gerade die Verbindungen zwischen den Fächern, die am spannendsten sind. Beispiel aus der Physik: Scott Aaronsons Quantum Computing Since Democritus — “This course tries to connect quantum computing to the wider intellectual world”.

Was tun? Fächerübergreifende Projekte; Professoren darauf hinweisen, dass die Verbindungen, die sie zwischen ihrem und anderen Gebieten der Kognitionswissenschaft sehen, für Studenten nicht offensichtlich sind.

Ideen für zusätzliche Kurse

Das Verzeichnis der Lehrveranstaltungen enthält viele interessante Seminare aus den Bereichen Linguistik und Philosophie (zumindest dann, wenn man Linguistik und Philosophie interessant findet) und nur relativ wenige aus den übrigen Bereichen. Spontan fallen mir drei Themen ein, über die ich gerne mehr lernen würde und zu denen es bis jetzt keine Lehrveranstaltungen gibt:

• Algorithmische Informationstheorie: Eine Theorie aus der theoretischen Informatik, die zur Beschreibung des Informationsgehalts einer Zeichenkette die Länge des kleinsten Algorithmus betrachtet, der die Zeichenkette erzeugt.
• Computational Learning Theory: Ein recht mathematischer Zweig der theoretischen Informatik, der die Möglichkeit und Effizienz von Algorithmen analysiert, die aus Daten über die Vergangenheit Vorhersagen über die Zukunft treffen.
• Evolutionäre Psychologie: Ein Teilbereich der Psychologie, der menschliches Verhalten als Ergebnis der natürlichen Selektion betrachtet, wobei die Umweltbedingungen solche Verhaltensmechanismen gefördert haben, die die Überlebens- und Fortpflanzungschancen des Organismus begünstigten.

Was tun? Die Auswahl an fortgeschrittenen Kursen je nach Interessen der Studierenden ausgeglichener gestalten.

Mentorenprogramm

Die offizielle Website zum Studiengang verspricht:

Alle Studierenden sind einem oder einer Lehrenden der Universität zugeordnet, der oder die verantwortungsvoll während des gesamten Studienverlaufs als Mentor oder Mentorin zur Verfügung steht und Hilfe in allen Fragen zum Studium anbietet.

Es ist wahr, dass man sich im Online-Verwaltungssystem Stud.IP für ein Mentorenprogramm eintragen und sich über die Gruppenfunktion einem Mentor zuordnen kann. Vermutlich beantwortet der entsprechende Professor dann auch gerne Fragen zum Studium (wie es jeder andere Professor auch tun würde). Was man sich unter dem Mentorenprogramm nicht vorstellen sollte, ist, dass man persönlichen Kontakt zu einem Professor hat, der Interesse daran zeigt, wie gut oder schlecht man mit dem Studium vorankommt und auch mal unaufgefordert auf Möglichkeiten hinweist, die man selbst vielleicht übersehen hätte.

Was tun? Ernsthaftes Mentorenprogramm einrichten.

Unterstützung für Aktivitäten außerhalb von Osnabrück

Im Prinzip Manuels Vorschlag:

Mehr Promotion von anstehenden Symposien, Konferenzen, Workshops etc. in der Welt und Grants für Studierende, die da hin wollen.

Ich kann mir vorstellen, dass es selbst mit Studiengebühren schwer wird, als Student finanzielle Unterstützung von der Uni für Konferenzen und Vorträge zu erhalten. Bis jetzt gibt es keinen Fonds für solche Zwecke und selbst der Reiseetat der Professoren, die bei solchen Konferenzen Vorträge halten, ist nicht unbeschränkt. Eine größere Konferenz und die Studiengebühren für ein Semester sind weg. Auf jeden Fall wäre es praktisch, früh genug und umfassend genug über Workshops, Konferenzen etc. informiert zu werden, so dass man noch bei Stiftungen Förderungen beantragen kann.

Was tun? Zentralen Kalender für Coxi-relevante Ereignisse einrichten, gut informierte Verantwortliche für das Eintragen der Daten finden, bei neuen Daten Benachrichtigungen an die Mailingliste. Informationen sammeln, von wem man Unterstützung für welche Aktivitäten bekommt und was dazu nötig ist.

Ich bin Determinist und jede Sekunde entscheide ich mich zwischen unzähligen Handlungen. Mit der Einsicht, dass Lazy Reason nicht alltagstauglich ist, bleibt nur nicht fassbare Freiheit.

The infinite possibilities each day holds should stagger the mind. The sheer number of experiences I could have is uncountable, breathtaking. And I’m sitting here refreshing my inbox. We live trapped in loops. reliving a few days over and over, and we envision only a handful of paths laid out ahead of us. We see the same things each day, we respond the same way, we think the same thoughts, each day a slight variation on the last, every moment smoothly following the gentle curves of societal norms. We act like if we just get through today, tomororrow our dreams will come back to us. — xkcd

In einer Welt, die ohne vorgegebenen Sinn einfach existiert, erfinden wir uns und das, was wir als sinnvoll ansehen, auf dem Weg in die Zukunft. Jegliche Gründe, Ziele und Zwecke jenseits der biologischen erschaffen wir selbst. Aus “Wie soll ich handeln?” wird “Wer will ich sein?” und “In welcher Welt will ich leben?”.

Mit jeder Handlung machen wir aus dem aktuellen Zustand unserer Welt einen anderen. Der Raum aller möglichen Zustände ist die Menge der Zustände, die keine physikalischen Gesetze verletzen. Denkbar ist eine astronomische Zahl, wünschenswert sind die wenigsten davon. Die Menge der Zustände, die bewusstes Leben enthalten, macht nur eine winzige Ecke im Raum aller möglichen Zustände aus. Unsere Welt ist ein Punkt irgendwo in dieser Ecke.

Manche Zustände unterscheiden sich stärker voneinander als andere. Der Zustand der Welt, in der die Tasse Tee neben mir zwei Zentimeter weiter links steht, liegt näher am aktuellen als der, in dem sich die Tasse in einen feuerspeienden Drachen verwandelt hat. Ein mögliches Maß für den Abstand von zwei Zuständen wäre eine Art Informationsdistanz: Die Länge oder Laufzeit des kürzesten Algorithmus, der aus einer vollständigen Beschreibung von Zustand A die entsprechende Beschreibung von Zustand B berechnet.

Indem ich mich für eine Handlung entscheide, wähle ich einen unserer Nachbarn im im Raum aller möglichen Zustände. Wie sieht die Teilmenge der Zustände aus, die vom jetzigen Zustand der Welt aus durch mein Handeln oder Nicht-Handeln erreicht werden können? Das bestimmt, welchen Einfluss ich mit meinen Entscheidungen als einzelner auf die Welt habe.

Die Frage, was festlegt, welche Zustände ich erreichen kann und welche nicht, führt unmittelbar zu der Frage danach, was unsere Position im Raum aller möglichen Zustände bis jetzt am stärksten verändert hat. Die Antwort definiert, was Optimierungsprozesse sind: Systeme, die den Zustand unserer Welt auf einen kleinen Zielraum mit bestimmten Eigenschaften hin bewegen.

• Evolution ist ein Optimierungsprozess, der Replikatoren — Bakterien, Tiere, Menschen und die Gene dahinter — durch Mutation, Rekombination und Selektion auf effektivere Vermehrung hin optimiert.
• Ein Schachcomputer ist ein Optimierungsprozess, der aus der Vielzahl möglicher Kombinationen von Schachzügen die auswählt, die die Position der Figuren auf einem Schachbrett so verändern, dass sich die Welt in einen Zielraum mit der Eigenschaft “Der Schachcomputer gewinnt.” bewegt.
• Menschliche Intelligenz ist ein mächtiger Optimierungsprozess, der für verschiedenste Ziele eingesetzt werden kann. Rationalität erreicht klar definierte Ziele, nonlineares Handeln die unbewussten.

Cognitive Science ist die Lehre von den Optimierungsprozessen. In Psychologie und Neurobiologie wird der effektivste bekannte Optimierungsprozess, das menschliche Gehirn, analysiert, in Mathe, Informatik, Statistik und Logik werden die methodische Grundlagen für den Bau von künstlichen Optimierungsprozessen unterrichtet.

Optimierung ist ein Vorhersageproblem. Jeder Maschine steht eine festgelegte Menge an Aktionen zur Verfügung. Um ein Ziel zu erreichen, muss die Maschine vorhersagen, welche Kombination aus Aktionen die Welt dem Zielzustand am nächsten bringt. Dass wir Menschen die Auswirkungen unserer Handlungen vorhersagen können, zeigt, dass Quanten- und Chaoseffekte bei Vorhersagen umgangen werden können, wenn man Abstriche bei der Genauigkeit der Prognosen macht.

Intelligenz ist die Fähigkeit, akkurate Vorhersagen zu treffen um Aktionsfolgen zu finden, die unsere Zukunft auf kleine, weit entfernte Regionen im Raum des Möglichen hinsteuern. Die Frage, ob künstliche Intelligenz möglich ist, lautet eigentlich: “Wie weit werden wir uns übertreffen? Wo liegen die Grenzen der Berechenbarkeit?”

Weil die Grenzen, denen wir unterliegen, universell sind, sehen wir sie nicht. Algorithmen, die Information optimal extrahieren, unterliegen keinen kognitiven Fehlern. Die unvoreingenommene Instrumentalisierung aller verfügbaren Mittel stellt einen enormen Machtzuwachs dar; als Menschen schaffen wir es oft nicht, funktionaler Fixiertheit zu entrinnen, sobald wir einmal gelernt haben, wozu etwas gut ist.

Im nächsten und letzten Schritt, der genauso unvermeidbar und unintuitiv ist wie die davor, schreiben wir Optimierungsprozesse, die den Teil ihrer selbst restrukturieren, der für das Optimieren zuständig ist. Algorithmen, die vorhersagen, welche Veränderungen es braucht, um bessere Vorhersagen zu treffen. Prozesse, die Welt auf Zielregionen hin bewegen, von denen wir nicht gedacht hätten, dass sie in unserer unmittelbaren Nachbarschaft liegen.

If you tend to be uncontrollable and violent, if you make unnatural sounds and movements, if you are often sick or vomit unusual objects and if your friends tell you that you live a wicked life, it is probably because you are possessed by a demon. Showing your supernatural strength and your friendship with the devil might give it away, too. “You are possessed by Choronzon, the temporary personification of the raving forces of the Abyss” clearly is an explanation for unusual behavior.

Nonetheless I do not believe in demons. The concept of demons is lousy at explaining what goes on in ill minds and has been replaced by psychological theories that, albeit less colorful, have much greater explanatory power. Nothing that exists in the real world has been shown to inhabit the causal position that was attributed to demons with regard to mental “misbehavior”.

Eliminative materialists deny that beliefs are any more real than demons. According to Paul Churchland, beliefs and other propositional attitudes don’t refer to anything in the real world. Nothing has the causal and semantic properties we attribute to beliefs, therefore these concepts will eventually be replaced by a theory of mind that explains our actions, thoughts and sensations a lot better than folk psychology and that is based on empiricism rather than introspection. Read on »