You probably heard of the idea that, at some point in time, we might create systems that solve certain tasks and that get better at these tasks by recursively modifying their code. Here is some scary reasoning:

1. A system cannot predict (=understand) a system of greater algorithmic complexity.
2. Therefore, the only way for a system to improve in a way that increases its algorithmic complexity is trial and error, thereby keeping the best results — i.e. evolution.
3. The only goal that is stable under evolution is rapid reproduction.
4. Therefore, the only stable goal for recursively self-improving systems is rapid reproduction.

I really hope that someone will point out the flaw in this line of thought or show me the reason why it does not apply to our world and to any self-modifying systems we might create.

1010101010101010101010101010101010101010_

Nun habe ich dieselben Zahlen, darf aber annehmen, dass einfache Erklärungen wahrscheinlicher sind als komplizierte. Kann ich jetzt eine Vorhersage treffen? (Nein.)

1010101010101010101010101010101010101010_

Ich nehme zusätzlich an, dass die Folge auf irgendeine Weise berechnet werden kann. Kann ich jetzt die wahrscheinlichste nächste Zahl vorhersagen? (Nein, nicht in endlicher Zeit. Das allgemeine Vorhersageproblem ist unlösbar.)

1010101010101010101010101010101010101010_

Kann ich einen Algorithmus schreiben, dessen Ausgabe gegen die wahrscheinlichste nächste Zahl konvergiert, wenn die Laufzeit gegen geht? (Ja. Dovetailer über alle möglichen Programme, angefangen mit dem kürzesten; die Ausgabe des kürzesten Programms, das die Zahlen und eine zusätzliche ausgibt, ist die aktuelle Hypothese.)

Wir Menschen treffen jeden Tag Vorhersagen. Der Vorteil, den wir gegenüber derzeitigen Algorithmen haben, liegt in den zusätzlichen Annahmen, die wir unbewusst machen, in der Art von inductive bias, mit dem uns die Evolution ausgestattet hat. Die Aufgabe von Forschern auf dem Gebiet des maschinellen Lernens ist es, den Suchraum von Algorithmen derart einzuschränken, dass die Laufzeit der Algorithmen polynomiell wird, und dabei möglichst wenige Lösungen für Vorhersageprobleme auszuschließen, die für unsere Welt relevant sind.

Wir wissen wenig über die Zukunft unserer Welt, und das, was uns die Vergangenheit verrät, ist so schwindelerregend, dass wir lieber Konstanz prognostizieren. Ich bin 21 Jahre alt — als ich geboren wurde, gab es kein World Wide Web. Den Großteil meiner Schulzeit über gab es dieses eine Projekt nicht, das es sich zur Aufgabe gemacht hat, jedem Menschen kostenlosen Zugang zum Wissen der Menschheit zu bieten. Als der Vater meiner Freundin geboren wurde, hatte Alan Turing noch nicht beschrieben, was Algorithmen sind. Vor nicht einmal einem Menschenleben gab es keine Computer. Ein halbes Menschenleben weiter und es gab keine Elektrizitätsversorgung. Zwei Menschenleben zuvor keine Dampfmaschinen. Drei Menschenleben weiter und wir sind im Mittelalter.

Eine Generation vor uns brauchte es tagelanges Recherchieren in Bibliotheken, um herauszufinden, ob die Menschheit die Antwort auf eine Frage hat. Heute genügen 10 Sekunden, um die Antwort auf fast jede Frage zu finden, die die Menschheit je beantwortet hat. Ein oder zwei Generationen nach uns genügen 10 Sekunden, um die Antwort auf fast jede Frage zu finden, die je beantwortet werden kann.

Wir verändern alles und merken es nicht. Blind vorwärts ging lange gut.

Im Februar 2004 setzte Philipp Lenssen [1] ein Experiment auf, um genau das auszuprobieren.

Zu diesem Zweck generierte er per Algorithmus 5.000 Seiten mit zufälligen Wortsequenzen als digitalem DNA-Ersatz und stellte sie unter dem Projektnamen “Memecodes” ins Netz [2]. Diese Seiten, die neben einer zufälligen Auswahl von Wörterbuch-Einträgen auch Satzzeichen, Bindewörter, einige bekannte Markennamen sowie die Namen berühmter Persönlichkeiten enthalten, wurden bald darauf von Suchmaschinen besucht und in deren Index aufgenommen.

Wenn nun ein Besucher über Google eine der Seiten aufruft, zählt diese als im Sinne der Evolution erfolgreich und darf Nachkommen erzeugen: Per Datenbank wird eine neue, zufällig veränderte Version dieser Seite erstellt und auf der Memecodes-Startseite verlinkt. Diese Seite wartet nun darauf, erst von Suchmaschinen indiziert zu werden, dann von einem Besucher angeklickt zu werden und wiederum eine Nachfolgeseite zu erschaffen — so schließt sich der Kreis.

Wird eine Seite lange Zeit von keinem Besucher aufgerufen, so “stirbt sie”, d.h. sie wird gelöscht. Die Suchanfragen der Suchmaschinen-Benutzer entsprechen demnach der Nahrung in natürlichen Ökosystemen.

Nach einer Weile ist zu erwarten, dass sich mehr und mehr Seiten auf bestimmte ökologische Nischen konzentrieren, indem sie Wortkombinationen enthalten, die im Internet noch kaum abgedeckt sind. Nur bei solchen Wortkombinationen erscheinen die Memecodes-Seiten unter den ersten Suchergebnissen, und nur solche Seiten “überleben”.

Je länger das Experiment läuft, umso interessanter das Ergebnis. Bleibt es lange genug bestehen, so könnten sich aus dem Haufen zusammengewürfelter Zufallssätze mit der Zeit sogar bedeutungstragende Inhalte entwickeln.

Seit Beginn des Experiments sind neun Monate vergangen, und einige der Seiten können bereits auf 4 Generationen an Vorfahren zurückblicken. Ein Blick auf die Statistik der Suchanfragen [3], die zu den Memecodes-Seiten führten, zeigt unter anderem folgende Wortkombinationen — die Zahl vorweg gibt die Anzahl der Suchanfragen an:
63 sphagnum esplanade lyrics
62 marshmallow blowgun
56 lockout buster
48 WWW£¬5757£¬MY ¡£COM
44 feel the wrath of salivating mushroom (...)
43 shush bikini
40 seagull sandwich riddle
34 caftan marocain
33 sandboy revelation
33 incubus torrent
32 labial infusion
32 girdle.us
29 reticulated stingray
24 Sphagnum Esplanade lyrics
24 lockout buster schematic diagram


Vorläufiges Fazit: Die Idee, Webseiten durch Evolution zu erzeugen ist der näheren Betrachtung wert, das Prinzip der Evolution als Bestandteil von Algorithmen sowieso und das Experiment zeigt auch schon erste Erfolge. Doch auch der Nachteil von auf Evolution basierenden Verfahren zeigt sich hier: Sie brauchen sehr viel Zeit. Nicht umsonst sind zwischen dem Auftauchen der ersten einzelligen Lebewesen und dem der ersten Menschen etwa 3.5 Milliarden Jahre vergangen.

[1] Google Blogoscoped
[2] Memecodes
[3] Memecodes Statistiken