I certainly do not want to imply that you did not mention any of the things I pointed out as worth mentioning above. It was the fact that you did state your assumptions that made me notice how easy it is to take the ‘intuitive’ ideas behind the conclusions — and that those do not necessarily coincide with the meaning of the more formal statements.

Let me respond to a few of your points:

“For a system to improve recursively with respect to some goal in a way that increases its complexity, there is no need for it to be able to predict all systems of a certain greater complexity. Thus, the whole argument breaks down.”

Sure, a system can improve by being able to predict more systems. However, the \dot{K} complexity of what it can predict is bounded by some constant. If the system’s changes to itself are provably able to increase its predictive power, the system cannot increase this bound. It’s stuck below it. Evolution is does not proceed by provably correct steps and thus does not have this constraint.

“Do not mention that you were using the standard definition of “learning to predict” which says that a system learns to predict another system if, after a finite number of observations, the system knows all following outputs of the other system.”

Huh? What do you mean “do not mention”. It’s plainly stated in the paper.

“And, please, stay quiet about the fact that the system that was predicted in your proof did not output anything but zeros after a finite time of complex behavior. Otherwise, people might think that what you have shown has little relation to what is usually meant when we talk about “learning to predict” behavior. And, more destroyingly, they would be right.”

The first example is plainly stated in the paper. READ THE PAPER. I have NOT hidden this. Futhermore, it does not apply to just 0 tail sequences. I also show that sequences with arbitrary high tail Kolmogorov complexity have the same thing, and note that it can be generalised to primitive recursive functions. Thus what you write above is simply not true.

If you don’t understand one of my papers, email me and I will explain it to you.

‘Kunstsprachen’, formale Sprachen müssen über natürliche Sprachen eingeführt werden. Wenn ich also z.B. das Zeichen => einführe, muss ich die Verwendung des Zeichens erklären. Ist mit ‘=>’ ein kausaler, ein notwendiger Schluss gemeint? Wie unterscheidet sich ‘A => B’ von P(A|B)?

Meiner Meinung nach bestimmt die Philosophie keine Definitionen, beinahe im Gegenteil. Definition heißt Festlegung, Formalisierung. Wenn man sich über Begriffe klar werden will geht man den umgekehrten Weg durch Auflösung, Relativierung, in Bezugsetzung.

Philosophen, insbesondere in Deutschland und Frankreich interessieren sich oft nicht für formale Argumente (analytische Philosophie) – ein großer Fehler. Andererseits begehen die Meister der formalen Argumente (Mathematiker) die größten Irrtümer wenn sie den Gültigkeitsbereich (Scope) ihrer Schlussfolgerung überschreiten. Gerade in der Künstlichen Intelligenz kann man das immer wieder beobachten.

Der größte Teil der analytischen Philosophie, ausgehend von Frege, Russell und Wittgenstein dreht sich um dieses Thema. Ich selbst beschäftige mich gerade mit der Grundlegung der Wahrscheinlichkeitsrechnung die parallel zur Grundlegung der Logik lief. So hat der Doktorvater von J. Schmidhuber, Hr. Prof. Wilfried Brauer sich intensiv mit G.Frege auseinandergesetzt. Frege war derjenige der die Aussagen- und Prädikatenlogik eingeführt hat und ist einer der wichtigsten und meist verkannten Gründer der modernen Mathematik.

“The name “Lojban” is a combination of loj and ban, which are short forms of logji (logic) and bangu (language), respectively. Due to its name, Lojban is sometimes misunderstood to be within some exclusive domains such as formal logic or computer programming; however, it is perfectly usable for daily conversation. While it is meant to be capable of handling highly logical concepts, it is also highly flexible to an unparalleled degree. To whatever degree the speaker wishes, it can resemble its natural, programming, or other constructed counterparts, and it can be poetic, ambiguous, precise, or neutral.” (wikipedia on lojban)

I understand that using such a language as a tool for discussion might only, if at all, fight the symptoms and not the illness itself.

But then, I associate the ‘illness’ with HIV. Incurable. So what can we do but fight the symptoms?

“The problem with formal argumentation is that, even if you resort only to the most basic rules of logic, what you prove might not be what you intended to prove.”

Das Problem hast du in formeller Beweisführung nicht mehr und nicht weniger als in informeller Beweisführung.

Bei informellen Argumentationen ist mir meist klar, worauf ich hinaus will, aber die Schritte dorthin sind es nicht. In dem Moment, in dem ich den Beweis formal aufschreibe, Begriffe bedeutungsmäßig klar abgrenze, verändert sich auch das, was ich beweise (abgesehen von Ausnahmefällen, in denen intuitive und syntaktisch implizierte Bedeutung genau übereinstimmen). Wie jeder anständige Blogger schreibe ich ausschließlich über persönliche Probleme, nie über universelle Wahrheiten ;).

Das Problem, das du ansprichst, entspringt vermutlich weniger Informalität von Beweisführung als der Verfälschung von Voraussetzungen durch mangelnde anfängliche Definition.

Ich spreche zwei Probleme an: Bei informellen “Beweisen” das der schwammigen Argumentation, bei der von Anfang an nicht klar ist, was mit Worten gemeint ist, und, bei formellen Beweisen, das der zwar rigiden Argumentation aber späteren falschen Anwendung (egal ob durch den Beweisführenden oder, häufiger, durch andere). Ersteres entspringt der Informalität, letzteres der Verfälschung von Voraussetzungen.

Ungenauigkeit in Texten mag sich hier sogar als ein Vorteil erweisen, denn ansonsten müsste z.B. die Philosophie gänzlich auf einen Großteil ihrer Themen verzichten, da diese erst genaustens definiert werden müssten, was u.U. vielleicht gar nicht möglich ist, z.B. wenn es sich um Dinge handelt, die bislang überhaupt nicht existieren oder deren Existenz umstritten ist.

Gleichzeitig besteht eine Aufgabe der Philosophie darin, herauszufinden, was wir mit Begriffen wie z.B. “Intention” oder “Bewusstsein” überhaupt meinen und diese so zu definieren, dass andere Wissenschaftszweige sinnvoll darüber reden können.

Das Problem hast du in formeller Beweisführung nicht mehr und nicht weniger als in informeller Beweisführung. Im Raum steht die Frage nach der Bedeutsamkeit des Beweises selbst; ein Beweis dessen, dass eine Katze ohne Vorderpfoten nicht in der Lage ist, auf einen Baum zu klettern, ist nicht besonders sinnreich für Aussagen über das Wesen von Katzen, das Wesen von Bäumen und das Verhältnis beider Arten von Lebewesen zueiander.
Um eine Aussage zu treffen, die deiner etwas allgemeinen Aussage über “Systeme höherer Komplexität” aus dem obigen Text widerspricht, muss man diese nicht erst formal beweisen: Wenn jemand (der Ahnung davon hat) dir die Voraussetzungen des formalen Beweises nennt, den er für seine Argumentation vorbringen will, kann er den Beweis selbst an diesem Punkt vermutlich getrost weglassen.

Das Problem, das du ansprichst, entspringt vermutlich weniger Informalität von Beweisführung als der Verfälschung von Voraussetzungen durch mangelnde anfängliche Definition. Ungenauigkeit in Texten mag sich hier sogar als ein Vorteil erweisen, denn ansonsten müsste z.B. die Philosophie gänzlich auf einen Großteil ihrer Themen verzichten, da diese erst genaustens definiert werden müssten, was u.U. vielleicht gar nicht möglich ist, z.B. wenn es sich um Dinge handelt, die bislang überhaupt nicht existieren oder deren Existenz umstritten ist.