
Wann sollte eine Maschine ihren eigenen Code ändern?
1931 kodierte der Mathematiker und Logiker Kurt Gödel beim Beweis seiner Unvollständigkeitssätze Formeln und Beweise durch Zahlen. Damit lassen sich in der Arithmetik Aussagen über Beweise ausdrücken. Dieser Selbstbezug inspirierte später eine Frage der Informatik: Kann ein Programm über seinen eigenen Code nachdenken und ihn verbessern?
2003 schlug der Informatiker Jürgen Schmidhuber die Gödel-Maschine vor. Während sie Aufgaben bearbeitet, sucht diese theoretische Maschine nach Änderungen an ihrem eigenen Code. Bevor sie eine Änderung ausführt, muss sie aus den vorgegebenen Axiomen beweisen, dass die Änderung jetzt einen höheren erwarteten Nutzen hat als die Fortsetzung des bisherigen Programms einschließlich der Suche nach anderen Änderungen.
Auch das Programm, das nach Beweisen sucht, besteht aus veränderbarem Code. Darin liegt die Idee der rekursiven Selbstverbesserung (RSI): Eine Verbesserung kann verändern, wie das System die nächste Verbesserung findet. Die Aussagekraft des Beweises hängt von den Axiomen, den Annahmen über die Umwelt und der Nutzenfunktion ab. Für eine sinnvolle Änderung findet sich womöglich kein Beweis.
Gödel-Organisation (GO) steht für den Anspruch einer Organisation, auch die eigenen Verbesserungsverfahren weiterzuentwickeln. GO Benchmark macht den Weg dorthin anhand von Nachweisen sichtbar: Welche Arbeit übernimmt KI, welche Abläufe verbessert sie und wie lernt die Organisation, wirksame Änderungen zuverlässiger zu erkennen?
Schmidhubers Originalarbeit ↗ Über Kurt Gödel ↗