Quand une machine devrait-elle se réécrire ?
En 1931, le mathématicien et logicien Kurt Gödel code les formules et les preuves par des nombres. L’arithmétique peut ainsi parler des preuves elles-mêmes. Cette autoréférence inspire une question : un programme peut-il raisonner sur son propre code et l’améliorer ?
En 2003, Jürgen Schmidhuber propose la machine de Gödel. Tout en travaillant, elle cherche des modifications de son code. Selon ses axiomes et ses objectifs, elle doit prouver que changer maintenant offre une utilité espérée supérieure à celle de poursuivre le programme et la recherche. Elle applique alors la modification.
La procédure de recherche de preuves peut elle-même être réécrite. Dans cette autoamélioration récursive (RSI), une étape modifie la manière de trouver la suivante. La preuve dépend des axiomes, de l’environnement supposé et de la fonction d’utilité. Une amélioration utile peut rester sans preuve.
Une organisation de Gödel (GO) apprend de son activité et améliore sa manière d’apprendre. GO Benchmark suit cette progression à partir des livraisons, des changements de procédure et des méthodes servant à les vérifier.
Article de Schmidhuber ↗ Kurt Gödel à l’IAS ↗