Quando dovrebbe riscriversi una macchina?
Nel 1931 Kurt Gödel codificò formule e dimostrazioni mediante numeri nel suo lavoro sull’incompletezza. L’aritmetica poteva così esprimere enunciati sulle dimostrazioni stesse. Da questa idea di autoreferenza nasce una domanda: un programma può ragionare sul proprio codice e migliorarlo?
Nel 2003 Jürgen Schmidhuber propose la macchina di Gödel. Mentre svolge compiti, la macchina cerca modifiche al codice. Dati gli assiomi e gli obiettivi, deve dimostrare che intervenire ora ha un’utilità attesa maggiore che continuare a eseguire il programma e cercare alternative. Trovata la prova, applica la modifica.
Anche la procedura che cerca le dimostrazioni è riscrivibile. Nell’automiglioramento ricorsivo (RSI), un cambiamento modifica il modo di trovare il successivo. La dimostrazione dipende dagli assiomi, dalle ipotesi sull’ambiente e dalla funzione di utilità. Una modifica utile può restare indimostrata.
Un’organizzazione di Gödel (GO) impara dal lavoro e migliora il modo in cui impara. GO Benchmark misura questa progressione attraverso le consegne dell’IA, i cambiamenti duraturi dei processi e i metodi per verificarne gli effetti.
Articolo di Schmidhuber ↗ Kurt Gödel all’IAS ↗