機械はいつ自分を書き換えるのか
1931年、数学者・論理学者のクルト・ゲーデルは不完全性定理の証明で論理式や証明を数として符号化し、算術の中で証明自体について語れるようにしました。この自己言及の考えは、プログラムが自分のコードについて推論し、改善できるかという問いにつながります。
2003年、ユルゲン・シュミットフーバーはゲーデルマシンを提案しました。この理論上の機械は作業を続けながら変更案を探索します。所与の目的と公理の下で、今変更する方が現行プログラムを動かして探索を続けるよりも期待効用が高いと証明できたとき、変更を実行します。
証明を探索する手続き自体も書き換えられます。これが再帰的自己改善(RSI)です。今回の改善で次の改善の探し方が変わります。証明は公理、環境の仮定、効用関数に依存し、有益でも証明が見つからない変更があります。
ゲーデル組織(GO)という名称には、仕事から学ぶだけでなく、学び方そのものを改善するという考えがあります。GO Benchmarkは、AIによる成果の納品、業務手順の改善、その検証方法の改善を段階ごとに評価します。
シュミットフーバーの原論文 ↗ IASによるゲーデルの紹介 ↗