Когда машине стоит переписывать себя?
В 1931 году математик и логик Курт Гёдель в работе о неполноте закодировал формулы и доказательства числами. В арифметике стало возможно высказываться о самих доказательствах. Эта идея самореференции подводит к вопросу: может ли программа рассуждать о своём коде и улучшать его?
В 2003 году Юрген Шмидхубер предложил машину Гёделя. Выполняя задачи, эта теоретическая машина ищет изменения своего кода. При заданных целях и аксиомах она должна доказать, что изменение сейчас имеет большую ожидаемую полезность, чем продолжение работы программы и поиска альтернатив. Получив доказательство, она применяет изменение.
Процедура поиска доказательств тоже может быть переписана. При рекурсивном самоулучшении (RSI) очередное изменение влияет на поиск следующего. Доказательство зависит от аксиом, предположений о среде и функции полезности. Полезное изменение может остаться недоказанным.
Организация Гёделя (GO) учится на своей работе и совершенствует сам способ обучения. GO Benchmark оценивает этот путь по результатам, которые сдаёт ИИ, устойчивым изменениям процессов и способам проверки этих изменений.
Работа Шмидхубера ↗ Курт Гёдель в IAS ↗