기계는 언제 자신을 다시 써야 할까?
1931년 수학자이자 논리학자인 쿠르트 괴델은 불완전성 정리를 증명하면서 논리식과 증명을 수로 부호화했습니다. 이로써 산술이 증명 자체에 관해 말할 수 있게 되었습니다. 이 자기 참조의 발상은 프로그램이 자신의 코드를 추론하고 개선할 수 있는지 묻는 계기가 됩니다.
2003년 위르겐 슈미트후버는 괴델 기계를 제안했습니다. 이 이론적 기계는 작업을 수행하면서 코드 수정안을 찾습니다. 주어진 목표와 공리 아래 지금 수정하는 편이 기존 프로그램을 실행하며 다른 안을 계속 찾는 것보다 기대 효용이 높음을 증명하면 수정안을 실행합니다.
증명을 찾는 절차도 다시 쓸 수 있는 코드입니다. 재귀적 자기 개선(RSI)이란 한 번의 개선이 다음 개선을 찾는 방식까지 바꾼다는 뜻입니다. 증명은 공리와 환경 가정, 효용 함수에 의존하며 유익한 변경도 증명을 찾지 못할 수 있습니다.
괴델 조직(GO)은 업무에서 배우고 배우는 방법까지 개선하는 조직을 뜻합니다. GO Benchmark는 AI가 납품한 성과, 지속되는 절차 개선, 개선을 검증하는 방법의 변화로 그 과정을 평가합니다.
슈미트후버의 논문 ↗ IAS의 쿠르트 괴델 소개 ↗