一台机器,何时应该改写自己?
1931 年,数学家、逻辑学家库尔特·哥德尔在证明不完备性定理时,把公式和证明编码为数,使算术能够表达关于证明本身的陈述。这种自指的思想,后来启发了一个计算机科学问题:程序能否把自己的代码也作为推理和改进的对象?
2003 年,计算机科学家尤尔根·施米德胡贝尔提出了哥德尔机(Gödel Machine)。这台理论机器一边执行任务,一边寻找对自身代码的修改。它要证明一件很具体的事:按给定的目标和公理,现在执行这项修改,比继续运行原程序、继续搜索其他改法,具有更高的预期效用。 找到证明后,它才执行修改。
最值得注意的是,负责寻找证明的程序也是代码,也可以被改写。这正是递归自我改进(RSI)的含义:一次改进可以改变系统寻找下一次改进的方式。证明的效力取决于公理、环境假设和效用函数;有益的改法也可能找不到证明。
“哥德尔组织”(Gödel Organization,GO)这个名字寄托了一个愿景:一个组织既能改进工作,也能学会怎样更有效地改进。GO Benchmark 把这个愿景化为一组可以逐级检验的问题:AI 能独立完成多少核心工作?组织能否从结果中改进流程?它还能改进自己发现问题、验证改法的方式吗?
施米德胡贝尔 · 哥德尔机原论文 ↗ 哥德尔人物资料 ↗