¿Cuándo debería una máquina reescribirse?
En 1931, Kurt Gödel codificó fórmulas y demostraciones mediante números en su trabajo sobre la incompletitud. Así la aritmética podía expresar afirmaciones sobre las propias demostraciones. Esta autorreferencia inspira una pregunta: ¿puede un programa razonar sobre su código y mejorarlo?
En 2003, Jürgen Schmidhuber propuso la máquina de Gödel. Mientras ejecuta tareas, busca cambios en su código. Dados sus axiomas y objetivos, debe demostrar que aplicar el cambio ahora tiene mayor utilidad esperada que continuar ejecutando el programa y buscando alternativas. Entonces aplica el cambio.
El procedimiento que busca demostraciones también se puede reescribir. En la automejora recursiva (RSI), un cambio altera la forma de encontrar el siguiente. La prueba depende de los axiomas, los supuestos sobre el entorno y la función de utilidad. Una mejora útil puede quedar sin demostrar.
Una organización de Gödel (GO) aprende de su trabajo y mejora su manera de aprender. GO Benchmark mide esa progresión a partir de entregas de la IA, cambios duraderos en los procesos y mejores métodos para comprobar sus efectos.
Artículo de Schmidhuber ↗ Kurt Gödel en el IAS ↗