Kan en AI-modell forutsi perfekt og fortsatt ha en forferdelig verdensmodell? Hva ville det i det hele tatt bety? Vår nye ICML-artikkel formaliserer disse spørsmålene Ett resultat forteller historien: En transformator trent på 10M solsystemer spikrer planetariske baner. Men det forkludrer gravitasjonslovene 🧵
Vår artikkel tar sikte på å svare på to spørsmål: 1. Hva er forskjellen mellom prediksjons- og verdensmodeller? 2. Finnes det enkle beregninger som kan teste dette skillet? Artikkelen vår handler om AI. Men det er nyttig å gå 400 år tilbake for å svare på disse spørsmålene.
Kanskje den mest innflytelsesrike verdensmodellen hadde sin start som en prediktiv modell. Før vi hadde Newtons gravitasjonslover, hadde vi Keplers spådommer om planetbaner. Keplers spådommer førte til Newtons lover. Så hva la Newton til?
1,36M