Bisakah model AI memprediksi dengan sempurna dan masih memiliki model dunia yang mengerikan? Apa artinya itu? Makalah ICML baru kami meresmikan pertanyaan-pertanyaan ini Salah satu hasil menceritakan kisahnya: Sebuah transformator yang dilatih pada tata surya 10M memaku orbit planet. Tapi itu merusak hukum 🧵 gravitasi

Makalah kami bertujuan untuk menjawab dua pertanyaan: 1. Apa perbedaan antara prediksi dan model dunia? 2. Apakah ada metrik langsung yang dapat menguji perbedaan ini? Makalah kami adalah tentang AI. Tetapi akan sangat membantu untuk kembali 400 tahun ke belakang untuk menjawab pertanyaan-pertanyaan ini.

Mungkin model dunia yang paling berpengaruh dimulai sebagai model prediktif. Sebelum kita memiliki hukum gravitasi Newton, kita memiliki prediksi Kepler tentang orbit planet. Prediksi Kepler mengarah pada hukum Newton. Jadi apa yang ditambahkan Newton?