Kami belum memiliki AI yang meningkatkan diri, dan ketika kami melakukannya, itu akan menjadi pengubah permainan. Dengan lebih banyak kebijaksanaan sekarang dibandingkan dengan GPT-4 hari, jelas bahwa itu tidak akan menjadi "lepas landas cepat", melainkan sangat bertahap selama bertahun-tahun, mungkin satu dekade. Hal pertama yang perlu diketahui adalah bahwa perbaikan diri, yaitu, model melatih diri mereka sendiri, tidak biner. Pertimbangkan skenario GPT-5 melatih GPT-6, yang akan luar biasa. Akankah GPT-5 tiba-tiba berubah dari tidak dapat melatih GPT-6 sama sekali menjadi melatihnya dengan sangat mahir? Tentu saja tidak. Pelatihan GPT-6 pertama mungkin akan sangat tidak efisien dalam waktu dan komputasi dibandingkan dengan peneliti manusia. Dan hanya setelah banyak uji coba, GPT-5 benar-benar dapat melatih GPT-6 lebih baik daripada manusia. Kedua, bahkan jika sebuah model dapat melatih dirinya sendiri, itu tidak akan tiba-tiba menjadi lebih baik di semua domain. Ada gradien kesulitan dalam betapa sulitnya untuk meningkatkan diri dalam berbagai domain. Misalnya, mungkin perbaikan diri hanya bekerja pada awalnya pada domain yang sudah kita ketahui cara memperbaikinya dengan mudah dalam pasca-pelatihan, seperti halusinasi dasar atau gaya. Berikutnya adalah matematika dan pengkodean, yang membutuhkan lebih banyak pekerjaan tetapi telah menetapkan metode untuk meningkatkan model. Dan kemudian secara ekstrim, Anda dapat membayangkan bahwa ada beberapa tugas yang sangat sulit untuk perbaikan diri. Misalnya, kemampuan berbicara Tlingit, bahasa asli Amerika yang dituturkan oleh ~500 orang. Akan sangat sulit bagi model untuk meningkatkan diri dalam berbicara Tlingit karena kita belum memiliki cara untuk memecahkan bahasa sumber daya rendah seperti ini kecuali mengumpulkan lebih banyak data yang akan memakan waktu. Jadi karena gradien kesulitan-perbaikan-diri, itu tidak akan terjadi sekaligus. Akhirnya, mungkin ini kontroversial tetapi pada akhirnya kemajuan dalam sains terhambat oleh eksperimen dunia nyata. Beberapa orang mungkin percaya bahwa membaca semua makalah biologi akan memberi tahu kita obat untuk kanker, atau bahwa membaca semua makalah ML dan menguasai semua matematika akan memungkinkan Anda untuk melatih GPT-10 dengan sempurna. Jika ini masalahnya, maka orang-orang yang membaca makalah paling banyak dan mempelajari teori paling banyak akan menjadi peneliti AI terbaik. Tetapi apa yang sebenarnya terjadi adalah bahwa AI (dan banyak bidang lainnya) menjadi didominasi oleh peneliti empiris yang kejam, yang mencerminkan seberapa banyak kemajuan didasarkan pada eksperimen dunia nyata daripada kecerdasan mentah. Jadi maksud saya adalah, meskipun agen super pintar mungkin merancang eksperimen 2x atau bahkan 5x lebih baik daripada peneliti manusia terbaik kita, pada akhirnya mereka masih harus menunggu eksperimen berjalan, yang akan menjadi akselerasi tetapi bukan lepas landas yang cepat. Singkatnya, ada banyak hambatan untuk kemajuan, bukan hanya kecerdasan mentah atau sistem perbaikan diri. AI akan memecahkan banyak domain tetapi setiap domain memiliki tingkat kemajuannya sendiri. Dan bahkan kecerdasan tertinggi pun masih membutuhkan eksperimen di dunia nyata. Jadi ini akan menjadi akselerasi dan bukan lepas landas cepat, terima kasih telah membaca kata-kata kasar saya
339,91K