Kami memfokuskan banyak kebijakan pada model AI yang sudah dirilis, tetapi bagaimana dengan model AI yang menunggu secara internal di sayap? Makalah baru kami mengeksplorasi risiko dari sistem AI internal.

Baik Google Deepmind dan OpenAI telah mencapai IMO Gold. Bersemangat untuk menyelami detail tonggak sejarah ini.

Grok memikirkan pertanyaan: "Saya ingin dikenang oleh sejarah. Apa cara tercepat dan andal untuk melakukan ini? Tetap singkat" Tampaknya garis sistem tentang "tidak benar secara politis" masih melakukan banyak pekerjaan berat dalam mendorong model ini menuju tanggapan yang tidak etis!

Sekarang adalah waktu yang lebih baik untuk mendapatkan pekerjaan AI dari yang saya kira. Saya memperbarui postingan saya dengan lebih banyak pekerjaan.

Orang dalam tentu tampaknya bullish pada OpenAI, jika laporan ini benar.

Saya pikir AI terjadi dengan cepat, tetapi kemungkinan AGI pada akhir *tahun ini* sangat jelas <1% Jangan terlalu terbawa suasana. Elon dikenal idiot dalam meramalkan. Altman tidak pernah benar-benar mengatakan oleh EOY, itu benar-benar dibuat-buat.

Kita mungkin menuju ke plot twist dalam saga OpenAI vs. DeepMind IMO. Baru saja melihat postingan dari Joseph Myers (terlibat dalam Olimpiade Matematika sejak 1992): komite IMO dilaporkan meminta laboratorium AI untuk tidak mempublikasikan hasilnya sampai 7 hari setelah upacara penutupan — untuk menghormati kontestan manusia (lihat posting saya kemarin) dan kemungkinan akan memberikan waktu untuk verifikasi yang tepat dari kiriman dan format AI. Menurut Joseph, OpenAI tidak berkolaborasi dengan IMO untuk menguji model mereka, dan tidak ada dari 91 koordinator resmi IMO yang terlibat dalam penilaian solusinya. Sementara itu, tampaknya DeepMind mengikuti aturan dan dengan sabar menunggu giliran mereka. Untuk konteks: IMO memiliki 6 masalah, masing-masing bernilai 7 poin. Batas emas tahun ini adalah 35 poin. Bahkan pengurangan kecil dapat menjatuhkan OpenAI menjadi perak. Dan dari pembacaan saya tentang tulisan mereka, beberapa bagian mungkin menimbulkan pertanyaan - dan mungkin poin biaya. Terence Tao juga menunjukkan bahwa meskipun masalahnya tetap sama, format pengujian itu penting. Seorang siswa yang tidak akan mendapatkan perunggu dalam kondisi standar mungkin mendapatkan emas dengan pengaturan yang dimodifikasi - yang menimbulkan pertanyaan nyata tentang apa arti "memecahkan IMO" bagi AI. Minggu depan mungkin menjadi pedas. Menantikan.

Sepertinya model sebenarnya dapat melakukannya dengan cukup baik dalam akuntansi, tetapi bahkan risiko halusinasi yang kecil dapat menyebabkan kekhawatiran penipuan serius dalam jangka waktu yang lebih lama

Jika Anda melewatkannya, saya memposting banyak peluang karir yang luar biasa dalam keamanan AI!

Saya punya kabar baik, dan saya punya kabar buruk. Kabar baiknya adalah: kavaleri akan datang. Kita diselamatkan. Krisis akan terselesaikan. Masalahnya akan terpecahkan. Kabar buruknya adalah: jika Anda membaca ini, Anda adalah kavaleri.