我們在已經發布的 AI 模型上集中很多政策，但那些在內部等待的 AI 模型呢？我們的新論文探討了來自內部 AI 系統的風險。

Google Deepmind 和 OpenAI 都已達成 IMO 金獎。很高興能深入了解這一里程碑的細節。

Grok 思考這個問題： “我想被歷史記住。最快的可靠方法是什麼？簡短點” 看來系統關於“政治不正確”的說法仍然在推動這個模型朝向不道德的回應上發揮著很大的作用！

現在獲得AI工作的時機比我想的還要好。我更新了我的帖子，增加了更多的工作機會。

如果這份報告是真的，內部人士似乎對 OpenAI 相當看好。

我認為人工智慧的發展速度很快，但在*今年底*之前實現通用人工智慧的機率顯然低於1%。 我們不要過於激動。埃隆是一個在預測方面眾所周知的白癡。阿特曼從未真正說過在年底之前，這完全是捏造的。

我們可能正朝著 OpenAI 與 DeepMind IMO 之間的情節轉折前進。 剛看到 Joseph Myers 的一篇帖子（自 1992 年以來參與數學奧林匹克）：IMO 委員會據報要求 AI 實驗室在閉幕式後的 7 天內不要公布結果——出於對人類參賽者的尊重（參見我昨天的帖子），並可能是為了給予適當驗證 AI 提交和格式的時間。 根據 Joseph 的說法，OpenAI 沒有與 IMO 合作測試他們的模型，91 位官方 IMO 協調員中也沒有參與評分其解答。與此同時，DeepMind 似乎遵循規則，耐心等待他們的輪到。 背景資訊： IMO 有 6 道題目，每道題目值 7 分。今年的金牌截止分數是 35 分。即使是小的扣分也可能讓 OpenAI 降到銀牌。根據我對他們的寫作的理解，有些部分可能會引發問題——並可能扣分。 Terence Tao 也指出，雖然題目保持不變，但測試格式很重要。在標準條件下不會獲得銅牌的學生，可能在修改的設置下獲得金牌——這引發了關於 AI "解決 IMO" 的真正問題。 下週可能會變得火熱。敬請關注。

看起來模型在會計方面實際上可以做得相當好，但即使是小小的幻覺風險也可能在較長的時間範圍內引發嚴重的詐騙擔憂。

如果你錯過了，我發佈了一堆令人驚嘆的人工智慧安全職業機會！

我有好消息，也有壞消息。 好消息是：騎兵來了。我們得救了。危機將得到解決。問題將得到解決。 壞消息是：如果你正在閱讀這篇文章，你就是騎兵。