熱門話題
#
Bonk 生態迷因幣展現強韌勢頭
#
有消息稱 Pump.fun 計劃 40 億估值發幣,引發市場猜測
#
Solana 新代幣發射平臺 Boop.Fun 風頭正勁

Eliezer Yudkowsky ⏹️
最初的 AI 對齊人。 句子末尾缺少標點符號意味著它是幽默。 如果你不確定,那也很有可能是幽默。
Eliezer Yudkowsky ⏹️ 已轉發
《沒有反記憶部門》曾經是我同儕中熱烈討論和贊同的話題,大約在一年前。
我完全不喜歡這本書。
我對它的問題在於,作者的寫作風格做出了承諾,但這本書不僅沒有履行這些承諾,甚至作者對履行這些承諾也毫無興趣。
這本書的寫作風格像科幻小說,累積細節並呈現出對一個巨大未知的邏輯攻擊的外觀。
但它並不是科幻小說。那些承諾從未兌現。它並沒有確認它所描述的宇宙的理性可知性——作者太忙於創造和加強一種認識論的恐怖氛圍。
當我對此提出異議時,我抱怨的一些人說他們認為我的惱怒是錯誤的——這根本不是科幻小說。
我對此的回答是,如果作者不想在科幻類型的遊戲中獲勝,那麼他就不應該寫得像是在試圖這樣做。我感到被引誘和欺騙了。
科幻小說的類型慣例已經演變,目的遠不止於娛樂。我認為它們做了好而有價值的事情,而我非常不喜歡人們將它們當作皮囊。
14.75K
Eliezer Yudkowsky ⏹️ 已轉發
一封針對OpenAI的新法律信函直截了當地指出,OpenAI 正試圖欺騙其董事會成員接受金錢和權力的攫取——一位分析師稱之為“千禧年的盜竊”。
這個案子的簡單事實既令人震驚,又充滿黑色滑稽。
我來解釋一下,讓你開心。
這封信“Not For Private Gain”是為相關總檢察長寫的,由數十名頂級 ML 研究人員、法律專家、經濟學家、前 OpenAI 員工和民間社會團體中的 3 位諾貝爾獎獲得者簽署。(我將在下面連結。
它表示,OpenAI 試圖重組為營利性企業是完全非法的,正如你可能天真地預期的那樣。
然後,它要求總檢察長 (AG) 採取一些我以前從未見過討論的極端措施。以下是他們如何實現自己的激進要求。
9年來,OpenAI 及其創始人一直在令人作嘔地談論非營利控制對於以下方面的重要性:
1. 防止少數人集中巨大力量
2. 確保與全人類共用通用人工智慧 (AGI) 的好處
3. 避免冒著他人生命危險變得更富有的動機
他們告訴我們,這些承諾具有法律約束力且不可避免。他們參與其中不是為了錢或權力。我們可以信任他們。
“目標不是建立 AGI,而是確保 AGI 造福人類,”OpenAI 總裁 Greg Brockman 說。
事實上,OpenAI 的慈善宗旨(其董事會在法律上有義務追求)是“確保通用人工智慧造福全人類”,而不是促進“任何人的私人利益”。
數百名頂級研究人員選擇以低於市場的薪水為 OpenAI 工作,部分原因是出於這種理想主義。這是OpenAI招聘和公關策略的核心。
現在是 2024 年。這種理想主義得到了回報。OpenAI 是世界上最熱門的公司之一。資金滾滾而來。
但現在突然間,我們被告知,他們成為歷史上增長最快的初創公司之一的設置,據說是完全必要的設置,使他們與競爭對手區分開來,以及使我們可以信任他們的保護措施,所有這些都必須儘快結束:
1. 非營利組織(以及整個人類)獲得超額利潤的權利,他們應該賺幾十萬億嗎?逝。(猜猜那筆錢現在會去哪裡!
2. 非營利組織對 AGI 的擁有權,以及影響其建成後實際使用方式的能力?逝。
3. 如果 OpenAI 正在做傷害人類的令人髮指的事情,非營利組織是否有能力(和法律義務)提出反對?逝。
4. 承諾在必要時協助另一個 AGI 專案以避免有害的軍備競賽,或者聯手幫助美國擊敗中國?逝。
5. 在 OpenAI 中沒有大量個人財務利益的人控制董事會的多數股權?逝。
6. 如果法院或總檢察長背叛了他們所宣稱的造福人類的慈善目的,他們是否有能力提出反對?走了,走了,走了!
信中的截圖:
(我會在每張圖片后發佈一條新推文,以便它們看起來正確。1/

13.99M
熱門
排行
收藏
鏈上熱點
X 熱門榜
近期融資
最受認可