热门话题
#
Bonk 生态迷因币展现强韧势头
#
有消息称 Pump.fun 计划 40 亿估值发币,引发市场猜测
#
Solana 新代币发射平台 Boop.Fun 风头正劲

Eliezer Yudkowsky ⏹️
最初的 AI 对齐人。 句子末尾缺少标点符号意味着它是幽默。 如果你不确定,那也很有可能是幽默。
Eliezer Yudkowsky ⏹️ 已转发
《没有反记忆学部》在大约一年前是我同龄人中讨论和认可的热门话题。
我一点也不喜欢它。
我对它的问题在于,作者的写作风格做出了承诺,而这本书不仅没有兑现这些承诺,而且作者根本不想兑现。
这本书的写作风格像科幻小说,积累细节,呈现出对一个巨大未知的逻辑攻击的外观。
但它并不是科幻小说。这些承诺从未兑现。它没有确认它所描述的宇宙的理性可知性——作者太忙于创造和加深一种认识论恐怖的氛围。
当我对此表示反对时,我抱怨的一些人说,他们认为我的烦恼是误导的——这根本不是为了科幻小说。
我对此的回答是,如果作者不想在科幻小说的游戏中获胜,他就不应该写得像是在试图做到这一点。我感到被诱骗和转移了注意力。
科幻小说的体裁约定已经发展出超越单纯娱乐的目的。我认为它们做了好而有价值的事情,当人们将它们当作皮囊时,我非常不喜欢。
14.75K
Eliezer Yudkowsky ⏹️ 已转发
一封针对OpenAI的新法律信件以鲜明的措辞阐述了OpenAI试图诱骗其董事会成员接受的金钱和权力掠夺——一位分析师称之为“千禧年的盗窃”。
案件的简单事实既令人震惊又黑色幽默。
我将为您的娱乐进行解释。
信件《非私人利益》是为相关的总检察长撰写的,并由包括数十位顶级机器学习研究人员、法律专家、经济学家、前OpenAI员工和民间社会团体在内的3位诺贝尔奖获得者签署。(我将在下面链接。)
信中指出,OpenAI试图重组为营利性公司是完全非法的,就像您可能天真地预期的那样。
然后,它要求总检察长采取一些我从未见过讨论过的极端措施。以下是他们如何逐步提出这些激进要求。
9年来,OpenAI及其创始人不断强调非营利控制对于以下方面的重要性:
1. 防止少数人集中巨大权力
2. 确保人工通用智能(AGI)的利益与全人类共享
3. 避免为了变得更富有而冒他人生命的风险
他们告诉我们这些承诺是法律约束且不可逃避的。他们不是为了钱或权力。我们可以信任他们。
“目标不是构建AGI,而是确保AGI造福人类,”OpenAI总裁Greg Brockman说。
确实,OpenAI的慈善目的,其董事会有法律义务追求,是“确保人工通用智能造福全人类”,而不是促进“任何个人的私人利益”。
数百名顶级研究人员选择以低于市场的薪水为OpenAI工作,部分是因为这种理想主义。这是OpenAI招聘和公关策略的核心。
现在2024年到来。这种理想主义已经取得了回报。OpenAI是世界上最热门的公司之一。资金滚滚而来。
但现在突然告诉我们,他们成为历史上增长最快的初创公司之一的设置,那个据说完全必要并使他们与竞争对手区别开来的设置,以及使我们能够信任他们的保护措施,全部必须尽快消失:
1. 非营利组织(因此是整个社会)对超级利润的权利,如果他们赚取数十万亿?消失。(猜猜这些钱现在会去哪里!)
2. 非营利组织对AGI的所有权,以及一旦建成后影响其实际使用的能力?消失。
3. 非营利组织的能力(以及法律责任)反对OpenAI做出损害人类的可怕行为?消失。
4. 如果有必要避免有害的军备竞赛,或如果联合力量有助于美国击败中国,承诺协助另一个AGI项目?消失。
5. 由没有巨大个人财务利益的人员控制的多数董事会?消失。
6. 如果他们背叛了其造福人类的慈善目的,法院或总检察长反对的能力?消失,消失,消失!
从信件中截图:
(我将在每张图片后发新推文,以便它们正确显示。)1/

13.99M
热门
排行
收藏
链上热点
X 热门榜
近期融资
最受认可