Topik trending
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.

Eliezer Yudkowsky ⏹️
Orang penyelarasan AI asli. Tanda baca yang hilang di akhir kalimat berarti itu adalah humor. Jika Anda tidak yakin, itu juga sangat mungkin humor.
Eliezer Yudkowsky ⏹️ memposting ulang
Para ahli tentang gangguan dismorfik tubuh telah memperingatkan bahwa orang-orang yang berjuang dengannya menjadi semakin bergantung pada chatbot AI untuk mengevaluasi kekurangan yang dirasakan sendiri dan merekomendasikan operasi kosmetik. "Ini hampir muncul di setiap sesi," kata seorang terapis kepada saya.

84,49K
Eliezer Yudkowsky ⏹️ memposting ulang
Jika seseorang mengatakan "Saya sedang mengerjakan sesuatu yang mungkin membunuh semua orang," mereka akan segera dihentikan.
Tetapi jika mereka mengatakan "Saya sedang mengerjakan sesuatu yang mungkin membunuh semua orang, tetapi itu akan menghasilkan banyak uang," maka ... Yah, di situlah kita sebenarnya berada.
6,61K
Eliezer Yudkowsky ⏹️ memposting ulang
"Tidak Ada Divisi Antimemetika" adalah topik diskusi dan persetujuan yang cukup hangat di antara rekan-rekan saya sekitar setahun yang lalu.
Saya tidak menyukainya sama sekali.
Masalah saya dengan itu adalah bahwa gaya penulisan penulis membuat janji bahwa buku itu tidak hanya tidak ditepati, tetapi dia tidak tertarik untuk menyimpannya.
Buku ini ditulis seperti fiksi ilmiah, mengumpulkan detail dan menyajikan penampilan serangan logis terhadap raksasa yang tidak diketahui.
Tapi itu bukan SF. Janji-janji itu tidak pernah membuahkan hasil. Itu tidak menegaskan pengetahuan rasional tentang alam semesta yang dijelaskannya - penulis terlalu sibuk menciptakan dan meningkatkan suasana horor epistemik.
Ketika saya keberatan dengan ini, beberapa orang yang saya keluhkan mengatakan bahwa mereka pikir kekesalan saya salah arah - itu sama sekali tidak dimaksudkan untuk menjadi SF.
Jawaban saya untuk itu adalah bahwa jika penulis tidak ingin menang di game genre-SF, dia seharusnya tidak menulis seperti dia mencoba melakukan itu. Saya merasa diumpan dan dipindahkan.
Konvensi genre fiksi ilmiah telah berkembang untuk tujuan yang jauh lebih dari sekadar menghibur. Saya pikir mereka melakukan hal-hal yang baik dan berharga, dan saya sangat tidak suka ketika orang membuat kulit mereka.
14,76K
Eliezer Yudkowsky ⏹️ memposting ulang
pria yang saya kuliah baru-baru ini menyewa kamar pribadi restoran dan mengundang semua orang ke presentasi makan malam. Handout. flipboard kertas. bar terbuka. menghabiskan 3 jam menjelaskan bagaimana dia memecahkan paradoks informasi lubang hitam setelah 2 bulan berbicara dengan ChatGPT 4o Mini
220,97K
Eliezer Yudkowsky ⏹️ memposting ulang
Sebuah surat hukum baru yang ditujukan untuk OpenAI menjabarkan dalam istilah yang jelas tentang uang dan perebutan kekuasaan yang coba ditipu oleh OpenAI untuk menipu anggota dewannya untuk diterima - apa yang disebut seorang analis sebagai "pencurian milenium."
Fakta-fakta sederhana dari kasus ini menghancurkan dan sangat lucu.
Saya akan menjelaskan untuk hiburan Anda.
Surat 'Bukan Untuk Keuntungan Pribadi' ditulis untuk Jaksa Agung terkait dan ditandatangani oleh 3 pemenang Hadiah Nobel di antara lusinan peneliti ML terkemuka, pakar hukum, ekonom, mantan staf OpenAI, dan kelompok masyarakat sipil. (Saya akan menautkan di bawah.)
Dikatakan bahwa upaya OpenAI untuk merestrukturisasi sebagai nirlaba benar-benar ilegal, seperti yang Anda harapkan secara naif.
Kemudian meminta Jaksa Agung (AG) untuk mengambil beberapa tindakan ekstrem yang belum pernah saya lihat dibahas sebelumnya. Inilah cara mereka membangun tuntutan radikal mereka.
Selama 9 tahun, OpenAI dan pendirinya terus berkomentar tentang bagaimana kontrol nirlaba sangat penting untuk:
1. Cegah beberapa orang memusatkan kekuatan yang sangat besar
2. Memastikan manfaat kecerdasan umum buatan (AGI) dibagikan dengan seluruh umat manusia
3. Hindari insentif untuk mempertaruhkan nyawa orang lain untuk menjadi lebih kaya
Mereka mengatakan kepada kami bahwa komitmen ini mengikat secara hukum dan tidak dapat dihindari. Mereka tidak berada di dalamnya untuk uang atau kekuasaan. Kami bisa mempercayai mereka.
"Tujuannya bukan untuk membangun AGI, ini untuk memastikan AGI bermanfaat bagi umat manusia," kata Presiden OpenAI Greg Brockman.
Dan memang, tujuan amal OpenAI, yang secara hukum diwajibkan oleh dewannya, adalah untuk "memastikan bahwa kecerdasan umum buatan menguntungkan seluruh umat manusia" daripada memajukan "keuntungan pribadi siapa pun."
100-an peneliti top memilih untuk bekerja untuk OpenAI dengan gaji di bawah pasar, sebagian dimotivasi oleh idealisme ini. Itu adalah inti dari strategi rekrutmen dan PR OpenAI.
Sekarang tiba tahun 2024. Idealisme itu telah membuahkan hasil. OpenAI adalah salah satu perusahaan terpanas di dunia. Uang mengalir masuk.
Tapi sekarang tiba-tiba kita diberitahu pengaturan di mana mereka menjadi salah satu startup dengan pertumbuhan tercepat dalam sejarah, pengaturan yang seharusnya benar-benar penting dan membedakan mereka dari pesaing mereka, dan perlindungan yang memungkinkan kita untuk mempercayai mereka, SEMUA HARUS PERGI SECEPATNYA:
1. Hak nirlaba (dan oleh karena itu umat manusia pada umumnya) untuk mendapatkan keuntungan super, haruskah mereka menghasilkan puluhan triliun? Hilang. (Tebak ke mana uang itu akan pergi sekarang!)
2. Kepemilikan AGI oleh organisasi nirlaba, dan kemampuan untuk memengaruhi bagaimana AGI sebenarnya digunakan setelah dibangun? Hilang.
3. Kemampuan (dan kewajiban hukum) nirlaba untuk keberatan jika OpenAI melakukan hal-hal keterlaluan yang merugikan umat manusia? Hilang.
4. Komitmen untuk membantu proyek AGI lain jika perlu untuk menghindari perlombaan senjata yang berbahaya, atau jika bergabung akan membantu AS mengalahkan China? Hilang.
5. Kontrol dewan mayoritas oleh orang-orang yang tidak memiliki saham keuangan pribadi yang besar di OpenAI? Hilang.
6. Kemampuan pengadilan atau Jaksa Agung untuk keberatan jika mereka mengkhianati tujuan amal yang mereka nyatakan untuk memberi manfaat bagi umat manusia? Pergi, pergi, pergi!
Tangkapan layar dari surat itu:
(Saya akan membuat tweet baru setelah setiap gambar sehingga muncul dengan benar.) 1/

13,99M
Teratas
Peringkat
Favorit
Trending onchain
Trending di X
Pendanaan teratas terbaru
Paling terkenal