Dua makalah baru yang menguraikan pendekatan kami terhadap penyelarasan yang menipu! Makalah pertama: kami mengevaluasi *siluman* dan *kesadaran situasional* model -- jika mereka tidak memiliki kemampuan ini, mereka kemungkinan tidak dapat menyebabkan kerusakan parah.
Victoria Krakovna
Victoria Krakovna8 Jul, 20.02
Seiring kemajuan model, masalah keamanan AI utama adalah penyelarasan / "licik" yang menipu – di mana AI mungkin secara diam-diam mengejar tujuan yang tidak diinginkan. Makalah kami "Mengevaluasi Model Perbatasan untuk Kesadaran Siluman dan Situasional" menilai apakah model saat ini dapat direncanakan.
38,44K