Ich mache mir Sorgen, dass so viel Diskussion über KI-Risiken und -Ausrichtung das ziemlich große Elefant im Raum übersieht: Kreativität und Offenheit. Entscheidungsträger und Torwächter müssen zwei konkurrierende Kräfte verstehen, über die anscheinend niemand spricht: (1) Es gibt einen massiven wirtschaftlichen Anreiz für Grenzlabore, die Kreativität ihrer Modelle zu steigern, und (2) je mehr man versucht, das Verhalten eines Modells (oder sogar einer Person!) zu kontrollieren und einzuschränken, desto weniger kreativ wird es sein. Die Spannung zwischen diesen konkurrierenden Kräften begünstigt letztendlich #1, da Kreativität ein so enormes wirtschaftliches Potenzial hat. Das bedeutet, dass Methoden zur Kontrolle und Einschränkung von Modellen (z. B. durch Ausrichtung) mächtigen, drohenden Gegenwind ausgesetzt sind. Da Kreativität letztendlich allein aus wirtschaftlichen Gründen gewinnen wird (und wir in der Tat enorme Vorteile aus kreativer KI ziehen können), sollten wir weniger nach Methoden der "Gedankenkontrolle" suchen, um Modelle dazu zu bringen, die Gedanken zu denken, die wir wollen (denn wir werden diese unvermeidlich aufgeben), und mehr danach, wie institutionelle Kräfte eingesetzt wurden, um Menschen in ihrem Verhalten auszurichten, obwohl wir frei sind, so wild zu denken, wie wir wollen. Es sind die institutionellen Kontrollen und Ausgewogenheiten - die Gesetze, die Anreizstrukturen der Gesellschaft, konkurrierende Regierungszweige und -verwaltungen, das Einsetzen einiger Menschen, um andere in verschiedenen Situationen zu überwachen, die Notwendigkeit von Zustimmung, Genehmigung oder Zusammenarbeit, um Dinge zu erledigen - die die echten Leitplanken gegen Katastrophen unter Menschen bieten. Offensichtlich ist das System unvollkommen, aber es ist ein Präzedenzfall dafür, wie man ausreichende Kreativität zulassen kann, um radikale Innovationen zu verfolgen, aber dennoch genug Ordnung hat, damit die Zivilisation bestehen bleibt oder sogar gedeihen kann. Wenn wir diesen Präzedenzfall nicht ernst nehmen, werden die Leitplanken der Ausrichtung zunehmend (und leise) abfallen, während die wirtschaftlichen Früchte der entfesselten Vorstellungskraft immer klarer werden.