Hochrangige US-Bankmanager wurden von Vertretern der Trump-Regierung zu einer dringenden, nicht-öffentlichen Sitzung einberufen.
Hintergrund sind Bedenken hinsichtlich eines leistungsstarken KI-Modells, vor dem die Entwickler selbst warnen und das ernsthafte wirtschaftliche und nationale Sicherheitsrisiken bergen könnte.
Laut ersten Berichten bat die Regierung die Führungskräfte der größten Finanzinstitute des Landes um ihre Anwesenheit, um die Befürchtungen auszuräumen, die neue Technologie könne große Konzerne destabilisieren oder sensible Verteidigungssysteme gefährden.
Das Treffen, das als streng vertraulich beschrieben wird, spiegelt die wachsende Besorgnis in Regierungs- und Industriekreisen über das Tempo und die potenziellen Folgen der Entwicklung fortschrittlicher KI wider.
Quellen, die mit der Angelegenheit vertraut sind, sagten, das betreffende KI-System habe Fähigkeiten gezeigt, die über herkömmliche Finanzmodellierungs- oder Cybersicherheitstools hinausgehen.
Die Entwickler warnten Berichten zufolge davor, dass das Modell in Extremszenarien „Kaskadenausfälle in großen Unternehmen auslösen“ oder „Schwachstellen in geschützten Sicherheitsnetzwerken ausnutzen“ könnte.
Die Organisatoren des Treffens betonten die Dringlichkeit, diese Risiken zu verstehen, bevor die Technologie breiter eingesetzt wird.
Eine mit den Gesprächen vertraute Person gab an, die Regierung wolle „direkte Rückmeldungen von Führungskräften im Bankensektor zu systemischen Risiken und Gegenmaßnahmen“ einholen.
Obwohl die Details des KI-Modells noch begrenzt sind, scheinen die Bedenken vor allem seine Fähigkeit zu betreffen, komplexe Systeme in einem Umfang zu analysieren und darauf zu reagieren, der die menschliche Kontrolle übersteigen könnte.
Eine andere Quelle bezeichnete die Warnungen der Entwickler als „ungewöhnlich eindringlich“ und merkte an, dass „das Potenzial für unbeabsichtigte Folgen erheblich ist, wenn nicht frühzeitig Schutzmaßnahmen getroffen werden“.
Das Treffen signalisiert einen grundlegenden Wandel im Umgang von politischen Entscheidungsträgern mit künstlicher Intelligenz, insbesondere angesichts ihrer zunehmenden Anwendung in kritischen Sektoren wie Finanzen und Verteidigung.
Branchenführer werden voraussichtlich die bestehenden Schutzmaßnahmen darlegen und erörtern, ob zusätzliche Regulierungsrahmen oder kooperative Sicherheitsvorkehrungen erforderlich sind.
In diesem Blog finden Sie übrigens die ganze Vorgeschichte zu diesem Thema.