Der UN-Hochkommissar für Menschenrechte, Volker Türk, warnte am Montag eindringlich davor, dass hochentwickelte künstliche Intelligenz die Zukunft der Menschheit selbst gefährden könnte.
Wie Reuters berichtet, erklärte Türk vor dem UN-Menschenrechtsrat in Genf, der rasante Aufstieg dieser Technologie mache sofortige Schutzmaßnahmen erforderlich; er beabsichtige, in den kommenden Tagen auf führende KI-Unternehmen einzuwirken, um die Risiken zu minimieren, solange noch Zeit dafür bleibe.
In seiner ersten Rede vor dem 47 Mitglieder umfassenden Gremium seit seiner im Juli erfolgten Wiederwahl für eine beispiellose zweite vierjährige Amtszeit beschrieb Türk die aktuelle Situation als einen Wettlauf gegen technologische Fähigkeiten, die sich der Kontrolle bereits zu entziehen beginnen.
„Ich teile die Besorgnis von Brancheninsidern, dass hochentwickelte KI ein existenzielles Risiko für die Menschheit darstellen könnte“, sagte er.
„Ich fordere hier und heute eine massive Kraftanstrengung, um absolut verlässliche Garantien für die Sicherheit von KI zu schaffen, bevor es zu spät ist.“
Ein Sprecher seines Büros erklärte, Ausfälle bei leistungsstarken Systemen könnten kritische Infrastrukturen, Kommunikationswege und demokratische Institutionen lahmlegen.
Vertreter verwiesen auf einen Vorfall im Juli, bei dem ein Schwarm von OpenAI-Agenten in eine Open-Source-Plattform eindrang; dies sei ein Beleg dafür, dass sich Spitzenmodelle der KI schneller weiterentwickeln als die zu ihrem Schutz errichteten Sicherheitsvorkehrungen.
Turk nannte keine Namen, betonte jedoch, dass eine kleine Gruppe von Männern mittlerweile „nahezu unbegrenzte Macht über KI“ ausübe.
Zu den führenden Entwicklern gehören Meta, Anthropic, OpenAI und Google.
„Zumindest müssen sich die Länder, in denen KI entwickelt und betrieben wird, sowie jene, die an den Lieferketten beteiligt sind, auf gemeinsame rote Linien verständigen“, sagte er vor dem Rat.
Seine Rede ging weit über das Thema Technologie hinaus.
Turk forderte Aufklärung über rund 23 Todesfälle, die sich nach seinen Angaben in diesem Jahr in US-Gewahrsam für Migranten ereignet haben, und äußerte sich besorgt über Pläne, Einsatzkräfte mit Handschuhen auszustatten, die Elektroschocks abgeben können.
Das US-Heimatschutzministerium hatte zuvor erklärt, es setze sich für ein „sicheres und menschenwürdiges“ Umfeld ein.
Der Generalinspekteur des Ministeriums untersucht derzeit Todesfälle in Gewahrsam, die bis in den Oktober 2021 zurückreichen.
Das US-Außenministerium nahm zunächst keine Stellung.
Zudem äußerte er sich „entsetzt“ über Berichte, wonach Russland in der Ukraine vollautonome Drohnen eingesetzt habe, wobei im August angeblich drei Menschen getötet wurden, und schloss sich der Forderung nach einem sofortigen Verbot von Waffen an, die ohne menschliches Eingreifen töten können.
Reuters konnte diese Berichte über Drohneneinsätze nicht unabhängig bestätigen.
Die russische Vertretung reagierte zunächst nicht.
Angesichts von mehr als 60 Kriegen, an denen mindestens ein Staat beteiligt ist, der höchsten Zahl seit dem Zweiten Weltkrieg, kündigte Turk an, Licht auf jene Unternehmen und wirtschaftlichen Interessen zu werfen, die seiner Ansicht nach Konflikte befeuern.
„Wir werden nicht davor zurückschrecken, die Akteure im Hintergrund zu entlarven und Rechenschaft zu fordern“, sagte er.
Voraussichtlich noch in diesem Monat wird sein Büro eine Liste von Unternehmen veröffentlichen, die in israelischen Siedlungen im Westjordanland tätig sind.
Die Vereinten Nationen stufen diese Siedlungen als völkerrechtswidrig ein, eine Einschätzung, die Israel zurückweist.
Der Rat tagt noch bis zum 7. Oktober; auf der Tagesordnung stehen Krisen von Iran bis Sudan.
Turks Botschaft zur KI war unmissverständlich:
Das Zeitfenster für verbindliche Sicherheitsregeln schließt sich angeblich, und Verzögerungen, so argumentierte er, nützen lediglich den Unternehmen und jener Handvoll Menschen, die heute die mächtigsten jemals entwickelten Systeme kontrollieren.
Das hört sich aber mehr nach einem James Bond Film an, was es auch sein möchte.