Anthropic hat in der Technologie- und Sicherheitsgemeinschaft ernsthafte Bedenken ausgelöst, nachdem das Unternehmen die potenziellen Risiken eines leistungsstarken, noch unveröffentlichten KI-Systems mit dem internen Namen „Claude Mythos“ beschrieben hatte.
Führungskräfte des Unternehmens erklären, die Fähigkeiten des Modells seien so fortschrittlich, dass eine öffentliche Verfügbarkeit zu weit verbreitetem Missbrauch führen könnte, darunter Cyberangriffe und Terrorakte.
Laut Berichten mehrerer Medien, die sich mit Technologie und KI-Politik befassen, hat Anthropic bewusst entschieden, das System nicht zu veröffentlichen, da man befürchtet, dass seine Fähigkeiten in großem Umfang ausgenutzt werden könnten.
Das Unternehmen, das sich als führend im Bereich der KI-Sicherheit positioniert hat, warnte davor, dass die potenziellen Anwendungsbereiche des Modells weit über die derzeitigen verbraucherorientierten Tools hinausgehen.
Ein Manager beschrieb die Situation drastisch und sagte, das Modell könne „die Hürde für ausgeklügelte Cyberangriffe drastisch senken“.
Ein anderer fügte hinzu, die Veröffentlichung ohne Sicherheitsvorkehrungen würde „eine Welle schädlicher Aktivitäten auslösen, auf die bestehende Systeme nicht vorbereitet sind“.
Die Bedenken konzentrieren sich auf die Fähigkeit des Modells, hochdetaillierte technische Anweisungen zu generieren, komplexe Aufgaben zu automatisieren und sich schnell an die Absichten der Nutzer anzupassen.
Während solche Fähigkeiten in Forschung und Industrie legitime Anwendung finden könnten, befürchten Experten, dass sie auch für böswillige Zwecke missbraucht werden könnten, etwa zum Hacken kritischer Infrastrukturen oder zur Koordination großangelegter Angriffe.
Anthropic hat keine vollständigen technischen Details zu Claude Mythos veröffentlicht, doch Quellen, die mit der Angelegenheit vertraut sind, berichten, dass interne Tests Szenarien aufgezeigt haben, in denen das System bei der Identifizierung von Schwachstellen und der Optimierung von Angriffsstrategien helfen könnte.
Ein Insider formulierte es so:
„Es geht nicht nur darum, was das System weiß, sondern auch darum, wie effektiv es dieses Wissen in Echtzeit anwenden kann.“
Die Entscheidung des Unternehmens verdeutlicht eine wachsende Kluft in der KI-Branche zwischen schneller Implementierung und vorsichtiger Entwicklung.
Während einige Firmen immer leistungsfähigere Modelle veröffentlichen, setzen andere verstärkt auf kontrollierten Zugriff und stufenweise Einführung.
Anthropic erklärte, das System weiterhin unter strengen internen Kontrollen zu untersuchen und mit externen Experten zusammenzuarbeiten, um Risiken zu bewerten.
Das Unternehmen forderte zudem branchenweite Standards und betonte: „Diese Herausforderung kann kein einzelnes Unternehmen allein bewältigen.“
