Anthropic hat in der Technologie- und Sicherheitsgemeinschaft ernsthafte Bedenken ausgel\u00f6st, nachdem das Unternehmen die potenziellen Risiken eines leistungsstarken, noch unver\u00f6ffentlichten KI-Systems mit dem internen Namen \u201eClaude Mythos\u201c beschrieben hatte.<\/p>\n\n\n\n
F\u00fchrungskr\u00e4fte des Unternehmens erkl\u00e4ren, die F\u00e4higkeiten des Modells seien so fortschrittlich, dass eine \u00f6ffentliche Verf\u00fcgbarkeit zu weit verbreitetem Missbrauch f\u00fchren k\u00f6nnte, darunter Cyberangriffe und Terrorakte.<\/p>\n\n\n\n
Laut Berichten mehrerer Medien, die sich mit Technologie und KI-Politik befassen, hat Anthropic bewusst entschieden, das System nicht zu ver\u00f6ffentlichen, da man bef\u00fcrchtet, dass seine F\u00e4higkeiten in gro\u00dfem Umfang ausgenutzt werden k\u00f6nnten.<\/p>\n\n\n\n
Das Unternehmen, das sich als f\u00fchrend im Bereich der KI-Sicherheit positioniert hat, warnte davor, dass die potenziellen Anwendungsbereiche des Modells weit \u00fcber die derzeitigen verbraucherorientierten Tools hinausgehen.<\/p>\n\n\n\n
Ein Manager beschrieb die Situation drastisch und sagte, das Modell k\u00f6nne \u201edie H\u00fcrde f\u00fcr ausgekl\u00fcgelte Cyberangriffe drastisch senken\u201c. <\/p>\n\n\n\n
Ein anderer f\u00fcgte hinzu, die Ver\u00f6ffentlichung ohne Sicherheitsvorkehrungen w\u00fcrde \u201eeine Welle sch\u00e4dlicher Aktivit\u00e4ten ausl\u00f6sen, auf die bestehende Systeme nicht vorbereitet sind\u201c.<\/p>\n\n\n\n
Die Bedenken konzentrieren sich auf die F\u00e4higkeit des Modells, hochdetaillierte technische Anweisungen zu generieren, komplexe Aufgaben zu automatisieren und sich schnell an die Absichten der Nutzer anzupassen.<\/p>\n\n\n\n
W\u00e4hrend solche F\u00e4higkeiten in Forschung und Industrie legitime Anwendung finden k\u00f6nnten, bef\u00fcrchten Experten, dass sie auch f\u00fcr b\u00f6swillige Zwecke missbraucht werden k\u00f6nnten, etwa zum Hacken kritischer Infrastrukturen oder zur Koordination gro\u00dfangelegter Angriffe.<\/p>\n\n\n\n
Anthropic hat keine vollst\u00e4ndigen technischen Details zu Claude Mythos ver\u00f6ffentlicht, doch Quellen, die mit der Angelegenheit vertraut sind, berichten, dass interne Tests Szenarien aufgezeigt haben, in denen das System bei der Identifizierung von Schwachstellen und der Optimierung von Angriffsstrategien helfen k\u00f6nnte. <\/p>\n\n\n\n
Ein Insider formulierte es so:<\/p>\n\n\n\n
\u201eEs geht nicht nur darum, was das System wei\u00df, sondern auch darum, wie effektiv es dieses Wissen in Echtzeit anwenden kann.\u201c<\/p>\n\n\n\n
Die Entscheidung des Unternehmens verdeutlicht eine wachsende Kluft in der KI-Branche zwischen schneller Implementierung und vorsichtiger Entwicklung. <\/p>\n\n\n\n
W\u00e4hrend einige Firmen immer leistungsf\u00e4higere Modelle ver\u00f6ffentlichen, setzen andere verst\u00e4rkt auf kontrollierten Zugriff und stufenweise Einf\u00fchrung.<\/p>\n\n\n\n
Anthropic erkl\u00e4rte, das System weiterhin unter strengen internen Kontrollen zu untersuchen und mit externen Experten zusammenzuarbeiten, um Risiken zu bewerten. <\/p>\n\n\n\n
Das Unternehmen forderte zudem branchenweite Standards und betonte: \u201eDiese Herausforderung kann kein einzelnes Unternehmen allein bew\u00e4ltigen.\u201c<\/p>\n","protected":false},"excerpt":{"rendered":"
Anthropic hat in der Technologie- und Sicherheitsgemeinschaft ernsthafte Bedenken ausgel\u00f6st, nachdem das Unternehmen die potenziellen Risiken eines leistungsstarken, noch unver\u00f6ffentlichten KI-Systems mit dem internen Namen \u201eClaude Mythos\u201c beschrieben hatte. F\u00fchrungskr\u00e4fte des Unternehmens erkl\u00e4ren, die F\u00e4higkeiten des Modells seien so fortschrittlich, dass eine \u00f6ffentliche Verf\u00fcgbarkeit zu weit verbreitetem Missbrauch f\u00fchren k\u00f6nnte, darunter Cyberangriffe und Terrorakte. Laut […]<\/p>\n","protected":false},"author":1,"featured_media":30900,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"powered_cache_disable_cache":false,"footnotes":""},"categories":[1],"tags":[],"class_list":["post-35116","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-survival"],"_links":{"self":[{"href":"https:\/\/arrangement-group.de\/index.php?rest_route=\/wp\/v2\/posts\/35116","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/arrangement-group.de\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/arrangement-group.de\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/arrangement-group.de\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/arrangement-group.de\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=35116"}],"version-history":[{"count":2,"href":"https:\/\/arrangement-group.de\/index.php?rest_route=\/wp\/v2\/posts\/35116\/revisions"}],"predecessor-version":[{"id":35118,"href":"https:\/\/arrangement-group.de\/index.php?rest_route=\/wp\/v2\/posts\/35116\/revisions\/35118"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/arrangement-group.de\/index.php?rest_route=\/wp\/v2\/media\/30900"}],"wp:attachment":[{"href":"https:\/\/arrangement-group.de\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=35116"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/arrangement-group.de\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=35116"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/arrangement-group.de\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=35116"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}