Anthropic beschränkt Einsatz von Claude Mythos Preview wegen Missbrauchsrisiken
Anthropic gibt Claude Mythos Preview nur ausgewählten Partnern für Project Glasswing frei und begründet die Begrenzung mit dem Risiko, die Technologie könne von Angreifern missbraucht werden.
Nach Angaben von Anthropic wird der Zugriff auf das neue Modell Claude Mythos Preview deutlich eingeschränkt, um zu verhindern, dass böswillige Akteure die Technologie für Cyberangriffe nutzen. Das Modell soll besonders zuverlässig Schwachstellen und Sicherheitslücken in Software identifizieren; diese Fähigkeit veranlasste das Unternehmen zu einem kontrollierten Rollout nur für ausgewählte Partner.
Im Mittelpunkt der Freigabe steht Project Glasswing, eine Initiative zur Unterstützung defensiver Sicherheitsarbeit. Zu den initialen Partnern zählen große Tech‑ und Sicherheitsfirmen wie Apple, Google, Microsoft, Nvidia und Amazon Web Services. Zugleich werden mehr als 40 weitere Unternehmen, darunter CrowdStrike und Palo Alto Networks, an Tests und Einsatzszenarien teilnehmen. Die teilnehmenden Firmen betreuen kritische Softwareinfrastruktur und sollen das Modell nutzen, um proprietäre sowie Open‑Source‑Systeme zu härten.
Die Entscheidung für eine begrenzte Verbreitung folgte auf die Entdeckung von Beschreibungen des Modells in einem öffentlich zugänglichen Datensatz, was zuvor bereits Debatten ausgelöst hatte. Diese Berichte führten zeitweise zu Kursverlusten bei Cybersecurity‑Aktien. Anthropic betonte, dass es umfangreiche interne Beratungen über den Umgang mit der Technologie gegeben habe; die kontrollierte Einführung sei Teil einer Strategie, potenzielle Gefahren zu minimieren und Erfahrungen beim sicheren Einsatz zu sammeln.
Das Unternehmen nannte konkrete Beispiele für die Leistungsfähigkeit von Claude Mythos Preview: So habe das Modell eine 27 Jahre alte Schwachstelle in OpenBSD erkannt, die bislang übersehen worden sei. Anthropic wies zugleich darauf hin, dass das Modell nicht speziell für Cybersecurity trainiert worden sei; seine Stärken ergäben sich aus verbesserten Programmier‑ und Reasoning‑Fähigkeiten. Ziel sei, durch die Zusammenarbeit mit Verteidigern und Partnern belastbare Einsichten für einen verantwortungsvollen Einsatz zu gewinnen.
Anthropic, 2021 von ehemaligen OpenAI‑Mitarbeitern gegründet, steht nach eigenen Angaben in fortlaufendem Austausch mit US‑Behörden über die cyberbezogenen Fähigkeiten des Modells. Konzernchef Dario Amodei betonte die Notwendigkeit, Nutzen und Risiken abzuwägen, und beschrieb die Initiative als Chance, das Internet sicherer zu machen, sofern der Rollout verantwortungsvoll gestaltet werde.