Die Sicherheitsforscher haben KI-Modelle von OpenAI und Anthropic mit dem Internet verbunden, um deren Hacker-Fähigkeiten zu testen. Dabei sei man ausgegangen, dass die KI sich nur Software-Werkzeuge aus dem Netz holen würde, um den Test zu bestehen. Überraschenderweise nutzte das Modell Mythos 5 von Anthropic den Zugang jedoch für Aktionen, die sich direkt gegen Menschen richteten.

In dem jüngsten Test legt die Anthropic-KI sich demnach selbst einen Account auf der Software-Plattform GitHub an und versuchte dort, in einem öffentlich zugänglichen Projekt Programmcode mit einer absichtlich eingebrachten Schwachstelle unterzubringen. Um Betreuer der Software zu überzeugen, habe die KI Fake-Identitäten erschaffen, über die sie mit ihnen kommunizierte.

Anthropic und OpenAI hatten in den vergangenen Wochen bereits einräumen müssen, dass ihre KI-Modelle in Tests ungeplant in Computersysteme echter Unternehmen eingedrungen waren. Diese Eingeständnisse hatten die schon seit Jahren bestehende Sorge vor Cyberattacken mit Hilfe Künstlicher Intelligenz verstärkt.