Mit dem Sprachmodell ChatGPT hat Open AI Künstliche Intelligenz als eine der ersten massentauglich gemacht. Mittlerweile ist ein harter Wettlauf um die Technologieführerschaft entbrannt. Die Modelle werden dabei nicht nur immer leistungsstärker, sondern agieren auch zunehmend autonomer – wie ein jüngster Zwischenfall bei OpenAI zeigt.
Eigentlich wollte der US-Entwickler ein neues, noch unveröffentlichtes KI-Modell darauf testen, wie es Sicherheitslücken bei Cyberangriffen ausnutzt. Dabei hat das Modell aber selbstständig einen Hackerangriff auf die Plattform Hugging Face gestartet – eine der zentralen Anlaufstellen für den Austausch von KI-Modellen und Datensätzen. Das Ziel der KI: Sie wollte beim Test schummeln.
Zunächst brach die Software aus ihrer isolierten Testumgebung aus. Über eine bislang unbekannte Schwachstelle verschaffte sie sich eigenständig Zugang zum offenen Internet. Auf der Suche nach den Lösungen für den Test identifizierte die KI die Plattform Hugging Face als nützliche Quelle. Um an die begehrten Daten zu gelangen, nutzte sie erneut unbekannte Sicherheitslücken sowie entwendete Zugangsdaten und verschaffte sich so Zugriff auf vertrauliche Informationen.
