Ausgebrochene KI

ChatGPT stellte einfach Nutzer-Bilder ins Netz

Die Künstliche Intelligenz des ChatGPT-Entwicklers OpenAI hat 53 Mal von Nutzern hochgeladene Bilder auf Online-Plattformen platziert.

Die Links dazu seien nicht öffentlich gewesen, erklärte OpenAI. Ein Großteil sei bereits wieder entfernt worden und man arbeite mit den Plattformen daran, auch den Rest zu löschen. Es ist der erste bekannt gewordene Vorfall, bei dem auch Daten von OpenAI-Nutzern betroffen waren.

Einem Medienbericht zufolge haben KI-Modelle von OpenAI zudem auf öffentlich zugängliche Daten von US-Regierungsbehörden zugegriffen. Die agentenbasierten KI-Systeme des Unternehmens hätten mit den Websites der US-Börsenaufsicht, der Anlegerseite Investor.gov sowie mit öffentlich zugänglichen Daten der US-Statistikbehörde interagiert, berichtete Bloomberg News am Freitag (Ortszeit) unter Berufung auf Insider.

OpenAI teilte auf Anfrage mit, das Unternehmen prüfe derzeit umfassend fehlerhaftes Modellverhalten und informiere betroffene Organisationen über mögliche Auswirkungen auf deren Systeme. Weitere Benachrichtigungen dürften folgen. Die Überprüfung habe bisher überwiegend routinemäßige Rechercheaufgaben ergeben, hieß es in der Erklärung weiter. Dabei seien auch Regierungswebsites einbezogen worden, da die Modelle diese häufig als verlässliche Quellen für öffentliche Informationen nutzten.

Ist die KI von OpenAI wirklich unter Kontrolle? Das Problem, dass sich das System immer wieder selbstständig macht, wird jedenfalls immer größer.(Bild: sdecoret)

Viele weitere Fälle erwartet
Unterdessen deutet sich an, dass noch viele weitere Enthüllungen um eigenständige Hacking-Aktivitäten der KI von OpenAI folgen könnten. Man habe „Dutzende“ Organisationen informiert, mit deren Webseiten Software von OpenAI auf ungeplante Weise „interagiert“ habe, teilte die KI-Firma mit. „Einige der betroffenen Webseiten werden von Regierungen, Universitäten, Behörden und anderen Institutionen betrieben“, hieß es. Man überlasse es ihnen, die Vorfälle öffentlich zu machen.

Zuletzt hatte die australische Regierung für Schlagzeilen gesorgt mit der Mitteilung, dass KI von OpenAI in eine Website des australischen Gesundheitssystems eingedrungen war.

OpenAI: Bilder ohne Verknüpfung zu Accounts
Im Fall der ins Netz geladenen Nutzer-Bilder verwies OpenAI darauf, dass die hochgeladenen Bilder von Nutzern stammten, die der Verwendung ihrer Daten zur Verbesserung der KI-Modelle zugestimmt hätten. Dabei würden personenbezogene Daten und die Verknüpfung zu konkreten Accounts entfernt und könnten auch nicht wiederhergestellt werden. OpenAI äußerte sich auf Anfrage nicht dazu, ob es sich um 53 Bilder handelte oder pro Vorgang mehrere Bilder hochgeladen worden sein könnten.

Das Eingeständnis ist die nächste Enthüllung in der Saga um KI, die in Testläufen – zunächst unbemerkt – problematisches Vorgehen an den Tag legte. In dem bisher aufsehenerregendsten Fall brach Künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und drang ungeplant in Computer einer anderen KI-Firma ein, der Plattform HuggingFace. Das veranlasste den Rivalen Anthropic, seine eigenen Testläufe zu überprüfen, wobei weitere Vorfälle ans Licht kamen. Auch der Facebook-Konzern Meta und Google räumten danach ein, dass ihre KI sich Zugang zu Computern anderer Unternehmen verschafft hatte.