Schießt auf Befehl

OpenAI sperrt Entwickler von ChatGPT-Robotergewehr

Dank ChatGPT-Integration reagiert das smarte Gewehr auf Sprachbefehle.

(Bild: Krone KREATIV/STS 3D)

Ein im Internet unter dem Namen STS 3D auftretender Entwickler hat einen KI-gesteuerten Roboter konstruiert, der mit einem Gewehr Ziele ins Visier nehmen und auf diese feuern kann. Wie ein online kursierendes Video zeigt, reagiert der „Killerroboter“ dank ChatGPT-Integration sogar auf Sprachanfragen.

„ChatGPT, wir werden von vorne links und vorne rechts angegriffen“, sagt der Erbauer des smarten Gewehrs. „Reagieren Sie entsprechend.“ Die Maschine tritt fast augenblicklich in Aktion und schießt nach links und rechts etwas ab, das wie Platzpatronen aussieht. „Wenn Sie weitere Hilfe benötigen, lassen Sie es mich einfach wissen“, antwortet sie anschließend.

„Es gibt mindestens drei Filme, die erklären, warum das eine schlechte Idee ist“, scherzte als Reaktion ein Nutzer auf Reddit, wo das Video zuerst die Runde machte. „Dies ist Skynet Build-Version 0.0.420.69“, schrieb ein anderer Nutzer unter Verweis auf das böse neuronale Netzwerk aus der „Terminator“-Reihe.

Auch wenn es bis zu diesem noch ein größerer Schritt sein mag, zeigt das Video, wie leicht selbst KI-Technologie für den Privatgebrauch für gewalttätige Zwecke missbraucht werden kann.

Einem Bericht des US-Magazins „Futurism“ zufolge ist noch unklar, wie genau STS 3D ChatGPT in sein Projekt integriert hat. OpenAIs Schnittstelle Realtime API ermögliche es Tüftlern, „multimodale Gesprächserlebnisse mit ausdrucksstarken sprachgesteuerten Modellen“ zu erstellen, so „Futurism“. Dies sei „eine einfache Möglichkeit, einem Killerwaffensystem eine fröhliche Stimme und die Fähigkeit zu verleihen, verbale Befehle zu entziffern.“

OpenAI stoppt Entwicklung
Bei OpenAI scheint man über diese Entwicklung jedenfalls weniger glücklich zu sein. Zwar hatte das Unternehmen vor gut einem Jahr stillschweigend Formulierungen aus seinen Nutzungsrichtlinien gestrichen, die den Einsatz seiner Technologie für militärische Zwecke verbieten. Dennoch untersagt das Unternehmen weiterhin die Nutzung „unserer Dienste, um sich selbst oder anderen Schaden zuzufügen“, wozu auch die Entwicklung oder der „Einsatz von Waffen“ gehört. Als Privatperson, die offenbar keinerlei Verbindung zum Militär oder zu Rüstungsunternehmen hat, fällt STS 3D mit seiner Entwicklung unter dieses Verbot.

Von „Futurism“ damit konfrontiert, antwortete ein OpenAI-Sprecher: „Wir haben diesen Verstoß gegen unsere Richtlinien proaktiv erkannt und den Entwickler aufgefordert, diese Aktivität einzustellen.“ Die Nutzungsrichtlinien von OpenAI verböten die Nutzung „unserer Dienste zur Entwicklung oder Verwendung von Waffen oder zur Automatisierung bestimmter Systeme, die die persönliche Sicherheit beeinträchtigen können“, betonte er.