Droht Kontrollverlust?

OpenAI-Hickhack zeigt Uneinigkeit über KI-Zukunft

OpenAI-Entwickler warnen vor zu schnellen Fortschritten: „Wir haben keine Mittel, um eine potenziell superintelligente KI zu steuern oder zu kontrollieren.“

(Bild: stock.adobe.com)

Das Chaos um die Entlassung und Wiedereinstellung von Sam Altman als Chef des ChatGPT-Entwicklers OpenAI ist das Ergebnis des Tauziehens zweier KI-Denkschulen. Auf der einen Seite stehen diejenigen, die wie Altman die Entwicklung Künstlicher Intelligenz (KI) vorantreiben und die neuen Versionen der Öffentlichkeit zugänglich machen wollen. Nur dadurch könne diese Technologie angemessen getestet und perfektioniert werden.

Dem stehen diejenigen gegenüber, die für eine eingehende Prüfung im Labor eintreten, bevor diese Programme auf die Menschheit losgelassen werden. Dies gelte vor allem für sogenannte Generative KI, die auf Basis weniger Stichworte Texte, Bilder oder Videos erstellen kann.

„Handelt es sich hierbei nur um ein weiteres Produkt wie Soziale Medien oder Kryptowährungen“, fragt Connor Leahy, Chef der KI-Firma ConjectureAI und ein Verfechter einer vorsichtigen Vorgehensweise. „Oder handelt es sich um eine Technologie, die die Fähigkeit hat, den Menschen zu übertreffen und unkontrollierbar zu werden?“

Nun wieder OpenAI-Geschäftsführer: Sam Altman

(Bild: AP)

Berichte, wonach dem Hickhack um Altman ein internes Schreiben voranging, in dem auf eine potenziell gefährliche neue Entwicklung hingewiesen wurde, verdeutlichen diese Sorgen.

Super-KI vielleicht nicht kontrollierbar
Ilya Sutskever, Chef-Entwickler von OpenAI und als Verwaltungsratsmitglied mitverantwortlich für Altmans Rauswurf Ende vergangener Woche, gibt sich ebenfalls besorgt. Er beurteilt die Strategie Altmans, KI in möglichst viele Anwendungen einzubauen, kritisch.

Der Mensch wird nicht in der Lage sein, KI-Systeme, die viel intelligenter sind als wir, zuverlässig zu überwachen.

Ilya Sutskever, Chefentwickler von OpenAI

„Wir haben keine Mittel, um eine potenziell superintelligente KI zu steuern oder zu kontrollieren. Der Mensch wird nicht in der Lage sein, KI-Systeme, die viel intelligenter sind als wir, zuverlässig zu überwachen“, schrieb er im Sommer in einem Blog-Beitrag.

Entwicklerkonferenz warf Fragen auf
Offenbar beobachtete Sutskever vor allem die Vorstellung einer Reihe neuer Produkte auf der ersten Entwicklerkonferenz von OpenAI vor wenigen Wochen mit Sorge. Unter anderem sollen Programme auf Basis der neuesten ChatGPT-Version als virtuelle Assistenten fungieren.

Allerdings ist er über den Umgang mit Altman nicht glücklich. „Ich bereue meine Beteiligung an den Aktionen des Verwaltungsrates“, sagte Sutskever am Montag. Der OpenAI-Chefentwickler war für einen Kommentar zu diesem Thema nicht zu erreichen.

Belegschaft drohte fast geschlossen mit Kündigung
In der Belegschaft löste der Rauswurf Altmans, der als das Gesicht der KI-Branche gilt, eine offene Rebellion aus. Fast alle der etwa 700 OpenAI-Beschäftigten drohten zu Wochenbeginn mit ihrer Kündigung, sollte Altman nicht auf seinen Posten zurückkehren. Außerdem forderten sie den Rücktritt sämtlicher Verwaltungsratsmitglieder.

Generative KI unterstützt bisher Menschen bei ihrer Arbeit, indem sie beispielsweise langatmige Texte zusammenfasst. Einige Experten warnen jedoch davor, dass sich diese Programme zu einer „Künstlichen Allgemeinen Intelligenz“ (Artificial General Intelligence, AGI) entwickeln könnten, die immer komplexere Aufgaben ohne menschliches Zutun übernehmen könnte.

Sie befürchten, dass die Software dann Verteidigungssysteme steuert, politische Propaganda verbreitet oder Waffen produziert.

Als gemeinnützige Organisation gegründet
OpenAI mit Sitz in San Francisco wurde vor acht Jahren als gemeinnützige Organisation ins Leben gerufen. Damit sollte unter anderem verhindert werden, dass aus Gewinnstreben einer gefährlichen AGI der Boden bereitet wird, die laut der Gründungscharta „die Menschheit bedroht oder eine unangemessene Machtkonzentration bedeutet“.

Seither hat Altman allerdings eine gewinnorientierte OpenAI-Sparte aufgebaut, die ChatGPT vermarktet. Dies half ihm dabei, bei Investoren wie dem Softwarekonzern Microsoft die notwendigen Milliarden für die Weiterentwicklung der Technologie einzusammeln.

Dabei hatte der Mitgründer des Start-ups im Frühjahr einen offenen Brief mitunterschrieben, in dem vor einer Auslöschung der Menschheit durch KI gewarnt wurde. Zuvor hatten Experten in einem weiteren Aufruf ein Moratorium für die Weiterentwicklung dieser Technologie gefordert.