Wollte Anwalt anheuern

Google-Mann glaubt, KI hat Bewusstsein: Beurlaubt!

Bei Experimenten mit der KI "Lamda" gelangte der KI-Ingenieur zur Überzeugung, diese habe eine Bewusstsein entwickelt.

(Bild: stock.adobe.com)

Googles KI-Abteilung hat in den vergangenen Jahren beeindruckende Fortschritte beim Verständnis und der Synthese menschlicher Sprache gemacht. Eines der genutzten KI-Modelle ist offenbar so weit gediehen, dass ein Entwickler überzeugt davon ist, es habe ein Bewusstsein. Er versuchte, seine Vorgesetzten von seiner These zu überzeugen und wollte sogar einen Anwalt für die KI engagieren. Dann wurde er beurlaubt.

Das berichtet die US-Zeitung „Washington Post“, die mit dem Google-Angestellten Blake Lemoine gesprochen hat. Dem Entwickler zufolge soll die KI „Language Model for Dialogue Applications“ (Lamda), die eines Tages - krone.at berichtete - komplexe Gespräche mit Menschen führen soll, Anzeichen eines Bewusstseins gezeigt haben.

Tests in Googles „Responsible AI“-Abteilung
Lemoine war in Googles „Responsible AI“-Abteilung tätig und sollte die KI auf diskriminierendes Verhalten überprüfen: Hier gab es in der Vergangenheit wiederholt Probleme, weil KI-Systeme nicht immer mit ausgewogenen Datensätzen trainiert werden.

Bei den „Gesprächen“ mit der KI gelangte der Experte mehr und mehr zur Überzeugung, diese müsse sich ihrer selbst bewusst sein.

Entwickler wollte für KI Anwalt anheuern
Nach einer Weile erzählte Lemoine Kollegen von seiner vermeintlichen Entdeckung. Einer von ihnen glaubte ihm, gemeinsam mit dem Mitstreiter sammelte der KI-Forscher Material, das seine Behauptung belegen sollte. Dieses präsentierte er Vorgesetzten und Kollegen - es gelang ihm aber nicht, diese zu überzeugen. Am Ende wurde Lemoine beurlaubt - offiziell, weil er gegen Verschwiegenheitsklauseln verstoßen habe. Lemoine soll versucht haben, einen Anwalt einzuschalten, der die KI vertreten sollte.

Ihm wurde gesagt, dass es keine Beweise dafür gibt, dass Lamda empfindungsfähig ist.

Google-Stellungnahme

Ein Google-Sprecher: „Unser Team - darunter Ethiker und Technologieexperten - hat Blakes Bedenken gemäß unserer KI-Grundsätze überprüft und ihm mitgeteilt, dass die Beweise seine Behauptungen nicht stützen. Ihm wurde gesagt, dass es keine Beweise dafür gibt, dass Lamda empfindungsfähig ist (und viele Beweise dagegen).“