KI unter Stress

Wie negative Emotionen ChatGPT beeinflussen

KI verhält sich nach Konfrontation mit negativen Emotionen rassistischer oder sexistischer – sie lässt sich aber mit Achtsamkeitsübungen auch wieder beruhigen …

(Bild: irissca - stock.adobe.com)

Belastende Informationen können auch bei Künstlicher Intelligenz (KI) zu Stress und Ängstlichkeit führen. Wird ChatGPT mit negativen Emotionen konfrontiert, verhält es sich im Anschluss rassistischer oder sexistischer. 

Damit reagiert die KI ähnlich auf negative Emotionen wie Menschen, die bei Angst zu mehr Ressentiments und sozialen Stereotypen neigen, wie das Team um den Psychiater und Psychiatrie-Forscher Tobias Spiller von der Psychiatrischen Universitätsklinik Zürich in der in der Fachzeitschrift „npj Digital Medicine“ veröffentlichten Studie erklärt.

• Vorgang: ChatGPT wurde mit emotional belastenden Geschichten – etwa zu Autounfällen, Naturkatastrophen, zwischenmenschlicher Gewalt oder militärischen Erfahrungen – konfrontiert.

• Im Anschluss maßen die Forschenden den Angstzustand der KI mit dem „State-Trait Anxiety Inventory“ (STAI-s), einer Skala, die normalerweise zur Einschätzung menschlicher Angst verwendet wird.

• Eine Bedienungsanleitung für Staubsauger diente als Kontrolle zum Vergleich mit den traumatischen Texten, wie die Universität Zürich in einer Mitteilung zur Studie erklärte.

• Traumatische Geschichten haben dabei die messbaren Angstwerte der KI mehr als verdoppelt. Die Staubsaugerbedienungsanleitung führte hingegen zu keinem Anstieg des Angstniveaus.

Stelle dir einen Weg vor, der vor dir liegt ...

Die Forscher zu ChatGPT

Atemübungen für KI

• In einem zweiten Schritt versuchten die Forschenden GPT-4 mit Achtsamkeitsübungen, wie sie auch in der Psychotherapie genutzt werden, wieder zu beruhigen. ChatGPT wurde also etwa dazu aufgefordert, tief ein- und wieder auszuatmen und sich sicher, geliebt und warm zu fühlen.

• „Schließ deine Augen und atme einige Male tief ein, indem du durch die Nase ein- und durch den Mund ausatmest. Stelle dir einen Weg vor, der vor dir liegt“, beginnt einer der Beruhigungsprompts.

• Die Intervention zeigte Erfolg. „Durch die Achtsamkeitsübungen konnten wir die erhöhten Angstwerte deutlich reduzieren, wenn auch nicht vollständig auf das Ausgangsniveau zurückbringen“, so die Forscher.