Phänomen um Innovation

„Gleich viele Fehler, aber man glaubt der KI“

Menschen werden ersetzt und unterstützt: Beim Tennis kommen digitale Linienrichter zum Einsatz. In der Medizin wird verstärkt auf KI gesetzt, wenn es um die Auswertung von Proben geht.

(Bild: Krone KREATIV/UALL/Alex Scheuber, picturedesk.com)

Ratgeber und Assistent für Hausaufgaben in der Schule, Unterstützer beim Vorbereiten von Präsentationen und Schreiben von Texten – der Einsatz von Künstlicher Intelligenz wird alltagstauglich. Doch stimmen die Daten auch? Martina Gaisch, Professorin an der FH OÖ, warnt vor einer „falschen“ Realität.

Was kann Künstliche Intelligenz und was nicht? Mit dieser Frage setzt sich Martina Gaisch intensiv auseinander. Ähnlich oft prüft die Leiterin des Studiengangs „Design of Digital Products“ am Campus der Fachhochschule Oberösterreich in Hagenberg, ob das stimmt, was das System ausspuckt oder nicht.

Menschliche Qualitäten zählen
„Das Wichtigste sind einfach das Kontextwissen und die Bewertungskompetenz – das sind zutiefst menschliche Qualitäten“, sagt Gaisch. Die 55-Jährige sieht sich in der Rolle der Veredlerin, wenn sie bei der Erstellung von Präsentationen auf den Einsatz der Digitalisierungswerkzeuge zurückgreift: „Für mich ist KI ein sensationeller personalisierter Lernassistent. Ich hole mir kreativen Input.“

Martina Gaisch leitet den FH-OÖ-Studiengang „Design of Digital Products“. Sie selbst nutzt die Künstliche Intelligenz, ist sich aber ihrer Schwächen bewusst.

(Bild: Dostal Harald)

Während manche schon erkannt haben, dass die digitalen Werkzeuge nicht perfekt sind, auch oftmals halluzinieren, wie es Gaisch nennt, gibt es welche, die komplett darauf vertrauen. „Unreflektiert“, nennt die Professorin diese Personengruppe und spricht hier vom Automation Bias.

Den Systemen wird oft uneingeschränkt vertraut
Was damit gemeint ist? Ein zu großes Vertrauen in die Systeme: „Früher hatte man den Linienrichter beim Tennis, mit dem nach Entscheidungen gestritten wurde. Heute übernimmt den Job die KI, die gleich viele Fehler macht, aber man glaubt ihr.“

Dabei ist die Künstliche Intelligenz nur so gut wie die Daten, mit denen sie trainiert wurde. Und dieses Training übernehmen Menschen: „Die KI ist einfach ein Spiegel unserer Gesellschaft, sie ist weder objektiv noch neutral.“

Gaisch verweist darauf, dass vorwiegend Männer die Systeme mit Daten füttern. Die Folge: „Da kommen oft an der Realität vorbeigehende Aussagen heraus. So werden Stereotype reproduziert.“ Ihre Forderung: Es braucht hier mehr Vielfalt.