KI und Verantwortung

Künstliche Intelligenz wird oft als Allheilmittel gepriesen, allerdings sieht die Realität anders aus. Es ist auch nicht so, dass KI zu gut wird, sondern dass sie in der Regel einfach schlecht und trotzdem so weitverbreitet ist.

Das Problem liegt dabei nicht nur in der Unzuverlässigkeit der KI-Systeme, sondern auch in der mangelnden Übernahme von Verantwortung. Wenn etwas schiefgeht, wird einfach „das System“ beschuldigt – als ob es nicht von Menschen geschaffen und kontrolliert würde. Die Haftung wird auf die Anwender:innen abgewälzt, während die eigentlichen Verantwortlichen ungeschoren davonkommen.

Besonders betroffen sind Randgruppen und Sonderfälle, die von KI oft nicht adäquat erfasst werden. Während Standardfälle noch halbwegs zufriedenstellend beantwortet werden können, bleiben komplexere Probleme ungelöst. Denn KI-Systeme basieren auf reaktiver Dateninterpretation und was wahrscheinlich als Nächstes kommt, nicht auf echtem Verständnis und Problemlösungskompetenz, und erst recht nicht auf wirklicher Progressivität.

Die Konsequenzen dieser Entwicklung werden sowohl Unternehmen als auch Nutzer:innen zu spüren bekommen. „Hier werden Sie von Menschen bedient“ könnte daher schon bald zu einem Alleinstellungsmerkmal werden, auch wenn menschliche Mitarbeiter:innen nicht immer besser abschneiden als KI-Systeme, dafür aber zumindest eine zwischenmenschliche Ebene bieten.

Denn am Ende verlagert der Einsatz von KI die Verantwortung nur noch weiter weg von den eigentlichen Entscheidungsträger:innen. Es ist ein Symptom des Late Stage Capitalism, in dem Probleme nicht mehr gelöst, sondern nur noch verschoben werden: Let them eat cake.

Dieser Post ist Teil 21 von 23 in der Sammlung „Künstliche Intelligenz“.