Wenn KI draufsteht, aber Lohndumping drinsteckt: Wie der KI-Hype menschliche Arbeit entwertet

Nicht überall, wo KI draufsteht, macht KI auch die (ganze) Arbeit: Unter dem Namen Amazon Go und Amazon Fresh betreibt der E-Commerce-Riese kassenlose Supermärkte, die laut Eigenbeschreibung mittels „Computer Vision Deep Learning“ und „Sensor Fusion“ die Produkte ermitteln, die Kunden aus den Regalen nehmen und auf dieser Grundlage vollautomatisiert digitale Quittungen erstellen, sobald der Kunde das Geschäft verlässt.¹ Ende März wies Emmanuel Maggiori auf die Beobachtung hin, dass das Zeitintervall zwischen Verlassen des Stores und Erhalt der Quittung erheblich variiert – zwischen einigen wenigen Stunden und etwas über zwei Tagen. Wäre der Prozess wie von Amazon behauptet „vollautomatisiert“, wären solche Schwankungen nicht zu erklären. Maggiori vermutet daher, dass Amazon hier einen „Fake-it-till-you-make-it-Approach“ nutzt und Menschen das Videomaterial der Einkäufe manuell auswerten.²

Kaedim: KI oder menschliche Künstler?

Anfang September wurden Vorwürfe gegen das KI-Startup Kaedim laut, die in eine ähnliche Richtung gehen: Kaedim behauptete, mittels eines selbstentwickelten Machine Learning-Algorithmus zweidimensionale Illustrationen der Kunden in automatisch in 3D-Modelle umzuwandeln.³ Für einen monatlichen Abopreis von 150 USD lassen sich auf diese Weise 10 Modelle erzeugen. Insider-Quellen berichteten gegenüber 404 Media allerdings, dass die Outputs des KI-Modells von so schlechter Qualität seien, dass etwa anstelle eines Baums lediglich ein unerkennbarer Klumpen generiert werde. In einer Stellenausschreibung warb das Startup daher weltweit um Freelancer, die in der Lage sind, „innerhalb von 15 Minuten nach Anfrage aus einer 2D-Zeichnung ein 3D-Modell zu erstellen“. Auf diese Praxis angesprochen, sprach die Kaedim-Gründerin Konstantina Psoma davon, Menschen würden bei Kaedim für die „Qualitätskontrolle“ eingesetzt. 404 Media zitiert jedoch Quellen, dass Menschen hier für eine Auszahlung zwischen 1 und 4 USD pro Modell die eigentliche Arbeit verrichteten.⁴ Mittlerweile hat Kaedim seine Webseite angepasst und schreibt, dass Machine Learning und ein Team von In-House-Artists zusammenarbeiten, um innerhalb von Minuten Assets zu produzieren.⁵

Der KI-Hype und seine Fallstricke

Angesichts des KI-Hypes wage ich die Prognose, dass wir in den nächsten Monaten eine Reihe weiterer Beispiele von Startups und Unternehmen sehen werden, die behaupten, KI zu nutzen, während tatsächlich Menschen die Arbeit verrichten. Bereits zu Zeiten des Blockchain-Hypes ging etwa der Aktienkurs einer Getränkefirma durch die Decke, nachdem sie ihren Namen von „Long Island Iced Tea Corp.“ zu „Long Blockchain“ änderte.⁶ Lange davor war es der Dotcom-Hype, innerhalb dessen sich durch das Versprechen neuer Technologien (die auch auf Seiten der Investoren vielfach nicht so richtig verstanden wurden) schnell Markt- und Risikokapital generieren ließ. Die Versuchung, etwas als „KI“ zu labeln, wenn unter der Haube tatsächlich keine (funktionierende) KI arbeitet, war und ist also vermutlich groß.

Nicht gemeint ist damit die in der Entwicklung durchaus legitime „Wizard of Oz“-Methode: Hier werden im Rahmen von Prototypen Menschen für künftig zu automatisierende Prozesse eingesetzt, um so etwa UX-Designs zu testen.⁷

Gesellschaftliche und ethische Konsequenzen

Problematisch wird es, wenn die erhoffte Automatisierung nie umgesetzt bzw. sich nicht umsetzen lässt und somit eine Skalierung nur über billige menschliche Arbeit, also Lohndumping, erzielt werden kann. Das ist aus mehrfacher Hinsicht problematisch:

Zunächst unterstützen Anwender dieses Systems unwissentlich Lohndumping: Im Fall von Kaedim erhielt ein 3D-Künstler pro Modell mutmaßlich zwischen 1 und 4 USD, während der Kunde rund 15 Dollar pro Modell bezahlte.
Wenn der Kunde tatsächlich menschliche Arbeit für ein computergeneriertes Produkt hält, wird menschliche Arbeit und Kunst nicht mehr als solche anerkannt und somit entwertet. Ein Künstler, dessen Werk als KI-generiert verkauft wird, wird seiner Anerkennung als Künstler beraubt.
Weiterhin wird so ein verzerrtes Bild von den tatsächlichen Möglichkeiten von KI erzeugt, was den Einsatz von KI für Aufgaben, für die sie möglicherweise gar nicht geeignet ist, auch in anderen Kontexten wahrscheinlicher macht.

Der umgekehrte Trend: Menschen ersetzen KI

Daher ist eine möglichst breite gesellschaftliche Auseinandersetzung mit KI nötig: Wer sich über KI im Rahmen seiner Möglichkeiten informiert und KI-Tools ausprobiert, gewinnt ein besseres Verständnis der Möglichkeiten, aber auch der (teilweise inhärenten) Begrenzungen von KI. Dieses Verständnis hülfe in diesem Kontext nicht nur Anwendern, sondern auch an nachhaltigen Geschäftsmodellen statt am nächsten Strohfeuer interessierten Gründern und Investoren.

In der vielfach geführten Debatte, dass KI menschliche Arbeit und Jobs ersetzen wird, ist es letztlich ein bemerkenswerter, wenngleich zynischer, Plottwist, wenn Menschen in Wahrheit die Arbeit der vermeintlichen KI tun, selbst aber damit unsichtbar bleiben.

1
Vgl. Video „Introducing Amazon Go and the world’s most advanced shopping technology“, URL: https://www.youtube.com/watch?v=NrmMk1Myrxc, abgerufen am 29. Oktober 2023.
2
Vgl. Maggiori, Emmanuel, Amazon’s cashierless stores: artificial intelligence or major deception? URL: https://emaggiori.com/amazon-fresh/, abgerufen am 29. Oktober 2023.
3
Vgl. Cox, Joseph; Koebler, Jason, Buzzy AI Startup for Generating 3D Models Used Cheap Human Labor, URL: https://www.404media.co/kaedim-ai-startup-2d-to-3d-used-cheap-human-labor/, abgerufen am 30. Oktober 2023.
4
Vgl. ebd.
5
Vgl. https://www.kaedim3d.com, abgerufen am 30. Oktober 2023.
6
Vgl. Kosoff, Maya, Iced Tea Company Changes Name to “Long Blockchain,” Stock Immediately Skyrockets, URL: https://www.vanityfair.com/news/2017/12/iced-tea-company-changes-name-to-long-blockchain-stock-immediately-skyrockets, abgerufen am 30. Oktober 2023.
7
Vgl. https://www.nngroup.com/articles/wizard-of-oz/, abgerufen am 30. Oktober 2023.