Rassistische RoboterWarum künstliche Intelligenz manchmal ganz schön dumm ist
Jade Thirlwall, Perrie Edwards, Leigh-Anne Pinnock and Jesy Nelson von „Little Mix“ (v.l.)
Copyright: picture alliance / dpa
Vergangene Woche wurde bekannt, dass Microsoft einer Großzahl der Redakteure seiner Nachrichtenseite msn.com gekündigt hat, um diese durch eine Künstliche Intelligenz zu ersetzen, die fortan qua Algorithmus Artikel aus anderen Medienhäusern zusammenstellt.
Nun scheint die Software bereits zu arbeiten – und hat sich sogleich einen Patzer geleistet: Einen Beitrag, in dem Jade Thirlwall, ihres Zeichens ein Viertel der britischen Girl-Group Little Mix, über ihre Erfahrungen mit Rassismus spricht, hat die KI mit einem Foto von deren Bandkollegin Leigh-Anne Pinnock versehen, der zweiten Little-Mix-Sängerin mit multi-ethnischen Wurzeln.
Das könnte Sie auch interessieren:
Das passiere ihr wirklich andauernd, beschwerte sich Thirlwall öffentlich. Ein menschlicher MSN-Mitarbeiter tauschte das falsche Foto daraufhin aus. Zu spät. Das nicht-menschliche Versagen hatte bereits eine Welle von kritischen Artikeln über die Redaktionssoftware, die allem Anschein nach Menschen nicht-weißer Hautfarbe nicht auseinanderhalten kann, ausgelöst. Denn es war leider nicht das erste Mal, das einer Microsoft-KI Rassismus vorgeworfen wurde: Vor vier Jahren hatte das Technologieunternehmen einen Chatbot auf Twitter veröffentlicht, der sich nach nur einem Tag unmoderierter menschlicher Interaktion in einen bigotten Troll verwandelt hatte.
Die letzten humanoiden Journalisten bei msn.com sind derzeit übrigens damit beschäftigt, all jene Artikel zu löschen, die ihren drohenden Jobverlust anprangern. Die KI, die sie ersetzen soll, stellt diese nämlich ungefiltert auf die Microsoft-Seite.