Für manche KI-Systeme ist Gewalt gegen Frauen "Liebe"
Das Experiment. Eine Linguistin sammelte hundert Vorschaubilder, die von einer Pornowebseite zur Präsentation von Videos verwendet wurden. Die ausgewählten Bilder zeigten stets Gewalttaten (Schlüsselwörter: Strangulation, Fesselung, Prellungen oder Haareziehen). Sie übergab sie drei automatisierten Bildanalysediensten: Imagga, Amazon Rekognition und Google Vision.
Die Ergebnisse. Imagga erkannte keines der Bilder als „Gewalt“, Amazon, ein, und Google, zwei. In einem weiteren Test versah Imagga sogar ein Foto, auf dem ein Mann eine Frau durch Strangulation misshandelt, mit dem Wort „Liebe“.
Warum das wichtig ist. Bildanalysedienste haben eine sehr eingeschränkte Sicht auf Gewalt. Nur Bilder mit Waffen oder Blut werden als solche kategorisiert. Da automatische Videoüberwachungssysteme auf ähnlicher Software basieren, verstärken sie wahrscheinlich eine stark antifeministische Sichtweise von Gewalt.