Digital
Wir verwenden Cookies und Analysetools, um die Nutzerfreundlichkeit der Internetseite zu verbessern und passende Werbung von watson und unseren Werbepartnern anzuzeigen. Weitere Infos findest Du in unserer Datenschutzerklärung.
Bild

Geschmacklos, rassistisch? Diese Foto-App sorgt mit einer neuen Funktion für Aufregung

Wie FaceApp verspricht die Gradient-App raffinierte Fotomanipulationen mithilfe von künstlicher Intelligenz. Doch es gibt gleich mehrere Probleme.



Erinnerst du dich an FaceApp?

Das war die Foto-App, die 2019 für Furore sorgte, weil man damit auf Knopfdruck altern konnte.

Nun wird es noch viel krasser.

Die Gradient-App macht aus Weissen Schwarze und Asiaten. Und umgekehrt. Das funktioniert innert Sekunden, mithilfe raffinierter Algorithmen und Künstlicher Intelligenz.

«Finden Sie Ihre Zwillinge aus Brasilien, Asien, Europa und Indien.»

Werbeversprechen der App-Entwickler

Allerdings hat die faszinierende Bildmanipulations-Technik ihre Schattenseiten und sorgt für Proteste.

Was ist das für eine App?

In den App-Stores fürs iPhone und für Android wird sie als «Gradient: AI Photo Editor» aufgeführt.

Bild

Gradient analysiert die von Usern hochgeladenen Fotos und verändert das Aussehen von Personen grundlegend. Die Gesichter von Weissen, bzw. hellhäutigen Personen, werden transformiert in Schwarze und Asiaten. Wobei die Verwandlung auch in umgekehrter Richtung möglich ist.

Lassen wir zunächst die Bilder sprechen...

Wer ist das?

Bild

Die Auflösung:

BildBild aufdecken

Und wer ist das?

Bild

Die Auflösung:

BildBild aufdecken

Vermarktet wird die App auch als «Gradient: AI Fortune Teller», das ist eine weitere Funktion, die anhand des Aussehens auf humorvolle Art die Zukunft voraussagt.

Doch für Schlagzeilen sorgte die vor wenigen Tagen lancierte Funktion «AI Face», auf Deutsch «KI-Gesichts-Collage». US-Promis rühren dafür bei Twitter und Instagram die Werbetrommel.

Bild

screenshot: twitter

Und bei TikTok war es die Influencerin Danielle Cohn.

Bild

screenshot: tiktok

Wo ist der Haken?

Es gibt mehrere, wie wir gleich sehen.

Der US-Sender CNN berichtete kritisch über die App, die ermögliche, «die ethnische Zugehörigkeit» in Fotos zu ändern. Laut Bericht steht die App in den Vereinigten Staaten unter Beschuss, weil sie «digitales Blackfacing» fördere.

Bild

screenshot: twitter

Die Gradient-App bot Smartphone-Nutzern auch eine Einschätzung zur Herkunft («Schätzung der Ethnizität») an. Auch dabei kam angeblich Künstliche Intelligenz zum Einsatz. Allerdings ist diese Funktion nicht mehr auffindbar.

Bild

Elvis war 39 Prozent jüdischer Abstammung? Diese fragwürdige, auf der App-Website angepriesene Funktion ist bei der von watson getesteten iPhone-Version nicht verfügbar. screenshot: gradient.photo

Was ist Blackfacing?

Als Blackfacing (in etwa Gesichtsschwärzung) wird gemäss Wikipedia die Darstellung schwarzer Menschen durch dunkel geschminkte Menschen heller Hautfarbe bezeichnet. Die Ursprünge dieser heute höchst umstrittenen Theater-Tradition reichen über zweihundert Jahre zurück.

Bild

bild: wikimedia commons

«In Mode kam das Blackfacing ab dem 19. Jahrhundert bei den sogenannten Minstrel-Shows in den USA. Für die Unterhaltungsshows stellten weisse Schauspieler klischeehaft schwarze Sklaven dar. Dafür malten sie sich dunkel an und zeichneten sich übertrieben dicke Lippen. In dieser Kostümierung präsentierten sie sich als dümmlich-naive, teils boshafte, aber doch immerfort gut gelaunte Schwarze. Dabei schwang mit, dass die Sklaverei doch gar nicht so schlimm war.»

quelle: deutsche welle

Blackfacing wurde und wird unter anderem in der Niederlande bei den jährlichen Nikolausumzügen – in Gestalt des Zwarte Pieten – zelebriert. Dabei kommt es auch regelmässig zu Protesten durch Antirassismus-Organisationen.

Im August 2020 kündigte Facebook an, verstärkt gegen die Verbreitung rassistischer Stereotype vorzugehen, wie sie bei typischen Blackfacing-Aufnahmen vorkommen. Dazu gehörten gemäss einer hochrangigen Managerin schwarze Schminke, dicke Lippen und Kraushaar-Perücken.

Du fragst dich, was das mit der Gradient-App zu tun hat?

Hier kommt digitales Blackfacing ins Spiel, wie Fachleute in den Vereinigten Staaten zu erklären versuchen.

«‹Digital Blackface› ist, wenn Nichtschwarze die Bilder und Stimmen von Schwarzen benutzen, um Gefühle oder Phänomene zu erklären.»

Jardin Dogan, Psychologin

Wenn man ein animiertes GIF verschickt, das eine dunkelhäutige Person zeigt, die wild tanzt und wie verrückt mit den Augen rollt, ist das eindeutig digitales Blackfacing. Denn so würden negative Stereotypen über Schwarze zementiert, erklärte Jordan. Nämlich dass sie übermässig animiert, laut, aggressiv, wütend, hypersexuell und vieles mehr seien.

Digital Blackfacing sei auch eine Form der kulturellen Aneignung, weil Nichtschwarze eine Hautfarbe annehmen, die sie nach Belieben ablegen und annehmen können, während die tatsächlichen Schwarzen gezwungen seien, sich täglich mit den Folgen ihrer Herkunft zu konfrontieren, ohne das Privileg, sie loszulassen, wenn sie nicht mehr «cool» sei.

Die Debatte ende nicht beim Blackfacing, hielt die Deutsche Welle in einem online verfügbaren Artikel fest. Genauso zweifelhaft sei die Imitation von Menschen aus Südamerika, Nahost oder Indien (Brownfacing), Asiaten (Yellowfacing) oder nordamerikanischen Ureinwohnern (Redfacing).

Mit der App wird zudem die Vorstellung gefördert, schwarz, weiss, indisch, brasilianisch, etc. seien trennscharf abgrenzbare Identifikationsmerkmale – was sie ja eben nicht sind. Die App fördert die Zementierung der Unterschiede.

Was kostet die App?

Die Gradient-App kann gratis ausprobiert werden. Laut Entwicklern beträgt der konstenlose Testzeitraum 3 Tage. Allerdings könne schon vor Ablauf der Testphase eine monatliche Gebühr von 21 Franken fällig werden, warnten angeblich betroffene User im Internet: Wenn man nicht 24 Stunden vor Ablauf der Frist kündige, werde der relativ hohe Abopreis kassiert. Sicher ist: Das einfache Deinstallieren, bzw. Löschen der App auf dem Smartphone reicht nicht aus. iPhone- und Android-User müssen das Probeabo aktiv kündigen.

Bild

bild: watson

Wem gehören die Fotos?

Die Entwicklerfirma schreibt in den Nutzungsbedingungen, sie beanspruche nicht das Eigentum an den hochgeladenen und über die Gradient-App bearbeiteten Inhalte.

Doch der Teufel steckt im Detail. Weiter heisst es:

«Sie gewähren Gradient hiermit eine nicht-exklusive, vollständig bezahlte und gebührenfreie, übertragbare, unterlizenzierbare, weltweite Lizenz zur Nutzung Ihrer Inhalte zur Bereitstellung unseres Dienstes, vorbehaltlich der Datenschutzrichtlinie.»

quelle: gradient.photo

Das bedeutet, dass App-User die uneingeschränkten Urheberrechte an den Fotos besitzen sollten, die sie hochladen. Sonst drohen juristische und finanzielle Konsequenzen.

Auf der sicheren Seite ist man, wenn nur eigene Fotos hochgeladen werden – natürlich auf eigene Gefahr. Oder wenn man gemeinfreie Bilder verwendet. Wie zum Beispiel die vom Weissen Haus veröffentlichten Präsidentenporträts.

Bild

Wer steckt dahinter?

Die US-Firma Ticket to the Moon, Inc.

Die auf der Gradient-Website angegebene Postadresse in Las Vegas, Nevada, deutet auf eine Briefkastenfirma hin.

Als Firmengründer fungieren Vladyslav Urazov und Bogdan Matveev, die als «Enthusiasten der künstlichen Intelligenz und des maschinellen Lernens» beschrieben werden.

Bild

screenshot: linkedin

Urazov ist ein 22-jähriger IT-Unternehmer aus der Ukraine. 2018 sorgte er für Schlagzeilen, als er die mit Viktor Koch und weiteren Ukrainern gegründete Teleport-App ans US-Unternehmen Snap verkaufte. Für 8 Millionen Dollar. Die auf künstlicher Intelligenz basierende Foto-Bearbeitungs-Technologie ermöglicht es Snapchat-Usern, auf den hochgeladenen Bildern innert Sekunden die Haarfarbe zu ändern.

Nach dem Deal liess Urazov verlauten, dass er mit seinen Partnern einen Risiko-Investmentfonds anlege, um Start-ups zu fördern im Bereich Künstliche Intelligenz. Er gab sich zuversichtlich, in die Liga der sogenannten «Unicorns» aufzusteigen, also derjenigen Neufirmen, die eine Marktbewertung von einer Milliarde US-Dollar oder mehr aufweisen.

Wie steht's um den Datenschutz?

Eine berechtigte Frage, angesichts der Verlockung für Smartphone-User, über die Gradient-App Fotos von sich selbst und Dritten auf einen fremden Server hochzuladen.

In welchen Rechenzentren die Fotos gespeichert und allenfalls weiterverwendet werden, ist nicht bekannt. Die Entwicklerfirma versichert in der Datenschutzrichtlinie, dass keine persönlichen User-Daten an Dritte weitergegeben würden.

Erstmals für Schlagzeilen gesorgt hatte der «Gradient Foto Editor» im vergangenen Oktober. Neben diversen Foto-Filtern sollte die App den Usern mithilfe von Künstlicher Intelligenz zeigen, welchen prominenten Personen sie ähnlich sahen. Und schon damals wurden in Medienberichten Bedenken bezüglich der Datenschutzbestimmungen geäussert.

Gibt's eine Altersbeschränkung?

Ja. In den Nutzungsbedingungen steht, man müsse mindestens 13 Jahre alt sein, um den Dienst nutzen zu können.

Bei in der Europäischen Union (EU) ansässigen Personen gilt ein Mindestalter von 16 Jahren. Dies wegen der Anforderungen der Datenschutz-Grundverordnung (DSGVO). Als Kontaktstelle in der EU wird ein Büro in Tschechien genannt.

Und jetzt du!

Was hältst du von der Gradient-App?

Quellen

DANKE FÜR DIE ♥

Da du bis hierhin gescrollt hast, gehen wir davon aus, dass dir unser journalistisches Angebot gefällt. Wie du vielleicht weisst, haben wir uns kürzlich entschieden, bei watson keine Login-Pflicht einzuführen. Auch Bezahlschranken wird es bei uns keine geben. Wir möchten möglichst keine Hürden für den Zugang zu watson schaffen, weil wir glauben, es sollten sich in einer Demokratie alle jederzeit und einfach mit Informationen versorgen können. Falls du uns dennoch mit einem kleinen Betrag unterstützen willst, dann tu das doch hier.

Würdest du gerne watson und Journalismus unterstützen?

(Du wirst zu stripe.com (umgeleitet um die Zahlung abzuschliessen)

Oder unterstütze uns mit deinem Wunschbetrag per Banküberweisung.

Nicht mehr anzeigen

25 Produkte, die du wirklich online kaufen kannst

SwissCovid-App noch nicht installiert? Wir helfen dir

Das könnte dich auch noch interessieren:

Abonniere unseren Newsletter

81 Kommentare
Weil wir die Kommentar-Debatten weiterhin persönlich moderieren möchten, sehen wir uns gezwungen, die Kommentarfunktion 24 Stunden nach Publikation einer Story zu schliessen. Vielen Dank für dein Verständnis!
Die beliebtesten Kommentare
ch.vogel
25.09.2020 07:19registriert May 2014
Das Fragwürdigste an der ganzen Sache finde ich das Monatsabo für 21 Franken.
Aber dass man sich wegen Rassismus aufregt, wenn die App ja in jede Richtung funktioniert, nicht bloss weiss -> schwarz verstehe ich nun wirklich nicht.
Ist ja nicht so, dass die App Karikatur-Bilder ausspuckt z.B. mit extrem dicken Lippen und nem Dutt mit Knochen als Frisur...
Wie soll man es denn bitteschön richtig machen?
Beauty-Filter sind okay, Haarfarbe wechseln ebenfalls, AI-basiertes Altern/Verjüngen und Mann<>Frau Transformationen sind witzig, aber wehe man wagt sich an die Hautfarbe?
105222
Melden
Zum Kommentar
murrayB
25.09.2020 07:35registriert March 2017
Die App ist unterhaltsam und man kann die Nadel im Heuhaufen suchen, wenn man hier die Rassismuskeule schwingen will...
59320
Melden
Zum Kommentar
Nora Flückiger
25.09.2020 06:20registriert January 2020
Bin mal gespannt wie viele Kiddies den Scheiss nur schnell ausprobieren wollen, und danach mit Rechnungen eingedeckt werden!
3719
Melden
Zum Kommentar
81

Undercover-Journalist infiltriert Netzwerk von Schweizer Corona-Verschwörern

Ein junger Westschweizer Journalist verbrachte zwei Monate «undercover» bei einer Gruppierung, die gegen das Maskentragen und die SwissCovid-App kämpft. Seine Enthüllungen werfen unbequeme Fragen auf.

Dieser Beitrag dreht sich um die Enthüllungen eines jungen Westschweizer Journalisten, der eine Gruppe von Corona-Leugnern und Verschwörungstheoretikern in der Romandie «infiltriert» hat. Dies im Auftrag des Westschweizer Online-Mediums Heidi.news, das nun in einer Serie über die Akteure und ihre beunruhigenden Ansichten berichtet.

Die Pandemie war geplant. Das Virus existiert nicht. Alles eine riesige Verschwörung, in Kombination mit 5G und obligatorischen Impfungen, um die Bevölkerung zu …

Artikel lesen
Link zum Artikel