Trolle aus der Retorte

Wir haben viel über die Fakeaccounts gesprochen in den letzten Monaten. So viel, dass wir uns kaum wundern würden, wenn das bekannte “Freakcity” bald durch “Fakeaccountcity” ersetzt werden würde. Die Bamberger sind im Aufspüren von windigen Accounts, die sich in die lokalpolitische Diskussion einmischen, zu echten Profis geworden. Im Unterschied zu den Betreibern der Pappkameraden, die immer wieder mal durch Freundschaftsanfragen oder in den Kommentarspalten auftauchen, und die bis heute so dilettantisch agieren wie vor einem Jahr. Ich hatte vor kurzem zugesagt, das Thema “Profilfotos” der Fakeaccounts für die Leser noch einmal im Detail zu beleuchten.

Während bei unserem Luis Casero ein im Internet verfügbares Stockfoto eines realen Menschen eingesetzt wurde (mutmaßlich von jemandem, der die rechte Maustaste im Chrome und Google Lens nicht kennt), benutzten die anderen prominenten Sandmanns, Frankens und Hausdörfers dieser Stadt sogenannte “KI-erzeugte” Profilfotos. KI bedeutet im Grunde “Künstliche Intelligenz”, meint in dem Fall aber schlicht ein Computerprogramm, das aus riesigen, meist weiter wachsenden Bild- und Fotodatenbanken Gesichter heraussucht, sie zerlegt, analysiert und letztlich zu komplett neuen, künstlichen Gesichtern in neuer Umgebung zusammenbaut. Bekannteste Seite hierfür ist https://thispersondoesnotexist.com/ – Klickt mal drauf, mit jedem neuen Laden der Seite bekommt ihr ein neues Gesicht angezeigt, das auf den ersten Blick täuschend echt aussieht.

Doch woran erkennt man nun “Fakeprofilfotos” und warum sprech ich vom Dilettantismus der selbsternannten Socialmediaexperten?

Der Algorithmus hat Schwächen. Kennt man sie, kann man unter Umständen schnell Fakes erkennen.

Achtung, es folgen teils verstörende Fotos, die allerdings nie real existierende Menschen zeigen.

Nehmen wir zunächst unser bekanntestes Gesicht von Stefan Sandmann. Die KI generiert zwar vermeintlich plausible Gesichter in der Bildmitte, hat aber oft Schwierigkeiten an den Bildrändern. Und da vor allem mit Gesichtern. Natürlich könnte die Damen links im Bild unter Exophthalmus leiden, aber ich zeig euch mal ein paar andere Bilder, mutmaßlich mit dem selben Tool erzeugt, die ähnliche Fehler aufweisen:

Warum werden immer nur Gesichter gezeigt? Der Algorithmus scheint Hautflächen zu erkennen und versucht, diese Muster dem Gesicht zuzuordnen. Das geht aber komplett schief, wenn versehentlich mal Hände ins Spiel kommen. Bestenfalls wächst nur mal was Komisches über die Schulter. Ansonsten.. joah! Keine Witze, bitte!

Natürlich sind die bisherigen Beispiele relativ leicht zu erkennen, wenn man nicht gerade vom Bockbieranstich nach Hause kommt. Schwieriger wird es bei diesen Beispielen, teilweise muss man vergrößern:

Ihr seht auf Bild 1 eine viel zu kleine untere Zahnreihe, auf Bild 2 einen sehr normabweichenden Zahn Nr. 32 (Unterkiefer, erster nach rechts), auf Bild 3 zwei unterschiedliche Ohrringe, auf Bild 4 einen Brillenbügel links ohne Brille, auf Bild 5 (neben dem kläglichen Versuch der KI links am Bildrand ein Ohr zu generieren) einen Hintergrund, der sich dem Gesicht anpasst und bei Bild 6 einen… äh… Hut?!

Und bei unserem Matthias Franken? Da wars nicht direkt sichtbar, aber sein rechtes Ohr, dessen Position, die Delle an der Stelle, die Haarfarbe dahinter und eben auch die untere Zahnreihe sind schon – zugegeben nicht auf den ersten, aber für den geübten Blick – eindeutige Merkmale.

Heute stänkerte wieder ein frischer Account auf meiner Seite herum und sympathisierte mit einem Herren von AfD. Bis zu meinem freundlichen Hinweis, dass mit dem halben Typen rechts im Bild was nicht passt, benutzte er erst das linke, anschließend das rechte Foto als Profilbild. Ich mutmaße allerdings, er verschwindet ebenso wie Sandmann, Franken, Hausdörfer und Co. bald im digitalen Nirvana, bis ihn irgendeine KI wieder zu einem neuen Gesicht und anschließend irgendein Hansdampf zu einem Fakeaccount zusammenknetet.