Diskri­mi­nie­rende Algorithmen

Tinder war ein Game-Changer. Als die Mobile-Dating-App 2012 auf den Markt kam, dauerte es keine andert­halb Jahre, bis Swipen, Matchen und Super­liken in das kollek­tive Flirt-Bewusst­sein Einzug gehalten hatten. 

Online-Dating à la Grindr, OkCupid oder Klas­si­kern wie Parship oder Elite­Partner gab es schon vorher, doch Tinder hat es nicht nur geschafft, die inter­net­ba­sierte Partner:innensuche aus der Ecke der Verzwei­felten zu holen, sondern dem Ganzen noch einen sexy Anstrich zu verpassen. 

Dating ist kein Mittel zur Partner:innensuche mehr, Dating ist ein Lebens­stil. „Game-Changer“ ist dabei buch­stäb­lich zu lesen, denn der spie­le­ri­sche Charakter des Links-rechts-Wischens sorgte dafür, dass sich die App rasend schnell verbrei­tete. Inzwi­schen ist die App welt­weit über 430 Millionen Mal herun­ter­ge­laden worden und hat nach eigenen Angaben für über 60 Milli­arden Matches gesorgt.

Doch nicht erst seit uns die gefei­erte und oft zitierte Sozio­login Eva Illouz mit der Nase darauf stösst, dass sich unsere Emotio­na­lität zwischen Konsum­zwang, Digi­ta­li­sie­rung und Massen­me­dien ganz grund­sätz­lich verän­dert hat, spüren wir die Kehr­seite des Online-Datings auch selbst. 

Das stän­dige (poten­ti­elle) Über­an­gebot an roman­ti­schen Partner:innen, die Unver­bind­lich­keit, die fehlende Magie. Und wer sich dem zu entziehen versucht und die Apps einfach löscht, ist nach einigen Wochen oder Monaten wieder zurück. #Sing­leN­ot­Sorry hiess vor kurzem die globale Kampagne von Tinder und gibt dem roman­ti­schen Elend wenig­stens einen passenden Hashtag à la #yolo.

Ende Mai gaben einige der grössten Dating-Apps bekannt, aktiv die Impf­kam­pa­gnen der Regie­rungen unter­stützen zu wollen. Mit verschie­denen Anreizen inner­halb der Apps sollen Nutzer:innen von Tinder, Hinge, Bumble und Co., denen die gesund­heit­li­chen Vorteile nicht schon Grund genug sind, zusätz­lich ermu­tigt werden, den Stich zu wagen. Diese reichen von kosten­losen Premi­um­funk­tionen für Geimpfte bis hin zu Services, die das nächst­ge­le­gene Impf­zen­trum ausfindig machen. 

In der offi­zi­ellen Medi­en­mit­tei­lung von Tinder wird von einem 800%-igen Anstieg des Worts „vaccine“ (Impf­stoff) seit Beginn der Pandemie berichtet. Die Impf­frage ist offen­sicht­lich ein Thema beim Online-Dating und poten­tiell „match­ent­schei­dend“. 

Mehr als die Hälfte der Gene­ra­tion Z sei sowieso nur daran inter­es­siert, bereits geimpfte Menschen zu daten, heisst es weiter. So können entspre­chende Sticker im Profil gewählt werden, um den eigenen Impf­status auf den ersten Blick ersicht­lich zu machen. 

Toll für all dieje­nigen, die unge­hin­derten Zugang zu einer solchen Gesund­heits­ver­sor­gung haben, blöd für alle anderen. Egal, ob man noch nicht impfen konnte, es grund­sätz­lich ablehnt oder einfach diese Angabe nicht öffent­lich machen will – vor dem Sticker sind alle gleich. 

In dieser Verall­ge­mei­ne­rung liegt ein grund­sätz­li­ches Problem der Dating-Apps, wie die Sozio­login Jessica Pidoux im Rahmen ihrer Doktor­ar­beit an der EPFL in Lausanne heraus­ge­funden hat. Sie beschäf­tigt sich mit den Mecha­nismen, mithilfe derer Dating-Apps Leute zusam­men­bringen, und weist auf die Gefahren hin, die sich mit jedem Swipe akku­mu­lieren, wenn man die Firmen hinter den Platt­formen unkon­trol­liert bestimmen lässt, wie Online-Dating funktioniert.

Das Lamm: Das Thema Partner:innensuche ist so alt wie die Mensch­heit selbst. Online-Dating ist im Vergleich dazu ein relativ neues Phänomen, oder?

Jessica Pidoux: Nicht unbe­dingt. Es dreht sich alles ums „Match­ma­king“, die Partner:innenvermittlung, und das ist ein altes Prinzip. Studien haben gezeigt, dass es Partner:innenannoncen gab, die so alt waren wie Zeitungen selbst. Man hat auch da ein kurzes Profil erstellt, veröf­fent­licht und dann gewartet. Die Vermitt­lerin war die Zeitung und jetzt passiert das eben online. Vor Langem gab es Heiratsvermittler:innen im Dorf, die aufgrund von Infos zur sozialen Schicht, Familie und Ethnie Partner:innen gesucht haben, die zur Familie passten. Das ist auch eine Form des Matchmakings.

Was ist dann neu am Online-Dating?

Viele Konse­quenzen ergeben sich aus der Idee der digi­talen Platt­form und nicht aus einem neuen Dating-Mecha­nismus: das schiere Volumen an Leuten, die unter­schied­li­chen Möglich­keiten, Partner:innen zu finden, oder die Geschwin­dig­keit zum Beispiel.

Die allseits bekannten Auswir­kungen der Digitalisierung.

Genau. Und bei der Partner:innensuche hat das konkret zur Folge, dass man sich auto­ma­tisch weniger enga­giert und dazu neigt, kürzere Erfah­rungen zu machen. Konstant schwebt das Risiko mit, dass man jemand Besseres finden kann, weil die Optionen immer verfügbar sind.

Was meinst du: Haben wir uns nicht sowieso in diese Rich­tung entwickelt und die Dating-Apps waren die Antwort darauf? Oder war es umge­kehrt und wir sind durch sie teil­weise so geworden?

Ich glaube, es kommt von beiden Seiten. Unser Leben hat sich verän­dert, die Art und Weise, wie wir arbeiten, wie wir Dinge in unserem tägli­chen Leben tun. Viele Leute sagen, dass sie keine Zeit haben, auszu­gehen und neue Leute kennen­zu­lernen. Alle ihre engen Bekannten sind bereits Paare, also haben Dating-Apps alte Wege des Match­ma­kings aufge­griffen, aber sie haben auch einige neue Elemente hinzu­ge­fügt. Die Dating-Erfah­rung wird nun durch eine Art Check­liste gemacht.

Aber du unter­suchst in deiner Arbeit nicht in erster Linie, wie sich Benutzer:innen verhalten, sondern welche Mecha­nismen die Apps und Platt­formen nutzen?

Mich inter­es­siert, wie Dating-Apps das Matching zustande kommen lassen. Das Projekt bewegt sich inter­dis­zi­plinär zwischen den Sozi­al­wis­sen­schaften und der Infor­matik und ist am Institut für Digital Huma­ni­ties ange­sie­delt. Das Ziel ist es, genau zu verstehen, wie die Systeme das Match­ma­king beein­flussen und wie man wiederum als User:in lernt, online zu daten. Das fliesst dann ja wiederum als Infor­ma­tion zurück und beein­flusst den Algo­rithmus selbst, da wir ihn mit Daten versorgen.

Das Wort Algo­rithmus schwirrt ja häufig herum und hat schnell einen gefähr­li­chen Beigeschmack. Was für eine Rolle spielt er beim Matchmaking?

Algo­rithmen arbeiten mit Daten aus dem Benut­zer­ver­halten, aber auch aus Modellen, die diese Daten erzeugen können. Tinder zum Beispiel. Meine Analyse hat ergeben, dass dort ein patri­ar­chales Modell bevor­zugt wird, was im Grunde bedeutet, dass jüngeren Frauen mit einer weniger hohen Bildung ein älterer Mann mit hoher Bildung und hohem Gehalt ange­zeigt wird.

Das ist eine klare Verzer­rung. Natür­lich ist es stati­stisch so, dass es in der Gesell­schaft diese Tendenz gibt, aber wir haben auch Paare, die nicht so funk­tio­nieren. Frauen mit einem hohen Bildungs­ab­schluss werden diskri­mi­niert und damit hört es nicht auf. 

Auch was Rassismus betrifft, zeigen die Algo­rithmen eindeu­tige Vorur­teile. Natür­lich ist das diskri­mi­nie­rend, und hinzu­kommt, dass sich das Modell über die Zeit verstärkt. Die Unter­nehmen ändern nicht einfach die Algo­rithmen, um eine Viel­falt herzu­stellen. Die Algo­rithmen entstehen aus dem Nutzer­ver­halten – aber sorgen schliess­lich auch dafür, dass es sich bestä­tigt. Es ist eine Schleife, die sich nun in allen Systemen befindet.

Aber solche Infor­ma­tionen wie Ethnie, Bildung oder Gehalt muss man doch nicht zwangs­läufig angeben?

Man hat das Gefühl, man gibt Alter und Standort ein und bekommt dann die entspre­chenden Leute in der Reich­weite ange­zeigt. Aber was wirk­lich dahin­ter­steckt, ist viel komplexer. Die Algo­rithmen berück­sich­tigen Face­book-Daten wie zum Beispiel Beliebt­heit: Tinder misst, wie viele Likes man für die Bilder dort bekommt. Und auch das Nutzer­ver­halten in der App selbst spielt eine Rolle. Sie berechnen einen Wert, der auf Attrak­ti­vität, Intel­li­genz und sogar der Nervo­sität beim Tippen basiert und zeigen dann nur Leute an, die diesem Wert entsprechen.

Wie weit geht das? Wenn ich vege­ta­ri­sche Rezepte google, hören die Apps auf, mir Typen zu zeigen, die Fleisch essen?

Ganz so krass ist es nicht. Die Perso­na­li­sie­rung hängt von anderen Menschen ab. Es geht nicht nur um deine Daten, sondern um die Bezie­hung deiner Daten zu Personen, die dir ähnlich sind. Andern­falls ist die Menge zu klein, um daraus wirk­lich etwas ablesen zu können. Deine Daten werden aggre­giert und zu verall­ge­mei­nerten Präfe­renzen verdichtet.

Also liegt das Problem im Trug­schluss vom Verhalten einiger auf das Verhalten aller?

Verall­ge­mei­ne­rung ist ein Grund­satz­pro­blem bei auto­ma­ti­schen Systemen. Durch die Kosten für höhere Leistung, Spei­cher­ka­pa­zität und Ähnli­ches liefern sie eher Ergeb­nisse, die für die meisten funk­tio­nieren, nicht für alle Einzelnen. Sie berück­sich­tigen die Minder­heiten nicht. 

Gerade bei der Partner:innenwahl ändern sich unsere Präfe­renzen ja ständig, wir wählen nicht immer gleich. Wenn uns die Apps dann in eine digi­tale Blase stecken, wie man es von Netflix oder Spotify kennt und ständig die gleiche Art von Filmen und Musik vorge­schlagen bekommt, schränkt das die Partner:innenwahl massiv ein.

Dieses Gefühl begegnet einem doch öfter im Digi­talen. Man denkt, alles wäre frei und demo­kra­tisch geworden, aber am Ende sitzt man nur in einem neuen, diesmal digi­talen Korsett. Über­setzen wir die sozialen Span­nungen und Ungleich­heiten gerade einfach alle in Daten?

Das ist ein sehr wich­tiger Punkt. Die Gender Studies und andere Bereiche weisen immer darauf hin, dass die Gesichts­er­ken­nung bei Firmen wie Amazon zum Beispiel Vorur­teile hat. Natür­lich liegt das einer­seits in der Verant­wor­tung des Unter­neh­mens, dass die Tech­no­logie anbietet, aber gleich­zeitig spie­geln sich darin die Stereo­typen und Vorur­teile der Gesell­schaft wider, die wir bereits haben. Die digi­talen Vorur­teile ergeben sich aus den von uns zur Verfü­gung gestellten Daten.

Wäre es eine Lösung, einfach mehr Daten zu erheben, um Minder­heiten entspre­chend zu reprä­sen­tieren und damit Diskri­mi­nie­rung zu unterbinden?

Wir sind dieser Idee erlegen, dass Big Data immer gut ist und je mehr wir haben, desto mehr lernen wir. Aber eigent­lich können wir gar nicht alles sammeln, denn die wett­be­werbs­be­dingten Kosten spielen da mit herein. Je mehr Daten man sammelt, desto schwie­riger wird es, sie zu verar­beiten und zu speichern. 

Das Wirt­schafts­prinzip von Dating-Apps basiert darauf, dass unsere Daten gesam­melt werden und Geld gene­rieren, indem sie weiter­ver­kauft werden. Die Dating-Indu­strie und ihre Unter­nehmen sind inzwi­schen börsen­no­tiert. Es ist einfa­cher, die Infor­ma­tionen herun­ter­zu­ko­chen und nur Alter, Ausbil­dung und Arbeit zu erheben, als alles zu sammeln, was eine Person tut.

Und daraus dann aber Muster abzu­leiten, wer zu einem passt. Da muss es einen ja fast wundern, dass über­haupt Matches zustande kommen.

Es ist eine sehr tradi­tio­nelle Sicht­weise, dass sich aus Demo­grafie, Alter, Geschlecht, Bildung und Arbeit zuver­lässig vorher­sagen lässt, wie du dich verhältst. Aber Dating-Apps setzen noch immer darauf, obwohl wir im digi­talen Zeit­alter tagtäg­lich viel mehr Dingen, mehr Infor­ma­tionen und anderen Menschen ausge­setzt sind als unseren Fami­lien und dem unmit­tel­baren Umfeld. Wenn wir diese Modelle nicht über­prüfen oder noch schlimmer, wenn wir nicht einmal wissen, wie sie gene­riert werden und funk­tio­nieren, kann das für uns etwas sehr Bedenk­li­ches werden.

Was wäre die eine Sache, die du dazu an Dating-Apps ändern würdest?

Ich glaube nicht, dass es nur eine Ände­rung der Funk­tio­na­li­täten braucht. Wir sind gesell­schaft­lich noch mitten­drin, einen Konsens darüber zu finden, was beispiels­weise ethi­sche Fragen oder Gleich­be­rech­ti­gung betrifft. 

Viele komplexe Themen werden auf das Binäre redu­ziert, um in ein digi­tales System inte­griert zu werden, was eine grosse Verän­de­rung in der Gesell­schaft im Allge­meinen darstellt. 

Wir brau­chen bessere Gesetze, die kontrol­lieren, was die Unter­nehmen tun, die das gerade hand­haben. Aber dafür muss sich das gesamte System der Online-Wirt­schaft ändern. 

Unter­nehmen haben zurzeit die ganze Macht darüber, wie Online-Dating funk­tio­niert. Wissen­schaft und Dating-Apps suchen nach Formeln, während unsere indi­vi­du­ellen Erfah­rungen zeigen, dass Bezie­hungen viel zu komplex sind, um sie auf eine Formel zu reduzieren. 

Dating-Apps stan­dar­di­sieren aber gerade, wie wir eine:n Partner:in bewerten oder wie wir jemanden online verführen. Das schleicht sich auch in unser Offline-Leben ein. Deshalb ist es wirk­lich wichtig zu wissen, wie User:innen und Entwickler:innen, aber auch die Algo­rithmen lernen, was die neue Defi­ni­tion von Dating ist.

Dieser Artikel wurde erst­mals bei SPEX veröffentlicht.