Diskriminierung durch KI? – Von antimuslimischen Algorithmen, Verantwortung und dem Kampf um Sichtbarkeit

Erleuchtung garantiert - Wissenschaftliche Spotlights auf Religion und Spiritualität

Wie gehen Menschen damit um, wenn ihnen eine KI bzw. AI unterstellt, sich für extremistische Inhalte zu interessieren, nur weil Merkmale wie «muslimisch» und «arabisch-sprechend» auf sie zutreffen? Wieso sind Passfoto-Automaten immer dann «kaputt», wenn eine Frau mit Kopftuch Fotos machen möchte? Und wer steht eigentlich hinter den Entscheidungen von Künstlicher Intelligenz? Die Religionswissenschaftlerin Maike Sieler hat im Rahmen ihrer Forschung mit Menschen gesprochen, die von antimuslimischer Stellvertreterdiskriminierung durch KI betroffen sind, und berichtet, wie sie damit umgehen. Sieler spricht über den Bias von Algorithmen, die Verantwortung von Programmierer:innen und über die Tricks, die angewendet werden, um KI zu überlisten. Wie erfolgreich das sein kann, haben die Fans einer K-Pop-Band bewiesen.

Maike Sieler arbeitet am Religionswissenschaftlichen Seminar der UZH und am Zentrum für Religion, Wirtschaft und Politik (ZRWP). Sie forscht u.a. zu antimuslimischem Rassismus und KI, zu Digital Religion und zum Mediendiskurs Islam.

Weiterführende Informationen:

• Blogbeitrag zu «Antimuslimischem Rassismus und AI»
• Artikel zum Nutzen von Künstlicher Intelligenz für die Gesellschaft