Perspectives on Unconscious Bias – Lecture Series

Prof. Marie von Lilienfeld-Toal, Direktorin des Instituts für Diversitätsmedizin, Ruhr-Universität Bochum

Die Krebsmedizin hat in den letzten Jahren enorme Fortschritte gemacht und viele Krebsarten gelten heutzutage als behandel- oder sogar heilbar.

Allerdings wurden individuelle Faktoren wie Alter, Geschlecht und sozioökonomischer Status bisher in der Forschung eher vernachlässigt. Daher ist oft unklar, inwieweit medizinische Forschungsergebnisse für alle Bevölkerungsgruppen verallgemeinerbar sind.

Moderne Forschung in der Krebsmedizin muss daher Diversitätsfaktoren adäquat und kontextbezogen untersuchen, um die Evidenzlücken zu schließen und medizinische Empfehlungen allgemein valide zu machen.

Prof. Bilal Zafar, Computing and Society, Ruhr University Bochum

Large Language Models (LLMs) like ChatGPT represent a large part of frequently used AI tools. They show impressive performance in a variety of tasks like conversation, question answering and summarization.

However, the outputs of these models cannot always be trusted. A major concern is that the model outputs can exhibit stereotypes or biases against certain social groups.

In this lecture, we will take a closer look at these biases, attempt to trace their origins, and discuss ways of dealing with biased LLMs through usage and interpretation of results.

Dr. Jana Bauer, Universität zu Köln

16 Prozent der Studierenden in Deutschland leben mit mindestens einer Behinderung oder chronischen Erkrankung, aber die meisten dieser Beeinträchtigungen bleiben im Hochschulalltag „unsichtbar“. Unter den Beschäftigten an der Uni wird es mindestens genauso viele gesundheitlich beeinträchtigte Personen geben, hier fehlen allerdings systematische Zahlen.

Viele schrecken aus Angst vor Stigmatisierung oder dem Unverständnis anderer davor zurück, im universitären Umfeld von ihrer Beeinträchtigung zu erzählen. Das bedeutet häufig zugleich, dass sie ihre Rechte auf Nachteilsausgleiche, Beratung und Unterstützung nur begrenzt oder gar nicht in Anspruch nehmen (können), was wiederum die chancengerechte Teilhabe am Studium oder der Arbeit an der Uni erschwert.

In diesem Beitrag werden Forschungsergebnisse zu diesem Entscheidungskonflikt präsentiert und es wird ein digitales Tool vorgestellt (www.sag-ichs.de), das dabei hilft eine informierte und selbstbestimmte (Nicht-) Offenlegungsentscheidung zu treffen.

Prof. Karim Fereidooni, Didaktik der sozialwissenschaftlichen Bildung, Ruhr-Universität Bochum

In diesem Vortrag geht Prof. Dr. Karim Fereidooni auf Möglichkeiten ein, rassismusrelevante Wissensbestände zu verlernen sowie den rassismuskritischen Kompetenzaufbau zu betreiben.

Im Mittelpunkt des Vortrags steht die Frage: Was müssen Individuen und Institutionen tun, um rassismuskritisch tätig zu sein bzw. einen rassismuskritischen Organisationsentwicklungsprozess zu initiieren?

Winter Semester 2023/2024

• Was sind Stereotypen und Vorurteile und warum haben wir sie? Eine Psychologische Perspektive

Prof. Hans Alves, Social Cognition Lab

Der Vortrag beleuchtet die Phänomene der Stereotypen und Vorurteile aus einer kognitionspsychologischen Perspektive. Beleuchtet werden die Ursachen und Folgen von Stereotypen und Vorurteilen und die Frage, warum sie das menschliche Zusammenleben ständig begleiten. (10.10.2023)

Link to Video Interview (in German)

• Bias and AI: Discrimination in algorithmic hiring

Dr. Asia Biega, Dr. Alessandro Fabris, MPI Security and Privacy

Algorithms trained to support the selection of suitable applicants have become ubiquitous in HR. This talk traced the hideouts of social bias in algorithmic models of selection and hiring, explained how such bias can be detected, and familiarized us with good practice for responsibility and accountability in the use of algorithmic hiring. (14.11.2023)

• Befangene Blicke. Biographie und Display afrikanischer Artefakte in den Kunstsammlungen der RUB

Prof. Carolin Behrmann, Lee Chichester, Chisom Duruaku, Katharina Heyer, Kim Kurowski, Susanne Teschner, Kunstgeschichte

In zahlreichen Museen sind Ausstellungsstücke aus ehemals kolonisierten Ländern zu sehen. Auf welchen Wegen und zu welchen Bedingungen sind die Kunstgegenstände in die Sammlungen gelangt? Wie werden sie präsentiert und inszeniert? Und was verrät unser Blick auf diese Artefakte über uns selbst? (12.12.2023)

• Unbewusster Rassismus? Was wir über unsere eigenen Vorurteile wissen können

Prof. Adam Hahn, Social Psychology, University of Bath

Wie können wir unsere eigenen Bias/Voreingenommenheiten einschätzen? Inwiefern haben wir ‚unbewusste‘ Vorurteile, die wir gar nicht kennen? Der Kognitionsforscher Dr. Adam Hahn geht in diesem Vortrag der Frage nach, welche Phänomene wir meinen, wenn wir von ‚Unconscious Bias‘ sprechen und wie wir sie untersuchen und reflektieren können. (16.01.2024)

• "Kulturkampf" zwischen Wissenschaft und Verwaltung? Zur Wahrnehmung einer kaum beforschten Gruppe an Hochschulen

Dr. Ulf Banscherus, Technische Universität Berlin

Mitarbeiter*innen in Technik und Verwaltung an Hochschulen sind in nahezu alle Prozesse an Hochschulen eingebunden. Wie arbeiten sie, welche Rollen spielen sie im organisationalen Wandel - und was ist dran am fast schon sprichwörtlichen Gegensatz von Verwaltung und Wissenschaft? (30.01.2024)