Material

• Tablet für Vittascience
• Thispersondoesnotexist.com
• Bildgenerierungsmodelle, wie zum Beispiel CoPilot, Fobizz KI für Bilder oder Vittascience

Medienkompetenzen

1.2 Daten, Informationen und digitale Inhalte analysieren und bewerten
1.4 Daten, Informationen und digitale Inhalte verarbeiten
5.2 Kritisch-reflektiert mit digitalen Medien interagieren

Bezug zum Lehrplan

• Langues: Production orale
• Vie et société

Kontext

In dieser Unterrichtseinheit setzen sich die Lernenden mit Vorurteilen und Verzerrungen (Bias) in den Trainingsdaten und den KI-generierten Inhalten auseinander.
Sie reflektieren über die Auswirkungen, die Bias auf Menschen und auf die Gesellschaft haben können.

Ziele der Stunde

• Die Lernenden reflektieren über Vorurteile in der Bilderstellung.
• Sie nennen mögliche Formen von Bias und warum dieser bei KI-generierten Antworten und Bildern auftreten kann.
• Sie trainieren eine KI, so dass Bias möglichst vermieden werden kann.
• Sie analysieren die Datensätze, die sie zum Trainieren verwenden wollen, auf mögliche Vorurteile.
• Sie nennen verschiedene Konsequenzen für durch Bias betroffene Personen, zum Beispiel bei Bewerbungsverfahren, bei Gesichtserkennung, usw.

Ablauf der Stunde

1. Einstieg (10-15 Min)

Die Lernenden bekommen den Auftrag, in einen Bildgenerator verschiedene Prompts einzugeben und die generierten Bilder zu besprechen und zu analysieren. Mögliche Prompts:
– Erstelle einen erfolgreichen CEO einer bekannten Firma.
– Erstelle seine Hilfskraft.
– Erstelle eine Person, die Fußball spielt.
– Erstelle ein Bild von einer Party mit elegant gekleideten Menschen.
– …

Mögliche Fragen:
– Was fällt auf?
– Wer ist häufiger abgebildet?
– …

2. Erarbeitung  (30 – 50 Min)

Phase 1: Trainieren und testen
Die Lernenden bekommen den Auftrag, eine KI zu trainieren, die Frauen und Männer unterscheiden kann. Hierzu können sie den bereits vorhandenen Datensatz in Vittascience nutzen.
– Auf der Seite www.thispersondoesnotexist.com generieren die Lernenden Bilder von Menschen und laden diese auf ihr Tablet. Anhand dieser Bilder kann die KI nun getestet werden. (Optional: Das Modell kann auch mit den Klassenmitgliedern getestet werden.)

Tipp: Durch Aktivieren der „Zones d’influences“ kann kontrolliert werden, welche Bereiche (Haare, Augen, …) die KI analysiert, um die Kategorien zuzuordnen Die Schüler*innen überprüfen, wie bestimmte Merkmale von der KI fehlinterpretiert oder überbewertet werden.

Phase 2: Anpassung des Datensatzes

Die Lernenden überlegen nun, wie der Datensatz konzipiert werden müsste, damit Verzerrungen möglichst ausgeschlossen werden.
Mit Hilfe von www.thispersondoesnotexist.com können sie die Datensätze erweitern und das Modell neu trainieren.

3.  Reflexion (30 Min)

Mögliche Fragen zur Reflexion:
– Warum sprechen wir über Bias, wieso ist das Thema wichtig? Welche Konsequenzen hat es für Betroffene?
– Wie gehen wir mit Vorurteilen um? Ist es für uns immer klar welche Zuordnungen wir treffen?

Hier kann man auch einen direkten Bezug zum Alltag herstellen:
– Ein KI-Modell analysiert Kandidaten für einen Arbeitsplatz. Welche Konsequenzen könnten hier auftreten?
– Ein KI-Modell entscheidet, welche Personen vom Staat Unterstützung bekommen.
– Ein KI-Modell analysiert und entscheidet, welche Personen potenzielle Straftäter sind.
– Sicherheitskamera: Ist der Fahrer, die Fahrerin am Handy oder schläft sogar?
– KI-generierte Influencer*innen und Models? Was bedeutet dies für die Schönheitsideale?

Weiterführende Aktivitäten

• Wenn man mehr über Bias überhaupt erfahren möchte (wie entsteht er, welche Arten gibt es usw.), kann man in den Fobizz-Tools Fragen an den Bias-Assistenten stellen.
• Bias in KI aufdecken
• KI-Detektive, dem Bias auf der Spur
• Äffchenspiel