9 Gebru §

Wired §

• Zeit: “Wundertüte für Wissensjunkies”¹
• Wikipedia: ein Magazin, das sich darauf konzentriert, wie neue Technologien Kultur, Wirtschaft und Politik beeinflussen ²
• Magazin, keine Fachzeitschrift, da kein Peer-Review Prozess ³
• Politisches Spektrum: Mitte ³

Geschichte §

Das Problem Paper §

Gebru veröffentlichte ein Paper, das dazu führte, dass sie ihre Position als Co-Leiterin von Googles Ethical AI Research Team verlor

Titel: “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?”

• Inhalt: 4 Haupt-Risiken von AI ⁴
  1. Umweltlichen und finanziellen Kosten durch das Training von Sprachmodellen
  2. Forschungsrichtung von AI
  3. Misinformation durch einen fehlerhaften oder sogar bewussten Einsatz von AI
  4. Algorithmic-Bias

Algorithmic-Bias §

“Algorithmic-Bias oder “Algorithmische Voreingenommenheit” beschreibt systematische und wiederholbare Fehler in einem Computersystem, die zu unfairen Ergebnissen führen, wie z. B. die Bevorzugung einer beliebigen Gruppe von Benutzern gegenüber anderen” ⁵

AI-Forschungsgemeinschaft §

NIPS-Konferenz (“Neural Information Processing Systems”)

• = top Konferenz der weltweiten AI-Community
• Timnit Gebru hat bei ihren Besuchen folgende Beobachtungen gemacht:
  • viele weiße Männer
  • verstörender: als Selfie-Model für Bilder genötigt
• von über 8500 Teilnehmern waren nur 6 Schwarze dabei
• → Diversität ist ein großes Problem in der AI-Forschungsgemeinschaft

Was wird dagegen gemacht? §

FATML

• “Fairness, Accountability and Transparency in Machnine Learning”
• = ein jährlicher akademischer Workshop
• Behandelt die Frage, wie Algorithmen fair und transparent designt werden können
• Veranstalter: u.a. Timnit Gebru
• Sponsoren: Microsoft, Google, später auch andere Techgiganten

Techgiganten

• Microsoft’s Ethik Text “The Future Computed”
  • behandelt u.a. Fairness & Inklusivität
• Google Ethical AI Research Team
  • Erforschung der ethischen Implikationen von AI und wie man diese vermeiden kann
  • Leiterinnen: Timnit Gebru, Margaret Mitchell

Spannungen §

AI-Hype VS. Algorithmic-Bias

• AI-Hype: Menschen sind voreingenommen, aber Algorithmen sind es nicht
• Problem: Algorithmic-Bias widerlegt diese These
• Lösung 1: Algorithmic-Bias eingestehen & bekämpfen → AI-Hype wird gedämpft → schlecht für Techgiganten
• Lösung 2: Ethische AI Anstrengungen als “Feigenblatt” verwenden → Belege für Algorithmic-Bias unterdrücken → Skandal, siehe Timnit Gebru

Unvereinbarkeit von:

• Worte der Techgiganten: Öffentlich für Diversität & AI Ethik einsetzen
• Taten der Techgiganten: Feedback ignorieren & eigene Erkenntnisse unterdrücken

Footnotes §

1. Zeit: Wundertüte für Wissensjunkies ↩

2. Wikipedia: Wired(Magazin) ↩

3. Allsides: Wired media bias rating ↩ ↩²

4. Technologyreview: We read the paper that forced Timnit Gebru out of Google. Here’s what it says. ↩

5. Wikipedia: Algorithmic-Bias ↩