Vortrag beim Neusser Wirtschaftstreff in fünf Thesen:
These 1: Die KI-Debatte ist derzeit stark überhitzt. Deshalb ist sie aber nicht irrelevant
These 2: Wir erleben derzeit eine beschleunigte Automatisierung sozialer Verhältnisse. Dabei werden komplexe soziale Phänomene in berechenbare Abläufe übersetzt.
These 3: Technik ist immer politisch. Sie setzt sich nicht funktional durch, sondern sozial
These 4: Die höchste Relevanz und den größten Impact haben KI- Technologien und Automatisierung, wenn sie unsichtbar bleiben.
These 5: Gesellschaftliche Gestaltung ist möglich! Die digitale Transformation erzeugt derzeit genuin politische Momente am laufenden Band..
Künstliche Intelligenz und Algorithmen – Ethische und politische Herausforderungen
1. Künstliche Intelligenz und Algorithmen
Christian Katzenbach
Humboldt Institut für Internet und Gesellschaft / Freie Universität Berlin
Neusser Wirtschaftstreff
25. September 2018
1
Ethische und politische Herausforderungen
2. These 1: Die KI-Debatte ist derzeit stark überhitzt. Deshalb ist sie aber nicht
irrelevant
These 2: Wir erleben derzeit eine beschleunigte Automatisierung sozialer
Verhältnisse. Dabei werden komplexe soziale Phänomene in berechenbare
Abläufe übersetzt.
These 3: Technik ist immer politisch. Sie setzt sich nicht funktional durch,
sondern sozial
These 4: Die höchste Relevanz und den größten Impact haben KI-
Technologien und Automatisierung, wenn sie unsichtbar bleiben.
These 5: Gesellschaftliche Gestaltung ist möglich! Die digitale
Transformation erzeugt derzeit genuin politische Momente am laufenden
Band.
13. These 2:
Wir erleben derzeit eine beschleunigte Automatisierung
sozialer Verhältnisse. Dabei werden komplexe soziale
Phänomene in berechenbare Abläufe übersetzt.
18. Der Begriff Künstliche
Intelligenz ist hoch umstritten
„AI is the science to make machine do
things that require intelligence if
done by men.“ (Minski 1968)
Fokus: Nicht menschliche Intelligenz
nachahmen, sondern Funktionen und
Handlungsfolgen automatisieren
23. !23
Optimierungsproblem: Lieber eher zu viele
Elemente erkennen oder zu wenige?
False Positives vs False Negatives
SYSTEM DENKT:
GURKE KL A Etwas anderes
GURKE KL A
Richtig!
TRUE POSITIVE
Falsch!
FALSE NEGATIVE
Etwas anderes
Falsch!
FALSE POSITIVE
Richtig!
TRUE NEGATIVE
TATSÄCHLICHE
ISTES:
24. !24
Optimierungsproblem: Lieber eher zu viele
Elemente erkennen oder zu wenige?
False Positives vs False Negatives
SYSTEM DENKT:
MENSCH Etwas anderes
MENSCH
Richtig!
TRUE POSITIVE
Falsch!
FALSE NEGATIVE
Etwas anderes
Falsch!
FALSE POSITIVE
Richtig!
TRUE NEGATIVE
TATSÄCHLICHE
ISTES:
25. !25
Optimierungsproblem: Lieber eher zu viele
Elemente erkennen oder zu wenige?
False Positives vs False Negatives
SYSTEM DENKT:
ILLEGITIME INHALTE Etwas anderes
ILLEGITIME INHALTE
Richtig!
TRUE POSITIVE
Falsch!
FALSE NEGATIVE
Etwas anderes
Falsch!
FALSE POSITIVE
Richtig!
TRUE NEGATIVE
TATSÄCHLICHE
ISTES:
26. „Technik [Algorithmen, KI] ist weder gut noch
böse; aber neutral ist sie auch nicht.“ (Krenzberg)
Zunehmende Automatisierung
sozialer Verhältnisse und Sektoren
Dabei werden komplexe soziale Phänomene in
berechenbare Abläufe übersetzt.
27. These 2:
Wir erleben derzeit eine beschleunigte Automatisierung
sozialer Verhältnisse. Dabei werden komplexe soziale
Phänomene in berechenbare Abläufe übersetzt.
28. These 3:
Technik ist immer politisch.
Sie setzt sich nicht funktional durch, sondern sozial.
39. !39
REGULATIVE EBENE
NORMATIVE EBENE
KOGNITIVE EBENE
TECHNISCH-MATERIELLE EBENE
Gesellschaftliche Institutionen etablieren sich
auf mehreren Ebenen
Und je selbstverständlicher und
„unsichtbarer“ sie sind, desto stabiler und
wirksamer sind sie
Derzeit erleben wir einen grundlegenden
institutionellen Wandel, der stark durch
Automatisierung geprägt ist – aber viel
mehr Fragen und Sektoren umfasst.
40. These 4:
Die höchste Relevanz und den größten Impact haben
KI-Technologien und Automatisierung, wenn sie
unsichtbar bleiben.
42. !42
Mit welchen Zielkriterien wollen wir
optimieren? Und für wen?
Sicherheit der Insassen – Sicherheit der Umgebung – Fahrkomfort?
43. !43
In welcher Welt wollen wir leben? Wie sollen
öffentliche Räume gestaltet und organisiert sein?
Oder: Warum ich nicht in einer
Spülmaschine leben möchte!
45. Künstliche Intelligenz und Algorithmen
Christian Katzenbach
Kontakt: katzenbach@hiig.de
Neusser Wirtschaftstreff
25. September 2018
45
Ethische und politische Herausforderungen