diff --git a/Ekman_Facial_Affekt.jpg b/Ekman_Facial_Affekt.jpg new file mode 100644 index 0000000..b2377df Binary files /dev/null and b/Ekman_Facial_Affekt.jpg differ diff --git a/IBC.tex b/IBC.tex index 0b089da..ff8b75d 100644 --- a/IBC.tex +++ b/IBC.tex @@ -1,10 +1,14 @@ +% !TeX program = lualatex + \documentclass{beamer} \usetheme{DarkConsole} \usepackage{graphicx} \usepackage{caption} -\title{\texttt{Smart Borders? Test}} +%\setbeamersize{text margin left=20pt,text margin right=10pt} + +\title{\texttt{Smart Borders?}} \subtitle{Wie die EU versucht Grenzübergänge mit einem diskriminierenden KI-Lügendetektor zu regulieren.} \author{verschiedene\footnote{\texttt{AG Link}}} @@ -41,13 +45,48 @@ \end{frame} \subsection{Geschichte des Lügendetektor} -\begin{frame}{Geschichte des Lügendetektor} -\begin{itemize} -\item Polygraph (Genauigkeit: beinahe zufällig (Saxe, Ben-Shakhar, 1999) -\item Mirco Expressions etc. -\end{itemize} -Infos in: The politics of deceptive borders: biomarkers of deceit and the case of -iBorderCtrl + +\begin{frame}{Die Geschichte des Lügendetektors - Der Polygraph} + \begin{figure} + \includegraphics[scale = 0.8]{Polygraph} + \caption*{Foto: Sebastian Kahnert/ dpa} + \end{figure} + \end{frame} +\begin{frame}{Die Geschichte des Lügendetektors - Der Polygraph} + \begin{itemize} + \item Entwicklung in der ersten Hälfte des 20. Jahrhunderts + \item Maßgeblich von John A. Larson (Polizist und Physiologe) geprägt + \item Später patentiert und vermarktet + \item Forschung umstritten + \item Einige Studien legen nahe, dass Ergebnisse beinahe zufällig sind + (Saxe, Ben-Shakhar, 1999) + \item Andere Systeme, die physiologische Reaktionen testen ähnlich umstritten + \end{itemize} + \end{frame} + +\begin{frame}{Die Geschichte des Lügendetektors - Mikroexpressionen} +\begin{figure} + \includegraphics[scale = 0.35]{Ekman_Facial_Affekt} + \caption*{Paul Ekman's Pictures of Facial Affect} +\end{figure} + \end{frame} + +\begin{frame}{Die Geschichte des Lügendetektors - Mikroexpressionen} + \begin{itemize} + \item Facial Action Coding System (FACS) von Ekman und Friesen entwickelt, + \item 'Mikroexpressionen' codieren Gefühle des Menschen, + \item Annahme: Lügen ist emotionaler AKt und kann mit Mikroexpressionen entschlüsselt werden, + \item Studien zeigen: Vorgehen ist so exakt wie zufällige Vermutung, + \item Forschung ist uneinig, ob Mikroexpressionen bei jedem Menschen vorliegen und eindeutig sind. + \end{itemize} + \end{frame} + +\begin{frame}{Die Geschichte des Lügendetektors - Die Rolle von KI} + \begin{itemize} + \item Versuche Mikroexpressionen und ähnliches mit KI zu klassifizieren, + \item Nutzung für die Optimierung von Werbeanzeigen (Facebook), + \item Projekt AVATAR (US-Projekt für Grenzkontrollen) + \end{itemize} \end{frame} \section{Grundlagen KI (15min)} @@ -77,6 +116,61 @@ iBorderCtrl \section{Grenzen von KI / Grenzen und Risiken von KI (20min)} +\subsection{KI und Interpretierbarkeit} + +\begin{frame}{Was heißt interpretierbar?} + \begin{itemize} + \item Keine einheitliche Definition + \item Interpretierbarkeit als "Verstehen des Algorithmus": + \begin{itemize} + \item Bedeutung der Parameter kann verstanden werden + \item Funktionsweise des Alogrithmus kann für jeden Input nachvollzugen werden + \item Kann bei KI oft nicht angewendet werden + \end{itemize} + \item Interpretierbarkeit durch methodische Analyse: + \begin{itemize} + \item Verschiedene Techniken + \item Benutzung weiterer KI + \item Analyse durch Manipulation von Datensätzen + \item Konzepte sind neu + \item Bedeutung und Korrektheit nicht geklärt + \end{itemize} + \end{itemize} + \end{frame} + +\begin{frame}{Wofür braucht mensch Interpretierbarkeit?} + \begin{itemize} + \item Kausalität vs. Korrelation, was lernt die KI? + \item Bsp.: KI soll Basketbälle erkennen und wird mit Bildern unterschieldicher + Bälle trainiert. Erkennt die KI tatsächlich den Basketball oder einfach nur + die Farbe Oragne? + \item Wenn KI in gesellschaftlich relevanten Bereichen eingesetzt wird, kann + es entscheidend sein Ergebnisse interpretieren zu können + \end{itemize} + \end{frame} + +\begin{frame}{Missklassifikationshack} + \begin{itemize} + \item Ergebnisse der KI hängen stark vom Datensatz ab + \item Daraus ergibt sich ein Angriff auf KI's + \item Die Kriterien für die Entscheidung der KI stimmen nicht mit menschlichen Kriterien überein + \end{itemize} +\end{frame} + +\begin{frame}{Panda oder Gibbon? } + \begin{figure} + \includegraphics[scale = 0.55]{panda_gibbon} + \caption*{Quelle: J. Goodfellow et. al. } + \end{figure} +\end{frame} + +\begin{frame} + \begin{figure} + \includegraphics[scale = 0.07]{gibbon} + \caption*{Quelle: } + \end{figure} +\end{frame} + \subsection{KI und Bias} \begin{frame}{Arten von Bias} Bias = Verzerrung @@ -92,19 +186,19 @@ Konsequenz: Diskriminierende Algorithmen (auch Gender Bias, Racial Bias, Neurodi \begin{frame}{Bias in den Daten} \begin{itemize} -\item Measurement Bias: Wie werden bestimmte Eigenschaften gemessen/bestimmt? +\item \alert<1>{Measurement Bias:} Wie werden bestimmte Eigenschaften gemessen/bestimmt? \begin{itemize} \item COMPAS: Verhaftungen auch von Familie etc. wurden genutzt um Risiko zu bewerten \end{itemize} -\item Omitted Variable Bias: Wichtige Daten werden nicht im Modell berücksichtigt +\item<2-> \alert<2>{Omitted Variable Bias:} Wichtige Daten werden nicht im Modell berücksichtigt \begin{itemize} \item Ein Programm das die Kündigung von Abos (zB Netflix) prognostiziert, aber neue Konkurrenzangebote nicht beachtet \end{itemize} -\item Represenation Bias: Fehlende Diversität in den verfügbaren Daten +\item<3-> \alert<3>{Represenation Bias:} Fehlende Diversität in den verfügbaren Daten \begin{itemize} \item Coded Gaze, Joy Buolamwini \end{itemize} -\item Aggregation Bias: Spezifische Eigenschaften von Minderheiten gehen im gesamten Datensatz unter/Ableiten von Aussagen über Individuen aus Minderheit aus allgemeinem Datensatz +\item<4-> \alert<4>{Aggregation Bias:} Spezifische Eigenschaften von Minderheiten gehen im gesamten Datensatz unter/Ableiten von Aussagen über Individuen aus Minderheit aus allgemeinem Datensatz \begin{itemize} \item Diskriminierungsklage gegen die Universität Berkeley \end{itemize} @@ -126,41 +220,29 @@ Konsequenz: Diskriminierende Algorithmen (auch Gender Bias, Racial Bias, Neurodi \end{itemize} \end{frame} -\subsection{KI und Interpretierbarkeit} - -\begin{frame}{Interpretierbarkeit} -\begin{itemize} -\item Was heißt interpretierbar? -\item Warum will mensch das? -\item Blackbox-Argument -\item Betriebsgeheimnis-Argument -\item Missklassifikationshack -\end{itemize} -\end{frame} - \section{Bias Bingo mit / Bias in iBorderCtrl (20min)(interaktiv?)} \begin{frame}{Bias in iBorderCtrl} \begin{itemize} -\item Measurement Bias: Schauspieler*innen statt echte Situationen, Stress beim Grenzübergang löst u.U. gleiche Symptome wie Lügen aus (?) -\item Omitted Variable Bias: Lügen zeigt sich in nichterfassten Phänomenen -\item Representation Bias: fehlende Diversität race, gender, neurdiversity, disability, health, scars -\item Aggregation Bias: s. representation bias, teilweiser Versuch der Gegensteuerung -\item Overfitting: 73 Prozent in Testdaten vs 93 Prozent in Trainingsdaten, das impliziert Overfitting ist wahrscheinlich +\item<1-> \alert<1>{Measurement Bias:} Schauspieler*innen statt echte Situationen, Stress beim Grenzübergang löst u.U. gleiche Symptome wie Lügen aus +\item<2-> \alert<2>{Omitted Variable Bias:} Lügen/nicht Lügen zeigt sich in nichterfassten Phänomenen +\item<3-> \alert<3>{Representation Bias:} fehlende Diversität race, gender, neurdiversity, disability, health, scars +\item<4-> \alert<4>{Aggregation Bias:} Reaktionen (z.B. Mikroexpressionen) nicht konsistent. Gleiches Verhalten kann unterschiedliches bedeuten. +\item<5-> \alert<5>{Overfitting:} 73 Prozent in Testdaten vs 93 Prozent in Trainingsdaten, das impliziert Overfitting ist wahrscheinlich \end{itemize} \end{frame} \begin{frame}{Bias in iBorderCtrl} \begin{itemize} -\item Evaluation Bias: Testbedingungen entsprechen nicht den Einsatzbedingungen, zB Licht, Diversität -\item Bias durch Rückkopplung: Wenn Einsatzdaten wieder eingespeist werden, dann: LD klassifiziert mehr Benachteiligte als lügend, Überprüfungsbeamt*in ebenso und gibt Daten zurück +\item<1-> \alert<1>{Evaluation Bias:} Testbedingungen entsprechen nicht den Einsatzbedingungen, zB Licht, Diversität +\item<2-> \alert<2>{Bias durch Rückkopplung:} Wenn Einsatzdaten wieder eingespeist werden, dann: LD klassifiziert mehr Benachteiligte als lügend, Überprüfungsbeamt*in ebenso und gibt Daten zurück \end{itemize} \end{frame} \begin{frame}{Testergebnisse} \begin{itemize} \item Anzahl verschiedener Personen in der Testdatenmenge: 1 -\item Emprische Varianz der Tests: +\item Stichprobenstreuung: 24.37 (Truthful) / 34.29 (Deceptive) \end{itemize} \begin{figure} \includegraphics[scale = 0.36]{Ergebnis_ibc} diff --git a/Polygraph.jpg b/Polygraph.jpg new file mode 100644 index 0000000..0d3d044 Binary files /dev/null and b/Polygraph.jpg differ