266 lines
No EOL
9.2 KiB
TeX
266 lines
No EOL
9.2 KiB
TeX
% !TeX program = lualatex
|
|
|
|
\documentclass{beamer}
|
|
|
|
\usetheme{DarkConsole}
|
|
\usepackage{graphicx}
|
|
\usepackage{caption}
|
|
|
|
%\setbeamersize{text margin left=20pt,text margin right=10pt}
|
|
|
|
\title{\texttt{Smart Borders?}}
|
|
\subtitle{Wie die EU versucht Grenzübergänge mit einem diskriminierenden KI-Lügendetektor zu regulieren.}
|
|
\author{AG Link}
|
|
|
|
\begin{document}
|
|
|
|
\begin{frame}
|
|
\maketitle
|
|
\end{frame}
|
|
|
|
\begin{frame}{Inhalt}
|
|
\tableofcontents
|
|
\end{frame}
|
|
|
|
\section{Was ist iBorderCtrl?}
|
|
\subsection{Akteure und Organisationsstruktur}
|
|
\begin{frame}{Akteure und Organisationsstruktur}
|
|
\begin{itemize}
|
|
\item Horizon 2020 (auch Roborder)
|
|
\item Tresspass etc.
|
|
\item Finanzierung
|
|
\item Beteiligte Forschungseinrichtungen, beteiligte Unternehmen?
|
|
\item Aktueller Entwicklungsstand
|
|
\end{itemize}
|
|
\end{frame}
|
|
\subsection{Silent Talker}
|
|
\begin{frame}{Silent Talker}
|
|
\end{frame}
|
|
\begin{frame}
|
|
\begin{figure}
|
|
\includegraphics[scale = 0.8]{iborderctrl-avatar-300x268.jpg}
|
|
\caption*{\tiny Quelle: iborderctrl.eu}
|
|
\end{figure}
|
|
"The avatar is presented in a uniform to convey an air of authority." (K.Crockett et.al.)
|
|
\end{frame}
|
|
\subsection{Geschichte des Lügendetektor}
|
|
|
|
|
|
\begin{frame}{Die Geschichte des Lügendetektors - Der Polygraph}
|
|
\begin{figure}
|
|
\includegraphics[scale = 0.8]{Polygraph}
|
|
\caption*{\tiny Foto: Sebastian Kahnert/ dpa}
|
|
\end{figure}
|
|
\end{frame}
|
|
\begin{frame}{Die Geschichte des Lügendetektors - Der Polygraph}
|
|
\begin{itemize}
|
|
\item Entwicklung in der ersten Hälfte des 20. Jahrhunderts
|
|
\item Maßgeblich von John A. Larson (Polizist und Physiologe) geprägt
|
|
\item Später patentiert und vermarktet
|
|
\item Forschung umstritten
|
|
\item Einige Studien legen nahe, dass Ergebnisse beinahe zufällig sind
|
|
(Saxe, Ben-Shakhar, 1999)
|
|
\item Andere Systeme, die physiologische Reaktionen testen ähnlich umstritten
|
|
\end{itemize}
|
|
\end{frame}
|
|
|
|
\begin{frame}{Die Geschichte des Lügendetektors - Mikroexpressionen}
|
|
\begin{figure}
|
|
\includegraphics[scale = 0.35]{Ekman_Facial_Affekt}
|
|
\caption*{Paul Ekman's Pictures of Facial Affect}
|
|
\end{figure}
|
|
\end{frame}
|
|
|
|
\begin{frame}{Die Geschichte des Lügendetektors - Mikroexpressionen}
|
|
\begin{itemize}
|
|
\item Facial Action Coding System (FACS) von Ekman und Friesen entwickelt,
|
|
\item 'Mikroexpressionen' codieren Gefühle des Menschen,
|
|
\item Annahme: Lügen ist emotionaler Akt und kann mit Mikroexpressionen entschlüsselt werden,
|
|
\item Studien zeigen: Vorgehen ist so exakt wie zufällige Vermutung,
|
|
\item Forschung ist uneinig, ob Mikroexpressionen bei jedem Menschen vorliegen und eindeutig sind.
|
|
\end{itemize}
|
|
\end{frame}
|
|
|
|
\begin{frame}{Die Geschichte des Lügendetektors - Die Rolle von KI}
|
|
\begin{itemize}
|
|
\item Versuche Mikroexpressionen und ähnliches mit KI zu klassifizieren,
|
|
\item Nutzung für die Optimierung von Werbeanzeigen (Facebook),
|
|
\item Projekt AVATAR (US-Projekt für Grenzkontrollen)
|
|
\end{itemize}
|
|
\end{frame}
|
|
|
|
\section{Grundlagen KI}
|
|
\subsection{KI, Algorithmen und maschinelles Lernen}
|
|
\begin{frame}{KI, Algorithmen und maschinelles Lernen}
|
|
\begin{figure}
|
|
\begin{center}
|
|
\includegraphics[scale = 0.16]{Ki-Abbildung}
|
|
\end{center}
|
|
\end{figure}
|
|
\end{frame}
|
|
|
|
\subsection{Overfitting}
|
|
\begin{frame}{Overfitting}
|
|
\begin{figure}
|
|
\includegraphics[scale = 0.4]{overfitting.png}
|
|
\caption*{\tiny Quelle: Sagar Sharma / Towards Data Science}
|
|
\end{figure}
|
|
\end{frame}
|
|
|
|
|
|
\section{Grenzen und Risiken von KI}
|
|
\subsection{KI und Interpretierbarkeit}
|
|
|
|
\begin{frame}{Was heißt interpretierbar?}
|
|
\begin{itemize}
|
|
\item Keine einheitliche Definition
|
|
\item Interpretierbarkeit als "Verstehen des Algorithmus":
|
|
\begin{itemize}
|
|
\item Bedeutung der Parameter kann verstanden werden
|
|
\item Funktionsweise des Algorithmus kann für jeden Input nachvollzogen werden
|
|
\item Kann bei KI oft nicht angewendet werden
|
|
\end{itemize}
|
|
\item Interpretierbarkeit durch methodische Analyse:
|
|
\begin{itemize}
|
|
\item Verschiedene Techniken
|
|
\item Benutzung weiterer KI
|
|
\item Analyse durch Manipulation von Datensätzen
|
|
\item Konzepte sind neu
|
|
\item Bedeutung und Korrektheit nicht geklärt
|
|
\end{itemize}
|
|
\end{itemize}
|
|
\end{frame}
|
|
|
|
\begin{frame}{Wofür braucht mensch Interpretierbarkeit?}
|
|
\begin{itemize}
|
|
\item Kausalität vs. Korrelation, was lernt die KI?
|
|
\item Bsp.: KI soll Basketbälle erkennen und wird mit Bildern unterschiedlicher
|
|
Bälle trainiert. Erkennt die KI tatsächlich den Basketball oder einfach nur
|
|
die Farbe Orange?
|
|
\item Wenn KI in gesellschaftlich relevanten Bereichen eingesetzt wird, kann
|
|
es entscheidend sein Ergebnisse interpretieren zu können
|
|
\end{itemize}
|
|
\end{frame}
|
|
|
|
\begin{frame}{Missklassifikationshack}
|
|
\begin{itemize}
|
|
\item Ergebnisse der KI hängen stark vom Datensatz ab
|
|
\item Daraus ergibt sich ein Angriff auf KIs
|
|
\item Die Kriterien für die Entscheidung der KI stimmen nicht mit menschlichen Kriterien überein
|
|
\end{itemize}
|
|
\end{frame}
|
|
|
|
\begin{frame}{Panda oder Gibbon?}
|
|
\begin{figure}
|
|
\includegraphics[scale = 0.54]{panda_gibbon}
|
|
\caption*{\tiny Quelle: J. Goodfellow et. al. }
|
|
\end{figure}
|
|
\end{frame}
|
|
|
|
\begin{frame}
|
|
\begin{figure}
|
|
\includegraphics[scale = 0.07]{gibbon}
|
|
\caption*{\tiny Quelle: }
|
|
\end{figure}
|
|
\end{frame}
|
|
|
|
\subsection{KI und Bias}
|
|
\begin{frame}{Arten von Bias}
|
|
Bias = Verzerrung
|
|
\vspace{0,5cm}
|
|
\begin{itemize}
|
|
\item Bias in den Daten
|
|
\item Bias durch Design des Algorithmus
|
|
\item Bias durch Rückkopplung
|
|
\end{itemize}
|
|
\vspace{0,5cm}
|
|
Konsequenz: Diskriminierende Algorithmen (auch Gender Bias, Racial Bias, Neurodiversity Bias etc. genannt)
|
|
\end{frame}
|
|
|
|
\begin{frame}{Bias in den Daten}
|
|
\begin{itemize}
|
|
\item \alert<1>{Measurement Bias:} Die Auswahl der Merkmale zur Darstellung des Sachverhalts kann zu Verzerrung führen
|
|
\item<2-> \alert<2>{Omitted Variable Bias:} Wichtige Merkmale werden nicht im Modell berücksichtigt
|
|
\item<3-> \alert<3>{Represenation Bias:} Fehlende Diversität in den verfügbaren bzw. genutzten Daten
|
|
\end{itemize}
|
|
\end{frame}
|
|
|
|
\begin{frame}{Bias in den Daten}
|
|
\begin{itemize}
|
|
\item \alert<1>{Aggregation Bias:} Spezifische Eigenschaften von Untergruppen gehen im gesamten Datensatz unter,
|
|
Überlagerung von Trends in verschiedenen Untergruppe führt zu falschen Aussagen
|
|
\end{itemize}
|
|
\begin{figure}
|
|
\includegraphics[scale = 0.19]{AggregationBiasBeispiel}
|
|
\caption*{\tiny Quelle: Statology.org What is Aggregation Bias?}
|
|
\end{figure}
|
|
\end{frame}
|
|
|
|
\begin{frame}{Bias durch Design}
|
|
\begin{itemize}
|
|
\item \alert<1>{Evaluation Bias:} Performance des Algorithmus wird an unrealistischen Kriterien gemessen
|
|
\end{itemize}
|
|
\end{frame}
|
|
|
|
\begin{frame}{Bias durch Rückkopplung}
|
|
Verstärkung der Diskriminierung durch Rückkopplungsschleife bei Predictive Policing
|
|
\begin{figure}
|
|
\includegraphics[scale = 0.23]{Predpol}
|
|
\caption*{\tiny Quelle: Algorithmic Bias and Fairness: Crash Course AI by CrashCourse}
|
|
\end{figure}
|
|
\end{frame}
|
|
|
|
\section{Bias in iBorderCtrl}
|
|
\begin{frame}{Bias in iBorderCtrl}
|
|
Konzeptionelle Mängel in iBorderControl
|
|
\vspace{0,5cm}
|
|
\begin{itemize}
|
|
\item Einsatz von Schauspieler*innen
|
|
\item Qualität der Kameraaufzeichnung
|
|
\end{itemize}
|
|
\vspace{0,5cm}
|
|
\end{frame}
|
|
|
|
\begin{frame}{Bias in iBorderCtrl}
|
|
\begin{itemize}
|
|
\item<1-> \alert<1>{Measurement Bias:} Stress beim Grenzübergang löst u.U. gleiche Symptome wie Lügen aus
|
|
\item<2-> \alert<2>{Omitted Variable Bias:} Lügen/nicht Lügen zeigt sich in nicht erfassten Phänomenen.Es gibt keine zuverlässigen Theorien dazu, welche physiologischen Prozesse Lügen eindeutig identifizierbar machen.
|
|
\item<3-> \alert<3>{Representation Bias:} fehlende Diversität in Hautfarbe, Geschlecht, Neurodiversität, Behinderungen, gesundheitlichen Faktoren, Narben etc.
|
|
\item<4-> \alert<4>{Aggregation Bias:} Reaktionen (z.B. Mikroexpressionen) nicht konsistent. Gleiches Verhalten bei unterschiedlichen Individuen kann Unterschiedliches bedeuten.
|
|
\item<5-> \alert<5>{Overfitting:} Trefferquote von 73 Prozent in Testdaten vs 93 Prozent in Trainingsdaten deutet auf Overfitting hin
|
|
\end{itemize}
|
|
\end{frame}
|
|
|
|
\begin{frame}{Bias in iBorderCtrl}
|
|
\begin{itemize}
|
|
\item<1-> \alert<1>{Evaluation Bias:} Testbedingungen entsprechen nicht den Einsatzbedingungen, zB Licht, Diversität
|
|
\item<2-> \alert<2>{Bias durch Rückkopplung:} Wenn Einsatzdaten wieder eingespeist werden, dann klassifiziert der Lügendetektor mehr Benachteiligte als lügend, Überprüfungsbeamt*innen bestätigen die Entscheidung und geben die Daten zurück an das System.
|
|
\end{itemize}
|
|
\end{frame}
|
|
|
|
\begin{frame}{Testergebnisse}
|
|
\begin{itemize}
|
|
\item Anzahl verschiedener Personen in der Testdatenmenge: 1
|
|
\item Stichprobenstreuung: 24.37 (Truthful) / 34.29 (Deceptive)
|
|
\end{itemize}
|
|
\begin{figure}
|
|
\includegraphics[scale = 0.36]{Ergebnis_ibc}
|
|
\end{figure}
|
|
\end{frame}
|
|
\section{Ausblick und Diskussion}
|
|
\subsection{Politische Einordnung}
|
|
\begin{frame}{Politische Einordnung}
|
|
\begin{itemize}
|
|
\item Unfreiwillige Datenerhebung zur "Verbesserung" des Algorithmus
|
|
\item Entwicklung Ethischer Normen für KI (EU KI Standards, Gesellschaft für Informatik)
|
|
\end{itemize}
|
|
\end{frame}
|
|
\subsection{Wie und wofür forschen wir?}
|
|
\begin{frame}{Wie und wofür forschen wir?}
|
|
\begin{itemize}
|
|
\item Wissenschaft kann instrumentalisiert werden
|
|
\item Wir brauchen mehr kognitive Diversität in Forschungseinrichtungen
|
|
\item Was ist dein wissenschaftlicher Standard und worauf gründet er?
|
|
\end{itemize}
|
|
\end{frame}
|
|
\end{document} |