% !TeX program = lualatex

\documentclass{beamer}

\usetheme{DarkConsole}
\usepackage{graphicx}
\usepackage{caption}

%\setbeamersize{text margin left=20pt,text margin right=10pt}

\title{\texttt{Smart Borders?}}
\subtitle{Wie die EU versucht Grenzübergänge mit einem diskriminierenden KI-Lügendetektor zu regulieren.}
\author{AG Link}

\begin{document}

\begin{frame}
  \maketitle
\end{frame}

\begin{frame}{Inhalt}
  \tableofcontents
\end{frame}

\section{Was ist iBorderCtrl?}
\subsection{Akteure und Organisationsstruktur}
\begin{frame}{Akteure und Organisationsstruktur}
\begin{itemize}
\item Horizon 2020 (auch Roborder)
\item Tresspass etc. 
\item Finanzierung
\item Beteiligte Forschungseinrichtungen, beteiligte Unternehmen? 
\item Aktueller Entwicklungsstand 
\end{itemize}
\end{frame}
\subsection{Silent Talker}
\begin{frame}{Silent Talker}
\end{frame}
\begin{frame}
	\begin{figure}
		\includegraphics[scale = 0.8]{iborderctrl-avatar-300x268.jpg}
		\caption*{Quelle: iborderctrl.eu}
	\end{figure}
	"The avatar is presented in a uniform to convey an air of authority." (K.Crockett et.al.)
\end{frame}
\subsection{Geschichte des Lügendetektor}


\begin{frame}{Die Geschichte des Lügendetektors - Der Polygraph}
	\begin{figure}
		\includegraphics[scale = 0.8]{Polygraph}
		\caption*{Foto: Sebastian Kahnert/ dpa}
	\end{figure}
	\end{frame}
\begin{frame}{Die Geschichte des Lügendetektors - Der Polygraph}
	\begin{itemize}
		\item Entwicklung in der ersten Hälfte des 20. Jahrhunderts
		\item Maßgeblich von John A. Larson (Polizist und Physiologe) geprägt
		\item Später patentiert und vermarktet
		\item Forschung umstritten
		\item Einige Studien legen nahe, dass Ergebnisse beinahe zufällig sind 
				(Saxe, Ben-Shakhar, 1999)
		\item  Andere Systeme, die physiologische Reaktionen testen ähnlich umstritten
		\end{itemize}
	\end{frame}

\begin{frame}{Die Geschichte des Lügendetektors - Mikroexpressionen}
\begin{figure}
	\includegraphics[scale = 0.35]{Ekman_Facial_Affekt}
	\caption*{Paul Ekman's Pictures of Facial Affect}
\end{figure}
	\end{frame}

\begin{frame}{Die Geschichte des Lügendetektors - Mikroexpressionen}
	\begin{itemize}
		\item Facial Action Coding System (FACS) von Ekman und Friesen entwickelt,
		\item 'Mikroexpressionen' codieren Gefühle des Menschen,
		\item Annahme: Lügen ist emotionaler Akt und kann mit Mikroexpressionen entschlüsselt werden,
		\item Studien zeigen: Vorgehen ist so exakt wie zufällige Vermutung,
		\item Forschung ist uneinig, ob Mikroexpressionen bei jedem Menschen vorliegen und eindeutig sind.
		\end{itemize}
	\end{frame}

\begin{frame}{Die Geschichte des Lügendetektors - Die Rolle von KI}
	\begin{itemize}
		\item Versuche Mikroexpressionen und ähnliches mit KI zu klassifizieren,
		\item Nutzung für die Optimierung von Werbeanzeigen (Facebook),
		\item Projekt AVATAR (US-Projekt für Grenzkontrollen)
	\end{itemize}
\end{frame}

\section{Grundlagen KI}
\subsection{KI, Algorithmen und maschinelles Lernen}
\begin{frame}{KI, Algorithmen und maschinelles Lernen}
\begin{figure}
\begin{center}
		\includegraphics[scale = 0.18]{Ki-Abbildung}
		\end{center}
	\end{figure}
\end{frame}

\subsection{Overfitting}
\begin{frame}{Overfitting}
\begin{figure}
\includegraphics[scale = 0.4]{overfitting.png}
\caption*{Quelle: Sagar Sharma / Towards Data Science}
\end{figure}
\end{frame}


\section{Grenzen und Risiken von KI}
\subsection{KI und Interpretierbarkeit}

\begin{frame}{Was heißt interpretierbar?}
	\begin{itemize}
		\item Keine einheitliche Definition
		\item Interpretierbarkeit als "Verstehen des Algorithmus":
		\begin{itemize}
			\item Bedeutung der Parameter kann verstanden werden
			\item Funktionsweise des Algorithmus kann für jeden Input nachvollzogen werden
			\item Kann bei KI oft nicht angewendet werden
			\end{itemize}
		\item Interpretierbarkeit durch methodische Analyse:
		\begin{itemize}
			\item Verschiedene Techniken
			\item Benutzung weiterer KI
			\item Analyse durch Manipulation von Datensätzen
			\item Konzepte sind neu
			\item Bedeutung und Korrektheit nicht geklärt
			\end{itemize}
	\end{itemize}
	\end{frame}

\begin{frame}{Wofür braucht mensch Interpretierbarkeit?}
	\begin{itemize}
		\item Kausalität vs. Korrelation, was lernt die KI? 
		\item Bsp.: KI soll Basketbälle erkennen und wird mit Bildern unterschiedlicher 
		Bälle trainiert. Erkennt die KI tatsächlich den Basketball oder einfach nur
		die Farbe Orange?
		\item Wenn KI in gesellschaftlich relevanten Bereichen eingesetzt wird, kann
		es entscheidend sein Ergebnisse interpretieren zu können
	\end{itemize}
	\end{frame}

\begin{frame}{Missklassifikationshack}
	\begin{itemize}
		\item Ergebnisse der KI hängen stark vom Datensatz ab
		\item Daraus ergibt sich ein Angriff auf KIs
		\item Die Kriterien für die Entscheidung der KI stimmen nicht mit menschlichen Kriterien überein
	\end{itemize}
\end{frame}

\begin{frame}{Panda oder Gibbon?}
	\begin{figure}
		\includegraphics[scale = 0.55]{panda_gibbon}
		\caption*{Quelle: J. Goodfellow et. al. }
	\end{figure}
\end{frame}

\begin{frame}
	\begin{figure}
		\includegraphics[scale = 0.07]{gibbon}
		\caption*{Quelle:  }
	\end{figure}
\end{frame}

\subsection{KI und Bias}
\begin{frame}{Arten von Bias}
Bias = Verzerrung
\vspace{0,5cm}
\begin{itemize}
\item Bias in den Daten
\item Bias durch Design des Algorithmus
\item Bias durch Rückkopplung
\end{itemize}
\vspace{0,5cm}
Konsequenz: Diskriminierende Algorithmen (auch Gender Bias, Racial Bias, Neurodiversity Bias etc. genannt)
\end{frame}

\begin{frame}{Bias in den Daten}
\begin{itemize}
\item \alert<1>{Measurement Bias:} Die Auswahl der Merkmale zur Darstellung des Sachverhalts kann zu Verzerrung führen
\item<2-> \alert<2>{Omitted Variable Bias:} Wichtige Merkmale werden nicht im Modell berücksichtigt
\item<3-> \alert<3>{Represenation Bias:} Fehlende Diversität in den verfügbaren bzw. genutzten Daten
\end{itemize}
\end{frame}

\begin{frame}{Bias in den Daten}
\begin{itemize}
\item \alert<1>{Aggregation Bias:} Spezifische Eigenschaften von Untergruppen gehen im gesamten Datensatz unter,
Überlagerung von Trends in verschiedenen Untergruppe führt zu falschen Aussagen
\end{itemize}
\begin{figure}
	\includegraphics[scale = 0.1]{AggregationBiasBeispiel}
	\caption*{Quelle: Statology.org What is Aggregation Bias?}
	\end{figure}
\end{frame}

\begin{frame}{Bias durch Design}
\begin{itemize}
\item \alert<1>{Evaluation Bias:} Performance des Algorithmus wird an unrealistischen Kriterien gemessen
\end{itemize}
\end{frame}

\begin{frame}{Bias durch Rückkopplung}
Verstärkung der Diskriminierung durch Rückkopplungsschleife bei Predictive Policing
\begin{figure}
	\includegraphics[scale = 0.1]{Predpol}
	\caption*{Quelle: Algorithmic Bias and Fairness: Crash Course AI by CrashCourse}
	\end{figure}
\end{frame}

\section{Bias in iBorderCtrl}

\begin{frame}{Bias in iBorderCtrl}
\begin{itemize}
\item<1-> \alert<1>{Measurement Bias:} Stress beim Grenzübergang löst u.U. gleiche Symptome wie Lügen aus
\item<2-> \alert<2>{Omitted Variable Bias:} Lügen/nicht Lügen zeigt sich in nicht erfassten Phänomenen.Es gibt keine zuverlässigen Theorien dazu, welche physiologischen Prozesse Lügen eindeutig identifizierbar machen.
\item<3-> \alert<3>{Representation Bias:} fehlende Diversität in Hautfarbe, Geschlecht, Neurodiversität, Behinderungen, gesundheitlichen Faktoren, Narben etc.
\item<4-> \alert<4>{Aggregation Bias:} Reaktionen (z.B. Mikroexpressionen) nicht konsistent. Gleiches Verhalten bei unterschiedlichen Individuen kann Unterschiedliches bedeuten.
\item<5-> \alert<5>{Overfitting:} Trefferquote von 73 Prozent in Testdaten vs 93 Prozent in Trainingsdaten deutet auf Overfitting hin
\end{itemize}
\end{frame}

\begin{frame}{Bias in iBorderCtrl}
\begin{itemize}
\item<1-> \alert<1>{Evaluation Bias:} Testbedingungen entsprechen nicht den Einsatzbedingungen, zB Licht, Diversität
\item<2-> \alert<2>{Bias durch Rückkopplung:} Wenn Einsatzdaten wieder eingespeist werden, dann klassifiziert der Lügendetektor mehr Benachteiligte als lügend, Überprüfungsbeamt*innen bestätigen die Entscheidung und geben die Daten zurück an das System.
\end{itemize}
\end{frame}

\begin{frame}{Testergebnisse}
\begin{itemize}
\item Anzahl verschiedener Personen in der Testdatenmenge: 1
\item Stichprobenstreuung: 24.37 (Truthful) / 34.29 (Deceptive)
\end{itemize}
\begin{figure}
\includegraphics[scale = 0.36]{Ergebnis_ibc}
\end{figure}
\end{frame}
\section{Ausblick und Diskussion}
\subsection{Politische Einordnung}
\begin{frame}{Politische Einordnung}
\begin{itemize}
\item Unfreiwillige Datenerhebung zur "Verbesserung" des Algorithmus
\item Entwicklung Ethischer Normen für KI (EU KI Standards, Gesellschaft für Informatik)
\end{itemize}
\end{frame}
\subsection{Wie und wofür forschen wir?}
\begin{frame}{Wie und wofür forschen wir?}
\begin{itemize}
\item Wissenschaft kann instrumentalisiert werden
\item Wir brauchen mehr kognitive Diversität in Forschungseinrichtungen
\item Was ist dein wissenschaftlicher Standard und worauf gründet er?
\end{itemize}
\end{frame}
\end{document}