Thomas Lohnes | Ulf Röller, Leiter des ZDF-Studios Ostasien, Lorena Jaume-Palasí, Executive Director der Ethical Tech Society, Berlin, Moderation: Pfarrer Dr. Thomas Dörken-Kucharz,CvD der Rundfunkarbeit im GEP
10.30 bis 11.30 Uhr Konferenz-Stream II
Social Scoring
Lorena Jaume-Palasí, Executive Director der Ethical Tech Society, Berlin
Ulf Röller, Leiter des ZDF-Studios Ostasien
Moderation: Pfarrer Dr. Thomas Dörken-Kucharz,CvD der Rundfunkarbeit im GEP
Ulf Röller erzählt, dass die Staatsführung in China mittlerweile nicht mehr in erster Linie die Menschen kontrollieren wolle, sondern vielmehr erreichen wolle, dass diese von sich aus auf das gewünschte Verhalten trainiert sind. Überwachung erreiche eine neue Qualität.
Lorena Jaume-Palasi weist darauf hin, dass die „Vermessung der Menschen“ ein Exportprodukt Europas sei, die Nutzung von/der Umgang mit künstlicher Intelligenz letztendlich ein Kind der Aufklärung. Beängstigend sei in diesem Zusammenhang vor allem die große Zustimmung der Menschen in Befragungen zu Social-Scoring - auch in nicht-autokratischen Systemen. Schließlich sei es ja ursprünglich so, dass Pflichten von Menschen aus grundsätzlichen Rechten abgeleitet werden müssten – und nicht umgekehrt.
Ulf Röller weist in diesem Zusammenhang darauf hin, dass Deutschland bspw. durch seine wirtschaftliche Abhängigkeit eigentlich auch einem Social Scoring im großen Stil unterliege. Kein VW-Manager könne bspw. etwas wirklich Kritisches über China sagen, ohne wirtschaftliche Konsequenzen zu befürchten.
Lorena Jaume-Palasi ergänzt, dass diese Abhängigkeit darüber hinaus auch bei der Beschaffung und Entsorgung von Technologie bestünde. Generell kritisiert sie, dass durch die Nutzung von mathematischen Systemen zu Projektionen aufgrund von Daten z. B. bei der Kreditvergabe oder in Asylverfahren, Menschen verwehrt werde, sich in Zukunft anders zu entwickeln als errechnet. Sie würden tatsächlich auf ihre Vergangenheit reduziert und festgelegt, teilweise aufgrund von einer absurden Selektion von Daten. Diese Kategorisierung bedeute immer auch Einschränkung und bilde nicht die Kontinuität des Lebens ab. Und das wiederum sei weder rational noch neutral, wie immer suggeriert würde.
Daraus leiten Röller und Jaume-Palasi einmütig die Forderung nach Wachsamkeit und Vorsicht ab, wenn es darum ginge, mit Datensammlungen Menschen einzuschätzen und zu lenken.