Regulierung von automatisierten Entscheidungssystemen: Fallstricke, Rettungsseile, Ausblicke

Systeme für automatisierte Entscheidungen (automated decision making systems ADMS) haben den gesellschaftlichen Alltag längst durchdrungen - dies meist ohne Bewusstsein der Öffentlichkeit. Menschen sehen sich immer öfter mit Entscheidungen, Empfehlungen oder Prognosen konfrontiert, die auf Algorithmen basieren. Sei dies bei der Song-Auswahl auf Spotify oder bei der demokratischen Meinungs- und Willensbildung. Da ADM-Systeme nie objektiv sein können, sondern immer die Normen und Werte jener spiegeln, die sie programmieren und/oder einsetzen, sind sie anfällig dafür diskriminierend, ausgrenzend, biased und manipulativ zu sein und können eine Bedrohung für Menschen- und Freiheitsrechte darstellen. Dass ADM-Systeme einer Regulierung bedürfen, ist inzwischen national wie international weitgehend Konsens. Es gibt bereits eine Vielzahl von Empfehlungen und Vorschlägen zur Regulierung von Künstlicher Intelligenz wie den „AI Act“ der Europäischen Kommission oder die Empfehlungen des Europarates. Wie soll sich die Schweiz hinsichtlich des Regulierungsbedarfs positionieren? Welche sachlichen und akteursbezogenen Fallstricke erschweren eine Regulierung? Braucht es ein visionäres „KI Gesetz“ für die Schweiz und wie könnte dieses aussehen? Dies wollen wir in dieser Keynote beantworten.

Tanja Klankert und Dr. David Sommer sind Mitglieder der Digitalen Gesellschaft und haben zusammen mit der Fachgruppe zu Automated-Decision-Making-Systems (ADMS) das Positionspapier der Digitalen Gesellschaft zu ADMS erarbeitet.

https://www.digitale-gesellschaft.ch/uploads/2022/02/Position-der-Digitalen-Gesellschaft-zur-Regulierung-von-automatisierten-Entscheidungssystemen-1.0.pdf

 


Tanja Klankert, Digitale Gesellschaft

ist Computerlinguistin und Kulturwissenschaftlerin. In ihrer Masterarbeit in Philosophie an der FU Hagen befasst sie sich mit bioethischen und biopolitischen Herausforderungen maschineller Emotionserkennung. Als Gymnasiallehrerin für Informatik engagiert sie sich für eine Sensibilisierung von Jugendlichen und jungen Erwachsenen für gesellschaftlichen Fragen und Probleme in einer digitalen Welt.

David Sommer, Digitale Gesellschaft

Dr. David Sommer setzte sich in seiner Dissertation am Departement Informatik der ETH Zürich intensiv mit der Vermessung von Privacy, Anonymer Kommunikation und deren Auswirkungen auf Machine Learning auseinander. Beruflich engagiert er sich für eine bessere Cyber-Sicherheit in der Schweiz.
Linkedin: www.linkedin.com/in/David-M-Sommer