Wenn Maschinen Menschen bewerten: To-dos für Teilhabe

Vortrag, gehalten am 1.9.2017 auf der Konferenz „Das ist Netzpolitik!

Mehr:

7 Kernthesen des Vertrags:

  1. Die Diskussion fokussiert auf Maschinen, mit denen eine Macht Menschen beurteilt. Es fehlt: Der Mensch als Subjekt.
  2. Positive, gemeinwohlfördernde Gestaltung umfasst mehr als Abwehr und Nachsorge durch Regulierung. Der Staat ist in einer Doppelrolle als zu kontrollierender ADM-Anwender und Ermöglicher einer positiven Ordnung.
  3. Wenn es viele richtige Operationalisierungen eines sozialen Konzepts gibt, sind unterschiedliche Systeme sinnvoll. Es braucht Systemvielfalt!
  4. Dass ein ADM-System zuverlässig und nachvollziehbar arbeitet, sagt wenig über seinen gesellschaftlichen Sinn aus. Es braucht Diskurs über gesellschaftliche Angemessenheit!
  5. Lösungsansätze: Diskurs über die Messbarmachung vor der Messbarmachung führen. Und Reflexion der Angemessenheit institutionalisieren
  6. Transparenz allein schafft keine Öffentlichkeit. Überprüfbarkeit sichert nicht Überprüfung. Deshalb braucht es vielfältige Wächter-Institutionen.
  7. Fazit: Handlungsbedarf und Lösungsansätze auf allen Ebenen des Gemeinwesens.