| Home Themenübersicht / Sitemap Webmaster |
von Philipp Schaumann
Hier die aktuellen Meldungen: 1. Reports ------------- BSI-Lagebericht der IT-Sicherheit in Deutschland 2018 Die Pressemitteilung des Lageberichts zur IT-Sicherheit 2018 https://www.bsi.bund.de/DE/Presse/Pressemitteilungen/Presse2018/lagebericht_2018_11102018.html Download des Lageberichts zur IT-Sicherheit 2018 : https://www.bsi.bund.de/DE/Publikationen/Lageberichte/lageberichte_node.html 2. Thema Algorithmen und Diskriminierung -------------------------------------------------- In Österreich wurde beschlossen, dass zur Optimierung der Mittel für die Unterstützung der Arbeitslosen ein Algorithmus eingesetzt werden wird. Die Idee dahinter ist auf den ersten Blick recht einleuchtend: Wenn Resourcen knapp sind, so sollen sie dort eingesetzt werden, wo der Ertrag mit hoher Wahrscheinlichkeit am höchsten ist - das ist so erst mal einleuchtend. An Hand des in diesem Fall recht dokumentierten Algorithmus kann man zeigen, welche Auswirkungen dies ziemlich sicher haben wird. Siehe https://derstandard.at/2000089720308/Leseanleitung-zum-AMS-Algorithmus (der Algorithmus leicht verständlich dargestellt) https://derstandard.at/permanent/2000089925698/Berechnen-Sie-Ihre-Jobchancen-so-wie-es-das-AMS-tun (fertig zum Eingeben der eigenen Werte) Arbeitslose werden künftig in drei Gruppen A, B, C eingeteilt und zwar in jene mit hohen, mittleren und niedrigen Chancen am Arbeitsmarkt. Wer mit 66-prozentiger Wahrscheinlichkeit innerhalb von sieben Monaten wieder einen Job haben wird, soll ab 2019 als Person mit hoher Arbeitsmarktchance gelten, Gruppe A. Wer weniger als 25 Prozent Chance hat innerhalb von zwei Jahren einen Job zu bekommen, gilt dann als Kunde mit niedrigen Chancen und kommt in Gruppen B oder bei ganz schlecht, in C. Förderungen, z.B. Schulungen, gibt es hauptsächlich für Gruppe B. Das klingt erstmal nicht ganz unlogisch, hat aber diskrimierende Auswirkungen da nicht die wirkliche Person berücksichtigt wird, sondern grobe Klassen gebildet werden (dies ist nun mal die Technik wie ein AI-System so etwas tut). Klassifiziert wird nach Wohnbezirk, Ausbildung, Beruf, Geschlecht, etc.). Frauen, Ältere, gesundheitlich Beeinträchtigte und Frauen mit Kindern werden vom Computerprogramm automatisch schlechter eingestuft, da die Wahrscheinlichkeit, dass jemand aus dieser Personengruppe schnell einen Job findet (rein statistisch) wirklich geringer ist. Die Basis-Annahme ist junger, gesunder Mann mit österreichischer Staatsbürgerschaft, der im Dienstleistungsbereich arbeiten will und nur über einen Pflichtschulabschluss verfügt. So gibt es für Geschlecht = weiblich eine Reduzierung. Weitere Reduzierungen gibt es für "äter als 50", für jemand mit "Betreuungspflichten" (berechnet aus der Tatsache dass jemand mal in Karenz war oder als Frau ein Kind hat) und für "weder Lehre abgeschlossen noch Matura/Abitur". Ergebnis der Logik ist, dass diejenigen, die eh sehr schlechte Chancen haben auf Grund dieser Klassifizierungen ohne die Berücksichtigung des konkreten Einzelfalls eingestuft werden. Nach EU-Recht hat eine Betroffene das Recht, das Ergebnis des Algorithmus in Frage zu stellen. Dafür muss sie aber erst mal erkennen, dass das AI-System diskriminiert hat. Trotzdem steht zu befürchten, dass sich Beraterinnen und Berater die den Einspruch bearbeiten sich auf die Ergebnisse verlassen, die von der Software vorgeschlagen werden.“ Der AMS-Algorithmus http://www.forschungsnetzwerk.at/downloadpub/arbeitsmarktchancen_methode_%20dokumentation.pdf https://futurezone.at/netzpolitik/wie-ihr-euch-gegen-den-ams-algorithmus-wehren-koennt/400149528 https://derstandard.at/permanent/2000089325546/Beruf-Ausbildung-Alter-Geschlecht-Das-sind-die-Zutaten-zum-neuen https://derstandard.at/permanent/2000089925698/Berechnen-Sie-Ihre-Jobchancen-so-wie-es-das-AMS-tun https://futurezone.at/netzpolitik/der-ams-algorithmus-ist-ein-paradebeispiel-fuer-diskriminierung/400147421 Aus gesellschaftlicher Sicht: https://derstandard.at/2000089727832/Bewertung-von-Arbeitslosen-per-Algorithmus-Die-Herrschaft-der-Buerokratie https://text.derstandard.at/2000089718327/Kuenstliche-Intelligenz-begreifen Andere problematisch Algorithmen https://futurezone.at/netzpolitik/wo-algorithmen-bereits-versagt-haben/400150653 Texte von mir zum Thema "Diskrminierung durch Algorithmen" https://sicherheitskultur.at/Manipulation.htm#diskriminierung Zum Thema "Fehlende Nachvollziebarkeit von Deep Learning" https://www.philipps-welt.info/robots.htm#debug
Philipp Schaumann, http://sicherheitskultur.at/
Copyright-Hinweis:
Das Copyright des Materials auf diesen Webseiten liegt, falls kein anderer Autor genannt wird, bei Philipp Schaumann. 
Diese Texte sind lizensiert unter der Create Commons Attribution-Noncommercial-Share Alike 2.0 Austria Lizenz. Natürlich gelten auch die Regeln des Fair Use und über Ausnahmen bzgl. der Lizenz kann jederzeit mit den Autoren gesprochen werden.
Zurück zum Archiv-Überblick