# taz.de -- Die Macht der Algorithmen: Heiko Maas will das Internet bändigen
       
       > Algorithmen beeinflussen Menschen im Netz. Der Justizminister will diesen
       > Einfluss per Gesetz einschränken. Sein Nutzen ist umstritten.
       
   IMG Bild: Alles friedlich in der Bubble. „Filter-Blasen“ sorgen dafür, „dass wir oftmals nur noch auf Positionen treffen, die uns in der eigenen Meinung bestärken“, sagt Maas
       
       Heiko Maas hat eine Mission: Der Bundesjustizminister will das Internet
       unter Kontrolle bringen, in dem Algorithmen regieren und Fake News
       gedeihen. Den Anfang machte er mit dem Netzwerkdurchsetzungsgesetz. Nun
       nimmt der Minister sich der Algorithmen an. Am vergangenen Montag erklärte
       Maas in einer [1][Rede auf einer Konferenz zu digitalem Leben], wie er
       diese komplexen Systeme in den Griff bekommen will. Was genau schlägt Maas
       vor – und ist das sinnvoll?
       
       Ob wir den Job bekommen oder nicht, wie viel unser Flugticket kostet oder
       ob wir als kreditwürdig gelten, darüber entscheidet in Zukunft vielleicht
       nur noch ein Algorithmus. Diskriminierung ist dabei nicht ausgeschlossen.
       In den USA beispielsweise fallen die automatisiert erstellten
       Strafrückfälligkeitsprognosen für Schwarze oft negativer aus als für Weiße
       – fälschlicherweise, wie eine [2][Recherche des Non-Profit-Projekts Pro
       Publica] zeigte. Maas schlägt deswegen ein „digitales
       Antidiskriminierungsgesetz“ vor, ergänzend zum bereits geltenden
       Allgemeinen Gleichbehandlungsgesetz (AGG).
       
       Man sollte doch annehmen, dass das existierende AGG immer dann greift, wenn
       ein Mensch diskriminiert wird; sei das nun in der analogen oder in der
       digitalen Welt. Wer eine verbotene Waffe im Netz kauft, macht sich ja auch
       genauso strafbar, wie wenn er sie in einem dunklen Hinterhof persönlich in
       Empfang nimmt.
       
       „Der eigentlich wichtige Schritt wäre, das AGG entsprechend zu erweitern“,
       sagt Lena Ulbricht vom Wissenschaftszentrum Berlin (WZB). Forderungen dazu
       gebe es schon länger. „Das Antidiskriminierunsgegesetz ist relativ
       eingeschränkt und fokussiert vor allem auf den Arbeitsmarkt“, sagt
       Ulbricht. Diskriminierung auf Plattformen etwa werde bisher ebenso wenig
       erfasst wie die Bewertung von Kaufkraft. „Das ist aber ein unheimlich
       politisiertes Thema und würde ein großes Reformunterfangen bedeuten“, sagt
       Ulbricht. „Der Vorschlag eines ergänzenden Gesetzes ist da natürlich
       weniger brisant.“
       
       ## Rückschluss auf Gemütszustand durch Instagram
       
       Entscheidungen, die nur auf Basis automatisierter Auswertung
       personenbezogener Daten fallen und für den Betroffenen eine rechtliche
       Folge nach sich ziehen oder ihn erheblich beeinträchtigen, sind in
       Deutschland [3][laut Bundesdatenschutzgesetz ohnehin reglementiert].
       
       „Wir wissen zwar, dass im Internet unzählige persönliche Daten
       transportiert werden, dass man sie vernetzen und auswerten kann, aber die
       Einzelheiten bleiben oft völlig unsichtbar“, sagte Maas laut offiziellem
       Redemanuskript. Wer wisse denn schon, welche Daten das eigene Smartphone
       täglich mit wem austausche und dass Fotos auf Instagram zur Kalkulation
       unseres Gemütszustands ausgewertet werden könnten?
       
       „Echokammern“ und „Filter-Blasen“ sorgen dafür, „dass wir oftmals nur noch
       auf Positionen treffen, die uns in der eigenen Meinung bestärken“. Maas hat
       einen Vorschlag, um diesem Problem beizukommen: ein Transparenzgebot für
       Algorithmen. Nutzerinnen und Nutzer sollten selbst einschätzen können, ob
       das Netz versuche, sie zu beeinflussen – um dann entscheiden zu können,
       welche Filter und Personalisierungen sie akzeptieren wollen und welche
       nicht.
       
       Doch selbst wenn ein Unternehmen wie Google seinen Algorithmus offenlegen
       würde: Die allermeisten Verbraucher könnten damit nur wenig anfangen. Und
       das dürfe man auch nicht von ihnen erwarten, sagt Matthias Spielkamp von
       Algorithm Watch. Zwar fordert die Initiative selbst, dass Prozesse
       algorithmischer Entscheidungsfindung (ADM) nachvollziehbar sein müssen –
       aber nicht unbedingt für den Einzelnen. „Wenn ich mir die Inhaltsstoffe
       eines Medikaments ansehe, verstehe ich ja auch kein Wort“, sagt Spielkamp.
       „Ich muss mich doch darauf verlassen können, dass eine Zulassungsstelle
       geprüft hat, dass ich nicht sterbe, wenn ich ein Medikament nehme.“
       
       ## Forderung nach Digital-Agentur
       
       Hätten die Unternehmen mit der Offenlegung von im Zweifel unverständlichem
       Code ihre Schuldigkeit getan, wäre niemandem geholfen. Auch mit Blick auf
       die Wettbewerbsfähigkeit und das Betriebsgeheimnis der Unternehmen sei es
       der falsche Weg, diese pauschal zur Veröffentlichung ihrer Algorithmen zu
       zwingen.
       
       Die nächste Regierung solle eine „Digital-Agentur“ gründen, schlägt Maas
       vor. Die Frage, was genau diese tun und können soll, beantwortet er im
       Detail aber nicht. Spiegel Online hatte vorab berichtet, sie solle die
       „behördliche Kontrolle“ übernehmen, „um die Funktionsweise, Grundlagen und
       Folgen von Algorithmen überprüfen zu können“. Im tatsächlichen
       Redemanuskript ist aber lediglich die Rede davon, „im Austausch mit
       Wissenschaft, Wirtschaft und Verbrauchern mehr Expertise zu erlangen.“
       Allerdings mahnt er „Rechtsdurchsetzung, Aufsicht und die Kontrolle von
       Transparenz“ an.
       
       Mit der Forderung nach mehr Expertise macht Maas einen wichtigen Punkt.
       Eine [4][Studie der Bertelsmannstiftung] kam im Juni dieses Jahres zu dem
       Schluss, dass es sinnvoll wäre, die externe Evaluation von ADM-Systemen zu
       fördern. Aktuell sei es sehr schwierig, die Funktionsweise der Algorithmen
       zu analysieren und extern zu kontrollieren. In der Studie heißt es, „der
       Zugriff auf dafür notwendige Daten, die den Betreibern selbst in gewaltiger
       Zahl vorliegen“, sei für externe Wissenschaftler oder Regulierungsbehörden
       „mühselig bis unmöglich“.
       
       Ein groß angelegtes Forschungsprojekt zur Funktionsweise und vor allem zu
       den Auswirkungen von Algorithmen wäre also durchaus angebracht – eine
       Digital-Agentur braucht es dafür aber nicht. Und statt dem Justizminister
       wäre wohl eher das Bundesministerium für Wissenschaft und Forschung
       zuständig.
       
       ## Zu wenig Grundlagenforschung
       
       Bisher mangele es an Grundlagenforschung, sagt Spielkamp von Algorithm
       Watch. Die Vorwürfe der Diskriminierung oder des Missbrauchs beruhten
       bisher fast ausschließlich auf Indizien. „Bevor man anfängt, Dinge zu
       regulieren, braucht man doch erst mal eine belastbare Datenbasis“, sagt
       Spielkamp.
       
       Algorithm Watch selbst startete am Donnerstag mit sechs
       Landesmedienanstalten ein Projekt zu Googles Umgang mit der Bundestagswahl:
       Nutzer sollen ein Plugin für ihren Browser installieren. Dieses sucht dann
       alle vier Stunden auf Google nach einer festen Liste von etwa 15 Partei-
       und Politikernamen.
       
       Algorithm Watch erhofft sich, durch die so erhobenen Daten etwas über die
       automatisierte Sortierung und Gewichtung der Ergebnisse durch Google zu
       erfahren. Zugriff auf die internen Daten des Unternehmens braucht es dafür
       nicht unbedingt. „Staatliche Regulierung sollte immer die Ultima Ratio
       sein“, sagt Spielkamp.
       
       Der erste Schritt sei es, viel mehr solcher Projekte anzustoßen. „Zur
       Freigabe der Daten können wir Unternehmen immer noch zwingen, wenn wir
       merken, dass wir sonst nicht weiterkommen.“
       
       ## Sicherheitslücken
       
       Sei es Wannacry oder Ransomware: Cyberattacken funktionieren, weil Systeme
       Sicherheitslücken aufweisen. Die Risiken sind dem Durchschnittsverbraucher
       oft nicht bewusst. „Deshalb ist es nicht fair, wenn die Folgen solcher
       Sicherheitslücken einseitig auf den Verbraucher abgewälzt werden“, so Maas.
       Auch um „europaweit geltende Vorschriften zu IT-Sicherheit, die
       verpflichtende Mindestanforderungen definieren“, werde man nicht
       herumkommen.
       
       Das ist schön zu hören – passt aber so gar nicht zu dem, was die
       Bundesregierung jüngst beschlossen hat. Ende Juni verabschiedete der
       Bundestag ein weitreichendes Überwachungsgesetz. Ermittlungsbehörden dürfen
       demnach in bestimmten Fällen Schadsoftware auf private Computer,
       Smartphones oder Tablets spielen, um diese zu überwachen: den sogenannten
       Staatstrojaner. Dafür nutzen sie: Sicherheitslücken. Um dieses Instrument
       nutzen zu können, nehmen die Behörden also die Existenz von
       Sicherheitslücken wissentlich in Kauf, statt den Hersteller zum Handeln
       aufzufordern.
       
       Und auch mit der Forderung nach Transparenz war es in dem Fall nicht weit
       her: Das Gesetz wurde gut versteckt als Teil eines Gesetzgebungsverfahrens
       beschlossen, in dem es unter anderem um Führerscheinentzug als Strafe ging.
       
       8 Jul 2017
       
       ## LINKS
       
   DIR [1] http://www.bmjv.de/SharedDocs/Reden/DE/2017/07032017_digitales_Leben.html?nn=6705022
   DIR [2] https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing
   DIR [3] https://dejure.org/gesetze/BDSG/6a.html
   DIR [4] https://www.bertelsmann-stiftung.de/fileadmin/files/BSt/Publikationen/GrauePublikationen/Digitale_Oeffentlichkeit_final.pdf
       
       ## AUTOREN
       
   DIR Dinah Riese
       
       ## TAGS
       
   DIR Algorithmen
   DIR Netzpolitik
   DIR Datenschutzgrundverordnung
   DIR Heiko Maas
   DIR Fake News
   DIR Cyberattacke
   DIR Lesestück Recherche und Reportage
   DIR Staatstrojaner
   DIR Netzsicherheit
   DIR Fake News
   DIR Schwerpunkt Überwachung
   DIR Schwerpunkt Überwachung
   DIR Schwerpunkt Meta
       
       ## ARTIKEL ZUM THEMA
       
   DIR Hajo Seppelt über Staatstrojaner-Gesetz: „Wir müssen Informanten schützen“
       
       Seit knapp einem Jahr gibt es das Staatstrojaner-Gesetz. Hajo Seppelt
       unterstützt die Verfassungsbeschwerde gegen den Einsatz der
       Spionage-Software.
       
   DIR Informatikprofessorin über Algorithmen: Kabelbündel fürs Grobe
       
       Für das Überprüfen unerwünschter Inhalte wollen Firmen künstliche
       Intelligenz einsetzen. Informatikprofessorin Joanna Bryson erklärt, warum
       das gut ist.
       
   DIR Fake-Inhalte im Wahlkampf: Dem Gegner in den Mund gelegt
       
       Die Grünen twittern unter #lindnersprueche erfundene FDP-Wahlplakate. Die
       Junge Union Bayern verwirrt mit einem vermeintlichen Schulz-Tweet.
       
   DIR Überwachung beim Shoppen: Kuckuck! Hier oben!
       
       In einigen Real-Supermärkten analysieren Kameras die Gesichter der Kunden
       in der Warteschlange. Und jetzt regen wir uns auf – oder was?
       
   DIR Gesetz gegen Hate Speech im Netz: Ein Minister macht sich Feinde
       
       Facebook, Journalisten und Netzaktivisten vereinen sich zum Widerstand
       gegen Heiko Maas. Dem könnte diese Melange zum Verhängnis werden.
       
   DIR Internes Dokument geleaked: Facebook wird gefühlig
       
       Facebook kann den Gefühlszustand seiner Nutzer erkennen. Das behauptet der
       Konzern jedenfalls gegenüber seinen Kunden.