# taz.de -- FAQ zum neuen AI Act der EU: KI bekommt Regeln
       
       > Künstliche Intelligenz hilft bei der Überwachung, aber auch bei der
       > Verbreitung von Hass und Fake News. Die EU schafft nun weltweit einmalig
       > Recht.
       
   IMG Bild: Gesichtserkennung kann mit KI erleichtert werden – die Frage nach Echtzeit-Überwachung war in der EU ein Streitthema
       
       Bisher ist es weltweit einmalig: Die Europäische Union schafft Regeln zum
       Umgang mit künstlicher Intelligenz (KI). Am Dienstag stimmen die beiden
       federführenden Ausschüsse des EU-Parlaments über die KI-Verordnung ab, oft
       ist englischsprachig vom „AI Act“ die Rede. Die Zustimmung gilt als sicher.
       Unterhändler von EU-Parlament und Mitgliedstaaten haben schon im Dezember
       alles ausverhandelt. Dennoch stand das Projekt gerade erst auf der Kippe –
       wegen der FDP.
       
       Auf den letzten Metern hatte der kleinste Partner der Bundesregierung in
       Person von Digitalminister Volker Wissing [1][gedroht, Deutschlands
       Zustimmung doch noch zu verweigern], um weniger Vorgaben für Unternehmen
       durchzusetzen. Letztlich stimmte die Bundesregierung [2][doch noch zu im
       Ausschuss der Ständigen Vertreter], der die finalen Entscheidungen des
       Ministerrats der EU-Regierungen vorbereitet.
       
       Was genau ist der AI Act? 
       
       Künstliche Intelligenz (KI) ist als Technologie für eine breite Masse an
       Menschen noch eine verhältnismäßig junge Entwicklung. Den bislang größten
       Schub erhielt sie, als vor etwas über einem Jahr das generative
       Sprachmodell ChatGPT des Unternehmens OpenAI an den Start ging. Die App
       wurde damals zur App mit den schnellsten Nutzerzuwächsen.
       
       Doch auch in anderen Bereichen steckt KI: In Bild- und
       Tonbearbeitungsprogrammen, in ersten medizinischen Anwendungen oder in der
       Polizeiarbeit zum Beispiel. Weil die Einsatzzwecke zunehmend sensibel sind
       und die Anwendungsbereiche sich ausweiten, hat die EU schon vor knapp drei
       Jahren eine Regulierung vorgeschlagen: Der AI Act teilt KI-Anwendungen in
       Risikoklassen und reguliert diese mehr oder weniger streng.
       
       Manche Einsatzzwecke werden auch verboten, zum Beispiel staatliche
       Scoring-Systeme, die Menschen anhand ihres Verhaltens klassifizieren
       würden. Bei Verstößen gegen die Regeln drohen Unternehmen Strafen von bis
       zu 35 Millionen Euro oder bis zu sieben Prozent des weltweiten Gewinns.
       
       Was bringen die vereinbarten Regeln für Verbesserungen? 
       
       Ein Lob kommt beispielsweise vom Verbraucherzentrale Bundesverband (vzbv):
       „Der AI Act stellt eine Verbesserung für Verbraucher:innen dar, etwa
       bei den Betroffenenrechten“, sagte dessen Vorständin Ramona Pop. Die neuen
       Regeln könnten daher die „Akzeptanz und das Vertrauen der
       Verbraucher:innen in die Technologie stärken“. Auch der
       Bundesdatenschutzbeauftragte sieht Positives: „Die KI-Verordnung stärkt in
       vielen Teilen den Datenschutz“, sagte ein Sprecher der Behörde. Gut sei
       etwa das Verbot von Social Scoring, und das Verbot, mittels Scraping, also
       dem automatischen Durchsuchen des Internets, Gesichtserkennungsdatenbanken
       zu erstellen. Die Rechte von Betroffenen würden etwa durch Transparenz- und
       Qualitätsanforderungen für die Unternehmen gestärkt und durch das Recht,
       bei einer noch einzurichtenden KI-Aufsichtsbehörde Beschwerde einzulegen.
       
       Aber es gibt auch Kritik? 
       
       Ja. Im Zentrum der Kritik stehen Überwachungsbefugnisse, die vor allem auf
       Druck der Mitgliedstaaten aufgenommen wurden. „Es ist sehr bedauerlich,
       dass es kein klares Verbot biometrischer Echtzeit-Fernerkennung im
       öffentlichen Raum gibt“, sagt der Sprecher des
       Bundesdatenschutzbeauftragten.
       
       Die Gesichtserkennung war in den Verhandlungen stark umstritten gewesen. Da
       ging es beispielsweise um Situationen, in denen Behörden nachträglich oder
       in Echtzeit die von Überwachungskameras aufgezeichneten Daten mit
       biometrischer Gesichtserkennungssoftware durchsuchen.
       
       Die europäische Bürgerrechtsorganisation EDRi warnt daher davor, dass die
       neuen Regelungen dazu beitragen könnten, „die Überwachungsaktivitäten von
       Polizei und Migrationskontrollbehörden auszuweiten und zu legitimieren“.
       [3][Die NGO Algorithmwatch] kritisiert darüber hinaus „große Schlupflöcher“
       für Unternehmen: So hätten die Hersteller von KI-Systemen ein
       Mitspracherecht bei der Frage, ob ihre Systeme als Hochrisiko-KI, für die
       besonders strenge Regeln gelten, eingestuft werden.
       
       Darüber hinaus gebe es für Bereiche der nationalen Sicherheit, der
       Strafverfolgung und der Migration Ausnahmen für Hochrisiko-Systeme. „Der
       Kompromiss zur KI-Verordnung offenbart einen systemischen Fehler bei der
       EU-Gesetzgebung. Die nationalen Regierungen und die Strafverfolgungslobby
       haben einen unverhältnismäßig großen Einfluss“, kritisiert
       Algorithmwatch-Expertin Angela Müller. Das gehe zulasten von
       Menschenrechten und öffentlichem Interesse.
       
       Was passiert, wenn der AI Act doch noch scheitert? 
       
       Nicht nur Deutschland hatte grundsätzliche Kritik. Auch aus anderen Ländern
       kam Zurückhaltung – etwa aus Frankreich. Die dortige Regierung hatte
       ebenfalls für wirtschaftsfreundlichere Regeln lobbyiert. Würde der AI Act
       scheitern, gäbe es erst einmal gar keine Regulierung. Das heißt: Schutz für
       Nutzer:innen nur, insofern ihn die aktuelle Gesetzgebung hergibt. Für
       Unternehmen würde das je nach Sichtweise viel Freiheit oder eben
       Rechtsunsicherheit bedeuten. Denn dass eine KI-Regulierung auf ewig
       ausbleiben könnte, ist unwahrscheinlich.
       
       Nach der Europawahl im Juni aber werden sich die Mehrheitsverhältnisse im
       EU-Parlament neu mischen. Auch die EU-Kommission wird neu aufgestellt. Die
       Befürchtung: Ein deutlicher Rechtsruck würde dazu führen, dass die bislang
       tendenziell bürgerrechtsfreundliche Position des EU-Parlaments kippt. Gibt
       es also einen neuen Anlauf in der kommenden Legislaturperiode, wäre das
       Ergebnis aus Bürger- und Nutzer:innensicht vermutlich schlechter.
       
       Wenn der AI Act endgültig verabschiedet ist – lässt sich dann noch etwas
       ändern? 
       
       Die letzten Abstimmungen sind derzeit für Mitte April angesetzt, gelten
       aber nur noch als Formalität. Im Anschluss wird das Gesetzeswerk im
       Amtsblatt der EU veröffentlicht und tritt 20 Tage später in Kraft – es ist
       also absehbar, dass das noch [4][vor der Europawahl] passiert. Bis die
       Regeln tatsächlich wirksam werden, gibt es Übergangsfristen von bis zu drei
       Jahren.
       
       Gleichzeitig sind allerdings die EU-Mitgliedstaaten am Zug: Die haben in
       bestimmten Bereichen die Möglichkeit, abweichende Regeln festzulegen. Das
       betrifft zum Beispiel [5][den umstrittenen Punkt der biometrischen
       Überwachung]. Der Bundesdatenschutzbeauftragte fordert die Bundesregierung
       auf, hier die Öffnungsklausel zu nutzen.
       
       12 Feb 2024
       
       ## LINKS
       
   DIR [1] /EU-Gesetz-zur-Kuenstlichen-Intelligenz/!5988014
   DIR [2] /Abstimmung-ueber-EU-Lieferkettengesetz/!5987552
   DIR [3] /Kuenstliche-Intelligenz-via-ChatGPT/!5903102
   DIR [4] /Schwerpunkt-Europawahl/!t5533778
   DIR [5] /Schwerpunkt-Ueberwachung/!t5007813
       
       ## AUTOREN
       
   DIR Svenja Bergt
       
       ## TAGS
       
   DIR Schwerpunkt Künstliche Intelligenz
   DIR Schwerpunkt Überwachung
   DIR Datenschutz
   DIR Europäische Union
   DIR Digitalwirtschaft
   DIR GNS
   DIR wochentaz
   DIR Polizei Hessen
   DIR Verbraucherschutz
   DIR Schwerpunkt Künstliche Intelligenz
   DIR Schlagloch
   DIR Schwerpunkt Künstliche Intelligenz
   DIR Schwerpunkt Überwachung
   DIR Schwerpunkt Künstliche Intelligenz
   DIR Schwerpunkt Künstliche Intelligenz
   DIR Schwerpunkt Künstliche Intelligenz
   DIR Datenschutz
   DIR Schwerpunkt Künstliche Intelligenz
   DIR EU
   DIR Schwerpunkt Künstliche Intelligenz
   DIR Schwerpunkt Künstliche Intelligenz
       
       ## ARTIKEL ZUM THEMA
       
   DIR Europäische KI-Verordnung: KI-Kängurus nur mit Wasserzeichen
       
       Ein Teil der KI-Verordnung tritt in Kraft, Anbieter müssen künstliche
       Intelligenz ab August transparent machen. Die Industrie will andere Regeln
       aufweichen.
       
   DIR Hessen beschließt Polizeigesetz: Kommissar KI ermittelt
       
       Hessens Regierung stattet Überwachungskameras mit Künstlicher Intelligenz
       aus und sieht sich als Vorreiter. Für die Opposition ist das ein Skandal.
       
   DIR Was von der Ampel übrigbleibt: Künstliche Intelligenz und Gewaltschutz im Abseits
       
       Nach dem Scheitern der Ampel-Koalition liegen auch zahlreiche
       digitalpolitische Vorhaben auf Eis. Eine Auswahl – und was Expert:innen
       hoffen.
       
   DIR Deutschland muss KI-Regeln umsetzen: Streitpunkt Überwachung
       
       Deutschland muss bald die neuen EU-Regeln zu künstlicher Intelligenz
       umsetzen. Fachleute fordern Verschärfungen – etwa bei der
       Gesichtserkennung.
       
   DIR Zwischenbilanz einer neuen Technologie: Im KI-Taumel
       
       Nach dem ersten Hype um die KI-Anwendung ChatGPT ist einiges im Gange.
       Entwickler setzen auf einen Wissenschaftsschub durch eine Superintelligenz.
       
   DIR Neue Regeln für KI: „Big Brother“ nicht gebannt
       
       Die EU bekommt das weltweit erste Gesetz, das den Einsatz Künstlicher
       Intelligenz regeln soll. Sicherheitsbehörden bekommen einige Freiheiten.
       
   DIR Gesetz zur künstlichen Intelligenz: Neue Technologie, neue Überwachung
       
       Der AI Act ist beschlossen. Das überwachungs- und wirtschaftsfreundliche
       Ergebnis ist kein Zufall. Doch es ist gut, dass das Regelwerk jetzt
       durchkam.
       
   DIR Vor finaler Abstimmung: Kann die Welt KI bändigen?
       
       Diese Woche werden zwei entscheidende Weichen in Sachen KI gestellt. Doch
       NGOs und Wissenschaftler:innen sehen problematische Parallelen.
       
   DIR Künstliche Intelligenz an Hochschulen: Zauberwort und Risiko
       
       Die Hochschulen beschäftigen sich zunehmend mit künstlicher Intelligenz.
       Das führte zu Euphorie – und der Sorge, durch KI das Lernen zu verlernen.
       
   DIR Student entwickelt KI, die KI erkennt: Entlarvende Logik
       
       Tim Tlok aus Seevetal hat einen Detektor gebaut, der KI-generierte Texte
       von menschengemachten unterscheiden kann. KI-geplagte Lehrkräfte freuen
       sich.
       
   DIR AI-Verordnung der EU: Streit um KI-Training mit Artikeln
       
       Der neue AI-Act der EU lässt Fragen nach dem Verhältnis von Medien und KI
       offen. Zum Beispiel: Darf man KIs mit journalistischen Texten füttern?
       
   DIR OpenAI-Mitgründer verlässt Unternehmen: Andrej Karpathy bestätigt Abgang
       
       Der Forscher will sich zukünftig persönlichen Projekten widmen. Erst im
       November hatte OpenAI mit der Entlassung von Sam Altman Aufsehen erregt.
       
   DIR Abstimmung über EU-Lieferkettengesetz: Noch besteht Hoffnung
       
       Möglicherweise kommt das EU-Lieferkettengesetz auch ohne deutsche Stimme
       durch. Die Berliner Liberalen gelten in Brüssel als unsichere Kantonisten.
       
   DIR Bündnis fordert KI-Regeln: Bundesregierung soll handeln
       
       Das europäische KI-Gesetz kippelt auf den letzten Metern vor der
       Verabschiedung. Nun fordert eine breite Allianz die Bundesregierung zum
       Handeln auf.
       
   DIR EU-Gesetz zur Künstlichen Intelligenz: Zittern bei KI-Regulierung
       
       Die Bundesregierung zögert beim Ja zum EU-Gesetz zur Künstlichen
       Intelligenz. Das könnte das weltweite Vorreiterprojekt zum Scheitern
       bringen.