Was ist Künstliche Intelligenz (KI) überhaupt?
Künstliche Intelligenz (KI) bezeichnet Technologien, die Aufgaben ausführen, die normalerweise menschliche Intelligenz erfordern. Dazu gehören Sprachverarbeitung, Bild- und Mustererkennung, Entscheidungsfindung und vieles mehr. KI-Systeme lernen aus Daten und passen sich an, um ihre Leistung im Laufe der Zeit zu verbessern. Bekannte Beispiele sind Sprachassistenten wie Siri oder Alexa, autonome Fahrzeuge und personalisierte Empfehlungen auf Streaming-Diensten wie Netflix.
Mit der zunehmenden Verbreitung von KI-Technologien stellt sich die Frage, wie diese innovativen Systeme reguliert werden können, um sowohl Chancen zu maximieren als auch Risiken zu minimieren. Genau hier setzt der Artificial Intelligence Act (AI Act) der Europäischen Union an, der am 1. August 2024 in Kraft getreten ist.
Warum brauchen wir eine Regulierung wie den AI Act?
Die rasante Entwicklung von KI bringt nicht nur Chancen, sondern auch Risiken mit sich. Ohne Regulierung könnten KI-Systeme missbraucht werden, um Menschen zu überwachen, ihre Rechte zu verletzen oder Entscheidungen zu beeinflussen, die ihre Lebensqualität beeinträchtigen. Beispiele hierfür sind:
- Gesichtserkennung: Diese Technologie kann zur Überwachung und unbefugten Erfassung persönlicher Daten verwendet werden.
- Manipulative Algorithmen: KI, die das Verhalten von Menschen beeinflusst, um Entscheidungen zu manipulieren, z. B. durch gezielte Werbung oder Fake News.
- Diskriminierung: KI-Systeme können unbewusst Vorurteile verstärken, wenn sie auf voreingenommenen Daten trainiert werden, z. B. bei Einstellungsverfahren.
Verpflichtungen für Hochrisikosysteme
KI-Systeme, die als hochriskant eingestuft werden, unterliegen strengen Verpflichtungen:
- Auswirkungsbewertung der Grundrechte: Pflicht für hochriskante Systeme.
- Bürgerrechte: Bürger können Beschwerden einreichen und Erklärungen zu Entscheidungen verlangen, die auf hochriskanten KI-Systemen basieren.
- Wahlen und Wählerverhalten: Systeme, die Wahlen beeinflussen, gelten ebenfalls als hochriskant.
Unterstützung von Innovation und KMUs
Um Innovationen zu fördern und KMUs zu unterstützen, wurden “Regulatory Sandboxes” und Real-World-Tests eingeführt. Diese ermöglichen es Unternehmen, neue KI-Technologien in einer kontrollierten Umgebung zu entwickeln und zu testen, bevor sie auf den Markt kommen.
Sanktionen bei Nichteinhaltung
Die Nichteinhaltung der Vorschriften kann zu erheblichen Geldstrafen führen:
- Bis zu 35 Millionen Euro oder 7 % des weltweiten Umsatzes bei schwerwiegenden Verstößen.
- Bis zu 7,5 Millionen Euro oder 1,5 % des Umsatzes bei geringeren Verstößen.
Der AI Act der EU setzt weltweit Maßstäbe für die Regulierung von Künstlicher Intelligenz. Er schafft ein ausgewogenes Verhältnis zwischen Innovation und dem Schutz grundlegender Rechte. Die schrittweise Umsetzung und die Unterstützung durch Regulierungs-Sandboxes stellen sicher, dass Unternehmen ausreichend Zeit und Ressourcen haben, um sich an die neuen Anforderungen anzupassen. Dieser AI Act markiert einen wichtigen Schritt hin zu einer sichereren und ethischeren Nutzung von KI-Technologien in der digitalen Ära.
Zeitplan der Umsetzung des AI Acts
Februar 2025: Verbotene KI-Praktiken
Bis zu diesem Datum müssen alle verbotenen KI-Praktiken vom Markt genommen werden.
Zu den verbotenen Anwendungen gehören:
Biometrische Kategorisierungssysteme, die sensible Merkmale verwenden.
Ungenaue Gesichtserkennung: Erfassung von Gesichtsbildern aus dem Internet oder Überwachungsaufnahmen zur Erstellung von Gesichtserkennungsdatenbanken.
Emotionserkennung: Einsatz am Arbeitsplatz und in Bildungseinrichtungen.
Sozialpunktesysteme, basierend auf sozialem Verhalten oder persönlichen Merkmalen.
Manipulative KI-Systeme, die menschliches Verhalten manipulieren, um den freien Willen zu umgehen.
Ausnutzung von Vulnerabilitäten: KI, die aufgrund von Alter, Behinderung, sozialer oder wirtschaftlicher Situation die Schwächen von Menschen ausnutzt.
Mai 2025: Verhaltenskodizes
Die ersten Verhaltenskodizes für KI-Entwickler werden bereitgestellt. Diese Kodizes bieten Leitlinien, wie KI-Systeme sicher und ethisch entwickelt werden können, um den Schutz der Grundrechte zu gewährleisten.
August 2025: Konformität für allgemeine KI-Modelle (GPAI)
Allgemeine KI-Modelle (GPAI) müssen bis zu diesem Datum konform sein. Entwickler müssen nachweisen, dass ihre Systeme sicher und für die Benutzer leicht verständlich sind. Generative KI und manipulierte Medien müssen klar gekennzeichnet sein.
Februar 2026: Vorschriften zur Überwachung
Die Europäische Kommission wird detaillierte Vorschriften zur Überwachung nach dem Inverkehrbringen verabschieden. Diese Vorschriften legen fest, wie KI-Systeme kontinuierlich überwacht und bewertet werden sollen.
August 2026: Vollständige Anwendbarkeit
Alle Vorschriften des AI Acts werden vollständig anwendbar. Dies schließt insbesondere Verpflichtungen für Hochrisikosysteme ein, die in Annex III des Gesetzes aufgeführt sind.
August 2027: Erweiterte Verpflichtungen
Zusätzliche Verpflichtungen für Hochrisikosysteme gemäß Annex I der EU-Harmonisierungsgesetzgebung treten in Kraft. Mitgliedstaaten müssen sicherstellen, dass ihre Behörden mindestens eine funktionierende KI-Regulierungs-Sandbox eingerichtet haben.