Wie reguliert das Vereinigte Königreich künstliche Intelligenz?

Wie wird Künstliche Intelligenz definiert?

Das Weißbuch beschreibt Künstliche Intelligenz (KI), KI-Systeme und/oder KI-Technologien als "Produkte und Dienstleistungen, die 'anpassungsfähig' und 'autonom' sind". Eine erschöpfende Definition gibt es nicht, aber zumindest konkrete Beispiele für die oben genannten Begriffe: In Bezug auf die Anpassungsfähigkeit betont das White Paper, dass KI-Systeme oft die Fähigkeit entwickeln, aus vorhandenen Informationen Schlüsse zu ziehen, die ihre menschlichen Programmierer nicht vorausgesehen hatten. In Bezug auf die Autonomie der KI sagt das Weißbuch, dass KI-Systeme unter Umständen schon Entscheidungen treffen können, ohne dass es eine ausdrückliche Absicht oder laufende Kontrolle eines Menschen gegeben hat.

Welche KI-spezifischen Risiken werden identifiziert?

Im Weißbuch werden spezifische Risiken genannt, die durch die Nutzung von KI entstehen können. 

• Risiken für die Menschenrechte (Beispiel: generative KI wird genutzt, um Deepfake-Videoinhalte zu erstellen, die den Ruf einer Person schädigen)
• Sicherheitsrisiken (Beispiel: ein auf LLM-Technologie basierendes KI-System empfiehlt eine gefährliche Aktivität, die es im Internet gefunden hat, ohne den Kontext in der ursprünglichen Quelle zu verstehen oder zu kommunizieren)
• Risiken für die Fairness (Beispiel: ein KI-Tool bewertet mit falschen oder veralteten Daten die Kreditwürdigkeit, so dass Kredite gar nicht oder zu unangemessenen Bedingungen angeboten werden)
• Risiken für die Privatsphäre und die Handlungsfähigkeit (Beispiel: vernetzte Geräte sammeln in einem Haushalt kontinuierlich Daten – einschließlich Gesprächen – und erstellen ein möglicherweise nahezu vollständiges Porträt des Privatlebens einer Person)
• Risiken für Demokratie und Gesellschaft (Beispiel: von KI erzeugte und verbreitete Desinformationen über politische oder gesellschaftliche Fakten können das Vertrauen in demokratische Institutionen und Prozesse untergraben)
• Risiken für die Sicherheit (Beispiel: KI-Tools werden verwendet, um die Auswirkungen gezielter Cyberangriffe zu automatisieren, zu beschleunigen und zu verstärken).

Diese Risiken sollen durch einen auf Prinzipien basierenden Regulierungsansatz ausgeschaltet oder doch zumindest gemindert werden. Dabei soll immer ein verhältnismäßiger Ansatz gewählt werden. Das bedeutet, dass die Intensität der Regulierung von der Wichtigkeit des bedrohten Rechts und der Schwere der Beeinträchtigung abhängen muss.

Welcher Regulierungsansatz wird gewählt?

In ihrer Antwort auf die Konsultation zum Weißbuch erläutert die Regierung ihre künftige Herangehensweise an die KI-Regulierung. Es wird aktuell kein formelles Gesetz mit Ge- und Verboten geben. Der britische Ansatz unterscheidet sich also fundamental von demjenigen der EU. 

Die britische Regierung hat etliche Regulierungsbehörden dazu aufgefordert, ihre strategische Herangehensweise an das Thema KI zu veröffentlichen. Einige Beispiele gibt es insofern bereits, so etwa vom Information Commissioner oder der Medicines and Healthcare products Regulatory Agency. Weitere, so zum Beispiel Ofgem oder die Civil Aviation Authority, haben entsprechende Veröffentlichungen für später im Jahr 2024 angekündigt.

Die Behörden sollen auch weiterhin selbst regulieren, auch sofern künstliche Intelligenz betroffen ist. Allerdings sollen sie dabei an fünf Prinzipien gebunden sein, die die Regierung vorgibt und die sektorübergreifend die Regulierung der künstlichen Intelligenz prägen sollen:

1. KI muss sicher und robust sein, also verlässlich. Dies dürfte ganz besonders bei technischen Anwendungen relevant sein, etwa bei selbstfahrenden Autos. Diese Anforderung resultiert in einer umfassenden Pflicht, die Risiken der jeweiligen KI regelmäßig einzuschätzen und zu kontrollieren.
2. KI muss transparent und erklärbar sein, insbesondere in Bezug auf die Natur und den Zweck des jeweiligen KI-Systems, die benutzten Daten und auch die Verantwortlichkeit für das System und seine Ergebnisse. 
3. KI muss fair sein, zum Beispiel wenn sie zur Beurteilung der Kreditwürdigkeit einer Person oder eines Unternehmens eingesetzt wird.
4. Rechenschaftspflicht und Governance: Die Regulierungsbehörden bestimmen, wer für die KI und ihre Ergebnisse verantwortlich ist. Sie unterstützen beispielsweise in puncto Risikomanagement und Berichtspflichten. 
5. Anfechtbarkeit und Wiedergutmachung: Entscheidungen, die KI getroffen hat, dürfen nie das letzte Wort sein. Sollte ein Schaden eingetreten sein, muss angemessene Entschädigung gewährleistet sein. 

Die britische Regierung hält diesen Regulierungsansatz, der auf Gesetze verzichtet, für besonders agil. Damit sei er besonders geeignet, den aktuellen Veränderungen einer sich sehr schnell entwickelnden Technologie gerecht zu werden. Ausdrücklich bleibt eine gesetzliche Regelung aber für einen späteren Zeitpunkt vorbehalten.

Zum Thema: 

• Weißbuch und Konsultation „A pro-innovation approach to AI regulation“ aus August 2023 (englisch)
• Antwort der britischen Regierung auf den Input der Konsultation aus Februar 2024 (englisch)