KI-Gesetz in Südkorea verabschiedet

Anwendungsbereich des neuen KI-Gesetzes

Das am 21. Januar 2025 bekannt gegebene "Rahmengesetz zur Künstlichen Intelligenz" (KI-Gesetz) besteht aus 43 Artikeln in 6 Kapiteln.

Das neue KI-Gesetz findet nach seinem Art. 4 Abs. 1 auch extraterritorial Anwendung auf Handlungen außerhalb Südkoreas, die den koreanischen Markt oder inländische Nutzer betreffen. 

Erfüllen sie hinsichtlich Nutzerzahl und Umsatz bestimmte Kriterien, müssen nicht in Korea ansässige KI-Betreiber dort lokale Vertreter benennen, Art. 36 des Gesetzes.

Vom Anwendungsbereich des Gesetzes ausgenommen ist insbesondere KI, die ausschließlich für Zwecke der nationalen Verteidigung oder Sicherheit entwickelt und genutzt wird (Art. 4 Abs. 2 des Gesetzes).

Förderung der KI-Industrie und KI-Technologie

Da neue Gesetz soll insbesondere die Entwicklung der KI-Industrie und KI-Technologie fördern und Risiken vorbeugen, die durch die KI entstehen könnten. Mehr Sicherheit und Verlässlichkeit im KI-Bereich sollen zur Verbesserung der Lebensqualität der Menschen beitragen (vgl. Art. 3 Abs. 1 des Gesetzes). In Kapitel 4 des Gesetzes geht es insbesondere um die Gewährleistung ethischer Prinzipien.

Nach seinem Art. 1 bezweckt das Gesetz unter anderem die Stärkung der nationalen Wettbewerbsfähigkeit. So sollen insbesondere Forschung und Entwicklung (dazu Art. 13) sowie internationale Zusammenarbeit (Art. 22) im KI-Bereich staatlich gefördert und KI-Technologien weiterentwickelt werden (dazu insbesondere Kapitel 3). Das koreanische Ministerium für Wissenschaft und IKT hat gemäß Art. 6 des Gesetzes regelmäßig Basispläne für KI aufzustellen. 

Das Gesetz enthält in Art. 17 und 18 besondere Vorgaben für die Förderung kleiner und mittlerer Unternehmen sowie Start-ups im KI-Bereich. 

Die Rechtsgrundlage für den sogenannten nationalen KI-Ausschuss, der sich mit den wesentlichen politischen Maßnahmen befasst, schafft das Gesetz in Art. 7 ff. KI-Gesetz. Zu den möglichen neuen Einrichtungen gehören außerdem zum Beispiel das "AI Safety Research Institute" (Art. 12) und das "AI Policy Center" (Art. 11) oder auch die Förderung der Einrichtung von KI-Rechenzentren ("AI Data Centers", Art. 25).

Besondere Vorgaben für bestimmte KI-Systeme 

In Bezug auf die KI-Regulierung verfolgt das KI-Gesetz einen risikobasierten Ansatz. 

Dabei unterscheidet das neue Gesetz zwischen 

• generativer KI (zum Beispiel zur Text- und Bilderstellung; siehe Definition in Art. 2 Nr. 5 des Gesetzes) und 
• KI-Systemen mit großen Auswirkungen ("high-impact AI", dazu: Art. 2 Nr. 4 und Art. 33 des Gesetzes) auf das Leben, die körperliche Sicherheit und die Grundrechte oder solche mit Gefahrenpotential in bestimmten aufgeführten Bereichen wie etwa Trinkwasser- oder Energieversorgung, Gesundheitswesen, Analyse biometrischer Daten oder bei wesentlichen Transportsystemen.

In diesen Bereichen müssen KI-Betreiber bestimmte Compliance-Vorgaben einhalten. Nutzer solcher Systeme sind zum Beispiel im Voraus über die Mitwirkung von KI zu informieren (Sicherstellung der Transparenz, Art. 31 des Gesetzes). Im Falle der "KI mit großen Auswirkungen" sind nach Art. 34 des Gesetzes weitere Maßnahmen wie unter anderem ein Risikomanagementplan und menschliche Überwachung vorgeschrieben. Artikel 35 des Gesetzes gibt ferner eine vorherige Folgenabschätzung in Bezug auf die Grundrechte vor.

Mögliche Sanktionen 

Artikel 40 des Gesetzes ermöglicht in bestimmten Fällen Ermittlungen durch die zuständigen Behörden und bei festgestellten Verstößen etwa den Erlass von Berichtigungsanordnungen (Abs. 3). 

Bei bestimmten Gesetzesverstößen sieht das Gesetz in Art. 43 Sanktionen in Form von Bußgeldern von bis zu 30 Millionen Südkoreanische Won (entspricht ca. 20.000 Euro) vor - unabhängig vom Umsatz oder der Unternehmensgröße. 

Ausblick 

Das Gesetz wird größtenteils ein Jahr nach seiner Verkündung (21. Januar 2025) in Kraft treten, also am 22. Januar 2026. Mit dem Erlass von Umsetzungsbestimmungen hinsichtlich verschiedener Aspekte ist in Zukunft noch zu rechnen. 

Südkorea ist damit das erste Land in Asien und eines der ersten weltweit mit einem eigenen Rahmengesetz zur KI. Der Entwurf des nun verabschiedeten Gesetzes befand sich bereits seit 2020 im Gesetzgebungsverfahren. 

Zum Thema: 

• Text des KI-Gesetzes auf Koreanisch ("인공지능 발전과 신뢰 기반 조성 등에 관한 기본법"; "Framework Act on the Development of Artificial Intelligence and the Creation of a Foundation for Trust")
• Bekanntgabe des Gesetzes vom 21. Januar 2025 mit Gesetzesbegründung (Koreanisch)
• Meldung des Ministry of Science and ICT (MSIT) vom 27. Dezember 2024 (Koreanisch)
• Website des MSIT (Englisch)
• GTAI-Rechtsbericht Südkorea: E-Commerce und Datenschutzrecht
• Rechtsatlas KI

Dieser Inhalt gehört zu