Orientierung im Dickicht der KI-Gesetzgebung

Künstliche Intelligenz (KI) verändert Industrie und Gesellschaft in rasantem Tempo und stellt uns vor noch nie dagewesene Fortschritte und Herausforderungen. In dem Maße, in dem KI-Systeme immer stärker in die Art und Weise integriert werden, wie wir Geschäfte machen und unser tägliches Leben gestalten, wird die Notwendigkeit einer soliden Gesetzgebung zur Regelung der Entwicklung und Nutzung immer wichtiger.

Die meisten rechtlichen Rahmenbedingungen zielen darauf ab, ein Gleichgewicht zwischen dem Bedarf an Innovation und dem Schutz der Grundrechte und der öffentlichen Sicherheit herzustellen. Dieser Artikel befasst sich mit dem aktuellen Stand der KI-Gesetzgebung, ihren Auswirkungen und dem Weg in die Zukunft.

Die Entwicklung der KI-Gesetzgebung

Die Europäische Union (EU) hat kürzlich den EU AI Act verabschiedet. Dieser umfassende Rechtsrahmen soll sicherstellen, dass KI-Systeme sicher und transparent sind und die Grundrechte respektieren. Länder wie die Vereinigten Staaten und China, die bei der KI-Technologie eine Vorreiterrolle einnehmen, haben bereits früher einen Rechtsrahmen geschaffen, um die einzigartigen Herausforderungen von KI zu bewältigen. Unabhängig von der Geschwindigkeit ist eine Regulierung der KI-Technologielandschaft notwendig, um sowohl Innovationen zu fördern als auch Vertrauen zu schaffen.

Ein vertrauensvoller Weg in die Zukunft

Die Umsetzung von KI-Gesetzen ist mit mehreren Herausforderungen verbunden. Die schnelle Weiterentwicklung von KI könnte die Anpassungsfähigkeit des rechtlichen Rahmens überfordern. Außerdem müssen Innovation und Regulierung sorgfältig abgewogen werden, um den technologischen Fortschritt nicht zu behindern. Die KI-Gesetzgebung bietet jedoch auch bedeutende Chancen. Durch die Festlegung klarer Richtlinien und Standards kann die Gesetzgebung die Innovation fördern, das Vertrauen der Öffentlichkeit stärken und sicherstellen, dass KI-Systeme verantwortungsvoll entwickelt und eingesetzt werden. Indem wir Sicherheit, Transparenz und ethische Aspekte in den Vordergrund stellen, können wir das Potenzial von KI voll ausschöpfen und gleichzeitig die Interessen des Einzelnen und der Gesellschaft wahren.

Ergänzt durch internationale Normen

Die Bemühungen des Gesetzgebers werden durch internationale Normen wie die ISO/IEC 42001 ergänzt. Diese zertifizierbare Norm legt die Anforderungen für die Einführung eines KI-Managementsystems fest und kann weltweit angewendet werden. Obwohl es sich bei ISO/IEC 42001 nicht um eine Rechtsvorschrift im eigentlichen Sinne handelt, wird erwartet, dass sie eine wichtige Rolle bei der Förderung vertrauenswürdiger KI spielt, indem sie bewährte Verfahren für die KI-Governance festlegt. Sie wurde entwickelt, um eine sichere, zuverlässige und ethische KI-Entwicklung, -Implementierung und -Anwendung zu gewährleisten.

Wesentliche Bestandteile der KI-Gesetzgebung

Die KI-Gesetzgebung umfasst in der Regel mehrere Komponenten:

Sicherheit und Verlässlichkeit: Die Gewährleistung eines sicheren und zuverlässigen Betriebs von KI-Systemen ist von größter Bedeutung. Die Gesetzgebung enthält häufig Anforderungen an Risikomanagement, Tests und Validierung, um Schäden für den Einzelnen und die Gesellschaft zu verhindern.
Transparenz und Rechenschaftspflicht: Transparenz in den KI-Entscheidungsprozessen ist entscheidend für die Vertrauensbildung. Der Gesetzgeber schreibt vor, dass KI-Entwickler die Funktionsweise ihrer Systeme klar erläutern und Mechanismen zur Rechenschaftspflicht einrichten müssen.
Ethische Aspekte: Ethische Grundsätze wie Fairness, Nichtdiskriminierung und Achtung der Privatsphäre sind integraler Bestandteil der KI-Gesetzgebung. Diese Grundsätze leiten die Entwicklung und den Einsatz von KI-Systemen, um sicherzustellen, dass sie mit den gesellschaftlichen Werten in Einklang stehen.
Einhaltung und Durchsetzung: Wirksame Durchsetzungsmechanismen sind unerlässlich, um die Einhaltung der KI-Vorschriften zu gewährleisten. Die Aufsichtsbehörden haben die Aufgabe, KI-Systeme zu überwachen, Audits durchzuführen und bei Nichteinhaltung Sanktionen zu verhängen.

Europa: Der EU AI Act

Die Europäische Union (EU) hat einen wichtigen Schritt zur Regulierung der künstlichen Intelligenz (KI) getan. Der EU AI Act soll gewährleisten, dass die Systeme sicher und transparent sind, die Grundrechte respektieren und gleichzeitig Innovation fördern. Er wurde am 12. Juli 2024 veröffentlicht und ist am 1. August 2024 in Kraft getreten. Seine Bestimmungen werden schrittweise umgesetzt, wobei die Bestimmungen zu verbotenen Aktivitäten ab dem 2. Februar 2025 und die Anforderungen an KI-Systeme mit hohem Risiko ab dem 2. August 2026 gelten.

Der EU AI Act stuft KI nach ihrem Risiko ein:

Unannehmbare Risiken sind verboten (z. B. soziale Bewertungssysteme und manipulative KI).
Der größte Teil des Textes befasst sich mit KI-Systemen mit hohem Risiko, die reguliert sind (z. B. Rekrutierung oder Medizinprodukte).
Ein kleinerer Teil befasst sich mit KI-Systemen mit begrenztem Risiko, für die geringere Transparenzpflichten gelten: Entwickler und Betreiber müssen sicherstellen, dass die Endnutzer wissen, dass sie mit KI interagieren (Chatbots und Deepfakes).
Das geringste Risiko ist unreguliert (einschließlich der meisten KI-Anwendungen, die derzeit auf dem EU-Binnenmarkt erhältlich sind, wie z. B. KI-gestützte Videospiele und Spam-Filter).

KI-Systeme mit unannehmbarem Risiko, wie etwa solche, die menschliches Verhalten manipulieren oder Schwachstellen ausnutzen, sind verboten. KI-Systeme mit hohem Risiko, zu denen Anwendungen für kritische Infrastrukturen, Bildung und Beschäftigung gehören, müssen vor ihrem Einsatz strengen Konformitätsbewertungen unterzogen werden.

Der EU AI Act legt auch Anforderungen an Transparenz und Rechenschaftspflicht fest. KI-Entwickler müssen klare Informationen darüber bereitstellen, wie ihre Systeme funktionieren, und sicherstellen, dass sie überprüft werden können. Dazu gehört auch eine detaillierte Dokumentation, um die Überwachung und Einhaltung der Vorschriften zu erleichtern. Sie gilt auch für Unternehmen, die KI-Produkte in der EU betreiben oder verkaufen. Exportierende Unternehmen müssen sicherstellen, dass ihre KI-Systeme den vorgegebenen Standards entsprechen und sich den erforderlichen Bewertungen unterziehen.

KI-Gesetzgebung in den Vereinigten Staaten
Die Vereinigten Staaten verfolgen zwar einen etwas anderen Ansatz als die EU, haben aber schon früh die Notwendigkeit einer umfassenden Gesetzgebung zur Regelung der Entwicklung und Anwendung von KI erkannt. Dies hat zu mehreren Gesetzgebungsakten auf Bundes- und Staatsebene geführt; 2023 wurden über 40 Gesetzesentwürfe in den Bundesstaaten eingebracht. Die Gesetzeslandschaft in den USA ist recht komplex, spiegelt aber weitgehend die wachsende Notwendigkeit wider, ein Gleichgewicht zwischen Innovation und Sicherheitsvorkehrungen zum Schutz des Einzelnen und der Gesellschaft vor KI-Risiken herzustellen.

Die KI-Landschaft in den Vereinigten Staaten wird durch einige wichtige Rechtsvorschriften und regulatorische Maßnahmen geprägt. Das im Oktober 2022 veröffentlichte „Blueprint for an AI Bill of Rights“ umfasst Grundsätze zum Schutz des Einzelnen vor potenziellen Schäden durch KI. Der Schwerpunkt liegt dabei auf Rechten wie dem Schutz der Privatsphäre, dem Schutz vor diskriminierende Algorithmen und der Gewährleistung von Transparenz. Die von Präsident Joe Biden im Jahr 2023 unterzeichnete weitreichende Executive Order zu KI unterstreicht die Notwendigkeit einer sicheren und vertrauenswürdigen KI. Sie beauftragt auch Bundesbehörden, Maßnahmen zu ergreifen, die sicherstellen, dass KI-Systeme verantwortungsvoll entwickelt und genutzt werden. Es gibt einige Gesetze, die darauf abzielen, Innovationen auf sichere, zuverlässige, ethische und transparente Weise zu fördern, wie der National AI Initiative Act aus dem Jahr 2020 und den Future of AI Innovation Act. Im Mai 2024 wurde der bahnbrechende Colorado AI ACT unterzeichnet, der als erster seiner Art in den USA ein sektorübergreifendes KI-Governance-Gesetz für den öffentlichen Sektor umfasst. Verschiedene Gesetzesentwürfe des Kongresses sind in Vorbereitung, wie der kürzlich vorgeschlagene Gesetzesentwurf SB 1047 California AI Safety, der darauf abzielt, das leistungsfähigste KI-Modell weiter zu regulieren.

Chinesische KI-Gesetzgebung

China hat bisher noch kein umfassendes KI-Gesetz erlassen, aber Verordnungen über KI-Anwendungen veröffentlicht. Anders als in der Europäischen Union, wo der EU AI Act als übergreifender Rechtsrahmen für alle KI-Systeme dient, verfolgt China jedoch einen vertikalen Ansatz zur Regulierung bestimmter KI-Dienste.

Mit dem ehrgeizigen Ziel, weltweit führend in der KI-Entwicklung und -Anwendung zu werden, veröffentlichte die Regierung in Peking 2017 den "New Generation AI Development Plan", den ersten systematischen und strategischen Plan im Bereich der KI. Er löste eine explosionsartige Zunahme der Industrieaktivitäten und der politischen Unterstützung für die KI-Entwicklung aus.

Die chinesische KI-Governance-Landschaft lässt sich in fünf Hauptkategorien einteilen:

Politik und Strategien zur Governance: Peking hat eine Reihe von Governance-Grundsätzen, Pläne, Leitlinien und Stellungnahmen zu KI-Technologien auf nationaler Ebene veröffentlicht. Diese bilden eine Grundlage für die KI-Gesetzgebung. So hat der Staatsrat beispielsweise "Stellungnahmen zur Stärkung der ethischen Governance in Wissenschaft und Technologie" veröffentlicht, in denen Pekings Gedanken zu den ethischen Grundsätzen von KI-Technologien zum Ausdruck kommen.
Gesetze: Einige der bestehenden Gesetze befassen sich mit bestimmten Aspekten der Entwicklung, der Bereitstellung, des Einsatzes und der Nutzung von KI-Systemen, die einen erheblichen Einfluss auf die KI-Gesetzgebung haben. Unter diesen Gesetzen sind drei hervorzuheben: das "Gesetz zum Schutz personenbezogener Daten", das "Datensicherheitsgesetz" und das "Cybersicherheitsgesetz".
Verwaltungsvorschriften: Einige Verwaltungsvorschriften stellen konkrete Anforderungen an KI-Algorithmen, wenn sie in Internet-Informationsdiensten wie "Deep Synthesis Contents", "Recommendation Systems" und "Generative AI Systems" eingesetzt werden.
Kommunale Verordnungen: Einige Städte in China (Shanghai und Shenzhen) haben ebenfalls kommunale Verordnungen über inhaltsagnostische KI erlassen, die die Entwicklung der KI-Industrie fördern sollen. In beiden Verordnungen wird gefordert, dass die von KI ausgehenden Risiken wirksam kontrolliert werden müssen, wobei KI-Produkte und -Dienstleistungen mit hohem Risiko strenger geprüft werden müssen als solche mit geringem Risiko.
Nationale Normen: Um die Regulierung von KI-Systemen zu unterstützen, ist das „China Electronics Standardization Institute“ federführend bei der Entwicklung einer Reihe von empfohlenen Normen, die verschiedene Aspekte von KI-Technologien abdecken.

Auswirkungen auf Unternehmen

Die Gesetzgebungslandschaft ist weltweit recht umfangreich, was zu einer gewissen Komplexität führt, die von Unternehmen bewältigt werden muss, unabhängig davon, ob sie in einem bestimmten Land oder unternehmensintern tätig sind. Den meisten ist gemeinsam, dass die Regierungsstellen sowohl die Chancen als auch die Herausforderungen der KI-Technologien angehen wollen.

Im Kern geht es darum, Innovationen und die verantwortungsvolle Entwicklung und Nutzung von KI zu fördern, um sicherzustellen, dass sie der Gesellschaft zugutekommt und gleichzeitig vor potenziellen Risiken geschützt wird. Da sich die KI-Technologie weiterhin in rasantem Tempo weiterentwickelt, werden die Regulierungsbehörden versuchen, Schritt zu halten, und auch die Unternehmen müssen sich daranhalten.

Um ein effektives Management und solide Governance zu gewährleisten, können Unternehmen von der Implementierung eines Managementsystems für künstliche Intelligenz gemäß der ISO/IEC 42001 profitieren. Ein solches System sollte mit Managementsystemen für Informationssicherheit (ISO/IEC 27001) oder Datenschutz (ISO/IEC 27701) kombiniert werden.

Es bietet einen strukturierten Ansatz für das Risikomanagement, einschließlich der Einhaltung von Vorschriften, und legt Maßnahmen für die fortlaufende Verbesserung fest. Es ermöglicht auch die Zertifizierung durch einen unabhängigen Dritten wie DNV, was dazu beitragen kann, sichere, zuverlässige und ethische KI-Systeme zu gewährleisten, die die Einhaltung von Vorschriften unterstützen und Vertrauenslücken schließen.