Die KI-Verordnung der Europäischen Union, die harmonisierte Regeln für das Inverkehrbringen, die Inbetriebnahme und die Nutzung von Systemen der Künstlichen Intelligenz festlegt, basierend auf deren Risikopotenzial.
Der EU AI Act (KI-Verordnung) ist eine fundamentale Säule des digitalen Binnenmarktes. Er verfolgt einen strengen risikobasierten Ansatz. Das bedeutet: Je höher das potenzielle Risiko eines KI-Systems für die Gesellschaft, desto strenger sind die Anforderungen an das Unternehmen, das die KI entwickelt oder einsetzt.
Die Klassifizierung im Detail:
Unannehmbares Risiko: Hierzu zählen Anwendungen, die als Bedrohung für die Sicherheit und Rechte von Menschen gelten. Beispiele sind staatliches Social Scoring oder Echtzeit-Biometrie in öffentlichen Räumen zu Strafverfolgungszwecken (mit wenigen Ausnahmen). Diese Systeme sind strikt verboten.
Hohes Risiko (High-Risk): Hierunter fallen KI-Systeme in kritischen Infrastrukturen (Strom, Wasser), im Bildungswesen, im Personalmanagement (z.B. Software zur Lebenslaufauswahl) oder in der Strafverfolgung. Diese Systeme müssen strenge Anforderungen an die Datenqualität, die technische Dokumentation, die Protokollierung und die menschliche Aufsicht erfüllen.
General-Purpose AI (GPAI): Modelle wie GPT-4 fallen unter spezifische Regeln. Anbieter müssen technische Dokumentationen bereitstellen, das Urheberrecht einhalten und bei Modellen mit systemischen Risiken zusätzliche Sicherheitsprüfungen durchführen.
Operative Umsetzung für GRC-Verantwortliche: Unternehmen müssen nun ein KI-Inventar führen. Jedes KI-Tool muss als [Asset] klassifiziert und einer Risikoprüfung unterzogen werden. Bei Hochrisiko-Systemen ist zudem ein Konformitätsbewertungsverfahren zwingend.
Kopexa digitalisiert diesen Prozess: Wir stellen dedizierte Frameworks bereit, mit denen du deine KI-Systeme nach den Vorgaben des EU AI Acts bewerten kannst. Die Software verknüpft diese Bewertungen direkt mit deinem [ISMS], sodass Redundanzen vermieden werden und du die geforderte Transparenz gegenüber den Aufsichtsbehörden auf Knopfdruck nachweisen kannst.