Risikoanalyse und Mehrwert
Dastra bietet Ihnen die Möglichkeit, eine Risikoanalyse Ihrer KI-Systeme durchzuführen. In diesem Teil des Formulars können Sie jedem System eines der 4 Risikoniveaus zuweisen. Diese Risikoniveaus wurden durch die KI-Verordnung definiert und reichen vom minimalen bis zum inakzeptablen Risiko. Wir empfehlen Ihnen, eine Beschreibung hinzuzufügen, um das Risiko des Systems zu begründen.
🔹 Risikoniveaus gemäß der KI-Verordnung
Die KI-Verordnung klassifiziert KI-Systeme in vier Risikokategorien, die jeweils spezifische Verpflichtungen nach sich ziehen:
1. Minimales Risiko (Minimal risk)
✔️ Definition: KI-Systeme mit vernachlässigbarem oder keinem Risiko für die Grundrechte oder die Sicherheit von Personen.
💡 Beispiele:
Spamfilter
Empfehlungssysteme für Inhalte (ohne signifikante Auswirkung)
In Videospielen verwendete KI für das Nutzererlebnis
🔎 Verpflichtungen: Keine besonderen Verpflichtungen gemäß der KI-Verordnung, aber die allgemeinen Regeln (z. B. DSGVO-Compliance) bleiben anwendbar.
2. Begrenztes Risiko (Limited risk)
✔️ Definition: KI-Systeme, die Transparenz-Verpflichtungen gegenüber den Nutzern erfordern, ohne signifikante Auswirkung auf deren Rechte.
💡 Beispiele:
Konversations-Chatbots (Pflicht zur Information des Nutzers über die Interaktion mit einer KI)
Deepfakes zu Unterhaltungszwecken (mit deutlicher Kennzeichnung)
🔎 Verpflichtungen:
Den Nutzer darüber informieren, dass er mit einem KI-System interagiert
Transparenz über die generierte oder veränderte Natur des Inhalts gewährleisten
3. Hohes Risiko (High risk)
⚠️ Definition: KI-Systeme mit einem signifikanten Risiko für die Gesundheit, Sicherheit oder Grundrechte von Personen. Sie unterliegen einem strikten Compliance-Rahmen und einer Bewertung.
💡 Beispiele:
Bank-Kreditscoring-Systeme
Automatisiertes Recruiting (Vorauswahl von Bewerbungen)
Biometrische Systeme für Sicherheitszwecke (außer verbotene)
KI in Medizinprodukten oder kritischer Infrastruktur
🔎 Verpflichtungen:
Konformitätsbewertung vor dem Inverkehrbringen
Risikomanagement
Governance der verwendeten Daten
Transparenz und detaillierte technische Dokumentation
Menschliche Überwachung und Auditierbarkeit
Wenn Sie angeben, Betreiber eines KI-Systems zu sein und dieses als Hochrisiko-System eingestuft ist, sind Sie gemäß Artikel 27 der europäischen KI-Verordnung verpflichtet, vor der Inbetriebnahme des Systems eine Grundrechte-Folgenabschätzung durchzuführen.
4. Inakzeptables Risiko (Prohibited / Unacceptable risk)
⛔ Definition: Verbotene KI-Systeme, da sie den Werten der EU zuwiderlaufen oder die Grundrechte verletzen.
💡 Beispiele:
Social-Scoring-Systeme nach chinesischem Vorbild
Biometrische Fernidentifikation in Echtzeit zu Strafverfolgungszwecken (außer strenge Ausnahmen)
Unterschwellige kognitive Manipulation von Personen
🔎 Verpflichtungen:
Vollständiges Verbot des Inverkehrbringens oder der Nutzung in der EU.
✅ Tipp: Die Zuordnung des richtigen Risikoniveaus zu Ihren KI-Systemen ermöglicht Ihnen:
Die geltenden Verpflichtungen schnell zu bestimmen
Die Compliance-Maßnahmen zu priorisieren
Gegenüber Ihren Fach- und Rechtsabteilungen klar zu kommunizieren
Mehrwert eines KI-Systems
Der folgende Abschnitt lädt Sie ein, den Mehrwert jedes Systems für Ihre Organisation zu bewerten. Sie müssen eines der drei Wertniveaus auswählen, von niedrig bis hoch, und erläutern, welchen konkreten Nutzen dieses System bietet, wie:
Ein Gewinn an operativer Leistung
Eine Verbesserung der Servicequalität
Eine Reduktion von Risiken oder Kosten
Warum diese beiden Teile ausfüllen?
Die Angabe sowohl des Risikoniveaus als auch des Mehrwerts ermöglicht es Ihnen, schnell zu bestimmen, ob ein KI-System eher:
✅ Eine strategische Chance für Ihre Organisation darstellt, oder ⚠️ Ein unverhältnismäßiges Risiko angesichts seines geringen Nutzens.
Zum Beispiel könnte ein System mit hohem Risiko aber niedrigem Mehrwert seinen Verbleib im Produktivbetrieb nicht rechtfertigen.
✅ Tipp: Diese kombinierte Analyse erleichtert Ihre Entscheidungsfindung und die Ausrichtung Ihres KI-Portfolios auf Ihre strategischen und regulatorischen Prioritäten.
Zuletzt aktualisiert
War das hilfreich?