Zertifizierte:r KI-Beauftragte:r

Modul 1

Grundlagen und technische Basis

• Einführung in KI und ihre Abgrenzung zu anderen Technologien.
• Unterschiede zwischen KI, Analytics und Automatisierung.
• Funktionsweise moderner KI-Systeme wie Machine Learning und neuronale Netze.
• Lernprozesse generativer KI verstehen.

Risiken beim Einsatz von KI

• Technische Risiken wie Bias in Datenmodellen, fehlerhafte Entscheidungen oder Ergebnisse und Sicherheitsrisiken durch Angriffe auf Systeme (Adversarial Attacks).
• Umgang mit Unsicherheiten bei neuen Technologien.
• Sensibilisierung für Schatten-KI, Bias und Fehlinformationen in KI-Tools.
• Etablierung technischer Sicherheitsmaßnahmen zum Schutz vor Angriffen und Systemausfällen.
• Definition klarer Eskalationsmechanismen bei Fehlfunktionen oder Missbrauch von KI-Systemen.

Datenmanagement als Grundlage für den KI-Einsatz

• Saubere Daten als Grundlage für erfolgreiche KI-Modelle.
• Rechte betroffener Personen wahren (z. B. Auskunftsrecht, Löschpflicht).
• Datenschutz-Folgenabschätzung bei KI-Projekten durchführen.
• Data Governance für strukturierte und sichere Datennutzung.

Ethik als Bindeglied zwischen Technik & Recht

• Organisationsstrukturen schaffen, um ethische Prinzipien zu operationalisieren.
• Mitarbeitende aufklären und schulen, um Risiken wie Bias oder Fehlinformationen zu minimieren.
• Verantwortungsvoller Umgang mit Technologieentwicklung/-einsatz: Diskriminierung vermeiden.
• Transparenzanforderungen dokumentieren und umsetzen.
• Nachvollziehbarkeit technischer Entscheidungen sicherstellen.

Modul 2

Regulatorische Rahmenbedingungen – Fokus auf EU-KI-Verordnung (KI-VO)

• Sicherer Einsatz von Hochrisiko-KI-Systemen.
• Risikoklassifizierung: unzulässige Anwendungen, Hochrisiko-Anwendungen, Minimal-Risiko-Systeme.
• Transparenz- und Überwachungspflichten bei Hochrisiko-Systemen (z. B. durch Auditierungen, Konformitätsbewertungen).

Weitere rechtliche Rahmenbedingungen im Kontext von KI

• DSGVO spezifisch im Kontext von KI-Projekten: Verarbeitung personenbezogener Daten, Privacy by Design/Default.
• Software-Haftung bei fehlerhaften Ergebnissen automatisierter Systeme.

Entwicklung eines unternehmensweiten "KI-Managementsystems"

• Anbindung an bestehende Compliance-, Risiko- oder Qualitätsmanagement-Systeme (z.B. ISO 9001, ISO/IEC 27001).
• Rollen und Verantwortlichkeiten klar definieren, u.a. die Rolle des KI-Beauftragten.
• Zusammenarbeit mit Datenschutzbeauftragten und IT-Abteilung sicherstellen.
• Interdisziplinäre Teams moderieren und Schnittstellenkompetenz fördern.

Aufbau und Pflege eines zentralen KI-Systemregisters

• Transparenz und Risikoüberwachung durch ein zentrales Register.
• Systembeschreibung: Funktionalität, Einsatzbereich, Risikokategorie.
• Verantwortlichkeiten und Nachweise zu Konformitätsbewertungen oder Audits dokumentieren.
• Automatisierte Dokumentationstools oder Plattformen für Governance-Daten nutzen.

Organisatorische Maßnahmen & praktische Umsetzung

• Prozesse zur Freigabe neuer KI-Anwendungen etablieren: Entscheidungskriterien und Prüfschritte definieren.
• Richtlinien und Leitlinien für den Umgang mit KI im Unternehmen entwickeln.
• Interne Kontrollmechanismen wie Audits oder Self-Assessments einführen.
• Warnhinweise und Eskalationsprozesse festlegen (z. B. Schwellenwerte, Status Gelb).
• Mitarbeitende schulen: Umgang mit KI-Systemen, ethische Richtlinien, Transparenzanforderungen, Haftungsfragen.
• Kommunikations- und Change-Management-Strategien entwickeln, um Akzeptanz für KI zu fördern und Widerstände zu überwinden.

Abschlussdiskussion: Der Weg zum erfolgreichen KI-Einsatz

• Zentrale Erkenntnisse zusammenführen.
• Handlungsempfehlungen für die ersten Schritte als Zertifizierte:r KI-Beauftragte:r festlegen.