Zertifizierte:r KI-Beauftragte:r

Modul 1

Grundlagen und technische Basis

• KI und die Abgrenzung zu anderen Technologien.
• Funktionsweise moderner KI-Systeme (Machine Learning, neuronale Netze etc.).
• Abgrenzung zwischen KI, Analytics und Automatisierung.
• Wie lernt generative KI?

Schwerpunkt: Risiken durch den Einsatz von KI

• Technische Risiken wie Bias in Datenmodellen, fehlerhafte Entscheidungen oder Ergebnisse und Sicherheitsrisiken durch Angriffe auf Systeme (Adversarial Attacks).
• Umgang mit Unsicherheiten bei neuen Technologien.
• Sensibilisierung für Schatten-KI, Bias und Fehlinformationen in KI-Tools.
• Etablierung technischer Sicherheitsmaßnahmen zum Schutz vor Angriffen und Systemausfällen.
• Definition klarer Eskalationsmechanismen bei Fehlfunktionen oder Missbrauch von KI-Systemen.

Datenmanagement als Grundlage für den KI-Einsatz

• Saubere Daten sind essenziell für erfolgreiche KI-Modelle.
• Rechte betroffener Personen wahren (z. B. Auskunftsrecht, Löschpflicht) sowie Datenschutz-Folgenabschätzung bei KI-Projekten durchführen.
• Data Governance, um strukturierte und sichere Datennutzung sicherzustellen.

Ethik als Bindeglied zwischen Technik & Recht

• Wie kann eine Organisationsstruktur geschaffen werden, um ethische Prinzipien zu operationalisieren?
• Aufklärung und Schulung der Mitarbeitenden als Grundlage für ethische Technologieanwendung und zur Minimierung von Risiken wie Bias oder Fehlinformationen.
• Verantwortungsvoller Umgang mit Technologieentwicklung/-einsatz: Vermeidung von Diskriminierung.
• Transparenzanforderungen dokumentieren und umsetzen.
• Nachvollziehbarkeit technischer Entscheidungen sicherstellen.

Modul 2

Regulatorische Rahmenbedingungen – Fokus auf EU-KI-Verordnung (KI-VO)

• Sicherer Einsatz von Hochrisiko-KI-Systemen.
• Risikoklassifizierung nach der Verordnung: Unzulässige Anwendungen vs. Hochrisiko-Anwendungen vs. Minimal-Risiko-Systeme.
• Pflichten beim Einsatz hochriskanter Systeme: Transparenzanforderungen sowie Überwachungspflichten u.a. durch Auditierungen oder Konformitätsbewertungen.

Weitere rechtliche Rahmenbedingungen im Kontext von KI

• DSGVO spezifisch im Kontext von KI-Projekten: Verarbeitung personenbezogener Daten bei Machine-Learning-Modellen; Privacy by Design/Default anwenden.
• Software-Haftung bei fehlerhaften Ergebnissen aus automatisierten Systemen.

Entwicklung eines unternehmensweiten "KI-Managementsystems"

• Anbindung an bestehende Compliance-, Risiko- oder Qualitätsmanagement-Systeme (z.B. ISO 9001, ISO/IEC 27001).
• Klare Rollen und Verantwortlichkeiten definieren, um regulatorische Anforderungen pragmatisch zu erfüllen.
• Rolle des:der KI-Beauftragten definieren.
• Zusammenarbeit mit Datenschutzbeauftragten und IT-Abteilung sicherstellen.
• Moderation interdisziplinärer Teams sowie Schnittstellenkompetenz innerhalb des Unternehmens.

Aufbau und Pflege eines zentralen KI-Systemregisters

• Zweck des Registers: Transparenz schaffen und Risikoüberwachung erleichtern.
• Systembeschreibung (Funktionalität, Einsatzbereich).
• Risikokategorie gemäß EU-KI-Verordnung.
• Verantwortliche Personen/Abteilungen.
• Nachweise zu Konformitätsbewertungen oder Audits.
• Automatisierte Dokumentationstools oder Plattformen für Governance-Daten zur Unterstützung der Registerführung.

Organisatorische Maßnahmen & praktische Umsetzung

• Einführung klarer Prozesse zur Freigabe neuer KI-Anwendungen: Wer entscheidet über den Einsatz? Welche Prüfschritte sind erforderlich?
• Definition von Richtlinien & Leitlinien zum Umgang mit KI im Unternehmen.
• Etablierung interner Kontrollmechanismen wie Audits oder Self-Assessments.
• Warnhinweise definieren (z.B.: ‚Status Gelb‘), Schwellenwerte festlegen und klare Eskalationsprozesse schaffen.
• Schulungen für Mitarbeitende (Umgang mit KI-Systemen; ethischen Richtlinien, Transparenzanforderungen, Haftungsfragen).
• Kommunikations- und Change-Management-Strategien: Umgang mit Widerständen und Förderung der Akzeptanz von KI im Unternehmen.

Abschlussdiskussion: Der Weg zum erfolgreichen KI-Einsatz

• Zusammenführung zentraler Erkenntnisse.
• Handlungsempfehlungen für die ersten Schritte als Zertifizierte:r KI-Beauftragte:r.