Künstliche Intelligenz als Auditgegenstand
Worauf es im internen Audit beim KI-Einsatz ankommt
In fast jedem Audit nach ISO 9001 oder ISO 27001 treffen Auditoren inzwischen auf KI: bei der Recherche, der Erstellung von Texten, in der Softwareentwicklung, in Sicherheitslösungen oder zur Vorbereitung von Entscheidungen. Die Frage, ob KI eingesetzt wird, reicht im Audit heute nicht mehr aus. Entscheidend ist, unter welchen Rahmenbedingungen das geschieht: Wer ist verantwortlich, wie werden Risiken bewertet, sind die Mitarbeitenden geschult, sind Ergebnisse nachvollziehbar, und wie wirksam ist die menschliche Kontrolle? Das kostenfreie Whitepaper „Künstliche Intelligenz auditieren“ gibt Anregungen, wie Sie diese Fragen im Audit stellen und die Antworten einordnen können.
Das Whitepaper im Überblick
- 15 Auditsituationen aus der Praxis: typische Auditfragen, beispielhafte Antworten und deren Bewertung, von reflektierten Ansätzen bis zu pauschalem Vertrauen
- Rollen und Pflichten: Wie hat die auditierte Organisation ihre Rolle als Anbieter oder Betreiber nach der europäischen KI-Verordnung bestimmt?
- Risiken und Kontrollen: Verantwortlichkeiten, Halluzinationen, Prompt Injection, Datenschutz, Bias und Schatten-KI
- Einbettung ins Managementsystem: KI in ISO 9001 und ISO 27001 sowie ein KI-Managementsystem nach ISO 42001
Zum Hintergrund
KI-Anwendungen liefern nicht immer stabile, vollständige oder leicht erklärbare Ergebnisse. Trotzdem beeinflussen sie Qualität, Informationssicherheit, Datenschutz und Compliance. Im Audit geht es deshalb nicht darum, die KI im technischen Detail zu bewerten. Entscheidend ist, ihren Einsatz kritisch in den betrieblichen Zusammenhang einzuordnen: Steuert die Organisation ihn wirksam und regelkonform?
In vielen Audits zeigt sich: Meist ist nicht die Technologie selbst das Hauptproblem, sondern ihr unzureichend geregelter Einsatz. So ersetzt eine KI-Richtlinie allein kein Managementsystem. Und ohne Richtlinien, freigegebene Tools und Awareness-Maßnahmen lässt sich unkontrollierte KI-Nutzung kaum verhindern oder erkennen. Der Leitfaden richtet sich an interne Auditorinnen und Auditoren sowie an Qualitäts- und Informationssicherheitsbeauftragte, die den KI-Einsatz in ihrer Organisation begutachten.
Expertise aus der Praxis
Das kostenfreie Whitepaper "Künstliche Intelligenz auditieren" wurde von einem erfahrenen DQS-Auditor erstellt und basiert auf realen Auditsituationen, die so oder ähnlich in der Praxis vorgekommen sind. Die Beispiele erheben keinen Anspruch auf Vollständigkeit oder normative Verbindlichkeit. Nicht jede weniger gute Antwort ist zwangsläufig als Abweichung zu werten. Die Bewertung erfolgt im Audit stets im Gesamtkontext.
Michael Sachner
Michael Sachner ist Auditor der DQS für ISO 9001, ISO 27001, ISO 20000-1 und ISO 42001. Seine Schwerpunkte liegen in den Bereichen Informationssicherheit, KI-Compliance und Datenschutz. Mit mehr als 20 Jahren Erfahrung in Softwareentwicklung und Softwarearchitektur verbindet er fundiertes technisches Know-how mit tiefem Verständnis für Unternehmensprozesse.