KI im Un­ter­neh­men – An­wen­dungs­ge­bie­te im Über­blick

INHALT

• KI im Unternehmen: Chancen
• Risiken erkennen und minimieren
• KI in der Anwendung: Chancen und Risiken managen
• Fazit - KI im Unternehmen
• DQS - Vertrauen und Expertise

Dass generative KI für Unternehmen und Organisationen aller Art wichtig ist und nützlich sein kann, steht nicht infrage. Warum das aber so ist und wo die Chancen und Risiken liegen – das will immer wieder von Neuem gut überlegt sein.

KI ist mehr (und manchmal auch weniger) als eine neue IT-Technologie. Anders als herkömmliche Software, bei der eine Schritt-für-Schritt-Programmierung nach exakten Vorgaben erfolgen muss, kann KI aus Beispieldaten lernen und sich teilweise auch bei unvollständigem Wissen dem gewünschten Ergebnis hinreichend nähern. Dadurch werden in Unternehmen Automatisierungsprozesse möglich, die bisher undenkbar waren. Insbesondere dort, wo die zugrundeliegende Logik aufgrund hoher Komplexität nicht vollständig bekannt ist, bietet KI Firmen neue Möglichkeiten für neue Anwendungen. Lassen Sie uns einen Blick auf die Chancen werfen.

Künstliche Intelligenz im Unternehmen einsetzen: Blick auf die Chancen

Künstliche Intelligenz eröffnet viele Anwendungsgebiete und Möglichkeiten. Die folgende Aufzählung ist bei Weitem nicht vollständig; aber der Überblick, den sie verschafft, setzt bei Ihnen vielleicht Ideen frei und macht Potenziale greifbarer.

ChatBots

Diese virtuellen Assistenten sind oft die erste Anlaufstelle für Kundenservices auf Websites. Sie beantworten Kundenanfragen, leiten Gespräche und entlasten das Service-Personal, indem sie häufige Fragen automatisiert bearbeiten.

Prädiktive Wartung

Durch Analyse von Maschinen- und Sensordaten kann KI potenzielle Maschinenausfälle frühzeitig vorhersagen. Diese präventiven Wartungsansätze helfen, kostspielige ungeplante Ausfälle und Reparaturen zu vermeiden und die Betriebszeit zu maximieren.

Unternehmenswissen zusammenführen

Systeme wie Microsoft CoPilot oder firmenspezifisch trainierte Sprachmodelle (LLM) bündeln Unternehmenswissen strukturiert und machen es zugänglich. So kann Wissen automatisch verknüpft und effizienter genutzt werden.

Code-Unterstützung

In der Softwareentwicklung helfen KI-gestützte Tools Entwicklern, Lösungsvorschläge und Codebeispiele zu liefern. Dies verkürzt Entwicklungszeiten und ermöglicht es Teams, sich stärker auf innovative Programmierung zu konzentrieren. Insbesondere wenn es um Technologien geht, die der Entwickler noch nicht vollständig beherrscht, bieten diese Tools wertvolle Unterstützung.

Bilderkennung

Bildverarbeitende Künstliche Intelligenz für Unternehmen wird zur Identifikation und Klassifikation visueller Informationen eingesetzt, z.B. zur Qualitätskontrolle oder Produkterkennung. In der Medizintechnik wird KI zur Unterstützung bei Diagnosen genutzt und liefert schon heute vielversprechende Ergebnisse bei der Brustkrebs-Früherkennung.

Cyber-Security

Moderne Lösungen gegen Schadsoftware setzen verstärkt auf KI, um Angriffsszenarien besser zu erkennen. Diese sogenannten Extended Detection and Response (XDR) Systeme sind oftmals in der Lage, noch unbekannte Angriffsmethoden durch Mustererkennung abzuwehren.

Generative KI:

Tools wie ChatGPT oder DALL-E erzeugen auf Anfrage Texte und Bilder und eröffnen kreative Einsatzfelder. Oft reicht eine kurze Anfrage (Prompt genannt), um einen gut klingenden Text zu erzeugen. Da diese Modelle mit gewaltigen Datenmengen trainiert wurden, bieten sie dem Anwender nicht nur gut formulierte Texte, sondern können in Sekunden zahlreiche Fakten einfließen lassen. Dies erleichtert beispielsweise das Erstellen von Marketingmaterialien, Produktbeschreibungen oder Schulungsunterlagen. Auch Übersetzungen in andere Sprachen gelingen damit oft erstaunlich präzise.

Auf dem folgenden Bild sehen Sie ein Beispiel für einen solchen Prompt (ausgeführt auf GPT-4o mini): 

Probieren Sie es selbst gern einmal aus. Bei der Suchmaschine DuckDuckGo ist es derzeit möglich, verschiedene Modelle ohne Anmeldung auszuprobieren.

Aber Vorsicht: Um den Output von KI bewerten zu können – insbesondere dessen Sachgehalt und die Fakten – ist Fachwissen entscheidend! Ungeachtet ihrer Leistungsfähigkeit ist Künstliche Intelligenz nicht frei von spezifischen Einschränkungen und potenziellen Fehlerquellen. Nur Fachleute können letztendlich überprüfen, ob ein Prompt plausibel bedient wurde oder ob das Ergebnis durch algorithmische Fehler oder falsche Annahmen verzerrt oder schlichtweg falsch ist. Und damit sind wir auch schon bei den potenziellen Risiken des KI-Einsatzes.

KI im Unternehmen – Risiken erkennen und minimieren

Denn wo Licht ist, fällt auch Schatten. Oder anders formuliert: Die Integration von Künstliche Intelligenz in Unternehmensprozesse birgt, wie so manches Thema der digitalen Transformation, auch substanzielle Risiken. Die meisten der Risiken der Anwendungsgebiete Künstlicher Intelligenz beruhen auf der Tatsache, dass KI mehr künstlich als intelligent ist. Ein tiefgehendes Verständnis der Informationen ist hierbei nicht vorhanden, oftmals werden die zugrundeliegenden Daten lediglich geschickt verknüpft und an den Anwender zurückgespielt. 

Böse Zungen behaupten sogar, dass KI nichts weiter sei als geschickt angewandte Statistik. Aus Sicht von KI-Nerds eine empörende Unterstellung - aber widerlegt wurde diese Behauptung bisher nicht. Auch die folgende Aufzählung der risikobehafteten Themen beim Einsatz von KI erhebt keinen Anspruch auf Vollständigkeit.

Halluzinationen

Wie bereits oben erwähnt, verstehen viele Systeme nicht, worüber sie „reden“, sondern verknüpfen lediglich die ihnen antrainierten Daten. Solange die Datenbasis für den jeweiligen Anwendungsfall groß und korrekt genug ist, funktioniert das prächtig.

Fehlende Informationen erkennt die KI oft nicht, sondern verknüpft stattdessen die nächstbesten Daten und präsentiert sie als Wahrheit. Sie lügt in dem Falle nicht einmal, denn zum Lügen müsste sie die Wahrheit kennen oder zumindest ein hinreichendes Verständnis dafür haben. Ein besonders amüsantes Beispiel ist der Fall, in dem ChatGPT die Vorteile des Verzehrs von Socken vor dem Meditieren beschrieben hat. Fairerweise muss man sagen, dass neuere Produkte immer besser darin werden, selbst zu erkennen, wann sie halluzinieren würden. Dennoch dürfte klargeworden sein, dass man sich nicht blind auf KI-Aussagen verlassen sollte.

Datenschutzrisiken

Jede generative KI muss fortlaufend weitertrainiert werden, damit sie den Erwartungen entspricht. Deshalb ist es eine übliche Praxis, die Eingaben von Benutzern sofort wieder als Trainingsdaten heranzuziehen. Das kann mit Anforderungen an den Datenschutz kollidieren: Werden hierbei personenbezogene Daten oder andere sensible Informationen eingegeben, könnten diese im Wissensschatz (Modell) der künstlichen Intelligenz gespeichert und später anderen Anwendern angezeigt werden. In dem Falle wäre die Kontrolle über diese Daten vollständig verloren.

Menschliche Abhängigkeit

Der regelmäßige Einsatz von KI kann dazu führen, dass Menschen Routinefähigkeiten verlernen oder aufhören, kritisch über die Ergebnisse nachzudenken. Dies kann das Risiko von Fehlentscheidungen erhöhen, wenn die KI doch einmal versagt. Die natürliche Intelligenz, also das kritische Denken und eigenständige Problemlösungskompetenzen schwinden. Angreifer könnten dies ausnutzen, indem sie gezielt Daten manipulieren und Fake News erzeugen, denen blind vertraut wird.

Vorurteile und Diskriminierung

Da Künstliche Intelligenz aus von Menschen erzeugten Daten lernt und diese nicht hinterfragen kann, besteht das Risiko, dass sie diskriminierende Muster übernimmt. Würde eine KI darauf trainiert, Kreditvergaben zu entscheiden, und dabei auf diskriminierende menschliche Parameter zu Alter, Geschlecht oder Herkunft zurückgreifen, würde sie diese Muster unkritisch übernehmen und verstärken – eine beunruhigende Vorstellung!

Umweltrisiken

Sowohl der Betrieb als auch das Training von KI sind energieintensiv. Dies kann zu hohen Kosten und Umweltbelastungen führen. In Zeiten des Klimawandels ist diese Entwicklung  möglicherweise kontraproduktiv.

Urheberrechtliche Fragen

Bei der Nutzung von generierten Inhalten – wie Texten oder Bildern – müssen Unternehmen sicherstellen, dass keine Urheberrechte verletzt werden. Beim Trainieren gilt dies ebenfalls.

Übersteuerung von Zugriffsrechten

KI-Systeme, die Unternehmensdaten nutzen, um bessere Ergebnisse zu erzielen (Wissensmanagement), könnten bestehende Zugriffsrechte aushebeln bzw. falsch gesetzte Zugriffsrechte ungewollt nutzen. Das Ergebnis wäre wiederum der Verlust der Kontrolle über die eigenen Daten. Streng genommen liegt das Problem jedoch nicht beim KI-System, sondern an falsch gesetzten Zugriffsrechten an anderer Stelle.

Künstliche Intelligenz in der Anwendung: Chancen und Risiken managen 

Wie gelingt es, die Chancen zu nutzen, die KI zweifelsohne bietet, und damit verbundene Risiken zu erkennen und zu minimieren? Um es vorwegzunehmen: Managementsysteme und risikobasierte Prozessorientierung bieten sinnvolle Ansätze, um sich dem Thema strukturiert zu nähern. Hier einige Beispiele für Maßnahmen, die Sie beachten können:

• Finden Sie heraus, wo in Ihrem Unternehmen KI eingesetzt wird. Auch wenn Sie der Meinung sind, dass dies nicht geschieht. Leider ist es inzwischen gängige Praxis, dass viele Technologie-Anbieter KI in ihre Produkte einbauen und dies ihren Kunden nicht transparent machen. Ebenso kann es sein, dass der eine oder andere Mitarbeiter bereits KI-Werkzeuge wie ChatGPT nutzt, um sich das Leben einfacher zu machen.
  Haben Sie die entsprechenden Einsatzgebiete herausgefunden, tragen Sie diese in ein Verzeichnis ein, um eine Governance zu ermöglichen. Sprechen Sie bei der Gelegenheit auch mit Ihrem Datenschutzbeauftragten, den wird das möglicherweise brennend interessieren.
• Liegt Ihnen das Verzeichnis vor, führen Sie eine erste Risikobewertung durch. Wo könnten Risiken für Ihr Unternehmen entstehen? Mit welchen Maßnahmen kann man den Risiken entgegenwirken? Weniger ist hier am Anfang mehr, aber Nichtstun ist nicht empfehlenswert.
• Erstellen Sie eine unternehmensinterne Richtlinie für den Einsatz und die Einführung von KI. Durch sichere Leitplanken können Sie Schatten-IT und unerwünschten Einsatz verhindern. Überall dort, wo KI-Systeme wichtige Prozesse und Entscheidungen berühren, muss eine menschliche Endkontrolle sichergestellt werden.
• Schulen Sie Ihre Mitarbeiter. Vielen sind die Risiken und nötigen Maßnahmen nicht bewusst. Geben Sie Ihrem Team das Wissen und die Werkzeuge an die Hand, um verantwortungsbewusst mit KI umzugehen.
• Sollten Sie ein Informationssicherheitsmanagementsystem betreiben (was in der Regel zu empfehlen ist), dann sprechen Sie mit Ihrem Informationssicherheitsbeauftragten. Er wird ebenfalls eine Risikoabschätzung und ähnliches durchführen wollen.

Auch der Gesetzgeber hat die Risiken von KI erkannt, und daher den EU AI Act (KI-Verordnung) verabschiedet. Diese gilt für alle europäischen Staaten unmittelbar und stellt weitere Anforderungen nicht nur an die Hersteller, sondern auch an die Anwender von KI-Systemen. Sollten Sie in Ihrem Unternehmen KI einsetzen, dürfte Sie das betreffen. Die KI-Verordnung werden wir uns in einem weiteren Blog-Artikel noch einmal genauer ansehen.

Fazit: KI im Unternehmen nutzen – und risikoorientiert steuern!

Der Einsatz von Künstlicher Intelligenz (KI) eröffnet Unternehmen zahlreiche Möglichkeiten zur Automatisierung und Effizienzsteigerung, birgt jedoch auch Risiken. Anders als klassische Software lernt KI aus Daten und kann in komplexen Szenarien eingesetzt werden, in denen klare Regeln fehlen. Besonders kreative Anwendungen wie Text- oder Bilderstellung profitieren davon. Allerdings erfordert die Bewertung von KI-Ergebnissen fachliches Know-how, da KI-Modelle keine tiefgehende und vor allem keine natürliche inhaltliche Intelligenz besitzen.

Um Chancen zu nutzen und Risiken zu minimieren, sind eine prozessorientierte und risikobasierte Herangehensweise essenziell. Unternehmen sollten KI-Regeln und KI-basierte Prozesse in bestehende Managementsysteme integrieren, klare Prüfmechanismen für KI-basierte Anwendungen etablieren und regulatorische Anforderungen wie die EU-KI-Verordnung (EU AI Act) berücksichtigen. Eine durchdachte Steuerung des KI-Einsatzes stellt sicher, dass Automatisierungspotenziale genutzt werden, ohne unkontrollierte Risiken einzugehen.

Bei der DQS in guten Händen

Im Spannungsfeld zwischen ökonomischem Wachstum und ökologischem Handeln gewinnen Managementsysteme zunehmend an Bedeutung – eine Entwicklung, die DQS bereits seit Jahren verfolgt. Es gilt heute als eine der zentralen unternehmerischen Herausforderungen, beide Aspekte als harmonische Ziele zu verstehen und fest in den Geschäftsprozessen zu verankern. Die steigende globale Aufmerksamkeit für Klimaveränderungen und der anhaltende Wandel im Bewusstsein spiegeln sich in immer komplexer werdenden gesetzlichen Vorgaben wider – und neuerdings auch in den Managementsystemnormen der ISO (ISO-Anforderungen zum Klimawandel).

Als international anerkannter Zertifizierer für Managementsysteme und Prozesse unterstützen wir Unternehmen mit wertvollen Audits in sämtlichen Wirtschaftsbereichen – und das an über 30.000 Audittagen pro Jahr. Unser Anspruch reicht dabei weit über das Abhaken von Auditchecklisten hinaus. Unsere Auditoren bringen ihre umfangreiche fachliche und branchenspezifische Kompetenz ein, um Ihnen wertvolle Anregungen für die Weiterentwicklung Ihres Managementsystems und die fortlaufende Verbesserung Ihres Unternehmens zu bieten. Nehmen Sie uns beim Wort!

Vertrauen und Expertise

Unsere Texte und Broschüren werden ausschließlich von unseren Normexperten oder langjährigen Auditoren verfasst. Sollten Sie Fragen zu den Textinhalten oder unseren Dienstleistungen an unseren Autor haben, senden Sie uns gerne eine E-Mail: [email protected].

Hinweis: Wir verwenden aus Gründen der besseren Lesbarkeit das generische Maskulinum. Die Direktive schließt jedoch grundsätzlich Personen jeglicher Geschlechteridentitäten mit ein, soweit es für die Aussage erforderlich ist.