Herausforderungen und strategische Potenziale von KI-Systemen

In unserem jüngsten C-Level Talk via LinkedIn sprach unser Managing Partner Marcus Styra mit Stephan Prebeck (CIO), Jens Reichert (CFO) und Nico van de Pute (CIO) als versierte C-Level Manager über Herausforderungen und Lösungen bei der Einführung von KI-Systemen.

Die bereits von starken Turbulenzen geprägte Wirtschaft steht aktuell vor der drängenden Frage, welches strategische Potenzial der Einsatz von Künstlicher Intelligenz bietet und wie mit ihrer Hilfe die Wettbewerbsfähigkeit sichergestellt werden kann. Unternehmensführungen müssen hier oft Entscheidungen treffen, ohne auf eigene Erfahrungen zurückgreifen zu können. Vernetzte KI-Systeme bringen zudem eine Komplexität mit sich, die es bei anderen digitalen Systemen so noch nicht gab. Auch ist ihre Einführung weit mehr als eine technische Herausforderung: Sie betrifft Strategie,  Prozesse, Governance und Mitarbeiterbefähigung gleichermaßen und wirft zahlreiche Fragen auf.

Die Einführung von KI-Systemen ist für die weitaus meisten Unternehmen in Ermangelung valider Erfahrungswerte ein Greenfield. Bei der Frage nach dem Startpunkt war es den diskutierenden Gästen daher wichtig, dass KI-Systeme weniger als Werkzeuge betrachtet werden, sondern als aktive Akteure im Unternehmen. Am Beispiel eines Mandantenunternehmen wurde gezeigt, wie es einem KI-Assistenten gelang, eigenständig neue Controlling-Kennziffern zu erschaffen, diese sogleich anzuwenden und Maßnahmen abzuleiten.

Als zentrale Bedingung dafür KI-Projekte erfolgreich umzusetzen, wurde das altbekannte Thema der Qualität und Quantität der Stammdaten diskutiert: „Garbage In – Garbage Out“. Was für klassische IT-Anwendungen galt, gilt für teilautonome KI-Systeme umso mehr, denn fehlerhafte, unvollständige oder minderwertige Daten führen nicht nur zwangsläufig zu unbrauchbaren oder falschen Ergebnissen, sondern können sich in KI-Anwendungen weiter potenzieren.

Auch die Kosten werden für CEOs und Geschäftsführungen zunehmend zum Thema. Die sogenannte Tokenisierung von KI-Preismodellen wird zum dominierenden Abrechnungsmodell für künstliche Intelligenz und damit zu einer potenziellen Kostenfalle. Anstatt pauschaler Monatsabos zahlen Unternehmen immer häufiger die exakte Menge der verarbeiteten Informationseinheiten (Tokens). In einigen Unternehmen führt das aufgrund explodierender Kosten bereits zu Nutzungsbeschänkungen, da teilautonome KI-Assistenten – oft verdeckt – ein Vielfaches an Tokens verbrauchen als menschliche Nutzer. Auch das Risiko der Abhängigkeit von einzelnen KI-Anbietern werde häufig unterschätzt.

Ein veritables Risiko besteht zudem in der unkontrollierten Nutzung von Generativer KI, der sogenannten „Schatten-IT“ oder „Schatten-KI“. Wenn Mitarbeitende frei verfügbare Dienste ohne Freigabe nutzen, können sensible Unternehmensdaten und Informationen in externe Systeme gelangen. Zudem können plausible, aber falsche Antworten falsche Sicherheiten erzeugen und eine validierte Entscheidungsfindung behindern. Weitere Risiken liegen in Datenlecks, Halluzinationen, fehlender Transparenz, unscharfen Berechtigungen, Verstößen gegen die wachsende KI-Regulierung sowie offenen Fragen zu Urheberrecht und Datenschutz.

Bei der abschließenden Frage nach dem „Human in the Loop“ wurde am Beispiel einer Kreditorenbuchhaltung festgehalten, dass menschliche Supervisoren oft unverzichtbar sind, um KI-generierte Ergebnisse zu validieren und rechtssicher zu nutzen. Auch aus diesem Grund muss das Personal Recruiting KI-Kompetenzen im Auswahlverfahren künftig viel stärker berücksichtigen.