GenAI zwingt Unternehmen zu agieren, während sie noch planen

Die Entwicklung einer Strategie und einer wirksamen KI-Governance sind schon während der Erkundungsphase möglich, schreibt unser Gastautor Evan Ramzipoor. 

Laut der aktuellen Hype-Kurve für neue Technologien von Gartner hat generative KI (GenAI) vor kurzem die Spitze des Hypes erklommen und ist nun auf dem Weg zum „Tal der Ernüchterung“. Während dieser Phase kommt eine gehypte Technologie in die breite Anwendung und Unternehmen bemühen sich ernsthaft darum, sie zu ihrem Vorteil zu nutzen. Diese Phase hat längst begonnen: Laut der McKinsey-Studie 2023 State of AI setzt eines von fünf Unternehmen bereits GenAI regelmäßig ein, während vier von fünf zumindest damit experimentiert haben. Eine neue Studie von Bitkom lieferte ähnliche Ergebnisse für Deutschland.

Der Hype um GenAI ist zweifellos berechtigt, gerade jetzt ist jedoch Vorsicht geboten, glaubt Jim Van Over, Field Innovation Officer bei ServiceNow. Er warnt Führungskräfte davor, GenAI zu schnell auf möglichst viele Anwendungsfälle anzuwenden, bevor sie eine adäquate Governance-Strategie entwickelt haben. 

„Sie haben ihre Anbieter, Ihre Berater, alle möglichen Leute, die Ihnen erzählen, dass GenAI ihr Geschäft verändern wird, also ist es leicht, sich vom Hype anstecken zu lassen“, sagt Van Over. Da GenAI als leistungsfähiges Werkzeug angepriesen wird, das so viel eigenständig tun kann, ahnen Führungskräfte häufig nicht, dass sie sich erst die Mühe machen müssen, eine Strategie für den Einsatz dieser Technologie zu entwickeln. Stattdessen würden Unternehmen Anbieter von KI-Tools und Implementierungspartner in der Hoffnung auswählen, dass diese die Strategie mitbringen. „Und in Wirklichkeit haben sie auch keine“, so Van Over. 

Einen Eindruck von diesem Phänomen liefert der IBM Global AI Adoption Index 2023 (PDF): Darin gibt nur die Hälfte der befragten Unternehmen an, eine KI-Governance-Strategie entwickelt zu haben. 

„Das Gute und zugleich das Schlechte an dieser Technologie ist, dass man kein Datenwissenschaftler sein muss, um sie zu nutzen“, sagt Samta Kapoor, Energy AI and Trusted AI Leader bei EY in USA. Einer der Gründe für den Hype sei, dass Nutzer von Plattformen wie ChatGPT ohne viel Training eindrucksvolle Ergebnisse erzielen können. Und da GenAI generell intuitiv ist, gingen die Führungskräfte davon aus, dass GenAI einfach zu implementieren sei und nicht sonderlich viel Strategie und Aufsicht erfordere wie andere Technologien.

GenAI zu betreiben ist nicht gerade billig

Hinzu kommt, dass der Betrieb von Large-Language-Modellen (LLM) die Verfügbarkeit von Server-Farmen mit vielen energiehungrigen Grafikprozessoren (GPUs) voraussetzt. Viele KI-Anbieter, darunter Unternehmen wie OpenAI, Google, Amazon und IBM, verwenden entweder ein Token-basiertes oder ein Abonnement-Modell, um den Anwenderunternehmen ihre Dienste in Rechnung zu stellen. Bei einem Token-basierten Modell wird pro verwendetem Token abgerechnet, während Abonnements in der Regel nach der Anzahl der Nutzer auf einem Konto pro Monat bemessen werden.

Diese Preismodelle seien jedoch nicht immer so einfach wie sie erscheinen, gibt Jim Van Over zu bedenken. Zum einen sei es oft schwierig, genau vorherzusagen, wie viele GPUs zur Ausführung einer bestimmten Aufgabe mit einem LLM benötigt werden und wie hoch der Energieverbrauch sein wird. Ein Team mag vielleicht davon ausgehen, dass eine Aufgabe nur wenige Durchläufe erfordert und daher sehr wenig Energie verbrauchen wird, aber wenn zehn zusätzliche Durchläufe notwendig sind, kostet das eine Menge zusätzlicher Energie.

Erschwerend kommt hinzu, dass die Unternehmen GenAI-Tools und -Apps schneller kaufen, als sie die Kosten für deren Betrieb kalkulieren können. Ohne die erforderlichen Kostenkalkulationen können Unternehmen über Nacht unwissentlich Unsummen ausgeben – und laut Jim Van Over tun sie es auch. 

Ein Unternehmen könnte beispielsweise ein GenAI-Tool in der Annahme erwerben, dass es nur von einem Dutzend Mitarbeitern genutzt wird, um dann auf der Rechnung festzustellen, dass es von Hunderten von Mitarbeitern genutzt wurde. Laut einer Studie von Gartner werden bis 2025 etwa 90 % der Unternehmen, die GenAI einsetzen, ihre Entwicklungsarbeiten drosseln, weil die Kosten dafür den generierten Wert übersteigen werden. Damit ließen sich weitere Investitionen nur schwer begründen.

GenAI braucht gutes Risikomanagement

Neben den finanziellen gibt es auch Sicherheitsbedenken. Sean Hughes, AI Ecosystem Director bei ServiceNow, weist darauf hin, dass die Integration von GenAI in einen bestehenden Technologie-Stack zu Sicherheitslücken oder unbeabsichtigten Ergebnissen führen kann. „Mit der Einführung neuer GenAI-Systeme entstehen immer auch neue Risiken, denn man weiß nicht, was man nicht weiß“, sagt Highes. „Es ist nicht so einfach, wie ein altes Modell gegen ein glänzendes neues auszutauschen.“

Wenn ein Unternehmen beispielsweise einen ungeprüften LLM-Chatbot in seine bestehende HR-Plattform integriert, bleiben entscheidende Fragen offen, wie zum Beispiel: Auf welche Art von Mitarbeiterdaten kann der Chatbot zugreifen? Was macht er mit diesen Daten? Ist er sicher? Wie wird das LLM trainiert? Welche Art von Ergebnissen erzeugt es, und wie könnten sich diese Ergebnisse auf die Mitarbeiter auswirken? Ein altes KI-Modell einfach in den Ruhestand zu schicken und eine neue GenAI-Lösung einzubauen sei der direkte Weg, um sich teure Probleme einzuhandeln, so Hughes.

Laut dem IBM AI Index Report betreffen solche Herausforderungen eher Großunternehmen als kleinere Organisationen. Die befragten Unternehmen gaben an, dass der Einsatz von KI schwierig ist, weil die Kosten zu hoch sind, die Projekte zu komplex, und dem Unternehmen eine ganzheitliche KI-Strategie fehlt.

Eine Vision für GenAI

Jahre bevor er zu ServiceNow kam, war Eugene Chuvyrov als leitender Cloud-Architekt an vorderster Front bei der Cloud-Einführung dabei, wo er die zahlreichen Fehler der Unternehmen aus der ersten Reihe beobachten konnte. „Die Unternehmen haben diese Dinge ad hoc eingeführt“, sagt er. Er sah zu, wie Fachbereiche in verschiedenen Unternehmen ihre Daten im Alleingang in die Cloud verlagerten, eigene Cloud-Control-Panels aufbauten und spontan neue Prozesse entwickelten. „Es gab nie eine unternehmensweite Strategie.“ Das Ergebnis seien jahrelange technische Schulden, versteckte Kosten und massive Bereinigungsaktionen gewesen, als die Unternehmen feststellten, dass sie für bestimmte Systeme zu viel bezahlt hatten und dass ihnen Systeme fehlten, die sie dringend benötigten. 

Laut Chuvyrov, der jetzt die Produktentwicklung im Bereich KI und anderer Technologien bei ServiceNow leitet, gibt es Überschneidungen zwischen der früheren Cloud-Ära und der aktuellen GenAI-Ära. Um GenAI zügig einsetzen zu können, ohne die verfügbaren Ressourcen allzu schnell zu verbrauchen, müsse die gesamte Organisation zusammenarbeiten, um eine unternehmensweite GenAI-Vision zu entwickeln. „Die Vision ist ein Rahmen, der es den Mitarbeitern ermöglicht, die Einführung von KI zu kontrollieren, anstatt sich von ihr kontrollieren zu lassen“, sagt Chuvyrov.

Die nötige Vorarbeit leisten

Jim Van Over betont die Existenz von Fachwissen innerhalb der Organisation während dieses Prozesses. Unternehmen sollten ihre eigenen KI-Experten beschäftigen, um potenzielle GenAI-Lösungen zu evaluieren, und es sollte eine offene Kommunikationslinie zwischen den Experten und der Unternehmensleitung geben. Und Sean Hughes empfiehlt Unternehmen, die eine bestimmte GenAI-Investition in Erwägung ziehen, erst die angestrebten Ergebnisse zu artikulieren und ihnen die dazu notwendigen Ressourcen gegenüberzustellen, um herauszufinden, ob sich das Unternehmen die finanziellen und betrieblichen Risiken leisten kann.

Darüber hinaus sollten die Führungskräfte Bewertungsmaßstäbe entwickeln, nach denen sie ihre KI-Anbieter auswählen und ihre Strategie dem Management kommunizieren, empfiehlt Chuvyrov. Um einen sicheren Einstieg zu gewährleisten, sollten Anwendungsfälle mit geringem Risiko identifiziert werden, bei denen GenAI keine größeren Probleme verursachen kann, falls etwas schiefgeht. 

Während des Experimentierens kann das Unternehmen eine breit angelegte GenAI-Strategie und -Vision entwerfen, einschließlich einer Data-Governance-Richtlinie, die als ausbaufähiges Fundament für ehrgeizigere Implementierungen dienen sollte. Der Entwurf solcher Richtlinien sei ein guter Anlass, um unternehmensweite Gespräche über den verantwortungsvollen Einsatz von KI zu führen, die nötigen Leitplanken aufzustellen und die Risiken für Kunden, Mitarbeiter und die Gesellschaft im Allgemeinen abzumildern. 

All diese Vorarbeit bedeutet nicht, dass ein Unternehmen die Einführung von GenAI hinauszögert, betont Samta Kapoor von EY. „Ich verstehe die Notwendigkeit, schnell zu handeln. Doch Implementation und Strategieentwicklung können auch parallel laufen.“

Welche neuen Governance-Möglichkeiten für KI ServiceNow mit dem letzten Update vorgestellt hat, erfahren Sie hier.