Forward Deployed Engineers vom KI-Anbieter – lohnt sich das?

loading="lazy" width="400px">KI-Anbieter schicken auf Wunsch eigene Teams zu ihren Kunden, um bei der KI-Implementierung zu unterstützen. Fragt sich nur, ob das Ihre beste Option ist.ESB Professional | shutterstock.com



Wenn es um den Einsatz von KI geht, befinden sich IT-Führungskräfte oft in einer schwierigen Zwickmühle: Sie versuchen, widersprüchliche Vorgaben des Managements mit sich ständig verändernden KI-Modellen, Funktionen und Kosten, Anforderungen an die Datenverwaltung und -sicherheit sowie den Grenzen ihres eigenen Teams in Einklang zu bringen. Gartner-Analyst Nader Henein schreibt das in Teilen auch den Anbietern zu: „Es lassen sich nur sehr wenige echte Vorteile erzielen, wenn man einfach ein KI-Produkt kauft und es den Mitarbeitern zur Verfügung stellt. Die KI-Anbieter haben diesen Irrglauben in den letzten drei Jahren allerdings übermäßig angepriesen und gefördert.“



In der Realität, so der Analyst weiter, seien ein hoher KI-Nutzwert und ein konsistenter ROI fast immer das Ergebnis einer tiefgreifenden und gezielten Integration von KI-Fähigkeiten in bestehende Workflows. Dafür benötige man spezialisierte Teams, weiß Henein: „Diese sind alles andere als günstig und werden von Unternehmen auf vielfältige Art und Weise rekrutiert.“



Zu diesen Support-Optionen für KI-Implementierungen gehören:




traditionelle IT-Beratungsunternehmen,



KI-spezifische Beratungsunternehmen,



unabhängige Auftragnehmer,



eine „Acquihiring“-Strategie, oder auch



Open-Source-Lösungen.




Die Option, die in letzter Zeit die größte Aufmerksamkeit gezogen hat, ist allerdings der Einsatz von Forward Deployed Engineers (FDEs). Diese Expertenteams von KI-Anbietern unterstützen die Kunden vor Ort dabei, die Technologie in ihre Umgebung zu integrieren.



Für diesen Artikel haben wir mit Experten nicht nur diskutiert, welche Vor- und Nachteile es hat, auf die FDE-Teams von KI-Anbietern zu setzen. Sondern auch das Pro und Kontra der Alternativoptionen. Eine übersichtliche Tabelle, die sämtliche Ansätze samt ihrer Vor- und Nachteile abbildet, finden Sie am Ende dieses Beitrags.



KI-FDEs – die Vor- und Nachteile



Von KI-Anbietern beschäftigte FDE-Teams verfügen über entscheidende Stärken. Dazu gehören etwa:




ein besseres Verständnis der zugrundeliegenden Modelle,



Erfahrung bei der Integration dieser Modelle in verschiedene Arten von Enterprise-Umgebungen, sowie



Kenntnisse über geplante neue Funktionen, noch bevor diese offiziell angekündigt werden.




Auf der anderen Seite steht allerdings der offensichtliche Nachteil der Anbieterabhängigkeit: Selbst wenn zukünftige Rollouts nicht zu den vertraglich vereinbarten Leistungen gehören, könnten die FDE-Teams eines KI-Anbieters subtilen Einfluss auf die zukünftigen KI-Initiativen ihrer Kunden nehmen. Auch deshalb mahnt Flavio Villanustre, CISO bei LexisNexis Risk Solutions, IT-Führungskräfte zur Vorsicht: „FDEs sind – auch aufgrund finanzieller Anreize ihrer Arbeitgeber – darauf ausgerichtet, die KI-Nutzung des Kunden zu steigern und in Sachen Services ‚Stickiness‘ zu erzeugen. Auch wenn diese Teams einen sinnvollen Mehrwert bieten, ist es Anwendern zu empfehlen, stets auch unvoreingenommene Experten zu konsultieren, die konkurrierende Lösungen verschiedener Anbieter unbefangen bewerten können.“



Das sei laut Villanustre besonders wichtig in einer Zeit, in der die von Investoren subventionierten Geschäftsmodelle rund um KI-Token erste Risse zeigten: „Angesichts des derzeitigen rasanten Innovationstempos könnte es erhebliche Wettbewerbsvorteile schaffen, flexibel genug zu sein, um den Anbieter zu wechseln.“



Auch Sanchit Vir Gogia, Chefanalyst bei Greyhound Research, sieht den Einsatz eines FDE-Teams vom KI-Anbieter als zweischneidiges Schwert: „FDEs sind zwar in die Umgebung des Kunden eingebettet, vertreten aber eben auch die kommerziellen Interessen ihres Arbeitgebers. Den Experten von KI-Anbietern übermäßigen Einfluss auf Implementierungsentscheidungen einzuräumen, könnte nicht nur zu einer erhöhten Abhängigkeit, sondern auch zu hohen Preise führen, gegen die man sich dann unter Umständen nicht wirksam wehren kann.“



Neben der möglicherweise steigenden Anbieterabhängigkeit gibt es weitere Aspekte, die IT-Entscheider berücksichtigen sollten, bevor sie die Teams ihres KI-Anbieters engagieren. Zentral ist etwa die Frage, wie lange die FDE-Teams überhaupt benötigt werden. Schließlich wird es mit einer einzelnen Implementierung kaum getan sein. Die sich daraus ergebenden langfristigen Kosten sind laut John Sangyeob Kim, KI-Engineer bei Solidroad, etwas, das Unternehmen häufig übersehen: „Die Bereitstellung selbst macht vielleicht 20 Prozent der Gesamtkosten aus. Die übrigen 80 Prozent entfallen darauf, den Systembetrieb durch Modell-Upgrades aufrechtzuerhalten, sowie Datenverschiebungen und Randfälle zu händeln, die erst nach Monaten im Produktivbetrieb auftreten.“



Dazu kommen Risiken, die entstehen, wenn das FDE-Team des KI-Anbieters nicht mehr vor Ort ist. Dabei werde beispielsweise in gravierendem Maße unterschätzt, wie umfassend die Einblicke sind, die externe Spezialisten bei der KI-Implementierung gewinnen, meint etwa Justin Greis, CEO der IT-Beratung Acceligence: „Das FDE-Team erhält im Rahmen der Implementierung Insights zu einer Vielzahl operativer Details. Zwar sind die Daten, auf die dabei zugegriffen wird, durch NDAs und Geheimhaltungsklauseln geschützt – die eingesehenen Prozesse und Workflows bleiben jedoch oft außen vor.“



Dieses Problem ist laut Greis aber nicht auf FDE-Teams von KI-Anbietern beschränkt. Wer auch immer bei der Einführung von KI unterstütze, werde deutlich mehr Erkenntnisse gewinnen, als im Statement of Work festgehalten, erklärt der Manager: „Dazu zählen etwa die tatsächlichen, konkreten Arbeitsabläufe, undokumentierte Ausnahmen, Lücken in der Datenqualität, Genehmigungs-Bottlenecks oder Security-Workarounds. Dieses Wissen ist ebenso wertvoll wie sensibel.“



Eine weitere kritische Frage, die laut Greis zu selten gestellt werde: Wie viel sinnvolle Kontrolle wird die IT über das Projekt haben, wenn das FDE-Team seine Unterstützung beendet? „Die Gefahr besteht nicht darin, externe Hilfe in Anspruch zu nehmen – die werden die meisten Unternehmen benötigen. Kritisch wird es vor allem dann, wenn externe Hilfe so eingesetzt wird, dass das Unternehmen nach Beendigung des Auftrags weniger leistungsfähig und abhängiger ist“, konstatiert der CEO.



KI-Experte Kim teilt diese Bedenken und empfiehlt Anwendern insbesondere, zu klären, ob das Projekt auf dem eigenen Observability-Stack oder dem des Anbieters aufbaue: „Wenn der Implementierungspartner den eigenen Observability-Stack nutzt, ist das während des Builds in Ordnung. Aber Sie brauchen einen Plan, um diesen auf eine eigene Lösung zu migrieren, bevor der Anbieter das Projekt beendet. Anderenfalls wird die Visibility mit ihm verschwinden.“



Ein eklatantes Problem entstehe laut Kim hingegen, wenn weder der eigene Observability-Stack, noch der des Anbieters verwendet wird: „Das führt zu einem System ganz ohne Observability-Layer – also ohne Einsichtsmöglichkeit. Wenn in der Produktion etwas ausfällt, haben Sie keine Möglichkeit festzustellen, ob es sich um eine Modellregression, ein Datenproblem oder einen Codefehler handelt.“



Externer KI-Support – die Alternativen



Zwar sind FDE-Teams kein neuartiger Ansatz, dennoch steht nur eine begrenzte Zahl solcher Engineers zur Verfügung. Nicht jedes Unternehmen hat also die Möglichkeit, Spezialisten-Teams von Anbietern einzusetzen. Schwierig wird es mit der FDE-Verfügbarkeit laut Gartner-Analyst Henein insbesondere außerhalb der USA. Das muss jedoch kein Grund sein, auf externen Support in Sachen KI-Implementierung zu verzichten. Schließlich steht Anwendern dazu, wie eingangs dargelegt, eine breite Palette weiterer Optionen zur Verfügung. Diese haben jedoch – ähnlich wie der FDE-Einsatz – nicht nur Vor-, sondern auch Nachteile.



So auch die traditionelle IT-Beratung, wie Ishraq Khan, CEO beim Dev-Tool-Anbieter Kodezi, erklärt: „Klassische Beratungsunternehmen sind in der Regel stärker in den Bereichen Governance, Prozesse, Compliance und organisatorische Koordination. Sie wissen, wie große Unternehmen politisch und strukturell funktionieren. Der Nachteil ist, dass viele langsamer vorankommen und oft keine tiefgreifende Spezialisierung vorweisen können, wenn es um Frontier-KI geht.“



Spezialisierte KI-Beratungsunternehmen wiesen hingegen andere Stärken vor, wie Khan festhält: „KI-native Berater agieren deutlich schneller und sind oft technisch auf dem neuesten Stand. Operativ sind viele dieser Unternehmen aber noch nicht ausgereift. Das schlägt sich dann beispielsweise in beeindruckenden Demos nieder, wobei die langfristige Wartbarkeit, Governance oder Zuverlässigkeit in der Produktion nicht vollständig verstanden wird.“



Acceligence-CEO Greis sieht zudem die Einbindung unabhängiger Auftragnehmer als mögliche Option für externe KI-Unterstützung: „Das kann dem Evaluierungsdesign, Architekturprüfungen, Red-Teaming, Agentendesign zuträglich sein – oder festgefahrene Teams wieder in Gang bringen. Es birgt aber auch das Risiko, sich von einer Schlüsselperson abhängig zu machen – die parallel möglicherweise die Einzige ist, die das System wirklich versteht.“



Für Großunternehmen bietet sich zudem mit dem sogenannten „Acquihiring“ eine weitere Option. Dabei werden (KI-) Unternehmen aufgekauft und dessen Expertise und Mitarbeiter in die eigene Organisation integriert. Unter bestimmten Voraussetzungen könne das ein Gewinn sein, meint Greis: „Nämlich dann, wenn die eingebrachten KI-Fähigkeiten und das Fachwissen für das übernehmende Unternehmen wirklich strategisch wichtig sind. Es besteht dabei jedoch die Gefahr, dass das übernommene Team von der Bürokratie der neuen Muttergesellschaft erstickt wird. Das ist dann in etwa so, als würde man ein Speedboat kaufen, es an einen Flugzeugträger hängen und sich dann wundern, dass es nicht mehr vorankommt.“



Schließlich kann auch eine Open-Source-Strategie Anwenderunternehmen in Sachen KI Flexibilität verschaffen und Abhängigkeiten reduzieren. Das geht allerdings nicht ohne erhöhten operativen Aufwand. Dieser wird ebenfalls häufig unterschätzt, wie Khan darlegt: „Open Source ist nur eine echte Option, wenn die Organisation über die internen Talente und die Disziplin verfügt, um eine ordnungsgemäße Wartung sicherzustellen.“



Externe Unterstützung bei KI-Deployments – die Optionen im Überblick



ProKontraFDEs von KI-Anbieternbeste Expertise mit Blick auf das Haupt-KI-ModellVendor Lock-Inbetriebliche Details dringen nach außenKlassische IT-Beratungbeste Expertise in Sachen Change Management, Legacy-Integration, Rollout, Governance sowie Neugestaltung des Betriebsmodellsmöglicherweise zu langsam, zu teuer oder zu generischKI-Consulting-Unternehmenmehr praktische Erfahrung als traditionelle Berater mit Blick auf KI-Deployments Vendor Lock-In weniger ausgeprägt als bei FDEsunter Umständen mangelndes Verständnis von Enterprise-Anforderungen, etwa in den Bereichen Security, Identity, Auditability, Incident Response, Kostenkontrolle und langfristige WartbarkeitUnabhängige Dienstleisternützlich für Präzisions-Tasks wie Eval Design, Architektur-Reviews, Red Teaming oder Agenten-DesignRisiko der Abhängigkeit von bestimmten Schlüsselpersonen„Acquihiring“funktioniert, wenn die eingekauften Fähigkeiten wirklich strategisch wichtig sindübernommene Teams fallen möglicherweise existierender Bürokratie zum OpferOpen-Source-Lösungenreduziert die Abhängigkeit von einzelnen Anbieternattraktiv, wenn es um Datensouveränität, die Kontrolle von Enterprise-Systemen, Kosteneffizienz und regulierte Umgebungen gehtUnternehmen tragen die volle Verantwortung für Security, Patching, Evaluierung, Deployment, Monitoring und Lifecycle Management



(fm)



Dieser Artikel ist im Original bei unserer Schwesterpublikation Computerworld.com erschienen.