Microsoft AI Foundry im Praxistest
Mit Microsoft AI Foundry bündelt Microsoft die Agentenentwicklung, Modellauswahl und Sicherheit in einer Plattform. Es ist aktuell eine der modernsten Plattformen, um KI-Agenten unternehmensweit einzusetzen. Entsprechend hoch sind die Erwartungen für den Vertrieb und Customer Service.
Auf Basis von zwei realen Use-Cases haben wir einen eigenen KI-Agenten mit Microsoft AI Foundry erstellt und geprüft:
- Was funktioniert gut?
- Wo sind die Grenzen?
- Und was bedeutet das für den Einsatz im Unternehmen?
Alle Details dazu verraten wir Ihnen in unserem AI Reality Check Webinar.
Was Microsoft AI Foundry tatsächlich ist (und was nicht)
Ein entscheidender Punkt vorweg: Microsoft AI Foundry ist keine typische Business-Anwendung wie Dynamics.
Die Plattform sitzt eine Ebene tiefer, auf Azure und bietet Zugriff auf die neuesten KI-Modelle und Technologien. Das heißt: Deutlich mehr Möglichkeiten, aber auch mehr Komplexität.
Was das konkret bedeutet:
- Sie bekommen Zugriff auf Technologien, die es in Dynamics oder Copilot Studio noch nicht gibt
- Sie können individuelle KI-Agenten für unterschiedliche Anwendungsfälle bauen
- Aber: Sie verlassen die Low-Code-Welt
Unser AI Reality Check
Die Grundidee unseres Tests war bewusst einfach. Ein von uns erstellter KI-Agent soll die Dokumentation im Service und Vertrieb erleichtern:
- Statt Dinge zu schreiben, wird einfach mit dem Agenten gesprochen
- Der KI-Agent strukturiert die Inhalte automatisch
- Er identifiziert Aufgaben, legt diese an und verteilt sie automatisch
Das bedeutet:
- Ein natürlicher Dialog ist möglich
- Rückfragen können durch den Agenten gestellt werden
- Deutlich weniger Hürde für den Nutzer
Genau das haben wir für zwei Use-Cases getestet.
Use-Case 1: Dokumentation im Service
Ausgangssituation
Typische Realität im Service-Außendienst:
- Informationen entstehen unterwegs
- Kein direkter Zugriff auf Systeme
- Dokumentation erfolgt verspätet oder unvollständig
Oder im Innendienst:
- Telefonate werden nicht sauber dokumentiert, weil beispielsweise noch kein Contact Center voll ausgerollt wurde
Was wir getestet haben
- Servicemitarbeitende sprechen Informationen direkt ein
- Der KI-Agent ordnet diese einem Ticket zu
- Aufgaben werden erzeugt
Was gut funktioniert hat
- Das Dokumentieren der Informationen
- Das Erstellen von Folgeaktionen (Automatisches Anlegen von Tickets und Tasks)
- Auch Dialekt wird gut verstanden
Reality Check
- Bei längeren Antworten kann es sein, dass die KI das Gespräch unterbricht
- Hintergrundgeräusche können Probleme machen
Use-Case 2: Besuchsberichte im Vertrieb
Ausgangssituation
Ein Klassiker:
- Besuchsberichte werden verspätet oder gar nicht gemacht
- Wissen über potenzielle Kunden geht verloren
- Aufgaben bleiben unklar
Gleichzeitig wäre direkt nach dem Termin (Auto, Zug, Parkplatz) der perfekte Zeitpunkt, um die wichtigsten Erkenntnisse zu dokumentieren.
Was wir getestet haben
Ein Vertriebsmitarbeiter spricht nach dem Termin einfach mit dem Agenten:
- Was wurde besprochen?
- Was sind die nächsten Schritte?
- Wer ist beteiligt?
Der Agent:
- Stellt Rückfragen, wenn Informationen fehlen
- Erstellt eine strukturierte Zusammenfassung im CRM
- Leitet Aufgaben ab
Was gut funktioniert hat
- Effiziente Erfassung der Infos direkt nach dem Termin
- Strukturierung funktioniert zuverlässig
- Sinnvolle Rückfragen durch den Agenten
Reality Check
Ähnlich wie beim Service-Use-Case:
- Die Interaktion ist noch nicht so wie mit einem Menschen und es ist erkennbar, dass es eine KI ist
- In ruhiger Umgebung funktioniert es sehr gut
Aber: Viele Hintergrundgeräusche oder mehrere Sprecher können Probleme machen.
Was wir konkret tun mussten:
- Den KI-Agenten auf kurze Antworten trainieren
- Eine klare Gesprächslogik vorgeben
- Das Verhalten bei längeren Antworten vorgeben
Ohne dieses „Tuning“ wird es schnell holprig.
Der größte Unterschied zur Out-of-the-Box in Dynamics integrierter KI
Mit Microsoft AI Foundry steht für diesen Test ein KI‑Modell zur Verfügung, das nicht nur Chat-Antworten erzeugt und vorliest, sondern von Grund auf für natürliche, menschliche Interaktion trainiert wurde. Klassische Chat‑Modelle bleiben strukturell textbasiert, selbst wenn ihre Antworten als Sprache ausgegeben werden.
Die größten Stolpersteine (technisch & organisatorisch)
- Kein Low-Code mehr
- Für das Deployment ist technisches Know-How notwendig
- Es kommen Themen auf wie Session Handling, Services etc.
Es braucht eine IT, um KI-Agenten mit Microsoft AI Foundry um- und einzusetzen.
- Der Sprung von einem PoC zum einsatzfähigen KI-Agenten benötigt entsprechende Ressourcen
- Erste Tests sind schnell möglich
- Der produktive Einsatz erfordert mehr Aufwand
- Das Kostenmodell ist anders als in Dynamics
- Die Abrechnung erfolgt auf Basis der tatsächlichen Nutzung (Es gibt keine fixe Lizenz)
- Es entstehen Kosten pro Interaktion
Das Kostenmodell macht eine Budgetplanung schwieriger.
- Mehr Freiheit = mehr Verantwortung
- Sicherheit, Zugriffsverwaltung, Architektur müssen mitgedacht werden
Was wirklich beeindruckt hat
- Der außergewöhnlich starke Technologie-Stack: Mit Microsoft AI Foundry haben Unternehmen Zugriff auf mehr als 11.000 KI-Modelle
Wenn man die technische Hürde der Implementierung nimmt, ist eine schnelle Testung von echten Business-Use-Cases möglich.
Fazit
Microsoft AI Foundry ist kein fertiges Produkt, aber ein mächtiges Werkzeug. Es ist eine Plattform, mit der KI-Agenten erstellt und unternehmensweit zur Verfügung gestellt werden können.
Unsere Einschätzung nach dem Reality Check:
- Die Nutzung von Microsoft AI Foundry ist für Unternehmen interessant, die bereit sind, sich technisch damit auseinanderzusetzen
- Der von uns erstellte KI-Agent für die vorgestellten Use-Cases im Service und Vertrieb funktioniert gut und reduziert den Arbeitsaufwand für Dokumentationsaufgaben stark.
Wenn Sie sehen möchten, wie wir diese Use-Cases mit Microsoft AI Foundry umgesetzt haben und wo genau die Grenzen liegen, zeigen wir Ihnen das im Detail im AI Reality Check Webinar. Hier geht es zur Anmeldung.
