Microsoft Foundry in der Praxis: KI im Echtbetrieb

In diesem Artikel erläutern wir, was die Plattform Microsoft Foundry ausmacht, und zeigen am Beispiel unserer beiden enpit-Produkte HeDoKi und Simpa, wie wir sie produktiv einsetzen. So erhältst du ein realistisches Bild davon, was mit Foundry heute möglich ist, und erfährst, welche Möglichkeiten sich daraus für eigene KI-Vorhaben ergeben.

TL;DR

Microsoft Foundry ist Microsofts Plattform, um KI-Modelle bereitzustellen, damit KI-Agenten zu bauen und diese sicher zu betreiben. Sie ist für KI-Projekte besonders relevant, wenn eine Organisation ohnehin Microsoft 365, Entra ID oder Azure nutzt. Anmeldung, Berechtigungen, AV-Vertrag und Abrechnung sind dann schon vorhanden. Wir haben bei enpit Microsoft Foundry über den Prototyp hinaus in zwei eigene Produkte gebracht, die heute im Produktivbetrieb laufen: in HeDoKi, der digitalen Kita-Dokumentation mit dem KI-Assistenten KiKi und in Simpa, unserer HR-Software.

Vom Prototyp in den Echtbetrieb: Wo KI-Projekte scheitern

Einen KI-Prototyp zu bauen, ist heute vergleichsweise einfach. Ihn in den dauerhaften Betrieb zu bringen, ist es nicht. Das zeigen auch aktuelle Studien:

• Laut der MIT-Studie „The GenAI Divide“ prüfen 60 Prozent der Unternehmen maßgeschneiderte KI-Lösungen, aber nur 5 Prozent bringen sie in den produktiven Betrieb. Mit externen Partnern gelingt das etwa doppelt so oft wie bei reinen Eigenentwicklungen.
• In Deutschland nennen Unternehmen laut Bitkom Research vor allem rechtliche Unklarheiten und fehlendes technisches Know-how (je 53 Prozent) sowie Datenschutzanforderungen (48 Prozent) als größte Hürden.

Die Ursachen liegen also selten allein beim Sprachmodell. Entscheidend ist, ob sich eine Lösung in bestehende Abläufe einfügt und ob die rechtlichen und organisatorischen Fragen geklärt sind: Wer darf welche Daten sehen? Wo werden die Daten verarbeitet und gespeichert? Wie wird der Datenschutz gewährleistet? Und wie bleiben die Kosten planbar, wenn aus wenigen Testnutzer:innen hunderte werden?
Mit HeDoKi und Simpa haben wir es geschafft, KI über den Prototyp hinaus in den Echtbetrieb zu bringen. Im Folgenden stellen wir zunächst die Plattform vor, mit der wir beide Produkte gebaut haben: Microsoft Foundry. Außerdem beschreiben wir Einsatzszenarien aus HeDoKi und Simpa, in denen KI den Arbeitsalltag der Anwender:innen spürbar entlastet.

Was ist Microsoft Foundry?

Microsoft Foundry ist kein einzelnes KI-Tool, sondern Microsofts Plattform, um KI-Anwendungen und KI-Agenten zu entwickeln, bereitzustellen und dauerhaft zu betreiben. Sie ist auf die Anforderungen von Unternehmen ausgelegt, denn Sicherheit, Zugriffsrechte, Datenschutz und Skalierbarkeit sind von Anfang an Teil der Plattform. Damit eignet sich Foundry für mittelständische Unternehmen und öffentliche Organisationen ebenso wie für Konzerne, die KI nicht nur ausprobieren, sondern verlässlich in ihren Geschäftsprozessen einsetzen wollen. Die Plattform bündelt an einem Ort, was ein KI-Projekt dafür braucht:

• Modelle: Foundry bietet Zugriff auf eine große Auswahl an Large Language Models (LLMs). Neue Modelle, etwa von OpenAI, stehen in der Regel kurz nach ihrer Veröffentlichung auch in Foundry bereit und können direkt genutzt werden. Die Modelle laufen in Microsoft-Rechenzentren und lassen sich für die EU-Datenzone konfigurieren, sodass die Daten die EU nicht verlassen.
• Agenten: Mit dem Foundry Agent Service lassen sich Assistenten bauen, die eigenständig Aufgaben bearbeiten, Werkzeuge nutzen und auf Daten zugreifen. Jeder Agent erhält eine eindeutige Identität und wird versioniert, sodass Änderungen jederzeit nachvollziehbar bleiben und sich bei Bedarf wieder eine frühere Version aktivieren lässt. Zudem unterstützt der Agent Service bereits Konzepte wie Skills, mit denen sich wiederkehrende Fähigkeiten gezielt hinterlegen und wiederverwenden lassen.
• Tools: Agenten lassen sich mit Werkzeugen ausstatten, etwa über MCP-Server (Model Context Protocol), eigene Funktionsaufrufe oder Standardkonnektoren zu anderen Produkten. Erst dadurch können sie nicht nur antworten, sondern auch Daten abrufen und Aktionen in anderen Systemen ausführen.
• Wissen: Agenten greifen auf das Wissen der eigenen Organisation zu, sodass ihre Antworten auf den eigenen Dokumenten beruhen. Hochgeladene Dateien lassen sich über die integrierte Dateisuche nach dem RAG-Prinzip (Retrieval-Augmented Generation) erschließen. Wer bereits eine Azure-AI-Search-Instanz betreibt, kann auch diese anbinden, ebenso wie bestehende SharePoint-Ablagen.
• Steuerung: Zugriffe werden über Rollen und Rechte in Microsoft Entra ID gesteuert, sodass klar geregelt ist, wer Agenten entwickeln, verändern oder nutzen darf. Über das integrierte Monitoring lassen sich Nutzung, Antwortqualität und Fehler nachvollziehen. Abgerechnet wird nach tatsächlicher Nutzung (Pay-per-Use) über das bestehende Azure-Abonnement, in dem sich die Kosten auch laufend überwachen lassen. Zudem können Agenten in getrennten Foundry-Projekten aufgesetzt werden, etwa pro Abteilung, Anwendung oder Kunde, jeweils mit eigenen Berechtigungen und Ressourcen.
• Weitere Services: Ergänzend stellt Foundry spezialisierte KI-Dienste bereit, etwa Speech-to-Text und Text-to-Speech für die Spracheingabe und -ausgabe oder Document Intelligence zur Auswertung von Dokumenten mithilfe von optischer Zeichenerkennung (OCR).
   

Was in Foundry entsteht, lässt sich auf zwei Wegen nutzen: Agenten können direkt in Microsoft Teams und Microsoft 365 Copilot veröffentlicht werden und stehen so allen Mitarbeitenden im gewohnten Arbeitsumfeld zur Verfügung. Gleichzeitig lassen sich dieselben Agenten und Modelle über Programmierschnittstellen und das Microsoft Foundry SDK in eigene Software integrieren. Genau diesen Weg gehen wir bei HeDoKi und Simpa.

Warum Foundry naheliegt, wenn Microsoft schon im Haus ist

Viele Unternehmen und Organisationen arbeiten längst mit Microsoft 365. Ob im Mittelstand, in der öffentlichen Verwaltung oder bei gemeinnützigen Organisationen wie Kita-Trägern: Outlook, Teams und SharePoint gehören vielerorts zum Arbeitsalltag, und die Mitarbeitenden melden sich mit ihrem Microsoft-Konto an.
Zwar gibt es Bestrebungen hin zu Open-Source-Lösungen, doch die Microsoft-Umgebung ist in den meisten Organisationen etabliert und eingespielt. Hinzu kommen vergünstigte Konditionen: Gemeinnützige Organisationen erhalten, Stand 2026, über das Programm Microsoft for Nonprofits deutliche Rabatte auf Microsoft 365 und zusätzlich ein jährliches Azure-Guthaben von 2.000 US-Dollar, das sich auch für KI-Dienste in Foundry einsetzen lässt. Auch wir sehen nicht alles bei Microsoft unkritisch. Doch für Organisationen, die bereits in dieser Umgebung arbeiten, liegen die Vorteile bei KI-Projekten auf der Hand, denn sie können direkt auf dem Vorhandenen aufbauen.

Konkret bringt eine bestehende Microsoft-Umgebung bereits mehrere Bausteine mit, die ein KI-Projekt sonst erst mühsam aufbauen müsste:

• Identität und Berechtigungen: Mit Microsoft Entra ID ist bereits ein vollwertiger Identitätsanbieter vorhanden. Mitarbeitende melden sich mit ihrem bestehenden Konto an, und über Gruppen, Rollen und Zugriffsebenen ist geregelt, wer welche Informationen sehen und bearbeiten darf. Diese Struktur lässt sich direkt auf KI-Anwendungen und Agenten übertragen.
• Vernetzung mit dem Arbeitsalltag: Teams, Outlook, SharePoint und weitere Anwendungen sind bereits im Einsatz und miteinander verbunden. In Foundry lassen sich diese Dienste über Konnektoren als Wissensquelle oder Werkzeug für Agenten einbinden. Umgekehrt können fertige Agenten genau dort bereitgestellt werden, wo Mitarbeitende ohnehin arbeiten, etwa in Teams.
• Datenschutz: Die bestehenden Verträge mit Microsoft gelten auch für Foundry. Die Verarbeitung lässt sich auf die EU-Datenzone beschränken, sodass die Daten die EU nicht verlassen.
• Abrechnung und Betrieb: Kosten laufen über den vorhandenen Microsoft-Vertrag, die IT kennt die Umgebung.

Gerade in sensiblen Bereichen wie der Kinderbetreuung zählt das doppelt, denn hier geht es um besonders schutzwürdige Daten. Statt bei null zu beginnen, erweitert man, was die Organisation ohnehin schon nutzt und abgesichert hat. Wie das in der Praxis aussieht, zeigen wir an unseren beiden Produkten, beginnend mit HeDoKi, das genau in diesem Umfeld im Einsatz ist.

Aus der Praxis: HeDoKi und der KI-Assistent KiKi

HeDoKi ist unsere digitale Dokumentationslösung für Kitas, die von enpit entwickelt und vertrieben wird. Entstanden ist sie gemeinsam mit dem Kreissportbund Borken e.V., einem gemeinnützigen Träger mit elf Kitas. Dort ist HeDoKi seit August 2026 mit echten Fachkräften und echten Daten im täglichen Einsatz und fester Bestandteil des Qualitätsmanagementsystems. Das Leitmotiv dahinter lautet: weniger Verwaltung, mehr Zeit am Kind. Pädagogische Fachkräfte müssen immer mehr Dokumentations- und Verwaltungsaufgaben erfüllen, viele davon gesetzlich vorgeschrieben. Diese Zeit fehlt am Ende bei den Kindern. HeDoKi und der integrierte KI-Assistent KiKi sollen Abläufe vereinfachen und den Fachkräften genau diese Zeit zurückgeben.

Wie das aussieht, zeigen zwei Situationen aus dem Kita-Alltag. Zur Abholzeit steht eine Frau in der Tür, die die Fachkraft noch nie gesehen hat. Sie stellt sich als Tante vor und möchte Emil mitnehmen. Ist sie abholberechtigt? Bisher hieß das, ins Büro zu gehen, die Akte herauszusuchen und die Liste der Abholberechtigten zu prüfen, während Emil und seine Tante warten. Mit HeDoKi genügt eine kurze Frage an KiKi, und die Fachkraft sieht sofort, wer Emil abholen darf. Am Nachmittag ruft eine Mutter an und teilt mit, dass ihr Sohn zu Hause gerade viel über den bevorstehenden Schulwechsel spricht und dabei unsicher wirkt. Statt sich eine Notiz zu machen und sie später abzutippen, spricht die Fachkraft die Informationen direkt ein. KiKi hält sie in der Kinderakte fest und berücksichtigt sie, wenn das nächste Elterngespräch vorbereitet wird. Den Entwurf prüft die Fachkraft anschließend nur noch und ergänzt ihn bei Bedarf.

Technisch basiert KiKi auf Microsoft Foundry. Zusammengefasst unterstützt der Assistent die Fachkräfte bei drei Aufgaben:

• Beobachtungen und Daten schnell erfassen: Fachkräfte sprechen Beobachtungen oder neue Informationen, etwa aus einem Elterntelefonat, über die Funktion Parlo einfach ein. KiKi legt sie strukturiert in der Kinderakte ab.
• Kinderdaten abfragen: Informationen zu einem Kind lassen sich direkt im Gespräch nachschlagen.
• Interne Wissensbasis nutzen: KiKi beantwortet Fragen auf Grundlage der Dokumente und Vorgaben des Trägers.

Entscheidend ist dabei: KiKi arbeitet immer mit den Rechten der angemeldeten Person. Der Assistent kann nur auf Daten zugreifen, die diese Person auch selbst sehen darf. Eine Fachkraft aus Kita A erhält über KiKi also keine Informationen aus Kita B.

Aus der Praxis: Simpa

Simpa ist unsere simple HR-Software. Sie setzt keine Microsoft-Umgebung voraus und funktioniert auch eigenständig. Organisationen, die bereits mit Microsoft arbeiten, können Simpa aber gezielt erweitern: Die Anmeldung ist dann über das bestehende Microsoft-Konto (Entra ID) möglich, und optionale KI-Funktionen lassen sich über Microsoft Foundry zuschalten.

Wer die KI-Funktionen aktiviert, bekommt zum Beispiel:

• Textglättung: Formulierungen in HR-Texten werden auf Knopfdruck klarer und einheitlicher.
• Spracheingabe: Inhalte lassen sich diktieren statt tippen (Speech-to-Text).

Ein typisches Beispiel ist das Mitarbeitergespräch. Eine Teamleiterin führt am Vormittag drei Jahresgespräche hintereinander. Für ausführliche Notizen bleibt zwischen den Terminen kaum Zeit, und später fehlen oft Details. Mit Simpa spricht sie direkt im Anschluss an jedes Gespräch die wichtigsten Punkte ein: vereinbarte Ziele, Wünsche zur Weiterbildung, offene Themen. Die Spracheingabe wandelt das Gesprochene in Text um. Anschließend formt die Textglättung aus den spontan formulierten Stichpunkten ein klares, einheitliches Protokoll. Die Teamleiterin prüft das Ergebnis und gibt es frei, ohne dass sie später noch einmal alles von Hand ausformulieren muss.

Wir zeigen dir, wie es geht

Mit HeDoKi und Simpa haben wir zwei Produkte im laufenden Betrieb, in denen KI ein wichtiger Bestandteil ist. Beide sind im Arbeitsalltag ihrer Nutzerinnen und Nutzer angekommen, und in beiden setzen wir auf Microsoft Foundry.

Unsere Erfahrung dabei: Ein Sprachmodell anzubinden, ist der kleinste Teil der Arbeit. Entscheidend ist, Werkzeuge und Datenquellen sicher zu integrieren und Agenten mit klaren Leitplanken auszustatten. Dazu gehört, genau festzulegen, welche Tools ein Agent nutzen darf und wie er konfiguriert ist. Hinzu kommt der dauerhafte Betrieb mit Observability, also der Nachvollziehbarkeit dessen, was ein Agent tut, und einer verlässlichen Kostenkontrolle.

Sprich uns an

Rund um Microsoft Foundry bieten wir Workshops für Unternehmen und Organisationen an. Wenn du zunächst herausfinden möchtest, ob und wie KI in deinem Umfeld sinnvoll ist, nutze unsere KI-Sprechstunde für eine kostenlose Erstberatung. Und wenn du dich für eine Kita-Lösung oder für eine simple digitale Personalakte mit KI-Funktionen interessierst, zeigen wir dir HeDoKi und Simpa gern in einer Demo.

Bei Interesse kannst du direkt einen Termin mit Jonas Ludwig vereinbaren. Er ist Solutions Architect Web & AI bei enpit und zertifizierter Microsoft Azure AI Apps and Agents Developer Associate (AI-103). Er hat die KI-Architektur von HeDoKi technisch verantwortet, bereits verschiedene Projekte mit Microsoft Foundry umgesetzt und zahlreiche Kunden rund um die Plattform beraten.

Jetzt Termin mit Jonas vereinbaren

Wir freuen uns auf deine Kontaktaufnahme. Lass uns gemeinsam dein KI-Projekt voranbringen 🚀