Ihr Team hat einen ersten KI-Agenten gebaut, mit der OpenAI-Schnittstelle und ein paar Zeilen Python. Die Demo überzeugt, doch dann kommen Fragen auf: Wie bringen wir das in den Betrieb? Wer darf es nutzen? Wie merken wir, wenn der Agent Unsinn erzählt? Genau hier, wo die eigentliche Arbeit beginnt, setzt Microsoft Foundry an.
Microsoft Foundry ist Microsofts Azure-Plattform, auf der Unternehmen KI-Agenten und KI-Anwendungen bauen, betreiben und überwachen können. Sie bündelt einen Katalog mit mehr als 10.000 Modellen, eine verwaltete Laufzeit für Agenten, Werkzeuge, Wissensanbindung sowie Bewertung und Schutzregeln in einem Portal. Ob sie sich lohnt, hängt davon ab, ob Sie mehr als einen einzelnen Modellaufruf benötigen.
Was ist Microsoft Foundry?
Bei Microsoft Foundry handelt es sich um eine Azure-Plattform, die alles zusammenführt, was ein KI-Agent vom Prototyp bis in den Betrieb braucht. Dazu gehören Modelle, Werkzeuge, Wissen, Laufzeit, Bewertung und Steuerung. Technisch ist es eine einzige Azure-Ressource mit Projekten darin, die als getrennte Arbeitsbereiche für Teams oder Anwendungsfälle dienen.
Bisher mussten Teams diese Teile selbst zusammensetzen. Dazu baute man Agenten in einem Framework, packte sie in einen Container und betrieb sie beispielsweise auf Kubernetes. Anmeldung, Protokollierung und Überwachung mussten ebenfalls selbst ergänzt werden. Jetzt kann Foundry diesen Betrieb übernehmen, sodass sich das Team auf den Agenten konzentrieren kann. Seit März 2026 sind Agent Service und Portal laut Microsoft allgemein verfügbar.
Agenten auf Foundry oder Databricks planen? Wir kennen beide Seiten.
Wir sind Partner von Microsoft und von Databricks, deshalb sagen wir Ihnen offen, wo Ihr Agent besser aufgehoben ist. Wir bauen ihn gemeinsam mit Ihrem Team und bleiben, bis er läuft.
Ein Name, drei Generationen: Aus Azure AI Studio wurde Azure AI Foundry, und auf der Ignite im November 2025 folgte die Umbenennung in Microsoft Foundry. Mit der neuen Generation kamen ein anderes Ressourcenmodell, neue Programmierschnittstellen (die Responses API ersetzt das alte Konzept aus Threads und Runs) und ein neues Portal hinzu. Die alte Umgebung heißt jetzt „Foundry (classic)“ und wird nicht mehr weiterentwickelt. Anleitungen von vor 2026 sollten Sie daher prüfen, bevor Sie sie befolgen.
Microsoft Foundry vs. Copilot Studio vs. Azure OpenAI:
- Foundry ist die Plattform für Entwicklerteams, die eigene Agenten mit Code oder im Portal bauen und selbst betreiben möchten
- Copilot Studio richtet sich an Fachbereiche, die Assistenten mit wenig Code direkt in Microsoft 365 erstellen
- Azure OpenAI reicht laut Microsoft als eigenständige Ressource, wenn Sie nur Modelle aufrufen, ohne Agenten zu betreiben oder zu bewerten
- Der Unterschied in der Anwendung. Ein FAQ-Assistent für die Personalabteilung ist ein Fall für Copilot Studio. Ein Agent, der Kundendaten abruft, Preise kalkuliert und ein Angebot erzeugt, ist ein Fall für Foundry.
Aus welchen Bausteinen besteht Foundry?
Microsoft veröffentlicht fast monatlich neue Funktionen. Wichtiger als jede einzelne Funktion selbst ist daher der jeweilige Status. Was allgemein verfügbar ist, können Sie produktiv einsetzen, was jedoch in der Vorschau ist, kann sich noch ändern und hat meist keine Service-Zusage.
| Baustein | Wofür | Status (Stand Nov. 2026) |
| Foundry Models | Katalog mit Modellen von OpenAI, Anthropic, Meta, Mistral, DeepSeek, Microsoft und vielen Open-Source-Anbietern | allgemein verfügbar |
| Agent Service | Laufzeit für Agenten, als konfigurierter Agent oder mit eigenem Code | allgemein verfügbar |
| Werkzeuge (Tools) | Anbindung an Websuche, eigene Schnittstellen und Systeme über MCP und OpenAPI | allgemein verfügbar, einzelne Werkzeuge in Vorschau |
| Foundry IQ | Wissensschicht für Unternehmensdaten aus SharePoint, OneLake und weiteren Quellen | Schnittstelle allgemein verfügbar, Portal in Vorschau |
| Bewertung und Nachverfolgung | Antwortqualität prüfen, Abläufe Schritt für Schritt nachvollziehen | weitgehend allgemein verfügbar |
| Schutzregeln (Guardrails) | Schutz vor Manipulationsversuchen, unerwünschten Inhalten und Regelverstößen | für Modelle allgemein verfügbar, für Agenten in Vorschau |
| Gedächtnis (Memory) | Agenten merken sich Informationen über einzelne Gespräche hinaus | Vorschau |
| Control Plane | Übersicht über alle Agenten, Kosten, Kontingente und Regeltreue | Überwachung in Vorschau |
Modelle: Freie Wahl statt Festlegung auf einen Anbieter
Microsoft nennt mehr als 10.000 Modelle im Katalog. Beim Datasolut-Test im Portal waren es schon über 11.000. Sie lassen sich nach einzelnen Fähigkeiten, wie Sprachsteuerung oder Bilderzeugung, filtern und direkt miteinander vergleichen. Erscheint ein besseres oder günstigeres Modell, können Unternehmen es im Agenten austauschen, statt die Architektur neu zu bauen. Eine Garantie für jeden Wechsel ist das allerdings nicht, da manche Anbieter wie Anthropic eigene Schnittstellen nutzen.
Expertentipp von Laurenz, CTO bei Datasolut: Legen Sie nicht jeden Agenten auf das stärkste Modell fest, sondern nutzen Sie den Model Router. Er schickt einfache Fragen an ein kleines, günstiges Modell und nur die schwierigen an ein großes. So sparen Sie Kosten und Wartezeit, ohne dass die Antwortqualität bei komplexen Fragen leidet.
Agenten: Im Portal konfigurieren oder mit eigenem Code
Ein Agent besteht in Foundry aus einem Modell, einer Anweisung (dem Systemprompt) und Werkzeugen. Agenten lassen sich in Foundry auf zwei Wegen erstellen. Zum einen gibt es Prompt-Agenten, die Sie direkt im Portal konfigurieren. Foundry übernimmt ihren Betrieb vollständig. Zum anderen gibt es gehostete Agenten, die Sie mit eigenem Code bauen, z. B. mit dem Microsoft Agent Framework oder LangGraph. Jede ihrer Sitzungen führt Foundry in einer eigenen, abgeschotteten Umgebung aus. Gehostete Agenten sind bereits seit Juli 2026 allgemein verfügbar.
Darüber hinaus lassen sich fertige Agenten direkt aus Foundry in Microsoft Teams und Microsoft 365 Copilot veröffentlichen. Diese Funktion ist seit Juni 2026 allgemein verfügbar.
Wie das aussieht, zeigt Laurenz im Video. Er baut einen Angebotsagenten, der Kundendaten abruft, Preise kalkuliert und das fertige Dokument ausgibt. Das funktioniert alles im Browser und ohne eine Zeile Code.
Wichtig, wenn Sie das Video schon kennen: Die dort gezeigten Workflows stellt Microsoft zum 1. Dezember 2026 ein. Für Abläufe mit mehreren Agenten empfiehlt Microsoft künftig das Microsoft Agent Framework. Bauen Sie neue Vorhaben deshalb nicht mehr auf Workflows auf.
Werkzeuge und Wissen: Damit Agenten handeln statt nur antworten
Ein Agent, der nur chattet, bringt wenig. Erst über Werkzeuge kann er auf Systeme zugreifen, wie beispielsweise eine Datenbank, ein CRM oder eine eigene Schnittstelle. Foundry bietet dafür einen Katalog mit vorkonfigurierten Werkzeugen und unterstützt MCP, einen offenen Standard, über den Agenten mit fremden Systemen sprechen. Den Unterschied zwischen Wissen und Fähigkeiten erklären wir im Beitrag RAG vs. MCP.
Für Dokumente und internes Wissen gibt es außerdem Foundry IQ. Foundry IQ gehört zu Microsoft IQ, einer übergreifenden Wissensschicht. Dazu zählen auch Work IQ für Daten aus Microsoft 365 und Fabric IQ für Daten aus Microsoft Fabric. Es verbindet Agenten mit Quellen wie SharePoint oder OneLake und berücksichtigt dabei, welche Inhalte die fragende Person sehen darf. So zeigt ein Wissensassistent dem Vertrieb in einem Unternehmen keine Personalakten an, selbst wenn sie im selben Index liegen wie die Vertriebsunterlagen.
Betrieb und Steuerung: Den Überblick behalten
Unter „Betrieb steuern“ sehen Sie, wie viele Agenten laufen, was sie tun, was sie kosten und ob sie die Regeln einhalten. Mit Bewertungen prüft ein zweites Modell die Antworten Ihres Agenten auf Qualität. Schutzregeln blockieren zum Beispiel Versuche, den Agenten zu manipulieren. Gerade diese Funktionen sind aber noch zu großen Teilen in der Vorschau. Für produktive Agenten mit sensiblen Daten sollten Sie deshalb früh klären, welche Überwachung Sie zusätzlich selbst einrichten.
Foundry und Databricks arbeiten zusammen, statt sich auszuschließen
Viele unserer Gesprächspartner haben ihre Daten längst auf Databricks und fragen sich, ob Foundry eine zweite Welt aufmacht. Unsere Antwort lautet nein, sofern man die Aufgaben sauber trennt. Databricks bleibt die Datenplattform mit Unity Catalog als Rechte- und Herkunftsverwaltung. Foundry kann die Ebene sein, auf der Agenten für Microsoft 365 und Teams entstehen.
Die Brücke ist Azure Databricks Genie. Genie beantwortet Fragen in natürlicher Sprache auf Grundlage Ihrer Lakehouse-Daten und lässt sich über einen MCP-Server als Werkzeug in Foundry einbinden. Die Person meldet sich dabei mit ihrem eigenen Databricks-Konto an, sodass ihre Rechte aus Unity Catalog gelten. Ein Foundry-Agent in Teams kann so beantworten, wie sich der Umsatz einer Region entwickelt hat, ohne dass Daten kopiert werden müssen.
Expertentipp von Laurenz, CTO bei Datasolut: Den Genie-MCP-Server habe ich selbst in Foundry ausprobiert und genau hier wird es für Databricks-Kunden interessant. Sie sollten allerdings vorher die Grenzen prüfen, da die Anbindung noch in der öffentlichen Vorschau ist und die Genie-Schnittstelle nur rund fünf Fragen pro Minute und Arbeitsbereich verarbeitet. Für einen Pilot reicht das zwar, für einen Agenten mit Hunderten Nutzern aber nicht.
Wie gut Genie antwortet, entscheidet sich übrigens nicht in Foundry, sondern im Genie Space selbst. Worauf es dabei ankommt, zeigt unser Use Case zum Aufbau eines Genie Space auf Databricks.
Wann Foundry, wann Databricks, wann beides?
| Ausgangslage | Unsere Empfehlung |
| Daten und Agenten sollen auf einer Plattform liegen, Nutzer arbeiten im Browser oder in eigenen Apps | Agenten auf Databricks, etwa mit Agent Bricks |
| Agenten sollen in Teams und Microsoft 365 erscheinen, das Unternehmen setzt auf Azure | Foundry |
| Daten liegen auf Databricks, Agenten sollen in Teams arbeiten | Beides: Foundry für den Agenten, Genie als Werkzeug für die Datenfragen |
| Fachbereich will einen Assistenten ohne Entwicklerteam | Copilot Studio |
Was kostet Microsoft Foundry?
Foundry selbst hat keine Lizenzgebühr. Das Portal zu erkunden kostet nichts, allerdings wird jeder genutzte Dienst bezahlt. Das klingt erst einmal günstig, kann aber unübersichtlich werden, weil sich die Rechnung aus mehreren Posten zusammensetzt:
| Kostenblock | Wonach abgerechnet wird |
| Modelle | Verbrauchte Tokens (Wortteile) oder fest reservierte Kapazität pro Stunde |
| Gehostete Agenten | Modellnutzung, Werkzeugaufrufe und Rechenzeit für Ihren Code |
| Wissen | Suche, Indexierung und Speicher, etwa über Azure AI Search |
| Betrieb | Protokolle, Überwachung und Bewertungsläufe |
Quelle: Microsoft Learn, Architektur von Foundry
In der Pilotphase reicht die Abrechnung nach Verbrauch. Reservierte Kapazität lohnt sich erst bei hoher, gleichmäßiger Last. Eine feste Schwelle dafür nennt Microsoft nicht, daher lässt sich das nur mit Ihren eigenen Nutzungsdaten seriös rechnen.
Eine Anmerkung zum Datenschutz: Wo Ihre Daten verarbeitet werden, hängt von der Art der Bereitstellung ab. „Global“ kann weltweit verarbeiten, „Data Zone EU“ innerhalb der EU, „Regional“ nur in der gewählten Region. Bei Modellen von Anthropic gibt es zudem eine Variante, die auf Anthropics eigener Infrastruktur läuft, also außerhalb von Azure. Eine EU-Region im Portal auszuwählen genügt deshalb nicht. Sie sollten für jedes Modell prüfen, wo es tatsächlich rechnet.
Für wen lohnt sich Foundry, und wo liegen die Grenzen?
Laut Microsoft nutzten im Oktober 2025 rund 80.000 Unternehmen die Plattform, darunter 80 Prozent der Fortune 500. Das zeigt, dass Foundry kein Nischenprodukt ist. Ob es zu Ihnen passt, entscheidet aber weiterhin Ihre Ausgangslage und nicht die allgemeine Verbreitung.
Foundry lohnt sich besonders, wenn…
- Ihr Unternehmen auf Azure und Microsoft 365 arbeitet und Agenten dort erscheinen sollen, wo Ihre Leute ohnehin arbeiten, z. B. in Teams oder Microsoft 365 Copilot
- Sie mehr als einen Agenten planen und Rechte, Kosten und Qualität zentral steuern möchten
- Ihr Team Modelle vergleichen und je nach Aufgabe wechseln will
- ein Entwicklerteam vorhanden ist (intern oder mit einem Partner)
Foundry ist (noch) nicht die richtige Wahl, wenn…
- Sie nur einzelne Modellaufrufe brauchen, dann reicht eine Azure-OpenAI-Ressource
- ein Fachbereich ohne Entwickler einen Assistenten bauen will. Copilot Studio ist hier der kürzere Weg
- Ihre Daten noch verstreut und ungeklärt sind. Ein Agent ist nur so gut wie die Daten, auf die er zugreift
Typische Anwendungsfälle im Mittelstand: ein Wissensassistent für Handbücher und Richtlinien, ein Agent für Datenfragen in Teams, die Automatisierung von Angebotserstellung oder Dokumentenprüfung. Wie solche Bausteine im Projekt aussehen, zeigen unsere Use Cases zur automatisierten Dokumentenverarbeitung mit Azure Document Intelligence und zum Sales Support Agent mit generativer KI.
Unsere ehrliche Einschätzung: Nicht für jede Aufgabe braucht es einen Agenten. Wenn eine Prognose oder eine feste Regel das Problem löst, ist das schneller gebaut und stabiler im Betrieb. Das sagen wir auch dann, wenn wir dadurch kein Agentenprojekt bekommen.
Foundry einführen in drei Schritten
Schritt 1: Klarheit, ob es überhaupt ein Agent sein muss
Wir prüfen gemeinsam, welcher Anwendungsfall den größten Nutzen bringt und ob er agentisch gelöst werden sollte. Danach klären wir, ob Copilot Studio, Foundry oder Databricks die passende Plattform zur Umsetzung ist und welche Daten der Agent braucht.
Schritt 2: Ein Pilot mit echten Daten statt einer Demo
Der erste Agent arbeitet mit freigegebenen Unternehmensdaten und den richtigen Berechtigungen, nicht mit Testdateien. Wir legen fest, welches Modell er nutzt, wo es rechnet und wie wir seine Antworten bewerten. Funktionen in der Vorschau setzen wir bewusst nur dort ein, wo ein Ausfall verkraftbar ist.
Schritt 3: Betrieb, bevor der zweite Agent kommt
Erst wenn Überwachung, Kostengrenzen und Zuständigkeiten stehen, sollten weitere Agenten oder Abteilungen folgen. So vermeiden Sie das Muster, dass schnelle erste Erfolge beim dritten Agenten zum Problem werden, weil die Steuerung nachträglich eingezogen werden muss.
Fazit: Foundry löst den Betrieb, nicht die Frage nach dem richtigen Anwendungsfall
Microsoft Foundry nimmt Ihrem Team die mühsamste Arbeit ab: Agenten betreiben, absichern, überwachen und Modelle austauschen, ohne verschiedene Azure-Dienste selbst zusammenzustecken. Am stärksten ist die Plattform dort, wo Agenten in Teams und Microsoft 365 arbeiten sollen und mehr als ein Agent geplant ist. Mit Databricks konkurriert sie dabei nicht. Über Genie greifen Foundry-Agenten mit den Rechten aus Unity Catalog auf Ihre Lakehouse-Daten zu.
Zwei Dinge nimmt Foundry Ihnen aber nicht ab. Erstens die Entscheidung, ob eine Aufgabe überhaupt einen Agenten braucht. Zweitens saubere, freigegebene Daten, auf die der Agent zugreifen kann. Zudem ist nicht jeder Baustein fertig. Funktionen wie Überwachung, Gedächtnis und Teile der Steuerung befinden sich noch in der Vorschau.
Der richtige Zeitpunkt für Foundry ist deshalb dann, wenn ein konkreter Anwendungsfall feststeht und der Weg vom Prototyp in den Betrieb ansteht. Stand heute ist das für viele Microsoft-Kunden ein guter Einstieg. Auf der Ignite vom 17. bis 20. November 2026 erwarten wir die nächsten Neuerungen. Wir beobachten das und aktualisieren diesen Artikel.
Nächster Schritt: Kostenlose Erstberatung
In 30 Minuten klären wir gemeinsam, ob Foundry zu Ihrer Ausgangslage passt oder ob Databricks, Copilot Studio oder eine Kombination die bessere Wahl ist. Wenn Sie gar keinen Agenten brauchen sollten, sagen wir Ihnen natürlich auch das.
Häufig gestellte Fragen zu Microsoft Foundry
Microsoft Foundry ist der aktuelle Name, Azure AI Foundry der frühere. Microsoft hat die Plattform auf der Ignite im November 2025 umbenannt und dabei auch Portal, Ressourcenmodell und Schnittstellen technisch erneuert. Die alte Umgebung läuft als „Foundry (classic)“ weiter, bekommt aber keine neuen Funktionen. Anleitungen für Azure AI Foundry passen deshalb nicht immer auf die neue Version.
Nein. Die Plattform selbst kostet keine Lizenz und es ist kostenlos, das Portal zu erkunden. Bezahlt wird aber jeder genutzte Dienst: Modelle nach Tokens oder reservierter Kapazität, gehostete Agenten nach Rechenzeit, dazu Suche, Speicher und Überwachung. Für eine belastbare Kostenschätzung brauchen Sie die erwartete Zahl der Anfragen und die gewählten Modelle.
Das hängt von der Bereitstellungsart ab. Mit „Data Zone EU“ bleibt die Verarbeitung innerhalb der EU, mit einer regionalen Bereitstellung sogar in der gewählten Region. Bei „Global“ können Ihre Daten dagegen auch außerhalb der EU verarbeitet werden. Einzelne Modelle, etwa von Anthropic, können zusätzlich auf der Infrastruktur des Anbieters laufen. Prüfen Sie den Verarbeitungsort deshalb für jedes Modell einzeln.
Ja. Azure Databricks Genie lässt sich über einen MCP-Server als Werkzeug in Foundry einbinden. Ein Foundry-Agent beantwortet dann Fragen auf Grundlage Ihrer Lakehouse-Daten und die Rechte aus Unity Catalog gelten weiter, weil sich die Person mit ihrem Databricks-Konto anmeldet. Die Anbindung ist noch in der öffentlichen Vorschau und auf ungefähr fünf Fragen pro Minute begrenzt.
Für einen ersten Agenten nicht, da sich Prompt-Agenten vollständig im Portal konfigurieren lassen. Für den produktiven Einsatz schon, da Anbindung an eigene Systeme, Berechtigungen, Netzwerk und Überwachung technisches Wissen erfordern. Wer ohne Entwicklerteam arbeiten will, ist mit Copilot Studio oft besser beraten.
Lassen Sie uns sprechen und Ihr Potenzial entdecken.
Ob und wie künstliche Intelligenz Ihnen weiterhelfen kann, können Sie in einem ersten, unverbindlichen Gespräch mit uns herausfinden.
In diesem Gespräch erfahren Sie:
- Wie Ihr Use-Case technisch am besten umgesetzt werden kann
- Wie wir maximal sicher mit Ihren Kundendaten umgehen
- Wie lange wir für die Umsetzung benötigen und wie ein konkreter Projektplan aussehen könnte