Microsoft Foundry Local: KI-Modelle lokal ausführen

Am 19. Mai 2025 wurde Microsoft Foundry Local im Preview veröffentlicht. Es ermöglicht Ihnen, KI-Modelle direkt auf Windows und macOS-Geräten auszuführen. Dadurch werden Abhängigkeiten von der Cloud eliminiert und gleichzeitig die Leistung, der Datenschutz und die Kontrolle über sensible Daten maximiert.

Was ist Foundry Local?

Foundry Local ist die neue lokale KI-Plattform von Microsoft, die die erweiterten Funktionen von Azure AI Foundry direkt auf Ihren Desktop oder On-Premises-Server bringt. Ganz gleich, ob Sie ein Entwickler oder Teil eines Unternehmensteams sind, mit Foundry Local können Sie schnelle, sichere und intelligente Anwendungen erstellen – ohne eine Verbindung zur Cloud herstellen zu müssen.

Wichtige Merkmale:

• Führen Sie KI-Modelle direkt auf Ihrem Gerät aus: Mit Foundry Local können Sie Modelle direkt auf Ihrem Laptop oder Desktop ausführen und alles auf Ihrer eigenen Hardware belassen.
• Verwenden Sie vorgefertigte Modelle oder Ihre eigenen: Sie können aus vorgefertigten AI-Modellen wählen oder Ihre eigenen hochladen, je nachdem, was Ihr Projekt benötigt.
• Sparen Sie Geld, indem Sie nutzen, was Sie bereits haben: Da Foundry Local auf Ihren vorhandenen Geräten läuft, vermeiden Sie laufende Gebühren für Cloud Services.
• Einfache Verbindung mit Ihren Anwendungen: Foundry Local funktioniert reibungslos mit Ihren Tools über eine Befehlszeilenschnittstelle (CLI), ein Software Development Kit (SDK) oder eine REST API. Und wenn Ihr Bedarf wächst, können Sie auf Azure AI Foundry in der Cloud aufstocken.
• Funktioniert auf Windows und macOS: Egal, ob Sie mit einem PC oder einem Mac arbeiten, Sie können Ihre KI-Apps auf beiden Plattformen erstellen und ausführen.
• Besonders gut für Tests: Sie können Foundry Local zum Testen Ihrer KI-Modelle lokal nutzen und sie, wenn Sie bereit sind, für einen breiteren Einsatz in die Cloud verschieben.

Wie es funktioniert (Architektur)

• Foundry Local Service läuft auf Ihrem Gerät und bietet eine OpenAI-kompatible API, mit der Ihre Anwendungen Anfragen senden, Modelle ausführen und Ergebnisse empfangen können – alles lokal.
• ONNX Runtime ist die Engine, die KI-Modelle effizient auf Ihrer Hardware ausführt, unabhängig davon, ob es sich um eine CPU, GPU oder NPU handelt, und unterstützt eine Vielzahl von Geräten von Herstellern wie Intel, AMD, NVIDIA und Apple.
• Model Cache speichert heruntergeladene Modelle auf Ihrem Gerät, so dass sie jederzeit einsatzbereit sind, ohne dass sie erneut heruntergeladen werden müssen, was die Inferenz beschleunigt.
• CLI und SDK Access ermöglichen es Entwicklern, Modelle zu verwalten und Inferenzen mit einfachen Befehlen auszuführen oder Foundry Local direkt in ihre Anwendungen zu integrieren.
• Die Hardware-Abstraktion stellt sicher, dass Foundry Local automatisch die beste verfügbare Hardware für jede Aufgabe auswählt und so plattformübergreifend eine schnelle und optimierte Leistung liefert.

Verfügbarkeit: Öffentliche Vorschau

Die öffentliche Vorschau ist eine Phase des frühen Zugangs, in der das Produkt der Öffentlichkeit zur Verfügung steht, aber noch nicht als vollständig produktionsreif angesehen wird. Für Foundry Local bedeutet dies:

• Sie können es jetzt unter Windows oder macOS herunterladen und verwenden.
• Es ist funktionell brauchbar, aber einige Funktionen sind möglicherweise noch in der Entwicklung oder eingeschränkt.
• Microsoft kann APIs, Verhaltensweisen oder Funktionen vor der Veröffentlichung der General Availability (GA) ändern.
• Es ist jedoch noch nicht für verteilte oder containerisierte Produktionsimplementierungen vorgesehen.

Der Termin für die allgemeine Verfügbarkeit wurde noch nicht von Microsoft bekannt gegeben.

Lizenzierung & Kosten

• Die Installation und Nutzung von Foundry Local selbst ist kostenlos.
• Die Nutzung der Modelle kann jedoch Kosten verursachen, je nachdem, welches Modell Sie verwenden möchten. Einige Modelle sind quelloffen (open-source) und kostenlos, für andere ist eine Lizenz erforderlich.
• Sie benötigen keine Subskription für Azure, um Foundry Local zu nutzen – es läuft vollständig auf Ihrem lokalen Rechner.

Wie Sie überprüfen können, ob ein Agent Kosten verursacht

Sie können die Foundry-Befehlszeilenschnittstelle (CLI) verwenden, um den Agenten oder das Modell zu überprüfen:

foundry agent info background-remover --license

Hier sehen Sie die Lizenzierungsbedingungen und ob Nutzungsbeschränkungen oder Gebühren anfallen.

Installation & Schnellstart

So installieren Sie Foundry Local:

Windows:

winget install Microsoft.FoundryLocal

macOS:

brew tap microsoft/foundrylocal
brew install foundrylocal

So führen Sie Ihr erstes Modell aus:

foundry model run phi-3.5-mini

Wie Sie für lizenzierte Modelle oder Agenten in Foundry Local bezahlen

Zum jetzigen Zeitpunkt ist Foundry Local selbst kostenlos, aber für lizenzierte Modelle oder Agenten ist möglicherweise ein separater Vertrag oder Lizenzschlüssel erforderlich.

1. Lizenz akzeptieren über CLI

Wenn Sie ein Modell oder einen Agenten installieren oder ausführen, werden Sie von Foundry Local möglicherweise aufgefordert, eine Lizenz zu akzeptieren. Dies geschieht häufig über die CLI:

foundry model info <model-name> --license

Wenn für das Modell eine Zahlung erforderlich ist, wird in den Lizenzbedingungen angegeben, wie Sie vorgehen müssen – dazu kann ein Link zu einem Lizenzierungsportal von Microsoft oder einem Drittanbieter gehören.

2. Microsoft Marketplace oder Partner-Lizenzierung

Für kommerzielle Modelle kann Microsoft die Lizenzierung durchleiten:

• Azure Marketplace
• Anbieter von Drittanbietern
• Direkte Microsoft Lizenzierungsvereinbarungen

In diesen Fällen werden Sie möglicherweise um Folgendes gebeten:

• Einen Lizenzschlüssel zu erwerben
• Einen Nutzungsplan zu abonnieren
• Die Bedingungen für den kommerziellen Einsatz zu akzeptieren

3. Keine Azure Subskription erforderlich

Auch wenn das Modell von Azure AI Foundry stammt, benötigen Sie keine Azure Subskription, um es lokal auszuführen. Aber wenn das Modell lizenziert ist, müssen Sie trotzdem den Eigentümer des Modells bezahlen, nicht unbedingt Microsoft.

Weitere Informationen

• Erfahren Sie mehr über die Integration von Foundry Local in Windows AI Foundry: https://blogs.windows.com/windowsdeveloper/2025/05/19/advancing-windows-for-ai-development-new-platform-capabilities-and-tools-introduced-at-build-2025/.
• Erfahren Sie mehr über die Architektur von Foundry Local: https://learn.microsoft.com/en-us/azure/ai-foundry/foundry-local/concepts/foundry-local-architecture.

Benötigen Sie Hilfe bei der Lizenzierung?

Wenden Sie sich an unsere Lizenzexperten bei SCHNEIDER IT MANAGEMENT, um die Einhaltung von Vorschriften sicherzustellen und Ihre KI-Lizenzierungsstrategie zu optimieren.