Mit Wirkung zum 18. Juli 2024 ist das schnellste Modell von OpenAI, GPT-4o mini, auf Microsoft Azure OpenAI Service verfügbar. Dieses Modell bietet erhebliche Verbesserungen in Bezug auf Geschwindigkeit, Kosten und mehrsprachige Fähigkeiten. Es unterstützt die Textverarbeitung mit hervorragender Geschwindigkeit, und Bild-, Audio- und Videofunktionen werden später hinzugefügt. Kunden können es kostenlos im Azure OpenAI Studio Playground ausprobieren. 
Was ist GPT-4o Mini?
GPT-4o mini ist ein hocheffizientes KI-Modell, das für die schnelle und kostengünstige Bereitstellung von Anwendungen entwickelt wurde.
Es ist deutlich intelligenter als der GPT-3.5 Turbo und erreicht 82% beim Benchmark Measuring Massive Multitask Language Understanding (MMLU) im Vergleich zu 70% beim GPT-3.5 Turbo.
Außerdem bietet er ein 128K-Kontextfenster und verbesserte mehrsprachige Fähigkeiten. Die Feinabstimmung für GPT-4o mini ist verfügbar, so dass Kunden das Modell für bestimmte Anwendungsfälle und Szenarien anpassen können.
Wesentliche Merkmale
- Geschwindigkeit und Kosten: Mehr als 60% günstiger als GPT-3.5 Turbo.
- Leistung: Erzielt 82% bei MMLU gegenüber GPT-3.5 Turbo, der nur 70% erreicht.
- Kontextfenster: Erweitert auf 128K. Das Kontextfenster bezieht sich auf die Textmenge (gemessen in Tokens), die das Modell bei der Generierung von Antworten auf einmal berücksichtigen kann. Im Wesentlichen ist es der “Speicher” des Modells während einer einzelnen Interaktion. Wenn ein Modell z.B. ein Kontextfenster von 16K Token hat, kann es bis zu 16.000 Token Text aus dem Gesprächsverlauf oder den Eingabedaten berücksichtigen, um seine Antwort zu erzeugen.
- Mehrsprachige Funktionen: Verbesserte Unterstützung für mehrere Sprachen.
- Sicherheitsfunktionen: Enthält Prompt-Schutzschilde, die verhindern, dass das Modell schädliche oder unangemessene Inhalte erzeugt.
Außerdem verfügt es standardmäßig über eine Erkennung von geschütztem Material, die sicherstellt, dass das Modell keine vertraulichen Inhalte weitergibt. - Daten-Residenz: Verfügbar in 27 Regionen, darunter 9 Regionen in Europa.
Eine aktuelle Liste finden Sie hier: https://go.microsoft.com/fwlink/?linkid=2274842&clcid=0x409. - Globales Bezahlen nach Bedarf: Flexible Zahlungsoptionen mit einer hohen Durchsatzgrenze von 15 Millionen Token pro Minute (TPM).
Lizenzierung
GPT-4o mini ist im Rahmen der globalen Pay-as-you-go-Bereitstellung von Azure AI für 0,15$ pro Million Input-Token* und 0,60$ pro Million Output-Token* verfügbar. Dieses Modell ist, wie GPT-3.5 Turbo und GPT-4o, auch über den Azure AI Batch-Service verfügbar, der Jobs mit hohem Durchsatz zu einem ermäßigten Preis anbietet. Batch liefert Aufträge mit hohem Durchsatz innerhalb von 24 Stunden nach der Einreichung zu einem um 50 % reduzierten Preis, indem es Kapazitäten außerhalb der Spitzenzeiten nutzt. Das sind Zeiten, in denen die Nachfrage nach Rechenressourcen geringer ist. Durch die Nutzung dieser Zeiten kann der Dienst einen Rabatt anbieten, da die Ressourcen weniger nachgefragt werden und daher billiger zu nutzen sind.
Modelle im Vergleich
| Merkmal | GPT-4o Mini | GPT-4o | GPT-3.5 Turbo |
| Qualitätsindex | 85 | 100 | 59 |
| MMLU Ergebnis | 82% | 88,7% | 70% |
| Kontextfenster | 128K Token | 128K Token | 16K Token |
| Geschwindigkeit (Ausgabe von Token pro Sekunde) | 108 Token/Sek. | 83 Token/Sek. | 79 Token/Sek. |
| Latenzzeit (Sekunden bis zum ersten empfangenen Token-Chunk; niedriger ist besser) | 0,53 | 0,44 | 0,37 |
| Unterstützte Modalitäten | Text, (zukünftig: Bild, Audio, Video) | Text, Bild, Audio, Video | Text |
| Verfügbarkeit | 27 Regionen | 27 Regionen | 27 Regionen |
| Standard-Preise (Eingabe-Token) | $0,15 / 1M Token* | $5,00 / 1M Token* | $0,50 / 1M Token* |
| Standard-Preise (Ausgabe-Token) | $0,60 / 1M Token* | $15,00 / 1M Token* | $1,50 / 1M Token* |
*Preise können sich ändern.
Leistungsvergleich
Weitere Informationen
Die Ankündigung finden Sie hier: https://azure.microsoft.com/en-us/blog/openais-fastest-model-gpt-4o-mini-is-now-available-on-azure-ai/.
Weitere Informationen zu den Preisen finden Sie hier – die Preise von OpenAI sind die gleichen wie die Preise von Azure OpenAI Studio: https://openai.com/api/pricing/.
Eine Übersicht über die Microsoft-Rechenzentren finden Sie hier: https://datacenters.microsoft.com/globe/explore/.
Einen interaktiven Modellvergleich finden Sie hier: https://artificialanalysis.ai/models/gpt-4o-mini/providers.
Weitere Informationen zur Lizenzierung von Microsoft finden Sie auf unserer Microsoft-Händlerseite unter: https://www.schneider.im/de/software/microsoft/.
Bitte kontaktieren Sie uns für Expertenservices bezüglich Ihren speziellen Anforderungen an Microsoft Software und Online Services und fordern Sie noch heute ein Angebot an.