Die GenAI-APIs von ML Kit nutzen die Leistungsfähigkeit von Gemini Nano, um Ihre Apps bei der Ausführung von Aufgaben zu unterstützen. Diese APIs bieten eine sofort einsatzbereite Qualität für beliebte Anwendungsfälle über eine übergeordnete Schnittstelle. Die GenAI-APIs von ML Kit basieren auf AICore, einem Android-Systemdienst, der die Ausführung von GenAI-Foundation Models auf dem Gerät ermöglicht. So können Funktionen wie verbesserte App-Funktionen und verbesserter Datenschutz durch die lokale Verarbeitung von Daten bereitgestellt werden.
Für die Nutzung der GenAI APIs gelten die Zusatzbedingungen für die ML Kit GenAI APIs. Entwickler sind allein für die Sicherheit ihres API-Clients und die Nutzerfreundlichkeit ihrer App verantwortlich.
Wichtige Features
Die GenAI-APIs von ML Kit unterstützen die folgenden Funktionen:
- Zusammenfassung: Artikel oder Chatunterhaltungen als Aufzählungsliste zusammenfassen.
- Korrekturlesen: Kurze Inhalte können durch die Verbesserung der Grammatik und die Korrektur von Rechtschreibfehlern optimiert werden.
- Umformulieren: Kurze Nachrichten in verschiedenen Tonfällen oder Stilen umformulieren lassen
- Bildbeschreibung: Generieren Sie eine kurze Beschreibung eines bestimmten Bilds.
- Prompt: Textinhalte basierend auf einem benutzerdefinierten reinen Text- oder multimodalen Prompt generieren.
Vorteile von APIs für generative KI
Ähnlich wie bei anderen vorhandenen ML Kit-Funktionen werden GenAI-APIs vollständig auf dem Gerät ausgeführt und bieten daher die folgenden Vorteile:
- Eingabe-, Inferenz- und Ausgabedaten werden lokal verarbeitet.
- Funktionalität bleibt auch ohne zuverlässige Internetverbindung erhalten
- Keine zusätzlichen Serverkosten für jeden API-Aufruf
Da GenAI-APIs auf AICore basieren und von Gemini Nano unterstützt werden, kann jede App das freigegebene Gemini Nano-Modell auf dem Gerät verwenden. So muss nicht gewartet werden, bis ein Modell heruntergeladen wurde, wenn es bereits auf einem Gerät vorhanden ist. Das spart wiederum Speicherplatz. Weitere Informationen dazu, wie AICore Anfragen isoliert, um die Privatsphäre zu schützen
Streaming und Nicht-Streaming
Die GenAI-APIs von ML Kit bieten sowohl Streaming- als auch Nicht-Streaming-Optionen für den Empfang von Ergebnissen. Die Streaming-API liefert Antworten inkrementell, sobald sie generiert werden, und sorgt so für einen kontinuierlichen Datenfluss. Im Gegensatz dazu wartet die API ohne Streaming, bis die gesamte Antwort fertig ist, bevor sie als einzelner Block zurückgegeben wird.
Wählen Sie die Streaming-API für lange Antworten aus, da sie ein schnelleres erstes Feedback ermöglicht. Die Nicht-Streaming-API eignet sich besser für kurze Antworten oder wenn Ergebnisse in Batches verarbeitet werden.
Geräteunterstützung
Die GenAI-funktionsspezifischen APIs (Zusammenfassung, Korrekturlesen, Umschreiben und Bildbeschreibung) werden auf anderen Geräten unterstützt als die Prompt API, wie in den folgenden Abschnitten beschrieben.
Geräteunterstützung für funktionsspezifische APIs
Die APIs Zusammenfassung, Korrekturlesen, Umschreiben und Bildbeschreibung sind auf den folgenden Geräten verfügbar. Die Unterstützung für weitere Geräte ist geplant:
- Google: Pixel 10, Pixel 10 Pro, Pixel 10 Pro XL, Pixel 10 Pro Fold, Pixel 9, Pixel 9 Pro, Pixel 9 Pro XL, Pixel 9 Pro Fold
- Honor: Honor 400 Pro, Magic 6 Pro, Magic 6 RSR, Magic 7, Magic 7 Pro, Magic V3, Magic V5
- iQOO: iQOO 13
- Motorola: Razr 60 Ultra
- OnePlus: OnePlus 13, OnePlus 13s, OnePlus Pad 3
- OPPO: Find N5, Find X8, Find X8 Pro, Reno 14 Pro
- POCO: POCO F7 Ultra, POCO X7 Pro
- realme: realme GT 7 Pro, realme GT 7T
- Samsung: Galaxy S25, Galaxy S25+, Galaxy S25 Ultra, Galaxy Z Fold7
- vivo: vivo X200, vivo X200 Pro, vivo X Fold3 Pro, vivo X Fold5
- Xiaomi: Xiaomi 15 Ultra, Xiaomi 15, Xiaomi 15T Pro, Xiaomi 15T, Xiaomi Pad mini
Die Verfügbarkeit der Sprachunterstützung kann je nach Konfiguration des jeweiligen Geräts und den auf das Gerät heruntergeladenen Modellen variieren.
Unterstützung von Geräten durch die Prompt API
Die Prompt API wird derzeit auf den folgenden Geräten unterstützt:
nano-v2 |
|
nano-v3 |
|
Gemini Nano-Version abrufen
Auf verschiedenen Geräten werden unterschiedliche Versionen von Gemini Nano ausgeführt. Verwenden Sie getBaseModelName(), um die Version von Gemini Nano auf einem Gerät zurückzugeben.
Kontingent pro Anwendung
AICore erzwingt ein Inferenzkontingent pro App. Wenn Sie innerhalb eines kurzen Zeitraums zu viele GenAI API-Anfragen stellen, erhalten Sie eine ErrorCode.BUSY-Antwort. Wenn Sie einen solchen Fehler erhalten, sollten Sie die Anfrage mit exponentiellem Backoff noch einmal senden. ErrorCode.PER_APP_BATTERY_USE_QUOTA_EXCEEDED kann auch zurückgegeben werden, wenn eine App ein Kontingent für einen längeren Zeitraum (z.B. ein Tageskontingent) überschreitet.
Hintergrundnutzung
Die Inferenz von GenAI-APIs ist nur zulässig, wenn die App die oberste Vordergrundanwendung ist. Wenn die API verwendet wird, während die App nicht im Vordergrund ist, einschließlich der Verwendung eines Dienstes im Vordergrund, führt dies zu einer ErrorCode.BACKGROUND_USE_BLOCKED-Antwort.
Beispielcode
Diesen Code finden Sie in den folgenden Beispielen: