ML Kit 生成式 AI API 總覽

ML Kit 的 GenAI API 運用 Gemini Nano 的強大功能,協助應用程式執行工作。這些 API 提供高階介面,可直接用於熱門用途,ML Kit GenAI API 是以 AICore 為基礎建構而成。AICore 是 Android 系統服務,可讓裝置端執行生成式 AI 基礎模型,進而提供強化應用程式功能和提升使用者隱私權等功能 (透過在本機處理資料)。

使用 GenAI API 時,必須遵守《ML Kit GenAI API 附加服務條款》。開發人員須全權負責 API 用戶端的安全性,以及應用程式的使用者體驗。

主要功能與特色

ML Kit GenAI API 支援下列功能:

  • 摘要:以條列式清單的形式摘要文章或即時通訊對話。
  • 校對:修正文法和拼字錯誤,讓短內容更加精確。
  • 改寫:以不同語氣或風格改寫簡短訊息。
  • 圖片說明:生成指定圖片的簡短說明。
  • 提示:根據自訂的純文字或多模態提示生成文字內容。

生成式 AI API 的優點

與其他現有的 ML Kit 功能類似,GenAI API 完全在裝置端執行,因此具有下列優點:

  • 輸入、推論和輸出資料會在裝置上處理
  • 即使沒有穩定的網路連線,功能仍維持不變
  • 每次 API 呼叫都不會產生額外伺服器費用

此外,由於 GenAI API 是以 AICore 為基礎建構,並採用 Gemini Nano 技術,因此每個應用程式都能使用裝置上的共用 Gemini Nano 模型。這樣一來,如果裝置上已有模型,就不必等待模型下載完成,進而節省儲存空間。如要進一步瞭解 AICore 如何隔離要求以保護隱私權,請參閱這篇文章

串流與非串流

ML Kit GenAI API 提供串流和非串流選項,可接收結果。串流 API 會在生成回應的同時逐步傳送,提供持續的資料流。相較之下,非串流 API 會等到整個回應完成後,再以單一區塊的形式傳回。

如果回覆內容較長,請選擇串流 API,因為這樣可以更快獲得初步意見回饋。非串流 API 更適合用於簡短的回應,或以批次方式處理結果。

確認裝置支援情形

GenAI 功能專屬 API (摘要、校對、重寫和圖片說明) 的裝置支援情況與 Prompt API 不同,詳情請參閱下列章節。

功能專屬的 API 裝置支援

摘要校對重寫圖片說明 API 適用於下列裝置,我們也計畫將支援範圍擴展至其他裝置:

  • Google:Pixel 10、Pixel 10 Pro、Pixel 10 Pro XL、Pixel 10 Pro Fold、Pixel 9、Pixel 9 Pro、Pixel 9 Pro XL、Pixel 9 Pro Fold
  • Honor:Honor 400 Pro、Magic 6 Pro、Magic 6 RSR、Magic 7、Magic 7 Pro、Magic V3、Magic V5
  • iQOO:iQOO 13
  • Motorola:Razr 60 Ultra
  • OnePlus:OnePlus 13、OnePlus 13s、OnePlus Pad 3
  • OPPO:Find N5、Find X8、Find X8 Pro、Reno 14 Pro
  • POCO:POCO F7 Ultra、POCO X7 Pro
  • realme:realme GT 7 Pro、realme GT 7T
  • Samsung:Galaxy S25、Galaxy S25+、Galaxy S25 Ultra、Galaxy Z Fold7
  • vivo:vivo X200、vivo X200 Pro、vivo X Fold3 Pro、vivo X Fold5
  • 小米:Xiaomi 15 Ultra、Xiaomi 15、Xiaomi 15T Pro、Xiaomi 15T、Xiaomi Pad mini

特定語言的支援情形可能因裝置設定和已下載至裝置的模型而異。

Prompt API 裝置支援

提示 API 目前支援下列裝置:

nano-v2

  • Google:Pixel 9、Pixel 9 Pro、Pixel 9 Pro XL、Pixel 9 Pro Fold
  • Honor:Magic V5、Magic 7、Magic 7 Pro
  • iQOO:iQOO 13
  • Motorola:Razr 60 Ultra
  • OnePlus:OnePlus 13、OnePlus 13s、OnePlus Pad 3
  • OPPO:Find N5
  • POCO:POCO F7 Ultra
  • realme:realme GT 7 Pro
  • Samsung:Galaxy Z Fold7
  • 小米:小米 15 Ultra、小米 15

nano-v3

  • Google:Pixel 10、Pixel 10 Pro、Pixel 10 Pro XL、Pixel 10 Pro Fold

擷取 Gemini Nano 版本

不同裝置會執行不同版本的 Gemini Nano。如要在裝置上恢復使用 Gemini Nano 版本,請使用 getBaseModelName()

每個應用程式的配額

AICore 會對每個應用程式強制執行推論配額。如果在短時間內提出過多 GenAI API 要求,系統會傳回 ErrorCode.BUSY 回應。收到這類錯誤時,請考慮使用指數輪詢重試要求。此外,如果應用程式超出長期配額 (例如每日配額),系統也會傳回 ErrorCode.PER_APP_BATTERY_USE_QUOTA_EXCEEDED

背景用量

只有在應用程式是頂層前景應用程式時,才能使用 GenAI API 推論。如果應用程式不在前景,包括使用前景服務,使用 API 會導致 ErrorCode.BACKGROUND_USE_BLOCKED 回應。

程式碼範例

如要取得這段程式碼,請參閱下列範例: