ML Kit 的生成式 AI API 利用 Gemini Nano 的强大功能来帮助您的应用 执行任务。这些 API 通过高级接口为热门用例提供开箱即用的质量。机器学习套件生成式 AI API 基于 AICore构建，AICore 是一项 Android 系统服务，支持在设备端执行生成式 AI 基础模型，以便通过在本地处理数据来提供增强应用功能和 提升用户隐私保护等功能。
《机器学习套件 生成式 AI API 附加服务条款》适用于生成式 AI API 的使用。开发者对其 API 客户端的安全性和应用的用户体验负全部责任。
主要特性
机器学习套件生成式 AI API 支持以下功能：
生成式 AI API 的优势
与其他现有 ML Kit 功能类似，生成式 AI API 完全在设备端运行，因此具有以下优势：
- 输入、推理和输出数据在本地处理
- 在没有可靠的网络连接的情况下，功能保持不变
- 每次 API 调用都不会产生额外的服务器费用
此外，由于生成式 AI API 基于 AICore 构建并由 Gemini Nano 提供支持，因此每个应用都能够使用设备上的共享 Gemini Nano 模型。这样，如果设备上已存在某个模型，则无需等待下载该模型，从而节省存储空间。详细了解 AICore 如何隔离请求以保护隐私。
流式传输与非流式传输
机器学习套件生成式 AI API 提供流式传输和非流式传输选项来接收结果。流式传输 API 会在生成响应时以增量方式提供响应，从而提供连续的数据流。相比之下，非流式传输 API 会等待整个响应完成后，再将其作为单个块返回。
对于较长的响应，请选择流式传输 API，因为它允许更快地提供初始反馈。非流式传输 API 更适合短响应或批量处理结果。
设备支持
生成式 AI 功能专用 API（总结、校对、重写和图片描述）与 Prompt API 的设备支持不同，如以下部分所述。
功能专用 API 设备支持
总结、校对、重写和 图片描述 API 可在以下设备上使用，并且计划 将支持范围扩大到更多设备：
- Google：Pixel 10、Pixel 10 Pro、Pixel 10 Pro XL、Pixel 10 Pro Fold、Pixel 9、Pixel 9 Pro、Pixel 9 Pro XL、Pixel 9 Pro Fold
- Honor：Honor 400 Pro、Magic 7、Magic 7 Pro、Magic 8 Pro、Magic V5
- iQOO：iQOO 13、iQOO 15
- Lenovo：Lenovo Idea Tab Pro Gen 2、Lenovo Legion Tab Gen 5(8.8")
- Motorola：Razr 60 Ultra、Razr Ultra 2025、Signature
- OnePlus：OnePlus 15、OnePlus 15R、OnePlus 13、OnePlus 13s
- OPPO：Find N5、Find X9、Find X9 Pro、Find X8、Find X8 Pro、Reno 14 Pro 5G、Reno 15 Pro 5G、Reno 15 Pro Mini 5G、Reno 15 Pro Max 5G
- POCO：POCO F7 Ultra、POCO F8 Pro、POCO F8 Ultra、POCO X7 Pro、POCO X8 Pro
- realme：realme GT 7 Pro、realme GT 7T
- Samsung：Galaxy S25、Galaxy S25+、Galaxy S25 Ultra、Galaxy S26、Galaxy S26+、Galaxy S26 Ultra、Galaxy Z Fold7、Galaxy Z TriFold
- Sharp：AQUOS R11
- Sony：Xperia 1 VIII
- vivo：vivo X200T、vivo X200 FE、vivo X200、vivo X200 Pro、vivo X300、X300 Pro、vivo X Fold3 Pro、vivo X Fold5、vivo T4 Ultra
- Xiaomi：Xiaomi 14T Pro、Xiaomi 15、Xiaomi 15T、Xiaomi 15T Pro、Xiaomi 15 Ultra、Xiaomi 17、Xiaomi 17 Ultra、Xiaomi Pad Mini
对特定语言的支持情况可能因特定设备的配置以及已下载到设备的模型而异。
Prompt API 设备支持
以下设备支持 Prompt API：
nano-v2 |
|
nano-v3 |
|
Speech Recognition API 设备支持
以下设备支持 Speech Recognition API：
| 基本模式 | 使用传统的设备端语音识别模型，适用于 大多数 API 级别为 31 及更高级别的 Android 设备。 |
|---|---|
| 高级模式 | 利用生成式 AI 模型提供更高质量和更广泛的语言 覆盖范围。Pixel 10 设备支持此模式，并且正在开发更多设备。 |
检索 Gemini Nano 版本
不同版本的 Gemini Nano 在不同的设备上运行。如需返回设备上的 Gemini Nano 版本，请使用 getBaseModelName()。
每个应用的配额
AICore 会对每个应用强制执行推理配额。如果在短时间内发出过多的生成式 AI API 请求，将导致 ErrorCode.BUSY 响应。收到此类错误时，请考虑使用指数退避算法重试请求。此外，如果应用超出长时间配额（例如每日配额），则可能会返回 ErrorCode.PER_APP_BATTERY_USE_QUOTA_EXCEEDED。
后台使用情况
仅当应用是最主要的前台应用时，才允许进行生成式 AI API 推理。如果应用不在前台时使用该 API（包括使用前台服务），将导致 ErrorCode.BACKGROUND_USE_BLOCKED 响应。
示例代码
如需获取此代码，请查看以下示例：