Con l'API GenAI Summarization di ML Kit, puoi generare automaticamente riepiloghi di articoli e conversazioni sotto forma di elenco puntato. In questo modo gli utenti possono comprendere grandi quantità di testo.
Il riassunto trae vantaggio dall'AI generativa sul dispositivo perché risolve i problemi relativi alla privacy dei dati e all'efficienza dei costi. Le app che riepilogano chat, email, note e promemoria personali spesso gestiscono informazioni sensibili, il che rende importante l'elaborazione sul dispositivo per la privacy degli utenti. Inoltre, le attività di riepilogo, soprattutto quelle con contesti lunghi o molti elementi, possono richiedere una potenza di elaborazione significativa. L'elaborazione di questi contenuti sul dispositivo riduce il carico del server e i costi di pubblicazione, mantenendo privati i dati degli utenti.
Funzionalità chiave
L'API GenAI Summarization copre le seguenti funzionalità:
- Riassumere il testo, classificato come articolo o conversazione.
- Riassunto dell'output in uno, due o tre punti elenco.
Inizia
Aggiungi l'API ML Kit Summarization come dipendenza nella configurazione di build.gradle
.
implementation("com.google.mlkit:genai-summarization:1.0.0-beta1")
Successivamente, implementa il codice nel tuo progetto:
- Crea un oggetto
Summarizer
. - Scarica la funzionalità, se è disponibile per il download.
- Crea una richiesta di riepilogo.
- Esegui l'inferenza e recupera il risultato.
Kotlin
val articleToSummarize = "Announcing a set of on-device GenAI APIs..."
// Define task with required input type, output type, and language
val summarizerOptions = SummarizerOptions.builder(context)
.setInputType(InputType.ARTICLE)
.setOutputType(OutputType.ONE_BULLET)
.setLanguage(Language.ENGLISH)
.build()
val summarizer = Summarization.getClient(summarizerOptions)
suspend fun prepareAndStartSummarization() {
// Check feature availability. Status will be one of the following:
// UNAVAILABLE, DOWNLOADABLE, DOWNLOADING, AVAILABLE
val featureStatus = summarizer.checkFeatureStatus().await()
if (featureStatus == FeatureStatus.DOWNLOADABLE) {
// Download feature if necessary. If downloadFeature is not called,
// the first inference request will also trigger the feature to be
// downloaded if it's not already downloaded.
summarizer.downloadFeature(object : DownloadCallback {
override fun onDownloadStarted(bytesToDownload: Long) { }
override fun onDownloadFailed(e: GenAiException) { }
override fun onDownloadProgress(totalBytesDownloaded: Long) {}
override fun onDownloadCompleted() {
startSummarizationRequest(articleToSummarize, summarizer)
}
})
} else if (featureStatus == FeatureStatus.DOWNLOADING) {
// Inference request will automatically run once feature is
// downloaded. If Gemini Nano is already downloaded on the device,
// the feature-specific LoRA adapter model will be downloaded
// quickly. However, if Gemini Nano is not already downloaded, the
// download process may take longer.
startSummarizationRequest(articleToSummarize, summarizer)
} else if (featureStatus == FeatureStatus.AVAILABLE) {
startSummarizationRequest(articleToSummarize, summarizer)
}
}
fun startSummarizationRequest(text: String, summarizer: Summarizer) {
// Create task request
val summarizationRequest = SummarizationRequest.builder(text).build()
// Start summarization request with streaming response
summarizer.runInference(summarizationRequest) { newText ->
// Show new text in UI
}
// You can also get a non-streaming response from the request
// val summarizationResult = summarizer.runInference(
// summarizationRequest).get().summary
}
// Be sure to release the resource when no longer needed
// For example, on viewModel.onCleared() or activity.onDestroy()
summarizer.close()
Java
String articleToSummarize = "Announcing: a set of on-device GenAI AI APIs.";
// Define task with required input type, output type, and language
SummarizerOptions summarizerOptions =
SummarizerOptions.builder(context)
.setInputType(SummarizerOptions.InputType.ARTICLE)
.setOutputType(SummarizerOptions.OutputType.ONE_BULLET)
.setLanguage(SummarizerOptions.Language.ENGLISH)
.build();
Summarizer summarizer = Summarization.getClient(summarizerOptions);
void prepareAndStartSummarization()
throws ExecutionException, InterruptedException {
// Check feature availability. Status will be one of the following:
// UNAVAILABLE, DOWNLOADABLE, DOWNLOADING, AVAILABLE
try {
int featureStatus = summarizer.checkFeatureStatus().get();
if (featureStatus == FeatureStatus.DOWNLOADABLE) {
// Download feature if necessary.
// If downloadFeature is not called, the first inference request
// will also trigger the feature to be downloaded if it's not
// already downloaded.
summarizer.downloadFeature(new DownloadCallback() {
@Override
public void onDownloadCompleted() {
startSummarizationRequest(articleToSummarize, summarizer);
}
@Override
public void onDownloadFailed(GenAiException e) { /* handle error */ }
@Override
public void onDownloadProgress(long totalBytesDownloaded) {}
@Override
public void onDownloadStarted(long bytesDownloaded) {}
});
} else if (featureStatus == FeatureStatus.DOWNLOADING) {
// Inference request will automatically run once feature is
// downloaded. If Gemini Nano is already downloaded on the
// device, the feature-specific LoRA adapter model will be
// downloaded quickly. However, if Gemini Nano is not already
// downloaded, the download process may take longer.
startSummarizationRequest(articleToSummarize, summarizer);
} else if (featureStatus == FeatureStatus.AVAILABLE) {
startSummarizationRequest(articleToSummarize, summarizer);
}
} catch (ExecutionException | InterruptedException e) {
e.printStackTrace();
}
}
void startSummarizationRequest(String text, Summarizer summarizer) {
// Create task request
SummarizationRequest summarizationRequest =
SummarizationRequest.builder(text).build();
// Start summarization request with streaming response
summarizer.runInference(summarizationRequest, newText -> {
// Show new text in UI
});
// You can also get a non-streaming response from the request
// ListenableFuture<SummarizationResult> summarizationResult
// = summarizer.runInference(summarizationRequest);
// String summary = summarizationResult.get().getSummary();
}
// Be sure to release the resource when no longer needed
// For example, on viewModel.onCleared() or activity.onDestroy()
summarizer.close();
Come il modello gestisce diversi tipi di input
Quando l'input di testo è specificato come InputType.CONVERSATION
, il modello
si aspetta un input nel seguente formato:
<name>: <message>
<name2>: <message2>
<name>: <message3>
<name3>: <message4>
Ciò consente al modello di produrre un riepilogo più accurato fornendo una migliore comprensione della conversazione e delle interazioni.
Funzionalità supportate e limitazioni
L'input deve contenere meno di 4000 token (o circa 3000 parole in inglese). Se l'input supera i 4000 token, valuta queste opzioni:
- Dai la priorità al riepilogo dei primi 4000 token. I test indicano che questo
di solito produce buoni risultati per gli input più lunghi. Valuta la possibilità di attivare il troncamento automatico chiamando
setLongInputAutoTruncationEnabled
in modo che l'input aggiuntivo venga troncato automaticamente. - Segmenta l'input in gruppi di 4000 token e riassumili singolarmente.
- Valuta una soluzione cloud più adatta all'input più grande.
Per InputType.ARTICLE
, l'input deve contenere anche più di 400 caratteri e il modello funziona meglio quando l'articolo contiene almeno 300 parole.
L'API GenAI Summarization supporta inglese, giapponese e coreano ed è
definita in SummarizerOptions.Language
.
La disponibilità della configurazione di funzionalità specifica (specificata da
SummarizerOptions
) può variare in base alla configurazione del dispositivo specifico e ai modelli scaricati sul dispositivo.
Il modo più affidabile per gli sviluppatori per assicurarsi che la funzionalità API prevista sia
supportata su un dispositivo con SummarizerOptions
richiesto è chiamare il metodo
checkFeatureStatus()
. Questo metodo fornisce lo stato definitivo
della disponibilità delle funzionalità sul dispositivo in fase di runtime.
Problemi di configurazione comuni
Le API ML Kit GenAI si basano sull'app Android AI Core per accedere a Gemini Nano. Quando un dispositivo viene appena configurato (incluso il ripristino) o l'app AICore viene appena ripristinata (ad es. cancellazione dei dati, disinstallazione e reinstallazione), l'app AICore potrebbe non avere tempo sufficiente per completare l'inizializzazione (incluso il download delle configurazioni più recenti dal server). Di conseguenza, le API ML Kit GenAI potrebbero non funzionare come previsto. Di seguito sono riportati i messaggi di errore di configurazione comuni che potresti visualizzare e come gestirli:
Esempio di messaggio di errore | Come gestirla |
AICore non è riuscito a eseguire l'operazione con il tipo di errore 4-CONNECTION_ERROR e il codice di errore 601-BINDING_FAILURE: il servizio AICore non è riuscito a eseguire il binding. | Ciò può accadere quando installi l'app utilizzando le API ML Kit GenAI immediatamente dopo la configurazione del dispositivo o quando AICore viene disinstallato dopo l'installazione dell'app. L'aggiornamento dell'app AICore e la reinstallazione dell'app dovrebbero risolvere il problema. |
AICore non è riuscito a completare l'operazione con il tipo di errore 3 - PREPARATION_ERROR e il codice di errore 606 - FEATURE_NOT_FOUND: la funzionalità ... non è disponibile. |
Ciò può accadere quando AICore non ha completato il download delle configurazioni più recenti. Quando il dispositivo è connesso a internet, l'aggiornamento richiede in genere da pochi minuti a qualche ora. Il riavvio del dispositivo può velocizzare l'aggiornamento.
Tieni presente che se il bootloader del dispositivo è sbloccato, visualizzerai anche questo errore. Questa API non supporta i dispositivi con bootloader sbloccati. |
AICore non è riuscito a completare l'operazione con il tipo di errore 1-DOWNLOAD_ERROR e il codice di errore 0-UNKNOWN: Feature ... failed with failure status 0 and error esz: UNAVAILABLE: Unable to resolve host ... | Mantieni la connessione di rete, attendi qualche minuto e riprova. |