Rileva e monitora gli oggetti con ML Kit su Android

Puoi usare ML Kit per rilevare e tracciare oggetti in fotogrammi video successivi.

Quando passi un'immagine a ML Kit, vengono rilevati fino a cinque oggetti nell'immagine insieme alla posizione di ciascun oggetto. Quando vengono rilevati oggetti negli stream video, ogni oggetto ha un ID univoco che puoi utilizzare per monitorarlo da un fotogramma all'altro. Se vuoi, puoi anche attivare la classificazione approssimativa degli oggetti, che etichetta gli oggetti con descrizioni di categorie generali.

Prova

Prima di iniziare

  1. Nel file build.gradle a livello di progetto, assicurati di includere Repository Maven di Google in buildscript e allprojects sezioni.
  2. Aggiungi le dipendenze per le librerie Android di ML Kit al file Gradle a livello di app del modulo, che in genere è app/build.gradle: 
    dependencies {
  // ...

  implementation 'com.google.mlkit:object-detection:17.0.2'

}

1. Configura il rilevatore di oggetti

Per rilevare e monitorare gli oggetti, crea prima un'istanza di ObjectDetector e, facoltativamente, specifica le impostazioni del rilevatore che vuoi modificare rispetto a quelle predefinite.

  1. Configura il rilevatore di oggetti per il tuo caso d'uso con un ObjectDetectorOptions oggetto. Puoi modificare le seguenti impostazioni:

    Impostazioni del rilevatore di oggetti
    Modalità di rilevamento STREAM_MODE (predefinito) | SINGLE_IMAGE_MODE

    In STREAM_MODE (impostazione predefinita), il rilevatore di oggetti esegue con bassa latenza, ma potrebbe produrre risultati incompleti (ad esempio riquadri di delimitazione o etichette di categoria non specificati) sui primi delle chiamate al rilevatore. Inoltre, in STREAM_MODE, il rilevatore assegna agli oggetti ID di monitoraggio che puoi utilizzare per monitorare gli oggetti nei frame. Usa questa modalità per monitorare oggetti o quando è importante una bassa latenza, ad esempio durante l'elaborazione video stream in tempo reale.

    In SINGLE_IMAGE_MODE, il rilevatore di oggetti restituisce il risultato dopo aver determinato il riquadro di delimitazione dell'oggetto. Se attivo anche la classificazione, il risultato viene restituito dopo che sono disponibili sia la casella delimitante sia l'etichetta della categoria. Di conseguenza, di rilevamento è potenzialmente più elevata. Inoltre, in SINGLE_IMAGE_MODE, gli ID monitoraggio non vengono assegnati. Utilizza questa modalità se la latenza non è fondamentale e non vuoi gestire risultati parziali.
    Rileva e monitora più oggetti false (predefinito) | true

    Indica se rilevare e monitorare fino a cinque oggetti o solo l'oggetto più prominente (impostazione predefinita).
    Classificare gli oggetti false (predefinito) | true

    Indica se classificare o meno gli oggetti rilevati in categorie approssimative. Se è attivato, il rilevatore di oggetti classifica gli oggetti nelle seguenti categorie: abbigliamento, cibo, articoli per la casa, luoghi e piante.

    L'API di rilevamento e monitoraggio degli oggetti è ottimizzata per questi due casi d'uso principali:

    • Rilevamento e monitoraggio in tempo reale dell'oggetto più in evidenza nel mirino della fotocamera.
    • Il rilevamento di più oggetti da un'immagine statica.

    Per configurare l'API per questi casi d'uso:

    Kotlin

    // Live detection and tracking
val options = ObjectDetectorOptions.Builder()
        .setDetectorMode(ObjectDetectorOptions.STREAM_MODE)
        .enableClassification()  // Optional
        .build()

// Multiple object detection in static images
val options = ObjectDetectorOptions.Builder()
        .setDetectorMode(ObjectDetectorOptions.SINGLE_IMAGE_MODE)
        .enableMultipleObjects()
        .enableClassification()  // Optional
        .build()

    Java

    // Live detection and tracking
ObjectDetectorOptions options =
        new ObjectDetectorOptions.Builder()
                .setDetectorMode(ObjectDetectorOptions.STREAM_MODE)
                .enableClassification()  // Optional
                .build();

// Multiple object detection in static images
ObjectDetectorOptions options =
        new ObjectDetectorOptions.Builder()
                .setDetectorMode(ObjectDetectorOptions.SINGLE_IMAGE_MODE)
                .enableMultipleObjects()
                .enableClassification()  // Optional
                .build();

  2. Ottieni un'istanza di ObjectDetector:

    Kotlin

    val objectDetector = ObjectDetection.getClient(options)

    Java

    ObjectDetector objectDetector = ObjectDetection.getClient(options);

2. Prepara l'immagine di input

Per rilevare e monitorare gli oggetti, passa le immagini al metodo process() dell'istanza process().

Il rilevatore di oggetti viene eseguito direttamente da un Bitmap, un NV21 ByteBuffer o un YUV_420_888 media.Image. È in corso la creazione di un InputImage da queste origini sono consigliati se hai accesso diretto a uno di questi. Se crei un InputImage da altre fonti, gestiremo la conversione internamente per te e la procedura potrebbe essere meno efficiente.

Per ogni frame di video o immagine in una sequenza:

Puoi creare un oggetto InputImage da diverse origini, ognuna delle quali è descritta di seguito.

Utilizzo di un media.Image

Per creare una InputImage da un oggetto media.Image, ad esempio quando acquisisci un'immagine da un fotocamera del dispositivo, passa l'oggetto media.Image e la rotazione in InputImage.fromMediaImage().

Se utilizzi la libreria CameraX, le classi OnImageCapturedListener e ImageAnalysis.Analyzer calcolano il valore di rotazione per te.

Kotlin

private class YourImageAnalyzer : ImageAnalysis.Analyzer {

    override fun analyze(imageProxy: ImageProxy) {
        val mediaImage = imageProxy.image
        if (mediaImage != null) {
            val image = InputImage.fromMediaImage(mediaImage, imageProxy.imageInfo.rotationDegrees)
            // Pass image to an ML Kit Vision API
            // ...
        }
    }
}

Java

private class YourAnalyzer implements ImageAnalysis.Analyzer {

    @Override
    public void analyze(ImageProxy imageProxy) {
        Image mediaImage = imageProxy.getImage();
        if (mediaImage != null) {
          InputImage image =
                InputImage.fromMediaImage(mediaImage, imageProxy.getImageInfo().getRotationDegrees());
          // Pass image to an ML Kit Vision API
          // ...
        }
    }
}

Se non utilizzi una libreria della fotocamera che ti fornisca il grado di rotazione dell'immagine, puoi calcolarlo dal grado di rotazione del dispositivo e dall'orientamento del sensore della fotocamera al suo interno:

Kotlin

private val ORIENTATIONS = SparseIntArray()

init {
    ORIENTATIONS.append(Surface.ROTATION_0, 0)
    ORIENTATIONS.append(Surface.ROTATION_90, 90)
    ORIENTATIONS.append(Surface.ROTATION_180, 180)
    ORIENTATIONS.append(Surface.ROTATION_270, 270)
}

/**
 * Get the angle by which an image must be rotated given the device's current
 * orientation.
 */
@RequiresApi(api = Build.VERSION_CODES.LOLLIPOP)
@Throws(CameraAccessException::class)
private fun getRotationCompensation(cameraId: String, activity: Activity, isFrontFacing: Boolean): Int {
    // Get the device's current rotation relative to its "native" orientation.
    // Then, from the ORIENTATIONS table, look up the angle the image must be
    // rotated to compensate for the device's rotation.
    val deviceRotation = activity.windowManager.defaultDisplay.rotation
    var rotationCompensation = ORIENTATIONS.get(deviceRotation)

    // Get the device's sensor orientation.
    val cameraManager = activity.getSystemService(CAMERA_SERVICE) as CameraManager
    val sensorOrientation = cameraManager
            .getCameraCharacteristics(cameraId)
            .get(CameraCharacteristics.SENSOR_ORIENTATION)!!

    if (isFrontFacing) {
        rotationCompensation = (sensorOrientation + rotationCompensation) % 360
    } else { // back-facing
        rotationCompensation = (sensorOrientation - rotationCompensation + 360) % 360
    }
    return rotationCompensation
}
MLKitVisionImage.kt

Java

private static final SparseIntArray ORIENTATIONS = new SparseIntArray();
static {
    ORIENTATIONS.append(Surface.ROTATION_0, 0);
    ORIENTATIONS.append(Surface.ROTATION_90, 90);
    ORIENTATIONS.append(Surface.ROTATION_180, 180);
    ORIENTATIONS.append(Surface.ROTATION_270, 270);
}

/**
 * Get the angle by which an image must be rotated given the device's current
 * orientation.
 */
@RequiresApi(api = Build.VERSION_CODES.LOLLIPOP)
private int getRotationCompensation(String cameraId, Activity activity, boolean isFrontFacing)
        throws CameraAccessException {
    // Get the device's current rotation relative to its "native" orientation.
    // Then, from the ORIENTATIONS table, look up the angle the image must be
    // rotated to compensate for the device's rotation.
    int deviceRotation = activity.getWindowManager().getDefaultDisplay().getRotation();
    int rotationCompensation = ORIENTATIONS.get(deviceRotation);

    // Get the device's sensor orientation.
    CameraManager cameraManager = (CameraManager) activity.getSystemService(CAMERA_SERVICE);
    int sensorOrientation = cameraManager
            .getCameraCharacteristics(cameraId)
            .get(CameraCharacteristics.SENSOR_ORIENTATION);

    if (isFrontFacing) {
        rotationCompensation = (sensorOrientation + rotationCompensation) % 360;
    } else { // back-facing
        rotationCompensation = (sensorOrientation - rotationCompensation + 360) % 360;
    }
    return rotationCompensation;
}

Quindi, passa l'oggetto media.Image e valore del grado di rotazione su InputImage.fromMediaImage():

Kotlin

val image = InputImage.fromMediaImage(mediaImage, rotation)
MLKitVisionImage.kt

Java

InputImage image = InputImage.fromMediaImage(mediaImage, rotation);

Utilizzo di un URI file

Per creare un oggetto InputImage da un URI file, passa il contesto dell'app e l'URI file a InputImage.fromFilePath(). Questa opzione è utile quando utilizzi un'intenzione ACTION_GET_CONTENT per chiedere all'utente di selezionare un'immagine dalla sua app Galleria.

Kotlin

val image: InputImage
try {
    image = InputImage.fromFilePath(context, uri)
} catch (e: IOException) {
    e.printStackTrace()
}
MLKitVisionImage.kt

Java

InputImage image;
try {
    image = InputImage.fromFilePath(context, uri);
} catch (IOException e) {
    e.printStackTrace();
}

Utilizzo di un ByteBuffer o ByteArray

Per creare una InputImage oggetto da un valore ByteBuffer o ByteArray, prima calcola l'immagine grado di rotazione come descritto in precedenza per l'input media.Image. Quindi, crea l'oggetto InputImage con il buffer o l'array, insieme al campo altezza, larghezza, formato di codifica del colore e grado di rotazione:

Kotlin

val image = InputImage.fromByteBuffer(
        byteBuffer,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
)
MLKitVisionImage.kt

// Or:
val image = InputImage.fromByteArray(
        byteArray,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
)

MLKitVisionImage.kt

Java

InputImage image = InputImage.fromByteBuffer(byteBuffer,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
);
MLKitVisionImage.java

// Or:
InputImage image = InputImage.fromByteArray(
        byteArray,
        /* image width */480,
        /* image height */360,
        rotation,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
);
MLKitVisionImage.java

Utilizzo di un Bitmap

Per creare un oggetto InputImage da un oggetto Bitmap, esegui la seguente dichiarazione:

Kotlin

val image = InputImage.fromBitmap(bitmap, 0)
MLKitVisionImage.kt

Java

InputImage image = InputImage.fromBitmap(bitmap, rotationDegree);
MLKitVisionImage.java

L'immagine è rappresentata da un oggetto Bitmap insieme ai gradi di rotazione.

3. Elabora l'immagine

Trasferisci l'immagine al metodo process():

Kotlin

objectDetector.process(image)
    .addOnSuccessListener { detectedObjects ->
        // Task completed successfully
        // ...
    }
    .addOnFailureListener { e ->
        // Task failed with an exception
        // ...
    }

Java

objectDetector.process(image)
    .addOnSuccessListener(
        new OnSuccessListener<List<DetectedObject>>() {
            @Override
            public void onSuccess(List<DetectedObject> detectedObjects) {
                // Task completed successfully
                // ...
            }
        })
    .addOnFailureListener(
        new OnFailureListener() {
            @Override
            public void onFailure(@NonNull Exception e) {
                // Task failed with an exception
                // ...
            }
        });

4. Ricevere informazioni sugli oggetti rilevati

Se la chiamata a process() va a buon fine, un elenco di DetectedObject viene passato al gestore dell'evento di successo.

Ogni DetectedObject contiene le seguenti proprietà:

Riquadro di delimitazione Un Rect che indica la posizione dell'oggetto nell'immagine.
ID monitoraggio Un numero intero che identifica l'oggetto nelle immagini. Nullo SINGLE_IMAGE_MODE.
Etichette
Descrizione etichetta La descrizione del testo dell'etichetta. Sarà uno dei campi String costanti definite in PredefinedCategory.
Indice delle etichette L'indice dell'etichetta tra tutte le etichette supportate dal classificatore. Sarà una delle costanti intere definite nel seguente paese: PredefinedCategory.
Confidenza dell'etichetta Il valore di confidenza della classificazione dell'oggetto.

Kotlin

for (detectedObject in detectedObjects) {
    val boundingBox = detectedObject.boundingBox
    val trackingId = detectedObject.trackingId
    for (label in detectedObject.labels) {
        val text = label.text
        if (PredefinedCategory.FOOD == text) {
            ...
        }
        val index = label.index
        if (PredefinedCategory.FOOD_INDEX == index) {
            ...
        }
        val confidence = label.confidence
    }
}

Java

// The list of detected objects contains one item if multiple
// object detection wasn't enabled.
for (DetectedObject detectedObject : detectedObjects) {
    Rect boundingBox = detectedObject.getBoundingBox();
    Integer trackingId = detectedObject.getTrackingId();
    for (Label label : detectedObject.getLabels()) {
        String text = label.getText();
        if (PredefinedCategory.FOOD.equals(text)) {
            ...
        }
        int index = label.getIndex();
        if (PredefinedCategory.FOOD_INDEX == index) {
            ...
        }
        float confidence = label.getConfidence();
    }
}

Garantire un'esperienza utente ottimale

Per un'esperienza utente ottimale, segui queste linee guida nella tua app:

  • Il rilevamento degli oggetti dipende dalla complessità visiva dell'oggetto. Per essere rilevati, gli oggetti con un numero ridotto di caratteristiche visive potrebbero dover occupare una parte più grande dell'immagine. Fornisci agli utenti indicazioni su come acquisire input che funzionino bene con il tipo di oggetti che vuoi rilevare.
  • Quando utilizzi la classificazione, se vuoi rilevare oggetti che non rientrano chiaramente nelle categorie supportate, implementa un'elaborazione speciale per gli oggetti sconosciuti.

Inoltre, dai un'occhiata all'app di ML Kit Material Design e alla raccolta di pattern per le funzionalità basate sul machine learning di Material Design.

Ottimizzazione del rendimento

Se vuoi utilizzare il rilevamento di oggetti in un'applicazione in tempo reale, segui queste linee guida per ottenere le frequenze frame migliori:

  • Quando utilizzi la modalità di streaming in un'applicazione in tempo reale, non utilizzare il rilevamento di più oggetti, poiché la maggior parte dei dispositivi non sarà in grado di produrre frame rate adeguati.

  • Disabilita la classificazione se non ti serve.

  • Se utilizzi l'API Camera o camera2, riduci le chiamate al rilevatore. Se un nuovo frame del video diventa disponibile mentre il rilevatore è in esecuzione, inseriscilo. Consulta le VisionProcessorBase nell'app di esempio della guida rapida per un esempio.
  • Se utilizzi l'API CameraX, assicurati che la strategia di contropressione sia impostata sul valore predefinito ImageAnalysis.STRATEGY_KEEP_ONLY_LATEST. In questo modo, viene garantito che venga inviata una sola immagine per l'analisi alla volta. Se vengono visualizzate altre immagini generati quando l'analizzatore è occupato, verranno eliminati automaticamente e non verranno messi in coda la distribuzione dei contenuti. Dopo aver chiuso l'immagine da analizzare richiamando ImageProxy.close(), verrà pubblicata l'immagine successiva più recente.
  • Se utilizzi l'output del rilevatore per sovrapporre la grafica all'immagine di input, ottieni prima il risultato da ML Kit, poi esegui il rendering dell'immagine e la sovrapposizione in un unico passaggio. Viene visualizzata sulla superficie di visualizzazione solo una volta per ogni frame di input. Consulta le CameraSourcePreview e GraphicOverlay nell'app di esempio della guida rapida per un esempio.
  • Se utilizzi l'API Camera2, acquisisci le immagini in formato ImageFormat.YUV_420_888. Se usi l'API Camera precedente, acquisisci le immagini in Formato ImageFormat.NV21.