Catch up on everthing we announced at this year's Firebase Summit. Learn more

Android'de AutoML eğitimli bir modelle görüntüleri etiketleyin

Eğer sonra AutoML Vision Edge'i kullanarak kendi modelini eğitmek , etiket görüntülere uygulamanızda kullanabilirsiniz.

AutoML Vision Edge'den eğitilen modelleri entegre etmenin iki yolu vardır: Modeli uygulamanızın varlık klasörüne koyarak paketleyebilir veya Firebase'den dinamik olarak indirebilirsiniz.

Model paketleme seçenekleri
Uygulamanızda paketlenmiş
  • Model, uygulamanızın APK'sının bir parçasıdır
  • Model, Android cihaz çevrimdışıyken bile hemen kullanılabilir
  • Firebase projesine gerek yok
Firebase ile barındırılıyor
  • Yükleyerek modeli Ev Sahipliği Firebase Makine Öğrenmesi
  • APK boyutunu küçültür
  • Model talep üzerine indirilir
  • Uygulamanızı yeniden yayınlamadan model güncellemelerini gönderin
  • Kolay A / B ile test Uzaktan Firebase Config'i
  • Bir Firebase projesi gerektirir

Sen başlamadan önce

  1. Genellikle sizin modülün uygulama düzeyinde gradle dosyasına ML Kiti Android kütüphaneler için bağımlılıkları ekleyin app/build.gradle :

    Uygulamanızla bir modeli gruplamak için:

    dependencies {
  // ...
  // Image labeling feature with bundled automl model
  implementation 'com.google.mlkit:image-labeling-custom:16.3.1'
}

    Dinamik Firebase bir model indirirken için, eklemek linkFirebase bağımlılığını:

    dependencies {
  // ...
  // Image labeling feature with automl model downloaded
  // from firebase
  implementation 'com.google.mlkit:image-labeling-custom:16.3.1'
  implementation 'com.google.mlkit:linkfirebase:16.1.0'
}

  2. Bir modeli indirmek istiyorsanız, emin olun Android projeye Firebase eklemek Şimdiye kadar yapmadıysanız,. Modeli paketlediğinizde bu gerekli değildir.

1. Modeli yükleyin

Yerel bir model kaynağı yapılandırın

Modeli uygulamanızla birleştirmek için:

  1. Modeli ve meta verilerini Firebase konsolundan indirdiğiniz zip arşivinden çıkarın. Dosyaları indirdiğiniz gibi, değişiklik yapmadan (dosya adları dahil) kullanmanızı öneririz.

  2. Modelinizi ve meta veri dosyalarını uygulama paketinize ekleyin:

    1. Eğer projede klasörü bir varlık yoksa, sağ tıklayarak bir tane oluşturun app/ klasör, daha sonra tıklayarak Yeni> Klasör> Varlıklar Klasör.
    2. Model dosyalarını içermesi için varlıklar klasörünün altında bir alt klasör oluşturun.
    3. Dosyaları kopyala model.tflite , dict.txt ve manifest.json alt klasörüne (her üç dosyanın aynı klasörde olmalıdır).

  3. Uygulamanızın için aşağıdakileri ekleyin build.gradle uygulamasını oluştururken Gradle model dosyası sıkıştırmak değil emin olmak için dosyanın:

    android {
    // ...
    aaptOptions {
        noCompress "tflite"
    }
}

    Model dosyası, uygulama paketine dahil edilecek ve ham bir varlık olarak ML Kit'e sunulacak.

  4. Create LocalModel modeli bildirim dosyasının yolunu belirterek, nesneyi:

    Java

    AutoMLImageLabelerLocalModel localModel =
    new AutoMLImageLabelerLocalModel.Builder()
        .setAssetFilePath("manifest.json")
        // or .setAbsoluteFilePath(absolute file path to manifest file)
        .build();

    Kotlin

    val localModel = LocalModel.Builder()
    .setAssetManifestFilePath("manifest.json")
    // or .setAbsoluteManifestFilePath(absolute file path to manifest file)
    .build()

Firebase tarafından barındırılan bir model kaynağı yapılandırın

Uzaktan barındırılan modeli kullanmak için bir oluşturmak CustomRemoteModel yayınlayalı zaman modelini atanan adı belirterek, nesneyi:

Java

// Specify the name you assigned in the Firebase console.
FirebaseModelSource firebaseModelSource =
    new FirebaseModelSource.Builder("your_model_name").build();
CustomRemoteModel remoteModel =
    new CustomRemoteModel.Builder(firebaseModelSource).build();

Kotlin

// Specify the name you assigned in the Firebase console.
val firebaseModelSource = FirebaseModelSource.Builder("your_model_name")
    .build()
val remoteModel = CustomRemoteModel.Builder(firebaseModelSource).build()

Ardından, indirmeye izin vermek istediğiniz koşulları belirterek model indirme görevini başlatın. Model cihazda değilse veya modelin daha yeni bir sürümü mevcutsa görev, modeli Firebase'den eşzamansız olarak indirir:

Java

DownloadConditions downloadConditions = new DownloadConditions.Builder()
        .requireWifi()
        .build();
RemoteModelManager.getInstance().download(remoteModel, downloadConditions)
        .addOnSuccessListener(new OnSuccessListener<Void>() {
            @Override
            public void onSuccess(@NonNull Task<Void> task) {
                // Success.
            }
        });

Kotlin

val downloadConditions = DownloadConditions.Builder()
    .requireWifi()
    .build()
RemoteModelManager.getInstance().download(remoteModel, downloadConditions)
    .addOnSuccessListener {
        // Success.
    }

Birçok uygulama indirme görevini başlatma kodunda başlatır, ancak bunu modeli kullanmaya ihtiyaç duymadan önce herhangi bir noktada yapabilirsiniz.

Modelinizden bir görüntü etiketleyici oluşturun

Eğer modeli kaynaklarını yapılandırmak sonra, bir oluşturmak ImageLabeler bunlardan biri nesne.

Yalnızca yerel olarak paketlenmiş modeliniz varsa, sadece bir etiketleyiciyi oluşturmak CustomImageLabelerOptions nesne ve (bkz gerektiren istediğiniz güven puanı eşiği yapılandırmak modelinizi değerlendirin ):

Java

CustomImageLabelerOptions customImageLabelerOptions = new CustomImageLabelerOptions.Builder(localModel)
    .setConfidenceThreshold(0.0f)  // Evaluate your model in the Cloud console
                                   // to determine an appropriate value.
    .build();
ImageLabeler labeler = ImageLabeling.getClient(customImageLabelerOptions);

Kotlin

val customImageLabelerOptions = CustomImageLabelerOptions.Builder(localModel)
    .setConfidenceThreshold(0.0f)  // Evaluate your model in the Cloud console
                                   // to determine an appropriate value.
    .build()
val labeler = ImageLabeling.getClient(customImageLabelerOptions)

Uzaktan barındırılan bir modeliniz varsa, çalıştırmadan önce indirildiğini kontrol etmeniz gerekir. Sen modeli yöneticinin kullanarak modeli indir görevin durumunu kontrol edebilirsiniz isModelDownloaded() yöntemini.

Etiketleyiciyi çalıştırmadan önce yalnızca bunu onaylamanız gerekse de, hem uzaktan barındırılan hem de yerel olarak paketlenmiş bir modeliniz varsa, görüntü etiketleyiciyi başlatırken bu kontrolü yapmak mantıklı olabilir: aşağıdaki durumlarda uzak modelden bir etiketleyici oluşturun: indirildi ve aksi takdirde yerel modelden.

Java

RemoteModelManager.getInstance().isModelDownloaded(remoteModel)
        .addOnSuccessListener(new OnSuccessListener<Boolean>() {
            @Override
            public void onSuccess(Boolean isDownloaded) {
                CustomImageLabelerOptions.Builder optionsBuilder;
                if (isDownloaded) {
                    optionsBuilder = new CustomImageLabelerOptions.Builder(remoteModel);
                } else {
                    optionsBuilder = new CustomImageLabelerOptions.Builder(localModel);
                }
                CustomImageLabelerOptions options = optionsBuilder
                        .setConfidenceThreshold(0.0f)  // Evaluate your model in the Cloud console
                                                       // to determine an appropriate threshold.
                        .build();

                ImageLabeler labeler = ImageLabeling.getClient(options);
            }
        });

Kotlin

RemoteModelManager.getInstance().isModelDownloaded(remoteModel)
    .addOnSuccessListener { isDownloaded ->
        val optionsBuilder =
            if (isDownloaded) {
                CustomImageLabelerOptions.Builder(remoteModel)
            } else {
                CustomImageLabelerOptions.Builder(localModel)
            }
        // Evaluate your model in the Cloud console to determine an appropriate threshold.
        val options = optionsBuilder.setConfidenceThreshold(0.0f).build()
        val labeler = ImageLabeling.getClient(options)
}

Yalnızca uzaktan barındırılan bir modeliniz varsa, modelin indirildiğini onaylayana kadar modelle ilgili işlevleri devre dışı bırakmalısınız (örneğin, kullanıcı arayüzünüzün bir kısmını grileştirme veya gizleme). Sen modeli yöneticinin için bir dinleyici bağlayarak bunu yapabilirsiniz download() yöntemi:

Java

RemoteModelManager.getInstance().download(remoteModel, conditions)
        .addOnSuccessListener(new OnSuccessListener<Void>() {
            @Override
            public void onSuccess(Void v) {
              // Download complete. Depending on your app, you could enable
              // the ML feature, or switch from the local model to the remote
              // model, etc.
            }
        });

Kotlin

RemoteModelManager.getInstance().download(remoteModel, conditions)
    .addOnSuccessListener {
        // Download complete. Depending on your app, you could enable the ML
        // feature, or switch from the local model to the remote model, etc.
    }

2. Giriş görüntüsünü hazırlayın

Ardından, etiketlemek istediğiniz her resim için bir oluşturmak InputImage sizin görüntüden nesne. Görüntü etiketleme Bir kullandığınızda hızlı çalışır Bitmap sen camera2 API, bir YUV_420_888 kullanırsanız veya media.Image mümkün olduğunda tavsiye edilir.

Bir oluşturabilir InputImage farklı kaynaklardan, her aşağıda açıklanmıştır.

Bir kullanma media.Image

Bir oluşturmak için InputImage bir nesneyi media.Image böyle sen, bir cihazın kamerasının bir görüntü yakalamak geçerken olarak nesne, media.Image nesne ve resmin dönüşünü InputImage.fromMediaImage() .

Eğer kullanırsanız CameraX kütüphane OnImageCapturedListener ve ImageAnalysis.Analyzer sınıfları sizin için rotasyon değerini hesaplayın.

Java

private class YourAnalyzer implements ImageAnalysis.Analyzer {

    @Override
    public void analyze(ImageProxy imageProxy) {
        if (imageProxy == null || imageProxy.getImage() == null) {
            return;
        }
        Image mediaImage = imageProxy.getImage();
        InputImage image =
                InputImage.fromMediaImage(mediaImage, imageProxy.imageInfo.rotationDegrees);
        // Pass image to an ML Kit Vision API
        // ...
    }
}

Kotlin+KTX

private class YourImageAnalyzer : ImageAnalysis.Analyzer {
    override fun analyze(imageProxy: ImageProxy?) {
        val mediaImage = imageProxy?.image
        if (mediaImage != null) {
            val image = InputImage.fromMediaImage(mediaImage, imageProxy.imageInfo.rotationDegrees)
            // Pass image to an ML Kit Vision API
            // ...
        }
    }
}

Size görüntünün dönme derecesini veren bir kamera kitaplığı kullanmıyorsanız, bunu cihazın dönme derecesinden ve cihazdaki kamera sensörünün oryantasyonundan hesaplayabilirsiniz:

Java

private static final SparseIntArray ORIENTATIONS = new SparseIntArray();
static {
    ORIENTATIONS.append(Surface.ROTATION_0, 90);
    ORIENTATIONS.append(Surface.ROTATION_90, 0);
    ORIENTATIONS.append(Surface.ROTATION_180, 270);
    ORIENTATIONS.append(Surface.ROTATION_270, 180);
}

/**
 * Get the angle by which an image must be rotated given the device's current
 * orientation.
 */
@RequiresApi(api = Build.VERSION_CODES.LOLLIPOP)
private int getRotationCompensation(String cameraId, Activity activity, Context context)
        throws CameraAccessException {
    // Get the device's current rotation relative to its "native" orientation.
    // Then, from the ORIENTATIONS table, look up the angle the image must be
    // rotated to compensate for the device's rotation.
    int deviceRotation = activity.getWindowManager().getDefaultDisplay().getRotation();
    int rotationCompensation = ORIENTATIONS.get(deviceRotation);

    // On most devices, the sensor orientation is 90 degrees, but for some
    // devices it is 270 degrees. For devices with a sensor orientation of
    // 270, rotate the image an additional 180 ((270 + 270) % 360) degrees.
    CameraManager cameraManager = (CameraManager) context.getSystemService(CAMERA_SERVICE);
    int sensorOrientation = cameraManager
            .getCameraCharacteristics(cameraId)
            .get(CameraCharacteristics.SENSOR_ORIENTATION);
    rotationCompensation = (rotationCompensation + sensorOrientation + 270) % 360;

    // Return the corresponding FirebaseVisionImageMetadata rotation value.
    int result;
    switch (rotationCompensation) {
        case 0:
            result = FirebaseVisionImageMetadata.ROTATION_0;
            break;
        case 90:
            result = FirebaseVisionImageMetadata.ROTATION_90;
            break;
        case 180:
            result = FirebaseVisionImageMetadata.ROTATION_180;
            break;
        case 270:
            result = FirebaseVisionImageMetadata.ROTATION_270;
            break;
        default:
            result = FirebaseVisionImageMetadata.ROTATION_0;
            Log.e(TAG, "Bad rotation value: " + rotationCompensation);
    }
    return result;
}
VisionImage.java

Kotlin+KTX

private val ORIENTATIONS = SparseIntArray()

init {
    ORIENTATIONS.append(Surface.ROTATION_0, 90)
    ORIENTATIONS.append(Surface.ROTATION_90, 0)
    ORIENTATIONS.append(Surface.ROTATION_180, 270)
    ORIENTATIONS.append(Surface.ROTATION_270, 180)
}
/**
 * Get the angle by which an image must be rotated given the device's current
 * orientation.
 */
@RequiresApi(api = Build.VERSION_CODES.LOLLIPOP)
@Throws(CameraAccessException::class)
private fun getRotationCompensation(cameraId: String, activity: Activity, context: Context): Int {
    // Get the device's current rotation relative to its "native" orientation.
    // Then, from the ORIENTATIONS table, look up the angle the image must be
    // rotated to compensate for the device's rotation.
    val deviceRotation = activity.windowManager.defaultDisplay.rotation
    var rotationCompensation = ORIENTATIONS.get(deviceRotation)

    // On most devices, the sensor orientation is 90 degrees, but for some
    // devices it is 270 degrees. For devices with a sensor orientation of
    // 270, rotate the image an additional 180 ((270 + 270) % 360) degrees.
    val cameraManager = context.getSystemService(CAMERA_SERVICE) as CameraManager
    val sensorOrientation = cameraManager
            .getCameraCharacteristics(cameraId)
            .get(CameraCharacteristics.SENSOR_ORIENTATION)!!
    rotationCompensation = (rotationCompensation + sensorOrientation + 270) % 360

    // Return the corresponding FirebaseVisionImageMetadata rotation value.
    val result: Int
    when (rotationCompensation) {
        0 -> result = FirebaseVisionImageMetadata.ROTATION_0
        90 -> result = FirebaseVisionImageMetadata.ROTATION_90
        180 -> result = FirebaseVisionImageMetadata.ROTATION_180
        270 -> result = FirebaseVisionImageMetadata.ROTATION_270
        else -> {
            result = FirebaseVisionImageMetadata.ROTATION_0
            Log.e(TAG, "Bad rotation value: $rotationCompensation")
        }
    }
    return result
}
VisionImage.kt

Daha sonra, geçiş media.Image nesnesi ve dönme derecesi değeri InputImage.fromMediaImage() :

Java

InputImage image = InputImage.fromMediaImage(mediaImage, rotation);

Kotlin+KTX

val image = InputImage.fromMediaImage(mediaImage, rotation)

Bir dosya URI'sini kullanma

Bir oluşturmak için InputImage bir dosya tanım nesneyi, uygulama içeriğini geçirmek ve URI dosya InputImage.fromFilePath() . Bir kullanmak yararlı olur ACTION_GET_CONTENT onların galeri uygulamasından bir görüntüyü seçmek için kullanıcı istemi için niyet.

Java

InputImage image;
try {
    image = InputImage.fromFilePath(context, uri);
} catch (IOException e) {
    e.printStackTrace();
}

Kotlin+KTX

val image: InputImage
try {
    image = InputImage.fromFilePath(context, uri)
} catch (e: IOException) {
    e.printStackTrace()
}

Bir Kullanarak ByteBuffer veya ByteArray

Bir oluşturmak için InputImage bir nesneyi ByteBuffer veya ByteArray önce için tarif edildiği gibi, ilk görüntü döndürme derecesini hesaplamak media.Image girişi. Daha sonra, oluşturma InputImage görüntünün yüksekliği, genişliği, renk kodlama formatına ve döndürme derecesi ile birlikte, tampon ya da dizi ile bir nesne:

Java

InputImage image = InputImage.fromByteBuffer(byteBuffer,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
);

Kotlin+KTX

val image = InputImage.fromByteBuffer(
        byteBuffer,
        /* image width */ 480,
        /* image height */ 360,
        rotationDegrees,
        InputImage.IMAGE_FORMAT_NV21 // or IMAGE_FORMAT_YV12
)

Bir kullanma Bitmap

Bir oluşturmak için InputImage bir nesneyi Bitmap nesnesi, aşağıdaki beyanda:

Java

InputImage image = InputImage.fromBitmap(bitmap, rotationDegree);

Kotlin+KTX

val image = InputImage.fromBitmap(bitmap, 0)

Görüntü ile temsil edilen Bitmap dönme derecesine sahip nesne birlikte ile.

3. Görüntü etiketleyiciyi çalıştırın

Etiket, bir görüntüdeki nesneler için, geçiş image nesneyi ImageLabeler 'in process() yöntemi.

Java

labeler.process(image)
        .addOnSuccessListener(new OnSuccessListener<List<ImageLabel>>() {
            @Override
            public void onSuccess(List<ImageLabel> labels) {
                // Task completed successfully
                // ...
            }
        })
        .addOnFailureListener(new OnFailureListener() {
            @Override
            public void onFailure(@NonNull Exception e) {
                // Task failed with an exception
                // ...
            }
        });

Kotlin

labeler.process(image)
        .addOnSuccessListener { labels ->
            // Task completed successfully
            // ...
        }
        .addOnFailureListener { e ->
            // Task failed with an exception
            // ...
        }

4. Etiketli nesneler hakkında bilgi alın

Görüntü etiketleme işlemi başarılı olursa, bir listesi ImageLabel nesnelere başarı dinleyici geçirilir. Her ImageLabel nesne görüntüsünde etiketli bir şeyi temsil eder. Her etiketin metin açıklamasını, eşleşmenin güven puanını ve eşleşmenin indeksini alabilirsiniz. Örneğin:

Java

for (ImageLabel label : labels) {
    String text = label.getText();
    float confidence = label.getConfidence();
    int index = label.getIndex();
}

Kotlin

for (label in labels) {
    val text = label.text
    val confidence = label.confidence
    val index = label.index
}

Gerçek zamanlı performansı iyileştirmeye yönelik ipuçları

Görüntüleri gerçek zamanlı bir uygulamada etiketlemek istiyorsanız, en iyi kare hızlarını elde etmek için şu yönergeleri izleyin:
  • Throttle, görüntü etiketleyiciye çağrı yapar. Görüntü etiketleyici çalışırken yeni bir video karesi kullanıma sunulursa, kareyi bırakın. Bkz VisionProcessorBase bir örnek için hızlı başlangıç örnek uygulama sınıfı.
  • Giriş görüntüsünün üzerine grafik bindirmek için görüntü etiketleyicinin çıkışını kullanıyorsanız, önce sonucu alın, ardından görüntüyü oluşturun ve tek adımda bindirin. Bunu yaparak, her bir giriş karesi için yalnızca bir kez görüntüleme yüzeyini oluşturursunuz. Bkz CameraSourcePreview ve GraphicOverlay bir örnek için hızlı başlangıç örnek uygulama sınıfları.

  • İçinde Camera2 API, yakalama resimler kullanırsanız ImageFormat.YUV_420_888 formatında.

    Eğer eski Kamera API, yakalama resimler kullanırsanız ImageFormat.NV21 formatında.