Phát hiện các đối tượng trong hình ảnh bằng mô hình được đào tạo AutoML trên Android

Sau khi huấn luyện mô hình của riêng mình bằng AutoML Vision Edge , bạn có thể sử dụng mô hình đó trong ứng dụng của mình để phát hiện các đối tượng trong hình ảnh.

Có hai cách để tích hợp các mô hình được đào tạo từ AutoML Vision Edge: Bạn có thể đóng gói mô hình bằng cách đặt mô hình đó vào thư mục nội dung của ứng dụng hoặc bạn có thể tải mô hình xuống từ Firebase một cách linh hoạt.

Tùy chọn gói mô hình
Được gói trong ứng dụng của bạn
  • Mô hình này là một phần của APK ứng dụng của bạn
  • Mẫu này có sẵn ngay lập tức, ngay cả khi thiết bị Android ngoại tuyến
  • Không cần dự án Firebase
Được lưu trữ với Firebase
  • Lưu trữ mô hình bằng cách tải nó lên Firebase Machine Learning
  • Giảm kích thước APK
  • Mô hình được tải xuống theo yêu cầu
  • Đẩy các bản cập nhật mô hình mà không cần xuất bản lại ứng dụng của bạn
  • Thử nghiệm A/B dễ dàng với Cấu hình từ xa Firebase
  • Yêu cầu dự án Firebase

Trước khi bắt đầu

  1. Nếu bạn muốn tải xuống một mô hình , hãy đảm bảo bạn thêm Firebase vào dự án Android của mình , nếu bạn chưa làm như vậy. Điều này không bắt buộc khi bạn đóng gói mô hình.

  2. Thêm các phần phụ thuộc cho thư viện TensorFlow Lite Task vào tệp gradle cấp ứng dụng của mô-đun, thường là app/build.gradle :

    Để đóng gói một mô hình với ứng dụng của bạn:

    dependencies {
  // ...
  // Object detection with a bundled Auto ML model
  implementation 'org.tensorflow:tensorflow-lite-task-vision:0.0.0-nightly-SNAPSHOT'
}

    Để tải xuống động một mô hình từ Firebase, hãy thêm phần phụ thuộc Firebase ML:

    dependencies {
  // ...
  // Object detection with an Auto ML model deployed to Firebase
  implementation platform('com.google.firebase:firebase-bom:26.1.1')
  implementation 'com.google.firebase:firebase-ml-model-interpreter'

  implementation 'org.tensorflow:tensorflow-lite-task-vision:0.0.0-nightly'
}

1. Tải mô hình

Định cấu hình nguồn mô hình cục bộ

Để gói mô hình với ứng dụng của bạn:

  1. Trích xuất mô hình từ kho lưu trữ zip mà bạn đã tải xuống từ bảng điều khiển Google Cloud.
  2. Đưa mô hình của bạn vào gói ứng dụng:
    1. Nếu bạn không có thư mục nội dung trong dự án của mình, hãy tạo một thư mục bằng cách nhấp chuột phải vào app/ thư mục, sau đó nhấp vào Mới > Thư mục > Thư mục nội dung .
    2. Sao chép tệp mô hình tflite của bạn với siêu dữ liệu được nhúng vào thư mục nội dung.

  3. Thêm phần sau vào tệp build.gradle của ứng dụng để đảm bảo Gradle không nén tệp mô hình khi xây dựng ứng dụng:

    android {
    // ...
    aaptOptions {
        noCompress "tflite"
    }
}

    Tệp mô hình sẽ được bao gồm trong gói ứng dụng và có sẵn dưới dạng nội dung thô.

Định cấu hình nguồn mô hình được lưu trữ trên Firebase

Để sử dụng mô hình được lưu trữ từ xa, hãy tạo một đối tượng RemoteModel , chỉ định tên mà bạn đã gán cho mô hình khi xuất bản nó:

Java

// Specify the name you assigned when you deployed the model.
FirebaseCustomRemoteModel remoteModel =
        new FirebaseCustomRemoteModel.Builder("your_model").build();

Kotlin

// Specify the name you assigned when you deployed the model.
val remoteModel =
    FirebaseCustomRemoteModel.Builder("your_model_name").build()

Sau đó, bắt đầu tác vụ tải xuống mô hình, chỉ định các điều kiện mà bạn muốn cho phép tải xuống. Nếu mô hình không có trên thiết bị hoặc nếu có phiên bản mới hơn của mô hình thì tác vụ sẽ tải xuống mô hình một cách không đồng bộ từ Firebase:

Java

DownloadConditions downloadConditions = new DownloadConditions.Builder()
        .requireWifi()
        .build();
RemoteModelManager.getInstance().download(remoteModel, downloadConditions)
        .addOnSuccessListener(new OnSuccessListener<Void>() {
            @Override
            public void onSuccess(@NonNull Task<Void> task) {
                // Success.
            }
        });

Kotlin

val downloadConditions = DownloadConditions.Builder()
    .requireWifi()
    .build()
RemoteModelManager.getInstance().download(remoteModel, downloadConditions)
    .addOnSuccessListener {
        // Success.
    }

Nhiều ứng dụng bắt đầu tác vụ tải xuống trong mã khởi tạo của chúng nhưng bạn có thể làm như vậy bất kỳ lúc nào trước khi cần sử dụng mô hình.

Tạo trình phát hiện đối tượng từ mô hình của bạn

Sau khi bạn định cấu hình các nguồn mô hình của mình, hãy tạo đối tượng ObjectDetector từ một trong các nguồn đó.

Nếu bạn chỉ có một mô hình được đóng gói cục bộ, chỉ cần tạo trình phát hiện đối tượng từ tệp mô hình của bạn và định cấu hình ngưỡng điểm tin cậy mà bạn muốn yêu cầu (xem Đánh giá mô hình của bạn ):

Java

// Initialization
ObjectDetectorOptions options = ObjectDetectorOptions.builder()
    .setScoreThreshold(0)  // Evaluate your model in the Google Cloud console
                           // to determine an appropriate value.
    .build();
ObjectDetector objectDetector = ObjectDetector.createFromFileAndOptions(context, modelFile, options);

Kotlin

// Initialization
val options = ObjectDetectorOptions.builder()
    .setScoreThreshold(0)  // Evaluate your model in the Google Cloud console
                           // to determine an appropriate value.
    .build()
val objectDetector = ObjectDetector.createFromFileAndOptions(context, modelFile, options)

Nếu bạn có một mô hình được lưu trữ từ xa, bạn sẽ phải kiểm tra xem nó đã được tải xuống chưa trước khi chạy nó. Bạn có thể kiểm tra trạng thái của tác vụ tải xuống mô hình bằng phương thức isModelDownloaded() của trình quản lý mô hình.

Mặc dù bạn chỉ phải xác nhận điều này trước khi chạy trình phát hiện đối tượng, nhưng nếu bạn có cả mô hình được lưu trữ từ xa và mô hình được đóng gói cục bộ, thì có thể thực hiện kiểm tra này khi khởi tạo trình phát hiện đối tượng: tạo một trình phát hiện đối tượng từ xa mô hình nếu nó đã được tải xuống và từ mô hình cục bộ nếu không.

Java

FirebaseModelManager.getInstance().isModelDownloaded(remoteModel)
        .addOnSuccessListener(new OnSuccessListener<Boolean>() {
            @Override
            public void onSuccess(Boolean isDownloaded) {
            }
        });

Kotlin

FirebaseModelManager.getInstance().isModelDownloaded(remoteModel)
        .addOnSuccessListener { success ->

        }

Nếu chỉ có một mô hình được lưu trữ từ xa, bạn nên tắt chức năng liên quan đến mô hình—ví dụ: chuyển sang màu xám hoặc ẩn một phần giao diện người dùng—cho đến khi bạn xác nhận rằng mô hình đã được tải xuống. Bạn có thể làm như vậy bằng cách đính kèm một trình nghe vào phương thức download() của trình quản lý mô hình.

Khi bạn biết mô hình của mình đã được tải xuống, hãy tạo trình phát hiện đối tượng từ tệp mô hình:

Java

FirebaseModelManager.getInstance().getLatestModelFile(remoteModel)
        .addOnCompleteListener(new OnCompleteListener<File>() {
            @Override
            public void onComplete(@NonNull Task<File> task) {
                File modelFile = task.getResult();
                if (modelFile != null) {
                    ObjectDetectorOptions options = ObjectDetectorOptions.builder()
                            .setScoreThreshold(0)
                            .build();
                    objectDetector = ObjectDetector.createFromFileAndOptions(
                            getApplicationContext(), modelFile.getPath(), options);
                }
            }
        });

Kotlin

FirebaseModelManager.getInstance().getLatestModelFile(remoteModel)
        .addOnSuccessListener { modelFile ->
            val options = ObjectDetectorOptions.builder()
                    .setScoreThreshold(0f)
                    .build()
            objectDetector = ObjectDetector.createFromFileAndOptions(
                    applicationContext, modelFile.path, options)
        }

2. Chuẩn bị hình ảnh đầu vào

Sau đó, đối với mỗi hình ảnh bạn muốn gắn nhãn, hãy tạo đối tượng TensorImage từ hình ảnh của bạn. Bạn có thể tạo một đối tượng TensorImage từ Bitmap bằng phương thức fromBitmap :

Java

TensorImage image = TensorImage.fromBitmap(bitmap);

Kotlin

val image = TensorImage.fromBitmap(bitmap)

Nếu dữ liệu hình ảnh của bạn không có trong Bitmap , bạn có thể tải một mảng pixel như được hiển thị trong tài liệu TensorFlow Lite .

3. Chạy trình dò ​​tìm đối tượng

Để phát hiện các đối tượng trong một hình ảnh, hãy chuyển đối tượng TensorImage tới phương thức detect() của ObjectDetector .

Java

List<Detection> results = objectDetector.detect(image);

Kotlin

val results = objectDetector.detect(image)

4. Nhận thông tin về đối tượng được dán nhãn

Nếu hoạt động phát hiện đối tượng thành công, nó sẽ trả về danh sách các đối tượng Detection . Mỗi đối tượng Detection đại diện cho thứ gì đó được phát hiện trong ảnh. Bạn có thể lấy hộp giới hạn của từng đối tượng và nhãn của nó.

Ví dụ:

Java

for (Detection result : results) {
    RectF bounds = result.getBoundingBox();
    List<Category> labels = result.getCategories();
}

Kotlin

for (result in results) {
    val bounds = result.getBoundingBox()
    val labels = result.getCategories()
}

Mẹo để cải thiện hiệu suất thời gian thực

Nếu bạn muốn gắn nhãn hình ảnh trong ứng dụng thời gian thực, hãy làm theo các nguyên tắc sau để đạt được tốc độ khung hình tốt nhất:

  • Điều tiết cuộc gọi đến nhãn hình ảnh. Nếu có khung hình video mới trong khi trình gắn nhãn hình ảnh đang chạy, hãy thả khung hình đó xuống. Xem lớp VisionProcessorBase trong ứng dụng mẫu khởi động nhanh để biết ví dụ.
  • Nếu bạn đang sử dụng đầu ra của trình gắn nhãn hình ảnh để phủ đồ họa lên hình ảnh đầu vào, trước tiên hãy lấy kết quả, sau đó hiển thị hình ảnh và lớp phủ trong một bước duy nhất. Bằng cách đó, bạn chỉ hiển thị trên bề mặt hiển thị một lần cho mỗi khung hình đầu vào. Xem các lớp CameraSourcePreview và GraphicOverlay trong ứng dụng mẫu khởi động nhanh để biết ví dụ.

  • Nếu bạn sử dụng API Camera2, hãy chụp ảnh ở định dạng ImageFormat.YUV_420_888 .

    Nếu bạn sử dụng API máy ảnh cũ hơn, hãy chụp ảnh ở định dạng ImageFormat.NV21 .