इस पेज पर, इनपेंटिंग का इस्तेमाल करके, Imagen की मदद से, किसी इमेज से ऑब्जेक्ट हटाने का तरीका बताया गया है. इसके लिए, Firebase AI Logic SDK टूल का इस्तेमाल किया जाता है.
इनपेंटिंग, मास्क-आधारित एडिटिंग का एक टाइप है. मास्क, एक डिजिटल ओवरले होता है. इससे, इमेज के उस खास हिस्से की पहचान होती है जिसमें आपको बदलाव करना है.
यह कैसे काम करता है: आपको एक ओरिजनल इमेज और उससे जुड़ी मास्क की गई इमेज देनी होती है. यह इमेज, अपने-आप जनरेट हो सकती है या आपके पास इसे बनाने का विकल्प होता है. इससे, उस ऑब्जेक्ट या विषय पर मास्क तय होता है जिसे आपको हटाना है. आपके पास, वैकल्पिक तौर पर एक टेक्स्ट प्रॉम्प्ट देने का भी विकल्प होता है. इसमें यह बताया जाता है कि आपको क्या हटाना है. इसके अलावा, मॉडल यह भी समझदारी से पता लगा सकता है कि किस ऑब्जेक्ट को हटाना है. इसके बाद, मॉडल उस ऑब्जेक्ट को हटा देता है और उस जगह पर, कॉन्टेक्स्ट के हिसाब से नया कॉन्टेंट भर देता है.
उदाहरण के लिए, किसी बॉल को मास्क किया जा सकता है और उसकी जगह खाली दीवार या घास का मैदान दिखाया जा सकता है.
अपने-आप जनरेट होने वाले मास्क के लिए कोड पर जाएं मास्क उपलब्ध कराने के लिए कोड पर जाएं
शुरू करने से पहले
| यह सुविधा, सिर्फ़ Vertex AI Gemini API को अपने एपीआई प्रोवाइडर के तौर पर इस्तेमाल करने पर उपलब्ध होती है. |
अगर आपने अब तक, शुरू करने के लिए
गाइड में दिए गए निर्देशों को पूरा नहीं किया है, तो उन्हें पूरा करें. इसमें, Firebase प्रोजेक्ट सेट अप करने, अपने ऐप्लिकेशन को Firebase से कनेक्ट करने,
SDK टूल जोड़ने, चुने गए एपीआई प्रोवाइडर के लिए बैकएंड सेवा शुरू करने, और
ImagenModel इंस्टेंस बनाने का तरीका बताया गया है.
इस सुविधा के साथ काम करने वाले मॉडल
Imagen अपने capability
मॉडल के ज़रिए इमेज एडिटिंग की सुविधा देता है:
imagen-3.0-capability-001
ध्यान दें कि Imagen मॉडल के लिए, global जगह की जानकारी
नहीं दी जा सकती.
अपने-आप जनरेट होने वाले मास्क का इस्तेमाल करके ऑब्जेक्ट हटाना
| इस सैंपल को आज़माने से पहले, अपने प्रोजेक्ट और ऐप्लिकेशन को सेट अप करने के लिए, इस गाइड का शुरू करने से पहले सेक्शन पूरा करें. |
यहां दिए गए सैंपल में, इनपेंटिंग का इस्तेमाल करके, किसी इमेज से कॉन्टेंट हटाने का तरीका बताया गया है. इसमें, मास्क अपने-आप जनरेट होता है. आपको ओरिजनल इमेज और एक टेक्स्ट प्रॉम्प्ट देना होता है. इसके बाद, Imagen ओरिजनल इमेज में बदलाव करने के लिए, मास्क वाले एरिया को अपने-आप पहचान लेता है और उसे बना देता है.
उदाहरण के लिए, क्लास आईडी के तौर पर67 तय किया जा सकता है. इसके बाद, मॉडल इमेज में मौजूद सभी टेबल को पहचान लेगा और उनके ऊपर मास्क बना देगा.Swift
Swift के लिए, Imagen मॉडल की मदद से इमेज एडिटिंग की सुविधा उपलब्ध नहीं है. इस साल के आखिर में फिर से देखें!
Kotlin
अपने-आप जनरेट होने वाले मास्क की मदद से ऑब्जेक्ट हटाने के लिए, ImagenBackgroundMask तय करें.
editImage()
का इस्तेमाल करें और एडिटिंग कॉन्फ़िगरेशन को ImagenEditMode.INPAINT_REMOVAL पर सेट करें.
// Using this SDK to access Imagen models is a Preview release and requires opt-in
@OptIn(PublicPreviewAPI::class)
suspend fun customizeImage() {
// Initialize the Vertex AI Gemini API backend service
// Optionally specify the location to access the model (for example, `us-central1`)
val ai = Firebase.ai(backend = GenerativeBackend.vertexAI(location = "us-central1"))
// Create an `ImagenModel` instance with an Imagen "capability" model
val model = ai.imagenModel("imagen-3.0-capability-001")
// This example assumes 'originalImage' is a pre-loaded Bitmap.
// In a real app, this might come from the user's device or a URL.
val originalImage: Bitmap = TODO("Load your original image Bitmap here")
// Provide the prompt describing the content to be removed.
val prompt = "ball"
// Use the editImage API to remove the unwanted content.
// Pass the original image, the prompt, and an editing configuration.
val editedImage = model.editImage(
referenceImages = listOf(
ImagenRawImage(originalImage.toImagenInlineImage()),
ImagenBackgroundMask(), // Use ImagenBackgroundMask() to auto-generate the mask.
),
prompt = prompt,
// Define the editing configuration for inpainting and insertion.
config = ImagenEditingConfig(ImagenEditMode.INPAINT_REMOVAL)
)
// Process the resulting 'editedImage' Bitmap, for example, by displaying it in an ImageView.
}
Java
अपने-आप जनरेट होने वाले मास्क की मदद से ऑब्जेक्ट हटाने के लिए, ImagenBackgroundMask तय करें.
editImage()
का इस्तेमाल करें और एडिटिंग कॉन्फ़िगरेशन को ImagenEditMode.INPAINT_REMOVAL पर सेट करें.
// Initialize the Vertex AI Gemini API backend service
// Optionally specify the location to access the model (for example, `us-central1`)
// Create an `ImagenModel` instance with an Imagen "capability" model
ImagenModel imagenModel = FirebaseAI.getInstance(GenerativeBackend.vertexAI("us-central1"))
.imagenModel(
/* modelName */ "imagen-3.0-capability-001");
ImagenModelFutures model = ImagenModelFutures.from(imagenModel);
// This example assumes 'originalImage' is a pre-loaded Bitmap.
// In a real app, this might come from the user's device or a URL.
Bitmap originalImage = null; // TODO("Load your image Bitmap here");
// Provide the prompt describing the content to be removed.
String prompt = "ball";
// Define the list of sources for the editImage call.
// This includes the original image and the auto-generated mask.
ImagenRawImage rawOriginalImage =
new ImagenRawImage(ImagenInlineImageKt.toImagenInlineImage(originalImage));
// Use ImagenBackgroundMask() to auto-generate the mask.
ImagenBackgroundMask rawMaskedImage = new ImagenBackgroundMask();
ImagenEditingConfig config = new ImagenEditingConfig();
// Use the editImage API to remove the unwanted content.
// Pass the original image, the auto-generated masked image, the prompt, and an editing configuration.
Futures.addCallback(model.editImage(Arrays.asList(rawOriginalImage, rawMaskedImage), prompt, config),
new FutureCallback<ImagenGenerationResponse>() {
@Override
public void onSuccess(ImagenGenerationResponse result) {
if (result.getImages().isEmpty()) {
Log.d("ImageEditor", "No images generated");
}
Bitmap editedImage = ((ImagenInlineImage) result.getImages().get(0)).asBitmap();
// Process and use the bitmap to display the image in your UI
}
@Override
public void onFailure(Throwable t) {
// ...
}
}, Executors.newSingleThreadExecutor());
Web
वेब ऐप्लिकेशन के लिए, Imagen मॉडल की मदद से इमेज एडिटिंग की सुविधा उपलब्ध नहीं है. इस साल के आखिर में फिर से देखें!
Dart
अपने-आप जनरेट होने वाले मास्क की मदद से ऑब्जेक्ट हटाने के लिए, ImagenBackgroundMask तय करें.
editImage() का इस्तेमाल करें और एडिटिंग कॉन्फ़िगरेशन को ImagenEditMode.inpaintRemoval पर सेट करें.
import 'dart:typed_data';
import 'package:firebase_ai/firebase_ai.dart';
import 'package:firebase_core/firebase_core.dart';
import 'firebase_options.dart';
// Initialize FirebaseApp
await Firebase.initializeApp(
options: DefaultFirebaseOptions.currentPlatform,
);
// Initialize the Vertex AI Gemini API backend service
// Optionally specify a location to access the model (for example, `us-central1`)
final ai = FirebaseAI.vertexAI(location: 'us-central1');
// Create an `ImagenModel` instance with an Imagen "capability" model
final model = ai.imagenModel(model: 'imagen-3.0-capability-001');
TODO - FLUTTER// This example assumes 'originalImage' is a pre-loaded Uint8List.
// In a real app, this might come from the user's device or a URL.
final Uint8List originalImage = Uint8List(0); // TODO: Load your original image data here.
// Provide the prompt describing the content to be removed.
final prompt = 'ball';
try {
// Use the editImage API to remove the unwanted content.
// Pass the original image, the prompt, and an editing configuration.
final response = await model.editImage(
sources: [
ImagenRawImage(originalImage),
ImagenBackgroundMask(), // Use ImagenBackgroundMask() to auto-generate the mask.
],
prompt,
// Define the editing configuration for inpainting and removal.
config: const ImagenEditingConfig(
editMode: ImagenEditMode.inpaintRemoval,
),
);
// Process the result.
if (response.images.isNotEmpty) {
final editedImage = response.images.first.bytes;
// Use the editedImage (a Uint8List) to display the image, save it, etc.
print('Image successfully generated!');
} else {
// Handle the case where no images were generated.
print('Error: No images were generated.');
}
} catch (e) {
// Handle any potential errors during the API call.
print('An error occurred: $e');
}
Unity
Unity के लिए, Imagen मॉडल की मदद से इमेज एडिटिंग की सुविधा उपलब्ध नहीं है. इस साल के आखिर में फिर से देखें!
उपलब्ध कराए गए मास्क का इस्तेमाल करके ऑब्जेक्ट हटाना
| इस सैंपल को आज़माने से पहले, अपने प्रोजेक्ट और ऐप्लिकेशन को सेट अप करने के लिए, इस गाइड का शुरू करने से पहले सेक्शन पूरा करें. |
यहां दिए गए सैंपल में, इनपेंटिंग का इस्तेमाल करके, किसी इमेज से कॉन्टेंट हटाने का तरीका बताया गया है. इसमें, उस इमेज में तय किए गए मास्क का इस्तेमाल किया जाता है जिसे आपने उपलब्ध कराया है. आपको ओरिजनल इमेज, एक टेक्स्ट प्रॉम्प्ट, और मास्क की गई इमेज उपलब्ध करानी होती है.
मास्क की गई इमेज उपलब्ध कराने पर, टेक्स्ट प्रॉम्प्ट देना ज़रूरी नहीं है. Imagen मास्क वाले एरिया से हटाने के लिए, किसी ऑब्जेक्ट को समझदारी से पहचान सकता है. हालांकि, अगर आपको जिस ऑब्जेक्ट को हटाना है वह साफ़ तौर पर नहीं दिख रहा है या आपको मास्क वाले एरिया में मौजूद सिर्फ़ कुछ ऑब्जेक्ट हटाने हैं, तो टेक्स्ट प्रॉम्प्ट उपलब्ध कराएं. इससे मॉडल को सही ऑब्जेक्ट हटाने में मदद मिलेगी.
Swift
Swift के लिए, Imagen मॉडल की मदद से इमेज एडिटिंग की सुविधा उपलब्ध नहीं है. इस साल के आखिर में फिर से देखें!
Kotlin
ऑब्जेक्ट हटाने और मास्क की गई अपनी इमेज उपलब्ध कराने के लिए, मास्क की गई इमेज के साथ ImagenRawMask तय करें.
editImage()
का इस्तेमाल करें और एडिटिंग कॉन्फ़िगरेशन को ImagenEditMode.INPAINT_REMOVAL पर सेट करें.
// Using this SDK to access Imagen models is a Preview release and requires opt-in
@OptIn(PublicPreviewAPI::class)
suspend fun customizeImage() {
// Initialize the Vertex AI Gemini API backend service
// Optionally specify the location to access the model (for example, `us-central1`)
val ai = Firebase.ai(backend = GenerativeBackend.vertexAI(location = "us-central1"))
// Create an `ImagenModel` instance with an Imagen "capability" model
val model = ai.imagenModel("imagen-3.0-capability-001")
// This example assumes 'originalImage' is a pre-loaded Bitmap.
// In a real app, this might come from the user's device or a URL.
val originalImage: Bitmap = TODO("Load your original image Bitmap here")
// This example assumes 'maskImage' is a pre-loaded Bitmap that contains the masked area.
// In a real app, this might come from the user's device or a URL.
val maskImage: Bitmap = TODO("Load your masked image Bitmap here")
// Provide the prompt describing the content to be removed.
val prompt = "ball"
// Use the editImage API to remove the unwanted content.
// Pass the original image, the masked image, the prompt, and an editing configuration.
val editedImage = model.editImage(
referenceImages = listOf(
ImagenRawImage(originalImage.toImagenInlineImage()),
ImagenRawMask(maskImage.toImagenInlineImage()), // Use ImagenRawMask() to provide your own masked image.
),
prompt = prompt,
// Define the editing configuration for inpainting and removal.
config = ImagenEditingConfig(ImagenEditMode.INPAINT_REMOVAL)
)
// Process the resulting 'editedImage' Bitmap, for example, by displaying it in an ImageView.
}
Java
ऑब्जेक्ट हटाने और मास्क की गई अपनी इमेज उपलब्ध कराने के लिए, मास्क की गई इमेज के साथ ImagenRawMask तय करें.
editImage()
का इस्तेमाल करें और एडिटिंग कॉन्फ़िगरेशन को ImagenEditMode.INPAINT_REMOVAL पर सेट करें.
// Initialize the Vertex AI Gemini API backend service
// Optionally specify the location to access the model (for example, `us-central1`)
// Create an `ImagenModel` instance with an Imagen "capability" model
ImagenModel imagenModel = FirebaseAI.getInstance(GenerativeBackend.vertexAI("us-central1"))
.imagenModel(
/* modelName */ "imagen-3.0-capability-001");
ImagenModelFutures model = ImagenModelFutures.from(imagenModel);
// This example assumes 'originalImage' is a pre-loaded Bitmap.
// In a real app, this might come from the user's device or a URL.
Bitmap originalImage = null; // TODO("Load your original image Bitmap here");
// This example assumes 'maskImage' is a pre-loaded Bitmap that contains the masked area.
// In a real app, this might come from the user's device or a URL.
Bitmap maskImage = null; // TODO("Load your masked image Bitmap here");
// Provide the prompt describing the content to be removed.
String prompt = "ball";
// Define the list of source images for the editImage call.
ImagenRawImage rawOriginalImage =
new ImagenRawImage(ImagenInlineImageKt.toImagenInlineImage(originalImage));
// Use ImagenRawMask() to provide your own masked image.
ImagenBackgroundMask rawMaskedImage =
new ImagenRawMask(ImagenInlineImageKt.toImagenInlineImage(maskImage));
ImagenEditingConfig config = new ImagenEditingConfig();
// Use the editImage API to remove the unwanted content.
// Pass the original image, the masked image, the prompt, and an editing configuration.
Futures.addCallback(model.editImage(Arrays.asList(rawOriginalImage, rawMaskedImage), prompt, config),
new FutureCallback<ImagenGenerationResponse>() {
@Override
public void onSuccess(ImagenGenerationResponse result) {
if (result.getImages().isEmpty()) {
Log.d("ImageEditor", "No images generated");
}
Bitmap editedImage = ((ImagenInlineImage) result.getImages().get(0)).asBitmap();
// Process and use the bitmap to display the image in your UI
}
@Override
public void onFailure(Throwable t) {
// ...
}
}, Executors.newSingleThreadExecutor());
Web
वेब ऐप्लिकेशन के लिए, Imagen मॉडल की मदद से इमेज एडिटिंग की सुविधा उपलब्ध नहीं है. इस साल के आखिर में फिर से देखें!
Dart
ऑब्जेक्ट हटाने और मास्क की गई अपनी इमेज उपलब्ध कराने के लिए, मास्क की गई इमेज के साथ ImagenRawMask तय करें.
editImage() का इस्तेमाल करें और एडिटिंग कॉन्फ़िगरेशन को ImagenEditMode.inpaintRemoval पर सेट करें.
import 'dart:typed_data';
import 'package:firebase_ai/firebase_ai.dart';
import 'package:firebase_core/firebase_core.dart';
import 'firebase_options.dart';
// Initialize FirebaseApp
await Firebase.initializeApp(
options: DefaultFirebaseOptions.currentPlatform,
);
// Initialize the Vertex AI Gemini API backend service
// Optionally specify a location to access the model (for example, `us-central1`)
final ai = FirebaseAI.vertexAI(location: 'us-central1');
// Create an `ImagenModel` instance with an Imagen "capability" model
final model = ai.imagenModel(model: 'imagen-3.0-capability-001');
// This example assumes 'originalImage' is a pre-loaded Uint8List.
// In a real app, this might come from the user's device or a URL.
final Uint8List originalImage = Uint8List(0); // TODO: Load your original image data here.
// This example assumes 'maskImage' is a pre-loaded Uint8List that contains the masked area.
// In a real app, this might come from the user's device or a URL.
final Uint8List maskImage = Uint8List(0); // TODO: Load your masked image data here.
// Provide the prompt describing the content to be removed.
final prompt = 'ball';
try {
// Use the editImage API to remove the unwanted content.
// Pass the original image, the prompt, and an editing configuration.
final response = await model.editImage(
sources: [
ImagenRawImage(originalImage),
ImagenRawMask(maskImage), // Use ImagenRawMask() to provide your own masked image.
],
prompt: prompt,
// Define the editing configuration for inpainting and removal.
config: const ImagenEditingConfig(
editMode: ImagenEditMode.inpaintRemoval,
),
);
// Process the result.
if (response.images.isNotEmpty) {
final editedImage = response.images.first.bytes;
// Use the editedImage (a Uint8List) to display the image, save it, etc.
print('Image successfully generated!');
} else {
// Handle the case where no images were generated.
print('Error: No images were generated.');
}
} catch (e) {
// Handle any potential errors during the API call.
print('An error occurred: $e');
}
Unity
Unity के लिए, Imagen मॉडल की मदद से इमेज एडिटिंग की सुविधा उपलब्ध नहीं है. इस साल के आखिर में फिर से देखें!
सबसे सही तरीके और सीमाएं
हमारा सुझाव है कि इमेज में बदलाव करते समय, मास्क को डाइलट करें. इससे, बदलाव की सीमाओं को स्मूद करने और उसे ज़्यादा भरोसेमंद बनाने में मदद मिल सकती है. आम तौर पर, डाइलट करने की वैल्यू 1% या 2% रखने का सुझाव दिया जाता है (0.01 या 0.02).
सुझाव/राय देना या शिकायत करना के बारे में अपने अनुभव के साथ Firebase AI Logic