Chroma प्लगिन

Chroma प्लग इन इंडेक्सर और रिट्रीवर को लागू करने की सुविधा देता है, जो क्लाइंट/सर्वर मोड में Chroma वेक्टर डेटाबेस का इस्तेमाल करता है.

इंस्टॉल करना

npm i --save genkitx-chromadb

कॉन्फ़िगरेशन

इस प्लग इन का इस्तेमाल करने के लिए, configureGenkit() को कॉल करते समय इसे तय करें:

import { chroma } from 'genkitx-chromadb';

export default configureGenkit({
  plugins: [
    chroma([
      {
        collectionName: 'bob_collection',
        embedder: textEmbeddingGecko,
      },
    ]),
  ],
  // ...
});

आपको क्रोमा कलेक्शन और वह एम्बेडिंग मॉडल तय करना होगा जिसका आपको इस्तेमाल करना है. इसके अलावा, इसके दो वैकल्पिक पैरामीटर हैं:

  • clientParams: अगर Chroma सर्वर को Genkit फ़्लो वाली मशीन पर नहीं चलाया जा रहा है, तो पुष्टि करने के विकल्प तय करने होंगे. इसके अलावा, डिफ़ॉल्ट क्रोमा सर्वर कॉन्फ़िगरेशन का इस्तेमाल नहीं किया जा रहा है, तो Chroma क्लाइंट को पास करने के लिए क्रोमा ChromaClientParams ऑब्जेक्ट तय करने का विकल्प:

    clientParams: {
      path: "http://192.168.10.42:8000",
    }
    
  • embedderOptions: एम्बेडर को विकल्प भेजने के लिए, इस पैरामीटर का इस्तेमाल करें:

    embedderOptions: { taskType: 'RETRIEVAL_DOCUMENT' },
    

इस्तेमाल किए जाने से जुड़ी जानकारी

इस तरह के रिट्रीवर और इंडेक्सर रेफ़रंस इंपोर्ट करें:

import { chromaRetrieverRef } from 'genkitx-chromadb';
import { chromaIndexerRef } from 'genkitx-chromadb';

इसके बाद, रेफ़रंस को retrieve() और index() पर पास करें:

// To use the index you configured when you loaded the plugin:
let docs = await retrieve({ retriever: chromaRetrieverRef, query });

// To specify an index:
export const bobFactsRetriever = chromaRetrieverRef({
  collectionName: 'bob-facts',
});
docs = await retrieve({ retriever: bobFactsRetriever, query });
// To use the index you configured when you loaded the plugin:
await index({ indexer: chromaIndexerRef, documents });

// To specify an index:
export const bobFactsIndexer = chromaIndexerRef({
  collectionName: 'bob-facts',
});
await index({ indexer: bobFactsIndexer, documents });

इंडेक्सर और रिट्रीवर पर सामान्य चर्चा के लिए, Retrieval-augmented जनरेशन पेज देखें.