मल्टी-एजेंट सिस्टम बनाना

एलएलएम से चलने वाले एजेंट, लार्ज लैंग्वेज मॉडल का एक बेहतरीन इस्तेमाल हैं. एजेंट एक ऐसा सिस्टम है जो मुश्किल टास्क को छोटे टास्क में बांटकर उन्हें पूरा कर सकता है. साथ ही, टूल कॉल की मदद से, ऐसे टास्क को पूरा कर सकता है जो डेटाबेस या फ़िज़िकल डिवाइसों जैसे बाहरी संसाधनों के साथ इंटरैक्ट करते हैं.

यहां एक बहुत ही आसान ग्राहक सेवा एजेंट के कुछ उदाहरण दिए गए हैं. इसे एक प्रॉम्प्ट और कई टूल का इस्तेमाल करके बनाया गया है:

const menuLookupTool = ai.defineTool(
  {
    name: 'menuLookupTool',
    description: 'use this tool to look up the menu for a given date',
    inputSchema: z.object({
      date: z.string().describe('the date to look up the menu for'),
    }),
    outputSchema: z.string().describe('the menu for a given date'),
  },
  async (input) => {
    // Retrieve the menu from a database, website, etc.
    // ...
  }
);

const reservationTool = ai.defineTool(
  {
    name: 'reservationTool',
    description: 'use this tool to try to book a reservation',
    inputSchema: z.object({
      partySize: z.coerce.number().describe('the number of guests'),
      date: z.string().describe('the date to book for'),
    }),
    outputSchema: z
      .string()
      .describe(
        "true if the reservation was successfully booked and false if there's" +
          ' no table available for the requested time'
      ),
  },
  async (input) => {
    // Access your database to try to make the reservation.
    // ...
  }
);
const chat = ai.chat({
  model: gemini15Pro,
  system:
    "You are an AI customer service agent for Pavel's Cafe. Use the tools " +
    'available to you to help the customer. If you cannot help the ' +
    'customer with the available tools, politely explain so.',
  tools: [menuLookupTool, reservationTool],
});

अगर आपके एजेंट में सिर्फ़ कुछ सुविधाएं हैं, तो ऊपर दिखाए गए जैसे आसान आर्किटेक्चर का इस्तेमाल किया जा सकता है. हालांकि, ऊपर दिए गए सीमित उदाहरण से भी पता चलता है कि ग्राहकों को कुछ सुविधाएं मिल सकती हैं: उदाहरण के लिए, ग्राहक के मौजूदा बुकिंग की सूची बनाना, बुकिंग रद्द करना वगैरह. इन अतिरिक्त सुविधाओं को लागू करने के लिए ज़्यादा से ज़्यादा टूल बनाने पर, आपको कुछ समस्याएं आ सकती हैं:

  • जितने ज़्यादा टूल जोड़े जाते हैं, मॉडल की क्षमता उतनी ही बेहतर होती है. इससे, मॉडल किसी टास्क के लिए सही टूल को लगातार और सही तरीके से इस्तेमाल कर पाता है.
  • कुछ टास्क को एक टूल कॉल के बजाय, उपयोगकर्ता और एजेंट के बीच ज़्यादा फ़ोकस के साथ किए जा सकते हैं.
  • कुछ टास्क के लिए, खास प्रॉम्प्ट का इस्तेमाल फ़ायदेमंद हो सकता है. उदाहरण के लिए, अगर आपका एजेंट किसी ऐसे ग्राहक को जवाब दे रहा है जो आपसे खुश नहीं है, तो हो सकता है कि आप चाहें कि वह थोड़ा ज़्यादा गंभीर तरीके से बात करे. वहीं, ग्राहक का स्वागत करने वाले एजेंट को थोड़ा ज़्यादा दोस्ताना और हंसी-मज़ाक़ वाला तरीका अपनाना चाहिए.

जटिल एजेंट बनाते समय आने वाली इन समस्याओं को हल करने के लिए, कई खास एजेंट बनाए जा सकते हैं. साथ ही, उन पर टास्क असाइन करने के लिए, सामान्य एजेंट का इस्तेमाल किया जा सकता है. Genkit इस आर्किटेक्चर के साथ काम करता है. इसके लिए, आपको प्रॉम्प्ट को टूल के तौर पर बताना होगा. हर प्रॉम्प्ट, किसी खास एजेंट को दिखाता है. साथ ही, उसके पास टूल का अपना सेट होता है. ये एजेंट, आपके ऑर्केस्ट्रेशन एजेंट के लिए टूल के तौर पर उपलब्ध होते हैं. यह एजेंट, उपयोगकर्ता के साथ मुख्य इंटरफ़ेस होता है.

यहां पिछले उदाहरण का बड़ा किया गया वर्शन, कई एजेंट वाले सिस्टम के तौर पर कैसा दिख सकता है, इसकी जानकारी दी गई है:

// Define a prompt that represents a specialist agent
const reservationAgent = ai.definePrompt(
  {
    name: 'reservationAgent',
    description: 'Reservation Agent can help manage guest reservations',
    tools: [reservationTool, reservationCancelationTool, reservationListTool],
  },
  '{{role "system"}} Help guests make and manage reservations'
);

// Or load agents from .prompt files
const menuInfoAgent = ai.prompt('menuInfoAgent');
const complaintAgent = ai.prompt('complaintAgent');

// The triage agent is the agent that users interact with initially
const triageAgent = ai.definePrompt(
  {
    name: 'triageAgent',
    description: 'Triage Agent',
    tools: [reservationAgent, menuInfoAgent, complaintAgent],
  },
  `{{role "system"}} You are an AI customer service agent for Pavel's Cafe.
  Greet the user and ask them how you can help. If appropriate, transfer to an
  agent that can better handle the request. If you cannot help the customer with
  the available tools, politely explain so.`
);
// Start a chat session, initially with the triage agent
const chat = ai.chat(triageAgent);