تتضمّن كلّ طلب ترسله إلى نموذج قيم مَعلمات تتحكّم في كيفية توليد النموذج للردّ. يمكن أن يُنشئ النموذج نتائج مختلفة لقيم المَعلمات المختلفة. جرِّب قيمًا مختلفة للمَعلمات للحصول على أفضل القيم للمَهمّة. قد تختلف المَعلمات المتاحة للنماذج المختلفة.
يتم الاحتفاظ بالإعدادات طوال مدة استخدام Vertex AI الخدمة ومثيل النموذج المُنشئَين. لتعديل إعدادات النموذج، يجب إعادة ضبط مثيل النموذج.
يمكنك الاطّلاع لاحقًا في هذه الصفحة على كيفية ضبط مَعلمات النموذج.
وصف كلّ مَعلمة
في ما يلي المَعلمات الأكثر شيوعًا:
يمكنك الاطّلاع على كلّ مَعلمة من هذه المَعلمات في الأقسام التالية من هذه الصفحة.
الحد الأقصى لعدد الرموز المميّزة للإخراج
الحد الأقصى لعدد الرموز المميّزة التي يمكن إنشاؤها في الردّ الرمز المميّز هو أربع أحرف تقريبًا. تقابل 100 رمز 20 كلمة تقريبًا.
حدِّد قيمة أقل للردود الأقصر وقيمة أعلى للردود الأطول.
درجة الحرارة
تُستخدَم درجة الحرارة في أخذ العينات أثناء إنشاء الردّ، وذلك
عند تطبيق topP
وtopK
. تتحكّم درجة الحرارة في
درجة العشوائية في اختيار الرمز المميّز. تكون درجات الحرارة المنخفضة مناسبة لطلبات البحث التي تتطلّب إجابة محدّدة أكثر وأقل انفتاحًا أو إبداعًا، في حين يمكن أن تؤدي درجات الحرارة المرتفعة إلى نتائج أكثر تنوعًا أو إبداعًا. تكون درجة الحرارة 0
حتمية، ما يعني أنّه يتم دائمًا اختيار
الإجابة ذات الاحتمالية الأعلى.
في معظم حالات الاستخدام، جرِّب البدء بدرجة حرارة 0.2
. إذا كان النموذج يعرض ردًا عامًا جدًا أو قصيرًا جدًا أو ردًا احتياطيًا، جرِّب زيادة درجة الحرارة.
أهمّ K
يغيّر Top-K طريقة اختيار النموذج للرموز لعرضها. تعني القيمة القصوى لـ "ك" في 1
أنّ الرمز التالي الذي تم اختياره هو الأكثر احتمالًا من بين كل الرموز في مفردات النموذج (يُعرف ذلك أيضًا باسم "فك التشفير الجشع")، في حين تعني القيمة القصوى لـ "ك" في 3
أنّ الرمز التالي يتم اختياره من بين الرموز الثلاثة الأكثر احتمالًا باستخدام درجة الحرارة.
في كل خطوة لاختيار الرموز، يتم أخذ عيّنات من أهم K رمزًا ذات الاحتمالات الأكثر ترجيحًا. بعد ذلك، تتم فلترة الرموز المميّزة بشكل أكبر استنادًا إلى أعلى قيمة P مع اختيار الرمز المميّز النهائي باستخدام تحليل عيّنات درجة الحرارة.
حدِّد قيمة أقل للحصول على عدد أقل من الردود العشوائية وقيمة أعلى للحصول على عددٍ أكبر من الردود
العشوائية. القيمة التلقائية لعدد أهمّ K منتج هي 40
.
Top-P
يغيّر Top-P طريقة اختيار النموذج للرموز لإخراجها. يتم اختيار الرموز
من الأكثر احتمالًا (راجِع top-K) إلى الأقل احتمالًا إلى أن يصبح مجموع احتمالاتها
يساوي قيمة top-P. على سبيل المثال، إذا كانت احتمالات ظهور الرموز A وB وC هي
0.3 و0.2 و0.1 وكانت قيمة أعلى قيمة لـ P هي 0.5
، سيختار النموذج
إما A أو B كرمز لاحق باستخدام درجة الحرارة ويستبعد C كأحد
المرشحين.
حدِّد قيمة أقل للحصول على عدد أقل من الردود العشوائية وقيمة أعلى للحصول على عددٍ أكبر من الردود
العشوائية. القيمة التلقائية لـ top-P هي 0.95
.
ضبط مَعلمات النموذج
يمكنك ضبط مَعلمات النموذج في ملف generationConfig
أثناء بدء تشغيل النموذج. في ما يلي مثال أساسي:
Kotlin+KTX
// ...
val config = generationConfig {
maxOutputTokens = 200
stopSequences = listOf("red")
temperature = 0.9f
topK = 16
topP = 0.1f
}
val generativeModel = Firebase.vertexAI.generativeModel(
modelName = "MODEL_NAME",
generationConfig = config
)
// ...
Java
// ...
GenerationConfig.Builder configBuilder = new GenerationConfig.Builder();
configBuilder.maxOutputTokens = 200;
configBuilder.stopSequences = List.of("red");
configBuilder.temperature = 0.9f;
configBuilder.topK = 16;
configBuilder.topP = 0.1f;
GenerationConfig generationConfig = configBuilder.build();
GenerativeModel gm = FirebaseVertexAI.getInstance().generativeModel(
"MODEL_NAME",
generationConfig
);
GenerativeModelFutures model = GenerativeModelFutures.from(gm);
// ...
خيارات أخرى للتحكّم في إنشاء المحتوى
- اطّلِع على مزيد من المعلومات عن تصميم الطلب حتى تتمكّن من التأثير في النموذج لإنشاء نتائج تلبي احتياجاتك.
- استخدِم إعدادات الأمان لضبط احتمالية تلقّي ردود قد تُعتبر ضارة، بما في ذلك خطاب الكراهية والمحتوى الجنسي الفاضح.
- اضبط تعليمات النظام لتوجيه سلوك النموذج. هذه الميزة تشبه "مقدّمة" تضعها قبل عرض النموذج على أي تعليمات أخرى من المستخدم النهائي.
- نقْل مخطّط استجابة مع الطلب لتحديد مخطّط إخراج معيّن يتم استخدام هذه الميزة بشكل شائع عند إنشاء مخرجات بتنسيق JSON، ولكن يمكن استخدامها أيضًا في مهام التصنيف (مثلاً عندما تريد أن يستخدم النموذج تصنيفات أو علامات معيّنة).