בסרטון הזה 👇 נדבר על איך ‘טמפרטורה’ משפיעה על התשובות של מודל שפה גדולה (LLM) ואילו שימושים אפשר לעשות בזה.
4 דרכים לשילוב טמפרטורה בפרומפט
כיום אין דרך ישירה בממשק השיחה לשליטה בטמפרטורה (פרט ל-Playground או לחיבור באמצעות API). אבל, אפשר לדמות שינויים בטמפרטורה בפרומפט עצמו.
- הבהרת ההנחיות בתגובה – ניתן לשנות את אופי התשובות על ידי שימוש בהנחיות ספציפיות.
כדי לקבל תשובות יותר ממוקדות ומדויקות (כמו בטמפרטורה נמוכה) אפשר לכתוב לדוגמא: ״ענה לי בצורה תמציתית ומדויקת בלבד.״
כדי לקבל תשובות יצירתיות (כמו בטמפרטורה גבוהה) אפשר לכתוב: “תן תשובה יצירתית ומלאת דמיון, תוך שימוש ברעיונות יוצאי דופן.” - . שימוש בניסוח מעורר יצירתיות – לבקש מהמודל להיות פחות צפוי, לדוגמא: “תן לי תשובה מפתיעה ושונה מהרגיל.” או “נסה לחשוב מחוץ לקופסה ולתת רעיונות לא צפויים.”
- בקשה מפורשת בפרומפט – אמנם אי אפשר לשנות את הטמפרטורה, אבל אפשר להוסיף לפרומפט ערך טמפרטורה ספציפי: “ענה לי כאילו הטמפרטורה היא 0.2” או “ענהכאילו הטמפרטורה היא 1.5”
- הדמיית טמפרטורה גבוהה בבקשת “רעיונות חלופיים” – ניתן לבקש מספר תשובות ולתת למודל להציע רעיונות שונים, כדי לדמות טמפרטורה גבוהה יותר, למשל: “תן לי שלוש גרסאות שונות לתשובה.” או “תציע שלושה רעיונות מגוונים ככל האפשר.”
נכון, הטמפרטורה עצמה לא ניתנת לשינוי בממשק, אבל בעזרת הנחיות ברורות ותכנון נכון של השאלות, אפשר לכוון את המודל ליצירת תשובות מותאמות. 😊
כדאי לזכור שטמפרטורה היא לא “כפתור יצירתיות” קסום, אלא דרך לשלוט ברמת הגיוון של התשובות. ככל שמבינים את זה טוב יותר, קל יותר לבחור מתי צריך דיוק ומתי כדאי לפתוח מרחב לרעיונות.