מודלים
סוגי המודלים, השירותים המוכרים והמגבלות שכדאי להכיר לפני שבוחרים.
LLM – מודל שפה גדול
Large Language Model
מודל שאומן על כמויות עצומות של טקסט כדי לחזות את הטוקן הבא, וכך למד לכתוב, לסכם, לתרגם, לענות על שאלות ולכתוב קוד. GPT, Claude ו-Gemini הם משפחות של מודלי שפה גדולים.
דוגמה מהעסק: מודל שפה יכול לקרוא 200 פניות של לקוחות ולמיין אותן לפי נושא, בלי שמישהו יכתוב לו כללים מראש.
מונחים קשורים: טוקן, ChatGPT, Claude, Gemini
מודל בסיס
Foundation Model
מודל גדול שאומן על נתונים רחבים ומשמש בסיס לשימושים רבים, בלי לבנות מודל חדש לכל משימה. רוב מוצרי ה-AI לעסקים בנויים על מודל בסיס של אחת החברות הגדולות.
דוגמה מהעסק: בוט שירות, מחולל תיאורי מוצר וכלי לסיכום פגישות יכולים לרוץ על אותו מודל בסיס, כל אחד עם הנחיות אחרות.
מונחים קשורים: LLM – מודל שפה גדול, כוונון עדין, API – ממשק תכנות
ChatGPT
שירות הצ׳אט של OpenAI, שהושק ב-30 בנובמבר 2022. הוא פועל על מודלי GPT של OpenAI, ויש לו גרסה חינמית ומנויים בתשלום לאנשים פרטיים ולעסקים.
דוגמה מהעסק: עובדים בעסק מנסחים ב-ChatGPT מיילים, מסכמים מסמכים ומנתחים טבלאות. כדאי לקבוע להם נוהל שמגדיר מה מותר להזין לשם.
מונחים קשורים: LLM – מודל שפה גדול, נוהל שימוש בבינה מלאכותית, פרומפט
מקור: OpenAI: ההשקה של ChatGPT
Claude
משפחת המודלים ושירות הצ׳אט של חברת Anthropic. הגרסה הראשונה הושקה במרץ 2023, ו-Anthropic היא גם החברה שפרסמה את פרוטוקול MCP.
דוגמה מהעסק: מעלים ל-Claude חוזה של 40 עמודים ומבקשים רשימה של כל המועדים והקנסות שמופיעים בו.
מונחים קשורים: LLM – מודל שפה גדול, MCP – פרוטוקול הקשר למודלים, חלון הקשר
Gemini
משפחת המודלים ושירות הצ׳אט של Google, שנקרא בעבר Bard ושמו שונה ל-Gemini בפברואר 2024. הוא משולב גם בשירותים של Google, כמו Gmail ו-Google Docs.
דוגמה מהעסק: בעל עסק שעובד ב-Google Workspace מבקש מ-Gemini לסכם שרשור מיילים ארוך עם לקוח.
מונחים קשורים: LLM – מודל שפה גדול, מולטימודלי, AI Overviews
מודל עם משקלים פתוחים
Open-Weight Model
מודל שהחברה שפיתחה אותו פרסמה את הפרמטרים שלו, כך שאפשר להוריד אותו ולהריץ אותו על שרת משלכם, כמו Llama של Meta או gpt-oss של OpenAI. משקלים פתוחים הם לא תמיד קוד פתוח מלא, כי הרישיון ונתוני האימון לא תמיד פתוחים.
דוגמה מהעסק: מרפאה שלא רוצה שמידע על מטופלים ייצא מהשרתים שלה יכולה להריץ מודל כזה בתוך הארגון, ולשלם על חומרה ועל תחזוקה.
מונחים קשורים: הרצה על שרת משלכם, מודל בסיס, תלות בספק
מודל חשיבה
Reasoning Model
מודל שמפרק בעיה לשלבים וחושב לפני שהוא עונה. הוא מדויק יותר במשימות מורכבות כמו חישובים, ניתוח וקוד, אבל איטי ויקר יותר, כי החשיבה צורכת טוקנים.
דוגמה מהעסק: לשאלה "מה שעות הפתיחה" לא צריך מודל חשיבה. לבדיקה אם הצעת מחיר של 30 סעיפים מסתדרת עם התקציב, הוא שווה את ההמתנה.
מונחים קשורים: שרשרת מחשבה, תמחור לפי טוקנים, זמן תגובה
מקור: OpenAI: המלצות לעבודה עם מודלי חשיבה
SLM – מודל שפה קטן
Small Language Model
מודל שפה עם פחות פרמטרים, שרץ מהר ובזול, לפעמים אפילו על טלפון או מחשב רגיל. הוא מתאים למשימות מוגדרות שחוזרות על עצמן, פחות לשאלות פתוחות.
דוגמה מהעסק: מיון של כל מייל נכנס ל"הזמנה", "תלונה" או "שאלה" הוא משימה שמודל קטן עושה היטב ובעלות נמוכה.
מונחים קשורים: LLM – מודל שפה גדול, פרמטרים, זמן תגובה
חלון הקשר
Context Window
כמות הטקסט, בטוקנים, שהמודל יכול לקחת בחשבון בבת אחת: ההוראות, המסמכים שצירפתם, ההיסטוריה של השיחה והתשובה עצמה. מה שחורג מהחלון נחתך או מסוכם, לפי השירות.
דוגמה מהעסק: בשיחה ארוכה מאוד הצ׳אט עלול "לשכוח" הוראה מההתחלה. אז פותחים שיחה חדשה ומדביקים בה סיכום של מה שהוחלט.
מונחים קשורים: טוקן, פרומפט, RAG – יצירה מועשרת באחזור
תאריך עדכון הידע
Knowledge Cutoff
התאריך שעד אליו נאספו נתוני האימון של המודל. על מה שקרה אחריו המודל לא יודע, אלא אם הוא מחפש ברשת או שמוסרים לו את המידע.
דוגמה מהעסק: כששואלים צ׳אט על שינוי בחוק שנכנס לתוקף החודש, מבקשים ממנו לחפש ברשת ולהציג את המקור.
מונחים קשורים: נתוני אימון, עיגון במקורות, RAG – יצירה מועשרת באחזור
כוונון עדין
Fine-Tuning
אימון נוסף של מודל קיים על דוגמאות שלכם, כדי שיכתוב בסגנון מסוים או יבצע משימה מוגדרת בעקביות. זו לא הדרך המתאימה ללמד מודל עובדות שמשתנות, כמו מחירים: לזה מתאים RAG.
דוגמה מהעסק: חברה שכותבת מאות תיאורי מוצר בחודש מכווננת מודל על 200 תיאורים שאהבה, כדי שכל תיאור חדש ייכתב באותו סגנון.
מונחים קשורים: RAG – יצירה מועשרת באחזור, אימון, דוגמאות בפרומפט
ייצוג וקטורי
Embedding
המרה של טקסט לרשימת מספרים שמייצגת את המשמעות שלו, כך שלטקסטים עם משמעות דומה יש מספרים קרובים גם כשהם כתובים במילים שונות. זה הבסיס לחיפוש סמנטי ול-RAG.
דוגמה מהעסק: לקוח כותב "המוצר הגיע שבור", והמערכת מוצאת את הסעיף "החלפת פריט פגום", אף שאין ביניהם אף מילה משותפת.
מונחים קשורים: מסד נתונים וקטורי, חיפוש סמנטי, RAG – יצירה מועשרת באחזור
טמפרטורה
Temperature
הגדרה שקובעת כמה התשובות של המודל אקראיות: טמפרטורה נמוכה נותנת תשובות עקביות וצפויות, וגבוהה נותנת תשובות מגוונות יותר. ההגדרה זמינה בעיקר ב-API, ולא בכל המודלים.
דוגמה מהעסק: לבוט שעונה על מדיניות ההחזרות מתאימה טמפרטורה נמוכה. לסיעור מוחות על שמות למוצר חדש מתאימה גבוהה יותר.
מונחים קשורים: API – ממשק תכנות, LLM – מודל שפה גדול, הזיה
מודל ליצירת תמונות
Image Generation Model
מודל שיוצר תמונה מתיאור בטקסט, או עורך תמונה קיימת לפי הוראה. רבים מהם מבוססים על טכניקה שנקראת דיפוזיה, וחלקם משולבים ישירות בצ׳אטים כמו ChatGPT ו-Gemini.
דוגמה מהעסק: חנות בגדים יוצרת רקע עונתי לתמונות המוצר במקום לארגן צילום חדש. כשיש בתמונה טקסט בעברית, בודקים כל אות לפני שמפרסמים.
להרחבה: מחולל פרומפטים, כולל פרומפט לתמונה
מונחים קשורים: מולטימודלי, בינה מלאכותית יוצרת, דיפפייק
תמלול אוטומטי (STT)
Speech-to-Text
המרה של דיבור לטקסט כתוב. מודלים חדשים מתמללים גם עברית, אבל שמות, מונחים מקצועיים וסלנג עדיין דורשים בדיקה.
דוגמה מהעסק: מתמללים שיחת מכירה, ואז מבקשים ממודל שפה לסכם אותה ולעדכן את הליד ב-CRM.
מונחים קשורים: הקראה (TTS), מולטימודלי, סוכן קולי
הקראה (TTS)
Text-to-Speech
המרה של טקסט לדיבור בקול סינתטי. הקולות החדשים נשמעים טבעיים, וחלק מהשירותים מאפשרים גם לשכפל קול של אדם מסוים, וזה צריך להיעשות רק בהסכמתו.
דוגמה מהעסק: מענה טלפוני שמקריא ללקוח בעברית את הסטטוס של ההזמנה שלו.
מונחים קשורים: תמלול אוטומטי (STT), סוכן קולי, דיפפייק
מבחן השוואה
Benchmark
מבחן קבוע שמריצים על מודלים כדי להשוות ביניהם, למשל בשאלות מתמטיקה, בקוד או בהבנת טקסט. ציון גבוה במבחן כללי לא מבטיח שהמודל יעבוד טוב על המשימה ועל העברית שלכם.
דוגמה מהעסק: לפני שבוחרים מודל לבוט, מריצים עליו 30 שאלות אמיתיות של לקוחות ובודקים את התשובות. זה מבחן שמתאים לכם יותר מכל טבלת דירוג.
מונחים קשורים: הערכת מודל (Evals), LLM – מודל שפה גדול, מודל חשיבה