מהן הזיות בינה מלאכותית (Hallucinations) וכיצד מונעים אותן?

תשאלו כל צ’אטבוט AI שאלה, והתשובות שלו לעיתים קרובות יהיו משעשעות, מועילות או פשוט מומצאות.

למשל, תשאלו את ChatGPT מיהו המלך רנואיט (אדם מומצא לחלוטין), והוא יגיד שהוא לא יודע וימנע מלענות על השאלה. אבל אם אתם משתמשים ב- GPT playground של OpenAI, שאין לו את אותם מקדמי בטיחות, הוא יגיד לכם – ואפילו יתעקש – שהמלך רנואי היה מלך צרפתי שמלך מ-1515 עד 1544.

חשוב להבין זאת מכיוון שרוב כלי הבינה המלאכותית שנבנו באמצעות GPT דומים יותר ל-GPT playground. אין להם מקדמי בטיחות מבוססים כמו ChatGPT, מה שנותן להם יותר כוח ופוטנציאל אבל גם גורם להם להיות יותר הזויים – או לפחות לספר לכם משהו לא מדויק.

כאן, אני אדריך אתכם בכל מה שצריך לדעת על הזיות בינה מלאכותית וכיצד למנוע אותן.

מהן הזיות בינה מלאכותית?

הזיה במובנים של בינה מלאכותית, היא כאשר מודל AI מייצר מידע שגוי אך מציג אותו כאילו הוא עובדה. למה שזה יעשה את זה? כלי AI כמו ChatGPT מאומנים לחזות מחרוזות של מילים שמתאימות בצורה הטובה ביותר לשאילתה שלכם. עם זאת, חסר להם ההיגיון ליישם לוגיקה או לשקול חוסר עקביות עובדתית.

במילים אחרות, הזיות AI מתרחשות כאשר ה-AI יורד מהפסים בניסיון לרצות אותכם.

מה גורם להזיות בינה מלאכותית?

הזיות בינה מלאכותית יכולות להתרחש מכמה סיבות, וביניהם:

  • נתוני אימון לא מספיקים, מיושנים או באיכות נמוכה. מודל בינה מלאכותית טוב רק כמו הנתונים שעליהם הוא מאומן. אם כלי הבינה המלאכותית לא מבין את ההנחיה שלכם או שאין לו מספיק מידע, הוא יסתמך על מערך הנתונים המצומצם עליו הוכשר כדי ליצור תגובה – גם אם היא לא מדויקת.
  • התאמת יתר. כאשר מודל בינה מלאכותית מאומן על מערך נתונים מוגבל, הוא עשוי לשנן את הקלטים ואת הפלטים המתאימים. וזה משאיר אותו ללא היכולת לכלול נתונים חדשים בצורה יעילה, וכתוצאה מכך לחולל הזיות.
  • שימוש בביטויים או בשפת סלנג. אם הנחיה מכילה ניב או ביטוי סלנג שמודל הבינה המלאכותית לא עבר הכשרה עליו, זה עלול להוביל לתוצאות שטותיות.
  • תקיפה מכוונת. הנחיות שנועדו בכוונה לבלבל את הבינה המלאכותית עלולות לגרום לו לייצר הזיות בינה מלאכותית.

מדוע הזיות AI הן בעיה?

הזיות בינה מלאכותית הן חלק מרשימה הולכת וגדלה של חששות אתיים לגבי הבינה המלאכותית. מלבד הטעיית אנשים עם מידע לא מדויק עובדתית ושחיקת אמון המשתמשים, הזיות עלולות להנציח הטיות או לגרום לתוצאות מזיקות אחרות אם הן נלקחות כערך נקוב.

וזאת, כדי לומר שלמרות המרחק הרב שהבינה המלאכותית הגיע עד כה, ל-AI עדיין יש דרך ארוכה לעבור לפני שיוכל להיחשב כתחליף אמין למשימות מסוימות כמו מחקר תוכן או כתיבת פוסטים עצמאית ברשתות החברתיות.

6 דרכים למנוע הזיות בינה מלאכותית

דרכים למנוע הזיות בינה מלאכותית

בהתבסס על הרבה מחקרים, חוויות אישיות שלי וטיפים ממומחי בינה מלאכותית, ריכזתי את הדרכים המובילות להתמודד עם הזיות אלו. רובם קשורים ל”הנדסת הנחיות“, הטכניקות שאנו יכולים ליישם על ההנחיות שלנו שגורמות לבוטים פחות להזות לספק תוצאה אמינה יותר.

הערה: לרוב הדוגמאות שלי, אני משתמש ב-GPT-3.5 ב-playground, אבל הטיפים האלה יחולו על רוב כלי הבינה המלאכותית, כולל GPT-4.

1. הגבילו את התוצאות האפשריות

אני זוכר מבית הספר, תמיד העדפתי מבחנים ״אמריקאיים״ עם בחירת תשובות על פני מבחנים עם שאלות פתוחות. האחרון נתן לי יותר מדי חופש ליצור תגובות אקראיות (ולא מדויקות), בעוד שהראשון מציג מולי את התשובה הנכונה בין יתר התשובות האפשריות. זה סייע להתמקד במידע שכבר היה “מאוחסן” במוחי ואפשר לי להסיק את התשובה הנכונה על ידי תהליך של אלימינציה.

תשתמשו באותו רעיון בזמן שאתם מדברים עם AI.

כשאתם נותנים לו הוראות, עליכם להגביל את התוצאות האפשריות על ידי ציון סוג התגובה שאתם רוצים.

טקטיקה נוספת: בקשו ממנו לבחור מתוך רשימה ספציפית של אפשרויות לקבלת תגובות טובות יותר. על ידי ניסיון לפשט את התשובות שלו, אתם מגבילים באופן אוטומטי את הפוטנציאל שלו להזיות.

2. תשלבו נתונים ומקורות רלוונטיים ייחודיים לכם

אתם לא יכולים לצפות ממישהו להציע פתרון מבלי שימסרו לו קודם מידע מפתח. כשאנו חושבים על משפט פלילי, למשל, שני הצדדים הטוענים יספקו עובדות, ראיות ונתונים לשופט. זה אותו דבר עבור AI. ביסוס ההנחיות שלכם עם מידע רלוונטי או נתונים קיימים שיש לכם יתן לבינה המלאכותית הקשר נוסף ונקודות שאתם באמת מעוניינים בהן.

לדוגמה, נניח שאתה מחפש דרכים לעזור ללקוחות שלכם להתגבר על אתגר ספציפי. אם ההנחיה שלכם מעורפלת, הבינה המלאכותית עשויה פשוט להתחזות לעסק שמספק עזרה עבורכם.

לעסק שלכם יש את הנתונים והמידע הספציפי לבעיה, כך שאם תספקו לבינה המלאכותית את הנתונים האלה בתוך ההנחיה שלכם, זה יאפשר ל-AI לתת תשובה מתוחכמת יותר (תוך כדי הימנעות מהזיות).

3. יצירת תבנית נתונים למעקב

כשזה מגיע לחישובים, ידוע של-GPT יש מידיי פעם נפילות. לי אין מוח מתמטי, אז אני לא ממש יכול לבדוק אותו, אבל אני מניח שזה די מעצבן אם תצטרכו לבדוק פעמיים-שלוש כל אחד מהתשובות שלו.

הדרך הטובה ביותר להתמודד עם מתמטיקה גרועה היא על ידי מתן נתונים לדוגמה בתוך הנחיה כדי להנחות את ההתנהגות של מודל ה-AI, להרחיק אותו מחישובים לא מדויקים. במקום לכתוב הנחיה בפורמט טקסט, אתם יכולים ליצור טבלת נתונים המשמשת כאסמכתא עבורו, כך שיוכל לעקוב אחריו.

זה יכול להפחית את הסבירות להזיות מכיוון שהוא נותן ל-AI דרך ברורה וספציפית לבצע חישובים בפורמט שיותר נוח לעיכול עבורו.

יש פחות אי בהירות, ופחות סיבות שירד מהפסים.

4. תנו ל-AI תפקיד ספציפי – ותגיד לו לא לשקר

הקצאת תפקיד ספציפי ל-AI היא אחת הטכניקות היעילות ביותר לצימצום הזיות. לדוגמה, אתם יכולים לומר בהנחיה שלכם: “תתנהג כאחד המתמטיקאים הטובים בעולם” או “תתנהג כהיסטוריון מבריק”, ואחריו השאלה שלכם.

אם תשאלו את GPT-3.5 שאלה מבלי לעצב את התפקיד שלו עבור המשימה, סביר להניח שהתשובות שלו יהיו לא רלוונטיות ואף הזויות.

אבל כשאתם מקצים לו תפקיד, אתם נותנים לו יותר הדרכה במונחים של מה שאתם מחפשים. למעשה, אתם נותנים לו את האפשרות לשקול האם משהו נכון או לא נכון.

זה לא תמיד עובד, אבל אם התרחיש הספציפי הזה נכשל, אתם יכולים גם להנחות מראש את ה-AI שאם הוא לא יודע את התשובה, אז הוא צריך להגיד זאת במקום לנסות להמציא משהו. זה גם עובד די טוב.

5. תגידו לו מה אתם רוצים – ומה אתם לא רוצים

תצפו את התגובה של ה-AI בהתבסס על מה שאתם שואלים אותו – ותימנעו מראש מקבלת מידע שאתם לא רוצים. לדוגמה, אתה יכול להודיע ל-GPT על סוגי התגובות שאתה רוצה למנוע, על ידי הסבר פשוט של מה שאתם מחפשים. או על ידי בקשה להמנע מלכלול תוצאות מסויימות.

6. כיוונן וחידוד הגדרות מותאמות אישית

לרוב מחוללי תוכן AI, יש מערך פקדים או פרמטרים מובנים לצורך התאמה אישית. הם בסך הכל מאפשרים לכם לשחק את מערכים במודל כגון: סגנון, אורך, טמפרטורה, אקראיות וכו. שחקו עם הגדרות אלו והתאימו מראש לטובת התשובות הרצויות.

קריאה מומלצת: הכלים הטובים ביותר לכתיבה עם בינה מלאכותית

בדיקת עובדות

במילים פשוטות, הבינה המלאכותית קצת עפה על עצמה. בעוד שחברות מחקר בינה מלאכותית כמו OpenAI מודעות היטב לבעיות עם הזיות, ומפתחות מודלים חדשים שדורשים משוב אנושי יותר, AI עדיין צפוי ליפול לקומדיה של טעויות.

אז בין אם אתם משתמשים בבינה מלאכותית כדי לכתוב קוד, לפתור בעיות או לבצע מחקר, חידוד ההנחיות שלכם באמצעות הטכניקות הללו יכול לעזור לו לעשות את עבודתו טוב יותר – אבל עדיין תצטרכו לאמת כל אחת ואחת מהתשובות שלו.

גילוי נאות:

תוכן המאמר נכתב לאחר מאמץ ומחקר על מנת לספק את התוכן האמין ביותר שניתן. כמו כן התוכן מתייחס למידע שקיים בעת שעודכן לאחרונה בתאריך: 12/12/2023, ולכן עשויים להיות שינויים ואי התאמות שחלו מאז.
כמו כן, כל המאמרים המסקרים מוצרים או שירותים כלשהם הינם מוצרים שרכשתי והתנסתי בהם בעצמי. בחלק מהמקרים אני אקשר לאתרי המוצרים באמצעות קישור שיתופי (Affiliate), שיתוף פעולה זה מאפשר לי לעיתים לספק לכם הגולשים הטבות מיוחדות ובתמורה אני מתוגמל באופן חלקי ואינו משפיע על העלות הסופית.
תודה על שיתוף הפעולה. ומקווה שהפקתם את המיטב מקריאה זו.

הגדילו את התנועה האורגנית שלכם עם SurferSEO
Jasper ai - ניסיון חינם

אולי יעניין אותך לקרוא…