Altman: בוטים הופכים רשתות חברתיות למזויפות

הגידול המהיר של בוטים ותוכן שנוצר באמצעות בינה מלאכותית מעורר חששות חדשים לגבי האותנטיות של אינטראקציות ברשתות החברתיות. Sam Altman, מנכ”ל OpenAI, הדגיש לאחרונה את החששות הללו לאחר שהבחין בדפוס של פוסטים דומים באופן יוצא דופן התומכים ב-OpenAI ב-Reddit בקבוצת r/Claudecode. למרות שהם משקפים מגמות אמיתיות, הטון והמסרים האחידים גרמו לו להטיל ספק האם בוטים, ולא בני אדם, עומדים מאחורי הפעילות הזו.

התפתחות זו מצביעה על בעיה רחבה יותר כאשר מודלי שפה גדולים הופכים מסוגלים יותר ליצור תוכן הדומה מאוד לתקשורת אנושית. הקו בין מעורבות אמיתית של משתמשים לבין תגובות אוטומטיות הופך להיות קשה יותר לזיהוי, מה שיוצר אתגרים עבור פלטפורמות הסומכות על קלט אנושי אמיתי כדי לטפח אמון.

דוח מ-2024 של חברת אבטחת הסייבר Imperva תומך בחששות האלה. על-פי פרסום ב-TechCrunch נמצא שתנועה אוטומטית – רובה מונעת על ידי מודלי שפה גדולים – מהווה כיום יותר ממחצית מכל הפעילות באינטרנט. רשתות חברתיות, כולל X (לשעבר Twitter), הודו שבוטים נפוצים ברשתות שלהן, אם כי הן לא חשפו מספרים מדויקים.

השינוי הזה יש השפעות ישירות על פיקוח תוכן ואבטחה דיגיטלית. כאשר בוטים מתפתחים מעבר לספאם ומתחילים להשפיע על שיחות או לדמות דעת קהל, פלטפורמות חייבות לשפר את היכולת שלהן לזהות ולנהל תוכן סינתטי. המימדים גבוהים, במיוחד כאשר מידע מוטעה ושיח מוטה ממשיכים לערער את אמון המשתמשים.

הספקולציות ממשיכות סביב השאלה האם השינויים האלה מסמנים השקות מוצרים קרובות, כמו פלטפורמת רשתות חברתיות חדשה מ-OpenAI. ללא קשר להכרזות עתידיות, הבעיה המרכזית נשארת: זיהוי מה אמיתי באינטרנט הופך להיות קשה יותר ויותר, וזה משפיע על כולם – ממפעילי פלטפורמות ועד משתמשים רגילים.

המקור המלא – Sam Altman says that bots are making social media feel ‘fake’ | TechCrunch

חברים יקרים!
אהבתם מה שקראתם?
אז תהיו חברים…
קבלו ישירות אליכם למייל:
חדשות, טיפים ומדריכים, מבצעים וכלי בינה מלאכותית.
השאירו שם ומייל וגם אתם לא תצטרכו לדאוג שתפספסו משהו בעולם ה-AI!
שדה זה מיועד למטרות אימות ויש להשאיר אותו ללא שינוי.
פרטיות(חובה)
This field is hidden when viewing the form
This field is hidden when viewing the form
Send this to a friend