סרטוני בינה מלאכותית גזעניים מ-Google Veo 3 מתפשטים ב-TikTok

סרטונים קצרים עם תוכן גזעני שנוצרו בבינה מלאכותית הפכו לוויראליים ב-TikTok ומעוררים חששות בנוגע לשימוש בכלי AI ליצירת תוכן פוגעני. The Verge לפי דיווח של מצביע על סרטונים שנוצרו ככל הנראה באמצעות Veo 3 של Google, כלי ליצירת סרטונים שהושק במאי.

הסרטונים, שמכוונים נגד אנשים שחורים ומלעיגים עליהם, זוהו בזכות סימן מים של Veo 3 ותגיות משתמשים. רוב הסרטונים באורך של כ-8 שניות או מורכבים מכמה קטעים קצרים, בהתאם למגבלות הפלט הנוכחיות של Veo 3.

סרטון אחד הגיע ליותר מ-14 מיליון צפיות לפני ש-TikTok הסיר אותו. למרות מדיניות התוכן של הפלטפורמה נגד דברי שטנה והפליה, האכיפה נמשכת לפגר מהירות התפשטות חומר כזה.

Google הצהירה שב-Veo 3 יש כלים שנועדו לחסום תוצאות לא מתאימות. למרות זאת, Media Matters מצא סרטונים דומים בפלטפורמות אחרות כמו YouTube ו-Instagram, אך שם הם לא זכו לאותה תפוצה.

המקרה הזה מוסיף לביקורת הגוברת על איך מנוטר ונשלט תוכן שנוצר בבינה מלאכותית, במיוחד כשכלים כמו Veo 3 נעשים נגישים יותר. למשתמשים של טכנולוגיות אבטחה ומעקב, המצב מדגיש את החשיבות של הבנת איך בינה מלאכותית יוצרת עלולה להיות מנוצלת או להפוך לנשק במרחבים דיגיטליים ציבוריים.

חברים יקרים!
אהבתם מה שקראתם?
אז תהיו חברים…
קבלו ישירות אליכם למייל:
חדשות, טיפים ומדריכים, מבצעים וכלי בינה מלאכותית.
השאירו שם ומייל וגם אתם לא תצטרכו לדאוג שתפספסו משהו בעולם ה-AI!
שדה זה מיועד למטרות אימות ויש להשאיר אותו ללא שינוי.
פרטיות(חובה)
This field is hidden when viewing the form
This field is hidden when viewing the form