מור בסן, ראש מחלקת התוכנה והנדסאים באוניברסיטת אריאל, התייחס היום (ראשון) בריאיון לתוכנית "יומן תשעים" בהגשת יוסי הדר להשפעת הבינה המלאכותית על מערכת הבחירות הקרובה, ולסיכונים הטמונים בשימוש בסרטוני AI והאתגרים העומדים בפני הציבור והרשויות.
לדברי בסן, כלי הבינה המלאכותית הפכו בשנים האחרונות לנגישים, זולים וזמינים כמעט לכל אדם, ולכן השימוש בהם בקמפיינים פוליטיים צפוי להתרחב. הוא הזכיר מקרים מהעולם שבהם הופצו סרטונים מזויפים שנוצרו באמצעות AI, ובהם מקרה בארצות הברית שבו הופץ סרטון שדימה מועמדת מסירה את מועמדותה סמוך ליום הבחירות. לדבריו, גם בתקופת המלחמות האחרונות נרשמה עלייה בניסיונות להפיץ דיסאינפורמציה באמצעות כלים דומים.
בסן הסביר כי אף שחלק מהציבור מסוגל לזהות שמדובר בתוכן שנוצר בבינה מלאכותית, רבים אחרים עלולים לטעות ולהאמין למידע השקרי. "אנשים מבוגרים או כאלה שפחות טכנולוגיים עלולים לקבל מידע מזויף", הבהיר. הוא הוסיף כי הסכנה אינה מסתכמת רק בסרטונים, אלא גם בניסיון להשפיע על מערכות בינה מלאכותית באמצעות יצירת אתרים ומקורות מידע מוטים, שעליהם מסתמכים לעיתים מנועי AI בעת מתן תשובות.
אין מספיק אכיפה
לדבריו, הדרך להתמודד עם התופעה מתחילה בהעלאת המודעות הציבורית. בסן המליץ לבדוק את מקור המידע, להצליב נתונים ולא להסתמך על כל תוכן שמופיע ברשת. במקביל ציין כי חברות הטכנולוגיה דורשות כיום לסמן תכנים שנוצרו באמצעות AI, אולם האכיפה עדיין אינה מלאה והיכולת לזהות באופן אוטומטי כל תוכן כזה מוגבלת.
בסן התייחס גם למצב הרגולציה בישראל וציין כי בהשוואה לאיחוד האירופי, החקיקה והפיקוח המקומיים עדיין נמצאים בפיגור. עם זאת, לדבריו, ועדת הבחירות המרכזית וגופים נוספים, ובהם איגוד האינטרנט הישראלי, פועלים לקידום שיתופי פעולה ולהגברת ההתמודדות עם האתגר, אך נדרשת עשייה נוספת.
איך נוצרים הסרטונים?
באשר לאופן שבו נוצרים סרטוני AI, הסביר בסן כי כיום כל אדם בעל מנוי בסיסי לכלי בינה מלאכותית יכול ליצור סרטונים באמצעות הוראות טקסט פשוטות, ואף לייצר קטעי קול ושירים המבוססים על קולו של אדם אחר. לדבריו, בעברית עדיין קיימות מגבלות מסוימות בחלק מהכלים, אך גם הן הולכות ומצטמצמות.
לדבריו, מערכת הבחירות הנוכחית תהיה הראשונה שבה נראה שימוש נרחב במיוחד בבינה מלאכותית בקמפיינים. "פעם יצירת קמפיין דרשה ימים של עבודה והמון משאבים. היום זה פשוט, זול ונגיש הרבה יותר", ציין, והוסיף כי מדובר בטכנולוגיה שלא ניתן לעצור את התפשטותה – ולכן האתגר המרכזי יהיה ללמוד להשתמש בה באופן אחראי ולהתגונן מפני ניצול לרעה שלה.
