שני מחקרים אמריקניים-ישראליים מצביעים על הקשיים באיתור וגילוי חדשות כזב [Fake News]: הניסיונות לאיתור חדשות כזב אינם כה מתקדמים כפי שזה נראה

שני מחקרים אמריקניים-ישראליים מצביעים על הקשיים באיתור וגילוי חדשות כזב [Fake News] וכי הניסיונות לאיתור חדשות כזב אינם כה מתקדמים כפי שזה נראה עתה. ה- best practices עד כה בתחום הם הסתמכות רק על איתור מבוסס-דפוס [pattern detection], שהוא, כשלעצמו ניתן לניצול בידי גורמים זדוניים. איתור כזבים דורש הסתמכות והתבססות רבה של בינה מלאכותית [artificial intelligence] על דפוסים ורמזים סטטיסטיים, שאף אותם ניתן לזייף ולהערים עליהם.

את המחקרים ביצעו בצוותא פרופ’ רגינה ברזילי [Regina Barzilay] והדוקטורנט טל שוסטר [Tal Schuster] מ- Massachusetts Institute of Technology, MIT, המתמחה בבינה מלאכותית, בשיתוף עם רועי שוסטר [Roei Schuster] מ- Cornell Tech ומאוניברסיטת תל אביב והדוקטורנט Darsh Shah. הדברים פורסמו כאן בבלוג ב- 17 באוקטובר 2019.

השורה התחתונה היא שתידרש עוד עבודה רבה כדי שבינה מלאכותית תתקדם מעבר לזיהוי דפוסים ותגיע למה שעשוי לעמוד בפני אלגוריתמים שבידיים זדוניות.

Are We Safe Yet? The Limitations of Distributional Features for Fake News Detection, המחקר הראשון נמצא כאן.

Towards Debiasing Fact Verification Models, המחקר השני (בשיתוף 3 חוקרים נוספים) נמצא כאן.