אל תאמינו לאף אחד: מה מאיים על הרשת העצבית, עושה פורנו
דמיטרי קורקין
זיוף פורנו קטעי וידאושבו הכוכב של הסרט "אישה פלא" גל גדות לכאורה לקיים יחסי מין עם אחיו החורג, שהופיע באינטרנט השבוע, התברר להיות לא רק מזויף, אבל מזויף שנוצר על ידי בינה מלאכותית.
מחבר הסרטון, משתמש אנונימי של reddit עם הכינוי עמוק, בראיון עם סגן, אישר כי הוא השתמש ברשת העצבים כדי "לצלם" את פניה של גדות לגוף השחקנית פורנו. זיוף, באופן כללי, הוא מורגש, ואת deepfakes לא מתכננים לעשות כסף על זה - לפי אותו, הוא רק רוצה לבדוק כמה קל יהיה לעשות את זה באמצעות AI. ויש לו חדשות רעות עבורנו: היה קל מאוד לעשות פורנו מזויף בבית.
הבעיה, באופן כללי, היא לא בפורנופים עצמם: הביקוש לתמונות וקטעי וידאו, שבו שחקנים מפורסמים כמו שחקנים ושחקניות מקיימים יחסי מין, היה, ויהיה עם הפטישיסטים ואוהדי התחושות. על הדמיון החיצוני עם הכוכבים בתעשיית הפורנו, כל הקריירה נעשית - תופעה זו אפילו עוררה כותרת יוצאת דופן של העיתונות הצהובה: "גמדון גורדון רמזי נמצא מת בתוך חור גירית".
אבל אם לפני הייצור צריך זמן, משאבים וכמה מיומנות, אז רשת עצבית, מאומנים לרתך פרצופים לתמונה, מאוד מפשט את המשימה. רובוטים מקל, לא אדם, ורובוטים לקבל חכם יותר מדי פעם, כלומר זיופים ייראה יותר ויותר אמין. המשתמש העמוק הבהיר כי הוא אסף את תוכנת ה- AI שלו מהאלמנטים המאולתרים שנמצאו בספריות הקוד הפתוח, וצילם תמונות וסרטונים בצינורות ציבוריים ובאירוח כמו YouTube. במילים פשוטות, כל הכלים להפקת pornofeikov שכב מתחת לאפו, לא רק איתו, אלא בקרב מיליוני אנשים ברחבי העולם.
וזה, כמובן, אפילו לא חדשות. חזרה בשנת 2003, מומחים מאוניברסיטת אורגון הבריאות והמדע הזהיר כי הונאות אודיו הם "קל לעשות וקשה לקבוע". עד 2017, התחזית התגשמה, והיו הקלטות קול מזויפות שנוצר על ידי רשתות עצביות כי קשה מאוד להבדיל בין אלה אמיתיים. לאחר השמע, הווידאו היה עצור. ההתפתחות של צוות אוניברסיטת וושינגטון מסנכרנת את הבעות פניו של אדם עם נאומו: בסרטון שבו ברק אובמה הציג למשל, רק אודיו קיים, התמונה נוצרת על ידי התוכנית. חבר אחד עם השני - ועכשיו יש קטעי וידאו מזויפים מוכן, שבו, למשל, פוליטיקאי ליברלי ידוע "מודה" אהדתו על היטלר.
זה לוקח קצת דמיון כדי לדמיין איך התעללות כאלה בינה מלאכותית יכולה להוביל - chatbots של מיקרוסופט, אשר הטרולים מ טוויטר הפכו גזעני בתוך פחות מיום, ייראה כמו מתיחה די. וכמובן, הטכנולוגיה פורנו לא מאוימת בעיקר על ידי גל גדות, טיילור סוויפט או ג 'ניפר לורנס. הם מאובטח מספיק כדי לשכור צבא של מומחי IT לזהות מזויף, צי של עורכי דין אשר יתבע כל מי שמנסה להשתמש זיופים אלה עבור רווח אישי.
לא, בני תמותה פשוטים יהפכו לקורבנות של אלגוריתמים לא מזיקים חדשים. זיופים דיגיטליים יכולים לשמש לפורנוגרפיה, לטרדות ברשת, להטרדות ברשת, לסחיטה ולמניפולציה על ידי אנשים שקל להציע להם בקלות, ולא במיוחד לעקוב אחר חדשות מתחום הטכנולוגיות המתקדמות ("הבת שלך צולמה, להעביר כסף מיד, אחרת כל דבר ייראה"). ואנחנו לא בהכרח מדברים על פורנו: גם זיופים יכולים להיות משוגרים לתוך הרשת לתעמולה פוליטית ולהסתה לשנאה.
"אבל זה מפלצתי!" כן, זה מפלצתי, ואת coder עמעום הוא לא אשם בכך. כמו האקרים לפעמים לפרוץ למערכות בנקאיות לא כדי לגנוב כסף, אבל כדי להצביע על מחלקת ההגנה הקיברנטי לתוך חורים אבטחה, אז זה הומצא על ידי מתכנת AI אנונימי זה מעמיד אותנו מול העובדה: עידן זיופים דיגיטליים אינו סיפור אימה אנטי אוטופי "מראה שחור", והמציאות הקרובה. זה עדיין לא נתפס על ידי האתיקה המודרנית (האם פורנופול יכול להיחשב כפלישה לפרטיות של אנשים אחרים?), או על פי חוק בתוקף. אבל זה בה שאנחנו איכשהו צריכים לחיות בשנים הקרובות. לכן, יש צורך לפתח נוגדן נגד מלית כזה.
קולינס אוצרים קרא את המונח "חדשות מזויפות" הביטוי של 2017, ובכך מדגיש כי המשתמש הממוצע מכור clickbate ו repost כותרות סנסציוני מבלי לבזבז זמן לבדוק את האותנטיות של המידע. בינתיים, חדשות מזויפות יכול להשפיע על תוצאות הבחירות משאל עם. וזה גם חלק מהמציאות החדשה שבה אנו כבר קיימים, ובהם נצטרך ללמוד איך להיות פחות קלים.
רשתות חברתיות כבר הפכו את האינטרנט לבית עם קירות זכוכית, שבו מיליוני בני אדם יכולים לצפות בחייכם בכל יום - גם כאשר אינכם רוצים בכך. עכשיו זה ברור שאין דלת בבית הזה: כל אחד יכול לנסות לפלוש למרחב האישי שלך, באמצעות AI כדי לדפוק את הפנים שלך על פורנופול או את הסרט "שר הטבעות". הפרטיות מתה, אבל לא רק האח הגדול הוא אשם בכך בצורה של שירותים מיוחדים ותאגידים גלובליים, אלא גם את עצמנו.
העולם של זיופים דיגיטליים מגיע, אבל זה לא סיבה פאניקה, פרנויה, סירוב להשתמש באינטרנט או את הדרישות לאסור על רשתות עצביות. זו סיבה לחשוב על היגיינה ברשת ועל אתיקה חדשה, שבה הוא ייקבע אחת ולתמיד, כי באמצעות תמונה של מישהו אחר כדי ליצור זיוף דיגיטלי הוא שפל ובלתי חוקי. הזמנים שבהם אנשים האמינו ללא תנאי בכל מה שהם אומרים בטלוויזיה (גם אם הם אומרים כי "לנין היה פטריה") נמוגים. באותו אופן, אנחנו בהדרגה להרגיל את עצמנו כדי להאמין כל מה שנכתב באינטרנט.
Cover youרשומות עיקום