הצד האפל של טכנולוגיות חדשות

הסרט התיעודי "הדילמה של הרשתות החברתיות" (נטפליקס) חושף פנורמה מדאיגה על השלכות השימוש לרעה בטכנולוגיות תקשורת חדשות.

התמכרות למסך, תסמיני דיכאון כללים ומניפולציה של התנהגויות למטרות מסחריות. באיזו מידה התקדמות מסוימת באנושות פגעה בדו קיום ובאיכות חיינו?

• מאמר קשור: "התמכרות לרשתות חברתיות: התעללות בווירטואלי"

דעת היוצרים

"הדילמה של הרשתות החברתיות" נוצרת, מופקת ומכוונת על ידי מי שתופס תפקידים גבוהים בחברות כמו טוויטר, גוגל, אינסטגרם, פייסבוק ויוטיוב, עזרו לבנות את "מפלצת המחשב" שהיום היא חלק מחיי היומיום של מיליוני אֲנָשִׁים.

הסרט התיעודי מתחיל מדאגה: אולי היינו נאיביים לגבי ההשלכות של הכלים שיצרנו בעצמנו. זה כל כך עד כדי כך שרבים מאלה שיצרו אתרים ורשתות חברתיות אלה מוכרים כיום כ"מכורים "לכלים אלה.

הם חשים צער ופחד על היותם חלק מתהליך זה, ולתחושות אלה מצטרף החשד האימתני שאנושיות מסוימת הדברים יוצאים משליטה וכי במובן מסוים אנו מתנהלים ברמה החברתית בהתאם למשל הקדום של "הקוף עם סכין גילוח".

היבט מעניין בסרט התיעודי הוא שהוא נמנע מכל פיתוי "קונספירציה" בכך שהוא מגלה שבסופו של דבר "אין בחור רע". מהי, אם כן, הבעיה?

לידתו של "פרנקנשטיין"

עם תעשיית האינטרנט נוצרו מנגנוני השיווק העדינים, המורכבים והיעילים ביותר בהיסטוריה של האנושות. שווקי טריליון דולר מנוהלים באמצעות האינטרנט.

אם אתה יזם, תדע שמעולם לא נחזה בדיוק כזה בקהל שאליו אתה רוצה לפנות מוצר או שירות שאתה מציע, ברגע שאתה עושה את זה, כמו גם עיצוב ההתנהגויות של הפוטנציאל שלך צרכנים.

עכשיו, איך זה מושג? פשוט מאוד: ניתן לנבא תחזיות נהדרות רק מכך שיש הרבה נתונים. ככל שאתה מטפל במידע רב יותר על משתמשים, כך יש לך יותר בטוח שהפרסום שלך יעבוד.

רבים מאמינים שגוגל היא פשוט מנוע חיפוש. מה שלעתים קרובות הם מתעלמים ממנו הוא שהמודל העסקי של חברות אלה מבוסס על לברר ככל האפשר על הטעם, ההתנהגויות והנטיות שלנו, כל אלה רשום בכל אחת מהפעולות שלנו באינטרנט.

אם לנסח זאת בקצרה, אילו כלים כמו מודעות פייסבוק עושים (באותו אופן שבו סרטונים עובדים למשל מומלץ מ- YouTube) הוא לפלח קהלים בצורה אולטרה מיוחדת, בהתחשב בגיל, מין, מיקום גיאוגרפי, תחומי עניין משתנים אחרים. לאיזו מטרה זה נעשה? פשוט מאוד: כדי למשוך לקוחות פוטנציאליים למוצרים מסוימים המוצעים על ידי מפרסמים שהם בסופו של דבר שוכרים את שירותיהם.

וזה מביא אותנו ל"צד האפל של העסק ", כלומר לשאלות הנוגעות לגבולות האתיים הכרוכים בתהליך זה.

מניפולציה היא המפתח לעניין

אם אנו גרים בעיר גדולה, ודאי שהתמונה הבאה לא תהיה ידועה לנו: כשנכנסים למקום ציבוריים (כגון אמצעי תחבורה או בר) אנו רואים 90% מהאנשים נקלטים במסך הטלפונים שלהם ניידים. אולי בקנה מידה קטן יותר, בתוך קבוצה משפחתית, קורה משהו דומה בחיי היומיום.

כלשונו של הסרט הדוקומנטרי, "נראה שהעולם השתגע או שהוא נפל לסוג של כישוף." מה שקורה בין היתר זה אלה שתכננו את המערכת עשו זאת במטרה לתפוס את תשומת לב המשתמש ככל האפשר.

המערכת מתוכנתת לשכלל את עצמה בעניין זה ולספק לנו הנאה. כאילו הפנינו אלינו את מנועי הבינה המלאכותית הללו כדי ללמוד יותר ויותר מה יגרום לתגובה "מוצלחת" מהמשתמש.

במילים אחרות, המחשב מקבל פקודה: "אני רוצה את התוצאה הזו." ואז המחשב לומד לעשות את זה (משם מגיע המונח "למידת מכונה"). א) כן, בכל יום המערכת משתפרת על ידי בחירת הפרסומות הנכונות בסדר הנכון כך שתקדיש יותר זמן להתעניינות בתכנים אלה.

מה שהסרט התיעודי חושף הוא שמשתמשי האינטרנט (והיום, מי לא?) הפכנו, בלי להבין את זה, לטובת הצרכן שלנו. אם לנסח זאת בקצרה: "אם אתה לא משלם עבור המוצר, אתה המוצר."

מהו אלגוריתם?

כפי שמוסבר היטב בסרט התיעודי, "אלגוריתמים הם דעות בקוד." הם אינם אובייקטיביים, הם אינם תואמים שום מציאות אלא מוגדרים על פי הגדרה מסוימת של הצלחה, והגדרת הצלחה זו היא לא אחרת מאשר רווח.

דוגמה לכך היא כיצד מנועי חיפוש "מאכלסים" מידע על נושאים מסוימים על סמךם המקום על פני כדור הארץ שממנו מתבצע החיפוש או תלוי מה גוגל יודעת על תחומי העניין שלך תענוגות.

לדוגמא, אם אתה מחפש בגוגל: "שינויי אקלים הם ..." בהתאם לגורמים שונים, תגלה שזה איום, שהוא בלתי נמנע, שמדובר בבחינת דמה, וכן הלאה... דוגמא נוספת היא "החדשות המזויפות" המפורסמות, שעל פי מחקרים מתרבות פי שש מהר יותר מחדשות נָכוֹן. אנו יודעים זאת מחומרים מסוימים שהיו אמורים לרפא את COVID-19 בצורה קסומה.

במילים אחרות: אם יש לך נטייה להאמין בתיאוריות קונספירציה, המערכת תעודד אותך למצוא תוכן העומד בתאוריות אלה. אם יש לך זיקה למפלגה פוליטית מסוימת או שהבעת שנאה כלפי מיעוטים מסוימים, מה שכן האלגוריתם אינו להראות לך אמת אלא "להרעיד את רוחות הרפאים שלך" כדי לתפוס עוד ועוד את שלך תשומת הלב.

לפיכך, נאמר בסרט התיעודי כי תהליכים אלה מאכלסים במהירות את המרקם החברתי. ובכן, אם מראים לכל אחד את האמת המרכיבה אותם, הם מקושרים לאנשים שחושבים אותו דבר וניתנים להם טיעונים כי להצדיק את אמונותיהם (להגיע לקיצוניות אבסורדית כמו כדור הארץ השטוח) זה מסביר שיש יותר ויותר משברים במערכות דֵמוֹקרָטִי.

מחבר: גילרמו מיאטלו, מנהל האקדמיה של פסיקואנליסיס מדריד SL.