המכשיר האחרון שאפשר להבין

המכשירים עומדים להשתלט על החיים שלנו. זה לא עניין אפוקליפטי כמו המאטריקס, אלא תהליך זוחל שכולנו עדים אילמים לו. נקודת השינוי התרחשה כבר – זה לא העתיד אלא ההווה. נקודת השינוי היתה כשהמכשירים נעשו חכמים יותר מהחלק הפרימיטיבי שלנו. הם למדו להפעיל אותנו. אבל ההתחלה כבר התרחשה באמצע שנות השמונים של המאה הקודמת כשקיבלתי את המחשב הראשון שלי, שהיה אחד מהמחשבים הביתיים הראשונים בעולם. זה היה הרגע בו היה בידי מכשיר שלא יכולתי לפרק ולהבין איך הוא עובד.

הבנתי את זה במלוא הרצינות השבוע כשקיבלתי לידי טלפון חוגה ישן. אבא של אישתי לא רצה לזרוק אותו, ואני חשבתי שיהיה נחמד לאמץ את המכשיר שביליתי איתו כל כך הרבה שעות בתור ילד ולהראות לילדים שלי. הם, אגב, התעניינו קצת, אבל חזרו לצפות בסירטונים ושירים במכשיר שבלי שום הגיון קוראים לו בדיוק באותו שם – טלפון.

כשהייתי ילד פירקתי פעם את השפופרת של הטלפון שהיה בחדר שלי, ולאימת הורי חיברתי אותו אל מערכת הסטריאו. יכולתי ככה לשים את הטלפון "על רמקול" הרבה לפני שהטכנולוגיה השתלטה על המשרדים שלנו. הבן שלי מאוד רוצה לפרק גם את הטלפון הנייד שלו כדי להבין איך הוא עובד. אמרתי לו שהוא יכול, אבל שיקח בחשבון שהוא לא יבין מזה כלום, ושיש סיכוי טוב שזה לא יעבוד שוב לעולם. כבר הרבה מאוד זמן שאנחנו לא יכולים לפרק להבין ולתקן את המכשירים שלנו. הם נעשו חכמים מדי.

הטלפון שקיבלתי מאבא של אשתי שכב במחסן כמה עשרות שנים והחוגה אפילו לא הסתובבה. ניגשתי בחדווה ישנה לפתוח אותו, וחפרתי בו עם מברג ופלאייר קטן עד שהגעתי ללב. מתחת לספרות, לגלגלי השיניים, מעל פעמוני המתכת שאחראיים על הצלצול, מצאתי את הציר שהתמלא חלודה. שמן וניר סופג סידרו את הסיפור. הרכבתי את הכל בחזרה.

מה שהכה בי בתום התהליך הזה, שנמשך כשעתיים של ריכוז ושכחה עצמית נפלאים, היה העובדה שאפשר להבין את המכשיר הזה באמצעות המבט והידיים. אני אכתוב כאן את ההסבר, אבל תאמינו לי שבמילים זה קשה יותר להבין מאשר פשוט לראות ולהרגיש את זה. למשל, צלצול הטלפון מופק על ידי ענבל ברזל שמכה בשני פעמוני מתכת. אפשר לעמעם את הצלצול על ידי הזזת רכיב פלסטיק שעוצר את הענבל. וגם, החיוג נעשה על ידי הזזה מכאנית של החוגה. היא חוזרת למקומה על ידי קפיץ ברזל, ורכיב מכני גאוני מווסת את התנועה שלה כדי שתהיה אחידה. חזרת החוגה למקום מזיזה גלגל שיניים שמכה בחיבור חשמלי וגורם לחיבור וניתוק של מהירים של מעגל חשמלי – מספר הפעימות הוא לפי המספר שחייגת. הפולסים האלה משודרים לרשת הטלפון ומקודדים את המספר המחויג. זה גאוני. אבל חשוב יותר שאפשר לראות את זה בעיניים ולהרגיש בידיים.

נסו עכשיו לפרק את הטלפון הסלולרי שלכם ולהבין איך יוטיוב עובד. אני מאחל לכם בהצלחה.

טלפון חוגה זה כניראה המכשיר האחרון שאפשר להבין איך הוא עובד. החליף אותו טלפון לחצנים מודרני של בזק המבוסס על מעגל אלקטרוני מודפס. כדי להבין איך הוא עובד צריך לקרוא מדריך לאלקטרוניקה. וככל שהמכשיר נעשה מורכב יותר, ככה הלימודים האקדמיים שנחוצים כדי להבין אותו הלכו והסתבכו. הרכיבים נעשו קטנים יותר, אלקטרוניים יותר, דיגיטליים וחסרי פשר.

המחשב הראשון שקיבלתי אכסן מידע על קלטות אודיו, וקיבל הוראות בשפת דוס. זה היה מעניין ומאתגר לתכנת אותו, אבל היה ברור שאני לא באמת מבין איך כל זה עובד. איך המילים של שפת דוס גורמות לו לצייר על המסך ציורים שונים ולקבל הוראות מהמקלדת? ועדיין, זה היה מכשיר פרימיטיבי עם זיכרון של 32K. לסלולרי של הבת שלי יש יותר כח חישוב מאשר למחשבים שהנחיתו חלליות על הירח.

לאורך ההיסטוריה בני אדם השתמשו בטכנולוגיה, וזה היה פחות או יותר הדבר היחיד שבני אדם יכלו להגיד שהם באמת מבינים. איך החיטה צומחת? מדוע יורד גשם? מדוע יש מחלות? אלה היו שאלות מיסתוריות, והתשובות "הטכנולוגיות" שהדת או המיתולוגיה סיפקו היו מעין שסתום כנגד האימה של אי-הידיעה ונסיון עילג לקבל שליטה על אותו מרחב לא מובן, מסקרן, ומפחיד. התפילה תוריד גשם, הטקס ירפא את המחלה, התרומה הנדיבה תצמיח את היבול.

עד המהפכה התעשייתית היו אלה המכשירים שהיוו את העוגן הבטוח, הידוע והברור בתוך המציאות המוזרה והנפלאה. אין כל שאלה לגבי איך המחרשה עובדת. זה ברור. גם האובניים, העגלה, המסור, טחנת הקמח. יש בזה סיפוק עצום. האומן שיוצר את הכלים יודע מה הוא עושה, ויש לו שליטה אמיתית. גם כשהטכנולוגיה הלכה והשתכללה, תחושת השליטה רק גדלה. כרכרה מלכותית במאה התשע עשרה היא משוכללת ונוחה יותר מאשר עגלת איכרים מימי הביניים. ובני אדם בנו אותה, ויודעים איך היא עובדת. משוכללת כן, אבל מסתורית היא לא.

לגבי כל המכשירים בעידן ההוא אפשר להגיד דבר אחד ברור – שהם היו מונהגים ומנוהלים על ידי אנשים. אפילו השעון, שגרם לשינויים מרחיקי לכת בתרבות האנושית, הוא חפץ שנוצר על ידי בן אדם, ושומר על היררכיה חד משמעית. הוא חפץ בידיו של המשתמש. האדם שולט בו, הוא אדונו, הוא יוצר אותו ומבין אותו. על בסיס ההיררכיה הזו אפילו נוצרה מטאפורה כמו "השען האלוהי", שמציינת את יחסי הבריאה בין אלוהים המומחה והעולם שיצר.

ואז הכל התהפך. בעולם שלנו הדברים נוצרים ומנוהלים באופן אחר לגמרי. השימוש והפעולה של רשת חברתית כמו פייסבוק או יוטיוב היא כל כך מרובדת ומורכבת, שזה חסר פשר להתייחס אליה במסגרת יחסי שליטה מוחלטים כל כך. מי יוצר את הידע? מי ממליץ לי לצפות בסרטון מסויים אחרי שסיימתי לצפות בסירטון הקודם? מי המליץ לי על הסרטון הקודם? בשביל מי אני צופה? מי משתמש במי? ומה החומר שממנו כל זה עשוי? והאם יש מישהו אחד שבכלל מבין בדיוק איך זה עובד ואיך זה יעבוד בעתיד?

בואו ניקח דוגמה קטנה. צפית בסירטון. אני מהמר שזה לא בגלל שקמת בבוקר, חשבת על סירטון מסויים, חיפשת אותו, מצאת, וצפית. בחרת בסירטון אולי בגלל שמישהו מחבריך המליץ עליו ברשת החברתית. אבל מי קבע מי מבין החברים יקבל קדימות בפיד שלך ברשת החברתית? הרי כבר מזמן אנחנו לא רואים את כל מה שכולם מפרסמים כל הזמן. זה לא מארק צוקרברג. הוא לא יודע ולא אכפת לו ממך. זה אלגוריתם שלמד את ההעדפות שלך, ומציע לך לצפות בדברים שהוא "חושב" שהיית רוצה שיציעו לך לצפות בהם. זה מעגלי. זה מוזר. ולא לגמרי ברור בשביל מי זה טוב (אבל היי בטוחה. זה טוב בשביל מישהו. אחרת לא היה תאגיד ענק שמייצר את זה).

יובל נח הררי ועוד כמה נביאים בודדים מזהירים אותנו מפני העתיד שנפגוש כשהמכונות יהיו חכמות כל כך עד שיהפכו את הסדר הישן על פיו, ואז אנחנו לא רק שלא נבין ונשלוט בהן, אלא נעדיף לחיות תחת חסותן, כי ניתרגל לכך שההחלטות שהן מקבלות טובות יותר מאשר ההחלטות שאנחנו מקבלים באמצעות המערכת הביולוגית המוגבלת שלנו. הרי זה כבר מתרחש בזעיר אנפין – כמעט בלי לשים לב כבר עברנו לסמוך על האלגוריתם של ווייז בבחירה של מסלול הנסיעה, פשוט כי ברוב המקרים הוא יודע טוב יותר מאיתנו מה הדרך המהירה.

לא היה קשה לעשות את הקפיצה הזו, אולי בגלל שמדובר בעניין טכני למדי, שקל לדמיין לפחות איך הוא עובד. כבישים, עומסי תנועה, מרחקים, מהירויות. מדובר על חישובים מתמטיים אמנם מורכבים, אבל לא מיסתוריים מדי. אלגוריתם לבחירה בסירטון המוצלח ביותר עדיין לא השתכלל עד כדי כך שהוא יודע בכל רגע באיזה סירטון כדאי לי לצפות. אבל זה רק עניין של זמן.

מתרחשת זחילה מהירה מאוד אל עבר תחומים שעדיין נחשבים לאינטימיים ואנושיים יותר, ובסוף הדרך הזו שכבר יצאנו אליה, החירות האנושית עצמה תשתנה. גוגל ופייסבוק כבר יודעות טוב מדי מה הדיעות שלי, ההעדפות שלי, מי החברים שלי, ומה מצב הרוח שלי. היא מכירה אותי טוב יותר ממה שכמה חברים שלי מכירים אותי, ולכן זה יכול להיות הגיוני לגמרי לתת לגוגל לבחור לי מתנה ליום ההולדת, ולא לבחור בעצמכם. ומה לגבי ההכירות שלי עם עצמי? לא ירחק היום שחברת טכנולוגיה כלשהי תחזיק בידע מספיק על תיאוריות פסיכולוגיות ובידע מספיק על ההיסטוריה שלי, כך שהיא תוכל להעריך מה ישמח אותי בזמן שאני מדוכדך, ומי תהיה בת הזוג האידאלית שלי. המערכת תעשה זה יותר טוב ממני עצמי. זה בעת ובעונה אחת מפחיד ומעודד מאוד. אולי דכאון יהיה מחלה של העבר, כי יהיה משהו שבאמת יידע לעזור לי לפני שזה קורה.

מה שלנו בני האדם קשה יחסית לתפוס – למשל להבין את מבנה האישיות של אדם אחר לפי מודלים פסיכולוגיים – לאלגוריתמים כבר קל. וזה הולך ונעשה קל יותר. לפי נח הררי כיוון הנסיעה הוא אל עבר דיקטטורות טכנולוגיות, בהן השליטה בבני אדם תיעשה על ידי אלגוריתמים. המילה דיקטטורה מעט מטעה, בגלל ההיסטוריה שהטעינה אותה במשמעות השלילי ונוראית. אנחנו חושבים על גרמניה הנאצית ועל רוסיה הסטאליניסטית – שתי אוטופיות-דיסטופיות שהזיקו לכל כך הרבה בני אדם, שקשה לנו לדמיין אפילו דיקטטורה מיטיבה.

אבל הדיקטטורות האנושיות היו מוגבלות הן ביכולתן להבין את האדם (ולכן, אולי, הן גם מיהרו לקרוס), והן ביכולתן לווסת את הכוחות האפלים של הרגש האנושי שהמשיך לקנן ולפעול אצל המנהיגים, המעגלים הקרובים להם, וכל שדרות הממשל. למרות אידאולוגיות שבבסיסן רצון להיטיב, הדיקטטורות של המאה העשרים יצרו סבל בל יתואר.

אבל אלגוריתמים יכולים להיות חפים מכל זה. הם יכולים להיות באמת טובים בלעזור לנו, והיכן שהם עושים את זה אנחנו מאמצים אותם בשמחה.

אז מה הבעיה עם זה? למה זה מדאיג ומפחיד אותנו? הבעיה היא שחברות הטכנולוגיה נוטות להתעלם מכל זה, כי המודל הכלכלי שלהן אינו באמת כולל את המטרה להיטיב – למרות הסיסמאות שלעתים מתנוססות בלובי של המשרדים שלהן. מה שמנחה אותן הוא רצון עז לקבל הרבה תשומת לב מאיתנו, כדי לאסוף עוד ועוד מידע, למכור עוד שירותים בתשלום, וזמן למפרסמים. וככל שהן תאגידים מסחריים, הן בסופו של דבר חייבות לרצות כסף.

כדי לשנות את הכיוון הזה, נוצרה לאחרונה תנועת התנגדות טכנולוגית חדשה. מה יביא את השינוי? שבת דיגיטלית, טלפון חוגה, או שינוי ערכת הצבעים בטלפון לאפור הן אנקדוטות מבדחות. השינוי הרדיקלי צריך להיות במודל הפעולה של חברות הטכנולוגיה עצמן. וכיוון שהן עדיין מנוהלות על ידי מהנדסים שהם לכל הפחות אנושיים בעצמם, אפשר להשפיע עליהם באמצעות מילים ורעיונות.

אחד הרעיונות שנקלטו לא רע בתקופה האחרונה הוא "שימוש הולם בזמן" (time well spent). זה מונח שטבע טריסטן האריס, מהנדס לשעבר בגוגל, שפצח במסע לתיקון התפיסה שהקשב הוא משאב שיש לחלוב מהמשתמשים בכל מחיר. הרעיון הוא לשנות את עקרונות החשיבה על עיצוב תוכנה. במקום לחשוב על האדם כמשאב שיש לנצל אותו עד תום ולהשליך לפח הזבל, לזכור שהאדם הוא המטרה של העיצוב, ועיצוב טוב עוזר לבני אדם להשתמש באופן מיטבי בזמן שלהם. כמובן שההגדרה של "מיטבי" פתוחה להרבה פרשנויות, אבל לפחות נדלק האור בחדר בו מתנהל הדיון הנכון.

בחדר הזה חייב להתרחש דיון שאינו רק טכנולוגיה, אלא גם פילוסופי ופסיכולוגי. כי השאלה עכשיו היא שאלה של החיים הראויים, מה טוב לתודעה, ואיך ראוי לנצל את הזמן. אין כוונה שהמהנדסים בעצמם יקבעו אמות מידה לזה, מספיק שהשאלה עצמה תישאל, ואז אפשר יהיה לחפש את התשובות. למזלנו יש ידע עצום בנושא אצל שורה של מומחים, החל מהמסורות הרוחניות ברחבי העולם וכלה במעבדות לפסיכולוגיה ונוירוביולוגיה במכוני המחקר. כדי להשיב על השאלות ברצינות, עלינו לדעת אפילו טוב יותר ועמוק יותר מה הוא אושר, ומה היא התודעה, ומה הם חיים ראויים. פילוסופיה, מדיטציה, פסיכולוגיה, ורוחניות מעולם לא היו רלוונטיים יותר.

כמובן שחברות טכנולוגיה משתמשות כבר זמן רב במודלים פסיכולוגים ונוירוביולוגיים בתכנון ועיצוב. רק שהן משתתפות במה שמכנים "המרוץ אל גזע המוח", כלומר, מחפשות דרכים יעילות יותר להפעיל את האזורים הלא מודעים, העתיקים, במוחות שלנו, כדי לגרום לנו לפעול בניגוד לשיקול הדעת ובניגוד לאינטרסים המודעים וארוכי הטווח שלנו. כולנו חווינו את ההשפעה הזו כשנקלענו לסחרור ממכר של גלילה ברשת חברתית, משחק מטופש בסלולרי, הצטרפנו ל"שיחה" מיותרת וארוכה מדי ברשת, או צפינו בסירטון אחרי סירטון ביוטיוב.

משהו דומה שקורה במכונות המזל בקזינו, שגורמות לאנשים שמשחקים ("משחקים") להכניס מטבע ועוד מטבע, בניגוד גמור להגיון ולאינטרס ארוך הטווח שלהם. אבל בניגוד לאלגוריתמים של מכונות המזל בקזינו, האלגוריתמים החדשים לא רק יודעים מה ממכר את האדם הכללי, אלא יודעים מה ממכר במיוחד בשבילי ובשבילך באופן אישי, בהתאם להיסטוריה וההעדפות שלנו. הפיד שלי בפייסבוק הוא לא רק ממכר, הוא בנוי כדי להיות ממכר בדיוק בשבילי.

בשנת 2018 טריסטן האריס היה שותף להקמה של אירגון לטכנולוגיה הומאנית (Center for Humane Technology) שחרת על דגלו את העצירה של המרוץ הזה לתחתית, וטיפוח של סטנדרטים חדשים, שישנו את עולם העיצוב של אלגוריתמים. הוא חבר למומחים בתחומי הפילוסופיה, מיינדפולנס, וחינוך כדי לעצב מחדש סדר יום הומאני לחברות הטכנולוגיה.

אין רגע מתאים יותר בשביל זה. אנחנו בשלב ביניים היסטורי בו חצינו את הקו. לעולם לא נבין את הטלפון הסלולרי שבכיס שלנו כמו שיכולנו להבין את הטלפון עם החוגה שעל השולחן שלי. וכיוון שאנחנו לא מבינים, גם לא נוכל לשלוט בו באופן הישן והטוב – לנתק אותו מהקיר כשאנחנו הולכים לישון, ולגמור את הסיפור ככה. המהפכה עדיין לא הושלמה, כי האלגוריתמים עדיין לא טובים יותר משיקול הדעת שלנו, והמוח שלנו עדיין מורכב יותר ומסתורי יותר. במילים אחרות, עדיין יש לנו ייתרון, ואנחנו יכולים וחייבים להשתמש בו כדי לעצב את מערכת היחסים עם הטכנולוגיה.

יכול להיות שבעתיד, בעוד עשרות שנים או מאות שנים, הטכנולוגיה תעבור את הסף, כמו שצופה נח הררי, ולא נוכל או נרצה יותר לעצב אותה בשבילנו, כי היא כבר תדע טוב יותר לעשות את זה במקומנו. אבל בינתיים, זה בידיים שלנו. באזור הדימדומים הזה, בו הטכנולוגיה כבר יותר חכמה מגזע המוח שלנו, אבל יותר טפשה מהאזורים הקדמיים, אנחנו יכולים לתת לאלגוריתמים כיוון ומשמעות חדשים. במקום להיות חצי-טפשים ולצרוך אותנו כמשאב הם יכולים לשמש אותנו לטובתנו. מי שבמיוחד צריכים להקשיב לזה היא קבוצת האליטה שעוסקת בעיצוב, מימון ומחקר המערכות האלה. אם אתם קוראים את זה, אולי אתם שייכים לקבוצה המיוחסת הזו. אם כך, יש לכם הרבה השפעה. נצלו אותה לטובה.