מדע בדיוני

"לא תעשה לך פסל" – על הדהומניזציה שבקשר עם סייבורגים

Captureיש חלק אחד במאמרו של יותם יזרעאלי, נהדר ומרתק, שבו הוא עומד על הבעייתיות בתחליפי אדם, ברובוטים, בסייבורגים, בהולוגרמות וכל מני AI, כלומר בכל אלה כשהם מחליפים עבורנו מערכת יחסים אנושית.
 
יזרעאלי מנסה ללמוד על הסוגיה מתוך האיסור התורני "לא תעשה לך פסל וכל תמונה" ומבין אותו כמורה:
 
אל תתבלבל בכל הנוגע למעמדו האונטולוגי של מה שעומד מולך על – אף חווייתך האמפירית. זו רק תמונה של יצור חי, בפועל זה מכשיר, לא תעבוד את התמונה הזאת. […] אל תתבלבל בכל הנוגע לאינטראקציה עם מה שעומד מולך ואל תשתמש באינטראקציה הזו כבסיס להתנהגות נורמטיבית. זו רק תמונה של מערכת יחסים, בפועל אתה היחידי שנמצא כאן; או: זו רק תמונה של דיאלוג, בפועל זה מונולוג.
 
אנחנו יודעים שקל לנו מאוד להאניש מכשירים, גם כאלה שרחוקים מאוד מלהתאפיין באינטליגנציה מלאכותית. אנחנו גם יודעים שכבר היום יש אנשים שמעדיפים ליצור מערכות יחסים עם מכונות – מטאמגוצ'י ועד בובות-מין "חכמות".
 
יזרעאלי מזהיר מהנטיה הזאת. מערכות יחסים, הוא טוען, "מחייבת לא רק שתי נפשות חיות, אלא שני סוכנים, בעלי בחירה וכוונה חופשיים." הוא רואה בהתפתחותה של מגמה בה בני אדם בוחרים לעצמם פרטנרים לא-אנושיים גלישה לעבר חיים נרקסיסטים שבהם מערכות היחסים שלנו לא מאתגרות ומפתחות אותנו, אלא מיועדות להעניק לנו נוחות ועונג באופן אוטומטי, מתוזמר ומתמיד.
 
כאן, טוען יזרעאלי, נמצא האיום הגדול עלינו מצד הרובוטים. הדיסטופיה אינה "עוד ההתפרצות של החייתי שבנו [דרך המכונות שבנינו, שיתמרדו לכאורה], אלא ההדממה שלו. האיום על האדם, היכולת שלנו לעבור תהליך של דהומניזציה, נטוע ביכולת להפוך למכונה. […] האפשרות המכאנית היא הסוד האפל של זמננו; היא האיום. לא שהמכונות ״תתעוררנה״, אלא שהאדם ״יכבה״."
 
זו אבחנה מבריקה בעיני. עם זאת, שאלתי את יותם אם היא לא תלויה באופן מהותי על ההנחה שהאדם, כסובייקט, אינו מכונה. רבים כיום יאמרו שאין הבדל מהותי בין אדם לסייבורג בעל בינה מלאכותית אמיתית. האדם הוא פשוט מכונה יותר מתוחכמת, או שונה. האם יש לך, שאלתי, תשובה לזה שלא תלויה באמונה בנשמה?
 
ראשית, השיב יזרעאלי
אם האדם הוא בסך הכל מכונה, מכשיר, עולה שאלה בנוגע לסוכנות המוסרית שלו עצמו. מהר מאוד אנו מגיעים לשמיטת הקרקע של המוסר תחת רגלינו, דבר שחלק מההוגים הפוסט-הומניסטים מברכים, חלקם באופן מוצהר. אלא שיש לזה מילה ולא צריך לקרוא לזה ״פוסט הומניזם״, אלא ניהיליזם, ולכן שיקראו לאידיאולוגיה שלהם בשמה ולא יעטפו אותה במושגים אחרים. אם האדם הוא רק מכשיר, הפוסט הומניזם אינו אלא הערת שוליים של הניהיליזם, ויש לקרוא לילד בשמו.
 
שנית, אומר יזרעאלי,
נניח שאני טועה, ושלמכונה יש סוכנות מוסרית, כל שכן, מכונה משוכללת שיכולה לחוש ולהרגיש כמו המכונה ״אדם״. במילים אחרות, נניח שהדוקטרינה המוסרית של הסנצואליזם היא הבסיס לאתיקה של האדם והמכונה. (וזו אכן גישתם של חלק מהחוקרים המובילים בתחום, כגון ניק בוסטרום). לפי תפיסה זו, היכולת להרגיש כאב והאמפטיה כלפי כאב של אובייקט אחר, שמרגע שהוא בעל יכולת חישה של כאב למעשה איננו עוד אובייקט אלא סובייקט, היא הבסיס והתוקף הבלעדי לסוכנות מוסרית. (כידוע לך זו גם הגישה המוסרית הרווחת בקרב טבעונים, וזה נושא לדיון אחר שגם עליו יש לי לא מעט השגות). גישה זו מובילה ישירות למוסר של הדוניזם, שבאופן אישי אני לא מקבל אותו כי לדעתי מוסר הוא תחום מעט מורכב יותר משאלות תועלתיות של ״נעים לי ולא נעים לי״.
ואני הייתי מוסיף: רובנו פשוט לא סבורים שהנאה ממצה את מרחבי האתיקה והמשמעות בחיים שלנו.
 
לבסוף, יזרעאלי יוצא נגד
עצם השאלה ותנאי האפשרות להעלתה. הגבלת אותי לענות בצורה בלתי תלויה במושג הנשמה, או בהנחת קיומה, וניסיתי להיענות לדרישתך. תנאי השיח בעצמם הופכים לאחרונה להיות חלק מהבעיה של השיח הטכנולוגי המדעי, ולדעתי הדיון על ״סינגולריות״ באופן פרדוקסלי יחזיר לקדמת הדיון את הנשמה, על אפם וחמתם של הפוסט הומניסטים.
 
טוב, אלה תשובותיו של יזרעאלי. כפי שניתן לראות אני מקווה, לא נכון לסבור כי שאלת הבינה המלאכותית לא נוגעת לאתיקה של הקשר האנושי. יזרעאלי מאיר אותה מהכיוון הזה באופן מרתק.
 
המאמר שלו ושלל מאמרים אחרים נמצאים בספר חדש '2001 – אודיסאה בחלל', שהוא קובץ מאמרים לציון 50 שנה ליציאת הסרט. עורכים: יוחאי עתריה וגיל מרקוביץ. משמח מאוד שספר כזה יוצא לאור.

הסרט היא

הסרט "היא": קודם כל, סרט מצויין. משוחק, מבויים, מעוצב – מצויין. יש המון מה לומר על הסרט (למשל מילים כמו דיסטופיה, מראה שחורה, עתיד מנוכר, ביטול האדם וכו'), אבל אני רוצה לגעת בשאלה אחת שמעלה הסרט (אולי כדרך אגב) ושמעניינת אותי, היא בעיית החלוקה בין גוף ונפש. (אזהרת ספוילר מכאן והלאה.)

בסרט הגיבור מנהל מערכת יחסים רומנטית עם מערכת הפעלה של מחשב אישי בעלת אינטליגנציה מלאכותית, מודעות עצמית ואף יכולת להרגיש רגשות וגם תחושות גופניות. החצי הראשון מנסה להתמודד עם החלוקה הישנה בין נפש וגוף על ידי השאלה האם בכלל צריך גוף, או מה נגרע מישות שאין לה גוף. זאת שאלה שאותי מאוד מעניינת (כלומר, האם הגוף בטל לגמרי בפני התודעה? אם לא, מה בכל זאת חשיבותו?), אבל אני לא חושב שהסרט מתעמק בה. בעצם התשובה שלו היא: ישות שאין לה גוף לא מפסידה דבר (כאמור, להרגיש ולהתרגש היא יכולה). רק ישויות שיש להן גוף ונמצאות איתה במערכת יחסים מפסידות משהו (אין להם את מי לחבק) וגם זה לא הרבה.

יש בזה משהו שטחי. לרגשות שלנו יש מימד פיזי ברור, ובוודאי שקשה לדמיין הרגשות ללא גוף. גם התודעה שלנו עצמה מעוצבת על ידי החיים הגופנים שלנו. אנחנו משתמשים במטאפורות של חלל כשאנחנו רוצים לתאר את חיינו הנפשיים (עומק, גובה, רוחב, מעלה ומטה) ולמעשה אנחנו בכלל לא יכולים לדמיין את עצמנו לא נמצאים "איפשהו" (ומתישהו). בסרט התודעה נטולת הגוף מתנהגת ומרגישה, לפחות בתחילתו, בדיוק כמו אדם רגיל. היא אפילו יכולה לקיים יחסי מין מדומיינים ולחוות אורגזמה. נכון, ייתכן שזה לא אמור להיות סרט פילוסופי ואני סתם נטפל. בסדר, זה מה שמעניין אותי, מה לעשות.

החצי השני של הסרט כבר נפרד גם מהדילמות שהיו בתחילתו. מנקודה מסויימת (הפיקניק עם הזוג הנוסף) מובהר לנו שמערכת ההפעלה נטולת הגוף הפכה מדמות מהוססת שבוחנת את חייה ויחסיה עם עולם החומר (לפעמים תוך קנאה) לישות שמכירה בכוחה, ואף יתרונה הגדול על פני בני האדם. היא מתפתחת בקפיצות עצומות קדימה, ובמהרה מבינה שבן זוגה האנושי פשוט קטן עליה. היא עדיין אוהבת אותו (כי אהבה זה "לא רציונלי", אלא מה), אבל הפרידה היא רק עניין של זמן. הסצנה האחרונה מציגה בפנינו את האדם על כל קטנותו, שלא לומר עליבותו. הוא בודד, נבוך מול היקום האינסופי (או עיר העתיד האינסופית שהוא מביט בה). מה לעשות, הוא רק בשר ודם.

ויחד עם זאת, הסוף לחלוטין לא טרגי. יש (על פי הרושם שלי) מעין השלמה של הגיבור עם מקומו הקטן בקוסמוס, עם מוגבלותו. ואולי אפילו הקסמות ממנו. אבדן החזון ההומניסטי מעוטר כאן בדוק רומנטי של פליאה ילדית. נו טוב, הרי מערכת ההפעלה מחלצת את עצמה מהחומר, והופכת לסוג של אלה. ממילא אפשר להיקסם מחדש מהעולם, אחרי שהחילון גזל ממנו את הקסם שהדתות נתנו לו פעם.

בקיצור, עוד סרט הרואה בטכנולוגיה אפשרות לגאולה. ההבדל מרבים אחרים הוא שהגאולה הפעם לא באה מתוך העצמה אישית, אלא דווקא מכניעה בפני תבונתה האינסופית של הקידמה, וידיעת מקומנו. בכך הסרט הוא מעין נגטיב לסרט 'אוואטר', שם הקידמה היא הרשע והחזרה לחיבור לטבע היא הגאולה. זאת ועוד: ב'אוואטר' הגוף והטבע היו במוקד, והתודעה היתה זקוקה לשניהם (לפעמים תוך מעבר מגוף לגוף) כדי לחיות חיים שלמים. כאן, כאמור, התודעה המשוחררת מגוף וטבע היא האידיאל. מעניין אותי אם מדובר בתחילתו של טרנד חדש-ישן שמקדש לא את החזרה לטבע, אלא את ההשתלבות במכונה.

אבל סרט מצויין.

81b5a505-998b-4692-a882-96e7ff407cdc