אינטליגנציה מלאכותית

"לא תעשה לך פסל" – על הדהומניזציה שבקשר עם סייבורגים

Captureיש חלק אחד במאמרו של יותם יזרעאלי, נהדר ומרתק, שבו הוא עומד על הבעייתיות בתחליפי אדם, ברובוטים, בסייבורגים, בהולוגרמות וכל מני AI, כלומר בכל אלה כשהם מחליפים עבורנו מערכת יחסים אנושית.
 
יזרעאלי מנסה ללמוד על הסוגיה מתוך האיסור התורני "לא תעשה לך פסל וכל תמונה" ומבין אותו כמורה:
 
אל תתבלבל בכל הנוגע למעמדו האונטולוגי של מה שעומד מולך על – אף חווייתך האמפירית. זו רק תמונה של יצור חי, בפועל זה מכשיר, לא תעבוד את התמונה הזאת. […] אל תתבלבל בכל הנוגע לאינטראקציה עם מה שעומד מולך ואל תשתמש באינטראקציה הזו כבסיס להתנהגות נורמטיבית. זו רק תמונה של מערכת יחסים, בפועל אתה היחידי שנמצא כאן; או: זו רק תמונה של דיאלוג, בפועל זה מונולוג.
 
אנחנו יודעים שקל לנו מאוד להאניש מכשירים, גם כאלה שרחוקים מאוד מלהתאפיין באינטליגנציה מלאכותית. אנחנו גם יודעים שכבר היום יש אנשים שמעדיפים ליצור מערכות יחסים עם מכונות – מטאמגוצ'י ועד בובות-מין "חכמות".
 
יזרעאלי מזהיר מהנטיה הזאת. מערכות יחסים, הוא טוען, "מחייבת לא רק שתי נפשות חיות, אלא שני סוכנים, בעלי בחירה וכוונה חופשיים." הוא רואה בהתפתחותה של מגמה בה בני אדם בוחרים לעצמם פרטנרים לא-אנושיים גלישה לעבר חיים נרקסיסטים שבהם מערכות היחסים שלנו לא מאתגרות ומפתחות אותנו, אלא מיועדות להעניק לנו נוחות ועונג באופן אוטומטי, מתוזמר ומתמיד.
 
כאן, טוען יזרעאלי, נמצא האיום הגדול עלינו מצד הרובוטים. הדיסטופיה אינה "עוד ההתפרצות של החייתי שבנו [דרך המכונות שבנינו, שיתמרדו לכאורה], אלא ההדממה שלו. האיום על האדם, היכולת שלנו לעבור תהליך של דהומניזציה, נטוע ביכולת להפוך למכונה. […] האפשרות המכאנית היא הסוד האפל של זמננו; היא האיום. לא שהמכונות ״תתעוררנה״, אלא שהאדם ״יכבה״."
 
זו אבחנה מבריקה בעיני. עם זאת, שאלתי את יותם אם היא לא תלויה באופן מהותי על ההנחה שהאדם, כסובייקט, אינו מכונה. רבים כיום יאמרו שאין הבדל מהותי בין אדם לסייבורג בעל בינה מלאכותית אמיתית. האדם הוא פשוט מכונה יותר מתוחכמת, או שונה. האם יש לך, שאלתי, תשובה לזה שלא תלויה באמונה בנשמה?
 
ראשית, השיב יזרעאלי
אם האדם הוא בסך הכל מכונה, מכשיר, עולה שאלה בנוגע לסוכנות המוסרית שלו עצמו. מהר מאוד אנו מגיעים לשמיטת הקרקע של המוסר תחת רגלינו, דבר שחלק מההוגים הפוסט-הומניסטים מברכים, חלקם באופן מוצהר. אלא שיש לזה מילה ולא צריך לקרוא לזה ״פוסט הומניזם״, אלא ניהיליזם, ולכן שיקראו לאידיאולוגיה שלהם בשמה ולא יעטפו אותה במושגים אחרים. אם האדם הוא רק מכשיר, הפוסט הומניזם אינו אלא הערת שוליים של הניהיליזם, ויש לקרוא לילד בשמו.
 
שנית, אומר יזרעאלי,
נניח שאני טועה, ושלמכונה יש סוכנות מוסרית, כל שכן, מכונה משוכללת שיכולה לחוש ולהרגיש כמו המכונה ״אדם״. במילים אחרות, נניח שהדוקטרינה המוסרית של הסנצואליזם היא הבסיס לאתיקה של האדם והמכונה. (וזו אכן גישתם של חלק מהחוקרים המובילים בתחום, כגון ניק בוסטרום). לפי תפיסה זו, היכולת להרגיש כאב והאמפטיה כלפי כאב של אובייקט אחר, שמרגע שהוא בעל יכולת חישה של כאב למעשה איננו עוד אובייקט אלא סובייקט, היא הבסיס והתוקף הבלעדי לסוכנות מוסרית. (כידוע לך זו גם הגישה המוסרית הרווחת בקרב טבעונים, וזה נושא לדיון אחר שגם עליו יש לי לא מעט השגות). גישה זו מובילה ישירות למוסר של הדוניזם, שבאופן אישי אני לא מקבל אותו כי לדעתי מוסר הוא תחום מעט מורכב יותר משאלות תועלתיות של ״נעים לי ולא נעים לי״.
ואני הייתי מוסיף: רובנו פשוט לא סבורים שהנאה ממצה את מרחבי האתיקה והמשמעות בחיים שלנו.
 
לבסוף, יזרעאלי יוצא נגד
עצם השאלה ותנאי האפשרות להעלתה. הגבלת אותי לענות בצורה בלתי תלויה במושג הנשמה, או בהנחת קיומה, וניסיתי להיענות לדרישתך. תנאי השיח בעצמם הופכים לאחרונה להיות חלק מהבעיה של השיח הטכנולוגי המדעי, ולדעתי הדיון על ״סינגולריות״ באופן פרדוקסלי יחזיר לקדמת הדיון את הנשמה, על אפם וחמתם של הפוסט הומניסטים.
 
טוב, אלה תשובותיו של יזרעאלי. כפי שניתן לראות אני מקווה, לא נכון לסבור כי שאלת הבינה המלאכותית לא נוגעת לאתיקה של הקשר האנושי. יזרעאלי מאיר אותה מהכיוון הזה באופן מרתק.
 
המאמר שלו ושלל מאמרים אחרים נמצאים בספר חדש '2001 – אודיסאה בחלל', שהוא קובץ מאמרים לציון 50 שנה ליציאת הסרט. עורכים: יוחאי עתריה וגיל מרקוביץ. משמח מאוד שספר כזה יוצא לאור.