בינה מלאכותית ספרותית: דיון בשלושה רומנים על השאלה האם רובוטים ניחנים בהכרתיות?

סם רקובר מנתח שלושה רומנים מודרניים שונים שעוסקים ביצורים של בינה מלאכותית שפיתחו הכרה.

המערכת

מזה שנים אני דן באופן מקצועי (פסיכולוגי-פילוסופי) בשאלה האם רובוטים משוכללים לעילא עשויים לפתח הכרתיות – אני מתרגם את המילה consciousness ל’הכרתיות’, המילה המקובלת ‘תודעה’ נראית לי רוויה באסוציאציות של ‘דעת’, ‘דעה’, ‘ידיעה’, בעוד שהתרגום שלי מתחבר ישירות למילה ‘הכרה’. ואכן, על אף שכתבתי מספר מאמרים המעלים טיעונים שרובוטים משוכללים ככל שיהיו לא יפתחו הכרתיות, הדמיון שלי המשיך לרקום במקביל לטיעונים ההגיוניים עלילה מעניינת על אודות רובוטית יפהפייה שלפתע פתאום מוּרְעֶפת עליה הכרתיות. לפתע היא חשה ומרגישה מה שכל בן אנוש מרגיש באופן הכרתי. אם כן, כיצד היא מתמודדת עם העולם הפנימי הזה שמלווה כל בן אנוש מרגע לידתו, היותו שרוי במצב של הכרתיות כמו דג במים? איך היא מתמודדת עם ראיית שמים כחולים, ים, צבעים, ריחות, כאבים, פחדים, דיכאונות, אהבה? כל התחושות והרגשות האלה, שבן אנוש מתרגל אליהם לאט לאט מינקות, נוחתים עליה בבת אחת ברגע שהושרתה עליה הכרתיות. המצב האנושי שמתקרב במידת מה למה שעוברת הרובוטית הוא גיל ההתבגרות. בגיל זה, לפתע פתאום בני אנוש מוצפים ברגשות חדשים לגמרי, לאמיתו של דבר, העולם מתהפך, מה שהיה חשוב מאוד בעבר יורד בחשיבותו ועולים דברים חדשים לגמרי. למתבגר לוקח שנים לא מעטות כדי להתמודד עם מצב זה. אם כן, מה עושה הרובוטית, שפתאום נוחתת עליה ההכרתיות, שבלעדיה אין תחושות, רגשות, מחשבות, רצונות, אמונות, ושבלעדיה האדם הינו כצמח?  

האפשרות שרובוטים או תוכנות מחשב מאוד מאוד משוכללים יפתחו הכרתיות (consciousness) ויעלו על היכולת האינטלקטואלית של האדם, הטרידה את האנושות מזה שנים רבות (ראו למשל סרטי ארנולד שוורצרנגר על מלחמת הרובוטים בבני אנוש), והגיעה בשנים הארונות לכדי חרדה עמוקה. עם פיתוח מתקדם לעילא של תוכנות מחשב המסוגלות ללמוד כמעט כל דבר, ואף לצייר, לחבר שירים, סיפורים, מוסיקה, לקבל החלטות, לערוך דיאגנוזות רפואיות, ולחבר עבודות אקדמיות ברמה טובה (למשל ChatGPT), עלה מפלס הפחד מפני רובוטים-הכרתיים לדרגה כזו שחלק ממומחי ה-AI יצאו בפומבי באזהרות מפני החידושים בתחום זה: רובוטים ותוכנות AI עלולים לשנות לחלוטין את פני החברה ואף להרוס אותה.

כאמור, השאלה אם רובוט מתוחכם עשוי/עלול לפתח הכרתיות הטרידה אותי זמן רב. לאחרונה סיימתי לכתוב רומן מתח בסוגת המדע הבדיוני בשם הרובוטית מאוהבת? טרם מצאתי לרומן הוצאה לאור, וכשאכתוב עליו במאמר הנוכחי אנסה להתייחס אליו בגוף שלישי כאל רומן בדיוני שנכתב על ידי כותב אחר, בדומה לדרך שבה אתייחס כאן אל שני הרומנים האחרים.

לאחר סיום כתיבת הרומן גיליתי שני רומנים שנכתבו בבריטניה בנושא הנידון, ואשר הגיבורים הראשיים שלהם הינם רובוטים משוכללים לעילא. הרומן הראשון הינו של קאזואו אישיגורו קלרה והשמש (הספריה החדשה, ספרי סימן קריאה/ הוצאת הקיבוץ המאוחד 2022), והרומן השני הוא של איאן מקיואן מכונות כמוני (ספריה לעם, הוצאת עם עובד 2020). אלה שני רומנים מודרניים שמבטאים בצורה זו או אחרת את האיום העולה מהתפתחות המהירה של AI, ואני מעדיף לכתוב עליהם ולא להתייחס לקלאסיקות של המדע הבדיוני נוסח אסימוב.

השאלה היסודית שבה ידון המאמר הנוכחי היא שאלת ההכרתיות: האם שלושת הרומנים האלה של אישיגורו, מקיואן, ורקובר, מתארים רובוטים-הכרתיים, כלומר, רובוטים הניחנים בהכרתיות בדומה לבני אנוש, או שמא רובוטים אלה הינם משוללי הכרתיות אך משום שהם כה משוכללים ומתוחכמים התנהגותם נראית לנו כהתנהגות אנושית? מכאן עולות שתי תת-שאלות הבאות: איך הסופר מתמודד עם שאלת ההכרתיות, כלומר, האם הוא מצליח לשכנע את הקורא שאכן הרובוט שלו ניחן בהכרתיות כבן אנוש; ומה הם היחסים המתפתחים בין הרובוט לבין האדם, והיכן ממקם הסופר יחסים אלה על הרצף חיובי עד שלילי?

קאזואו אישיגורו הוא סופר בריטי ממוצא יפני. הוריו היגרו לאנגליה כשהיה בן שש וב-2017 זכה בפרס נובל לספרות.

הרומן קלרה והשמש,( תורגם בידי דבי אילון ,סימן קריאה -הקיבוץ המאוחד ,2021) שפורסם באנגלית ב-2021, נכתב בגוף ראשון מנקודת ראות של הרובוטית קלרה, ומתאר עיירה בארה”ב כפי שהיא נתפסת על ידי מערכת הבינה המלאכותית של קלרה. קלרה היא רובוטית-ילדה משוכללת – אך כבר יש רובוטים משוכללים ממנה – שנוצרה לשמש כחברה מלאכותית (ח”מ) לילדים בודדים. ילדים אלה הם תוצר של התרבות העתידית, המבוססת על חינוך שנעשה בבית בעזרת מחשבים, ועל ידי שדרוג גנטי של חלק גדול מהילדים. כשהשדרוג הגנטי מצליח נפתחות לפני הילדים (המשודרגים המוצלחים) דלתות רבות, המאפשרות להם השכלה גבוהה ועליה במדרג החברתי-כלכלי. אולם שדרוג זה קשור גם בסכנה של הידבקות במחלות העשויות לגרום גם למוות. אחותה של ג’וסי, הילדה שעבורה נקנתה קלרה כדי לשמש לה ח”מ, נפטרה כתוצאה מכך, וג’וסי עצמה נוטה לחולניות. קלרה, שנרכשה מחנות לרובוטים המיועדים להיות ח”מ-ים לילדים בודדים, הפכה לח”מ של ג’וסי הגלמודה, ועושה כל שביכולתה על מנת לשפר את מצבה הגרוע של ג’וסי. היא גם מוכנה להקריב מעצמה למען השגת מטרה זו. היא מוכנה להפוך תחליף לג’וסי עצמה, להיכנס ללבוש חיצוני בדמות ג’וסי, ולהתנהג ממש כג’וסי. הוריה של ג’וסי, שאיבדו את אחותה כתוצאה מהשידרוג, מפחדים שיאבדו גם את ג’וסי, ולכן מאמנים את קלרה להתנהג כג’וסי ולעטות על עצמה בבוא היום הנורא את מעטה ג’וסי כדי שהחיקוי של בתם יהיה מושלם, כך שקלרה תהפוך לג’וסי עצמה.

עד כאן רישום קצר ביותר של עלילת הרומן, שבו דילגתי על דברים רבים שאינם קשורים ישירות לשאלת המאמר. ועתה נעבור לשאלתנו: האם אישיגורו הצליח לתאר את קלרה כרובוטית בעלת הכרתיות? תשובתי היא שלילית, אולם הרושם הראשוני מקריאת הרומן עשוי לתמוך דווקא בתשובה חיובית. יש לכך כמה סיבות: קלרה מאופיינת כדמות המתנהגת באופן אנושי; היא תופסת מאורעות המתרחשים בעולם; חושבת עליהם, על התנהגותם והיחסים ביניהם; היא חדורת מטרה אחת – להיטיב עם האדם ובפרט עם ג’וסי. היא לאמיתו של דבר רובוטית-ילדה מיוחדת במינה. וכך מתארת אותה מנהלת החנות לממכר רובוטים לילדים: “קלרה, את באמת יוצאת מן הכלל, אמרה מנהלת בקול שקט כדי לא להפריע לרוזה ולאחרים. את קולטת ומטמיעה כל כך הרבה” (עמ’ 16). ומנהלת החנות לממכר רובוטים לילדים משבחת את קלרה לפני אימא של ג’וסי: “לקלרה יש כל-כך הרבה תכונות ייחודיות, שאנחנו יכולות לדבר על כך כל הבוקר. אבל אם הייתי צריכה להדגיש רק תכונה אחת, טוב, אז כנראה זאת התשוקה שלה להתבונן וללמוד. היכולת שלה להטמיע ולגבש יחד את כל מה שהיא רואה סביבה די מדהימה” (עמ’ 46). ובדומה לתקופות קדומות בהיסטוריה האנושית (מצרים, יוון, רומא) מפתחת קלרה, כרובוטית הסופגת אנרגיה נחוצה מקרני השמש, אמונה שהשמש הוא (ההתייחסות לשמש היא כאל ישות ממין זכר) אל גדול וכל יכול, המפקח, מתגמל, ומעניש, את בני האדם. דוגמאות מסוג זה הפזורות ברומן, עשויות לתמוך ברעיון שקלרה הרובוטית מתנהגת כבן אנוש בעל כוונות טובות ומוסריות. סביר שאף אנו עשויים לחשוב שקלרה היא רובוטית שמידת האנושיות שלה אף עולה על זו של האדם.

אולם, למרות כל זה, אני סבור שאישיגורו החמיץ את הנקודה החשובה. הרובוט עשוי לחקות את התנהגות האדם ואף לעלות עליו בביצועיו, אולם הרובוט, משוכלל ומתוחכם ככל שיהיה, לא יפתח את התכונה העיקרית הכי חשובה של האדם, שעושה את האדם למה שהינו, שבלעדיה, כאמור, לא קיים רצון חופשי, הבנה כולל הבנה עצמית, תכנון, משמעות לחיים, וכיוצא באלה – ההכרתיות (consciousness). מבלי שאכנס לדיון פילוסופי מסובך בנושא, אעלה עתה שלושה טיעונים המעידים על כך שאכן קלרה נשארה בחזקת רובוטית מאוד מתוחכמת אך נטולת הכרתיות. ראשית, קלרה הינה התגלמות הטוב האנושי ללא שמץ של רוע. לו ניחנה בהכרתיות, היא לא הייתה יכולה להימנע מלהתנהג במידה לא קטנה של רוע ואנוכיות. אף בן אנוש אינו כליל השלמות, ולצערי הרב, על בסיס התרשמותי האישית, אינני יכול לאמר אלא שבני אדם ניחנים מלוא הסל ברוע ואף נהנים מכך מאוד. קלרה, אם כן, אינה אלא רובוטית, מכונה, שתוכנתה למטרה אחת: להיטיב עם ילדים ובמקרה הפרטי שלה עם ג’וסי שהיא הח”מ שלה.

שנית, הדרך שבה אישיגורו מתאר את תפיסתה של קלרה היא ברמה של התפיסה הוויזואלית של רובוטים: בעיקרו של דבר התפיסה שלה מאורגנת על ידי צורות גיאומטריות, ובמיוחד צורת מלבנים. אישיגורו משתמש גם בצורה הספרותית של ‘הזרה’ כאשר הוא מתייחס לקשר הטלפוני או ההוראתי (מסכי מחשבים) אצל בני אדם – מלבנים. הרמה התפיסתית אצל בני אדם היא הרבה הרבה יותר מסובכת, עשירה, ומשוכללת. אולם משום שקלרה אינה ניחנה בהכרתיות, סביר להניח שרמת התיאור של תפיסתה היא נמוכה יותר, ברמה של הקבצה ויזואלית (visual grouping) של כתמי אור ותיאור התנהגותי של התנהגויות בני אדם.

ושלישית, כאמור, קלרה הייתה מוכנה להחליף באופן אבסולוטי את ג’וסי במקרה הנורא שזו תמות. השאלה העולה כאן היא זו: האם קלרה כרובוטית הכרתית (בעלת הכרתיות) הייתה מסוגלת להגשים מטלה קשה זו? התשובה שלי היא שלילית. אם אכן קלרה הייתה בעלת הכרתיות יש להניח שלא הייתה מוכנה לקחת על עצמה משימה זו, פשוט משום שביצועה הוא וויתור מוחלט על זהותה היא, ואין המטלה שהוטלה על קלרה דומה לבניית דמות בתיאטרון או בקולנוע. אבל לקלרה, כרובוטית משוכללת ללא הכרתיות, רובוטית המתוכנתת לביצוע מטרה מוגדרת ביותר (להיטיב עם ג’וסי) אין שום בעיה לקבל עליה את המשימה להפוך לג’וסי בכל מהותה, מהות של מכונה משוכללת אך נטולת הכרתיות.

איאן מקיואן הוא סופר בריטי מפורסם שקיבל מספר רב של פרסים יוקרתיים.

הרומן מכונות כמוני, ( תורגם בידי מיכל אלפון ,ספריה לעם עם עובד ,2020) שפורסם במקור ב-2019, מספר על שלישיה מעניינת: צ’ארלי; אהובתו מירנדה; ורובוט מאוד משוכלל המכונה אדם, ויש בשם זה, כמובן, רמז ליצור חדש ומוצלח יותר מבן אנוש. צ’ארלי קונה את הרובוט אדם, והוא ואהובתו מירנדה קובעים בהתאם להוראות היצרן את תכונות אופיו של אדם. הרעיון היסודי של הרומן מבוסס על מבחן טיורינג (אלן טיורינג היה מתמטיקאי בריטי גאון שהניח את היסודות למדע המחשב וגם תרם רבות לפיצוח הקוד של הצבא הגרמני במלחמת העולם השנייה, ברומן הנוכחי מקיואן מחיה אותו והוא מופיע בו כדמות חשובה). מבחן טיורינג קובע שאם לא ניתן להבחין בין תשובות של בן אנוש לבין תשובות של מחשב לאותן שאלות, אזי ניתן לחשוב על המחשב כבעל הכרתיות. נראה שהרובוט אדם עובר את מבחן טיורינג, ולאמיתו של דבר ביצועיו עולים על אלה של צ’ארלי – הוא מצליח לספק את מירנדה מבחינה מינית טוב יותר מצ’ארלי. תוך זמן קצר מאז קנייתו של אדם, מתברר לצ’ארלי, שמנקודת מבטו מתגלגל הרומן, שאדם הוא סוּפר-רובוט, מוכשר בצורה לא רגילה: הוא משכיל ובעל ידע עצום כולל ציטוטים מיצירותיו של שייקספיר; הוא יודע שפות רבות; טוען שהוא מרגיש רגשות כבן אנוש; הוא מתאהב במירנדה וכאמור גם שוכב עמה; כותב שירי היקוּ; מצליח בעבודתו של צ’ארלי (מסחר בבורסה) הרבה הרבה יותר טוב מצ’ארלי עצמו.  

האם אדם ניחן בהכרתיות? הרושם הוא שהתנהגותו של אדם מקרבת אותו מאוד למתן תשובה חיובית. בהשוואה לקלרה של אישיגורו, שהינה ממש מלאך-הטוב בהתגלמותו, ולכן אינה אנושית, אדם דומה יותר לבן אנוש: הוא אנוכי; יש בו רוע; הוא חושק-מתאהב ושוכב עם מירנדה וכתוצאה מכך מכאיב לצ’ארלי; הוא אלים, שובר את ידו של צ’ארלי וגם מאיים עליו שלא יעז ללחוץ על המֶתֶג המכבה אותו. בקיצור, נראה שמבחינה התנהגותית אדם עבר את מבחן טיורינג בהצטיינות יתרה. נוסף על כך, מן הראוי לציין שטיורינג עצמו, האיש שברומן הנוכחי אחראי ליצירת סדרת הרובוטים מסוגו של אדם, סבור שאדם ניחן בהכרתיות!

אולם עדיין אפשר להטיל ספק גדול בעניין זה. למשל, מירנדה טוענת בפני צ’ארלי, שנפגע מאדם ומקנא בו על ששכב עם אהובתו, שאדם עבורה הוא לא יותר מאשר ויברטור! כלומר, עבורה אין אדם בבחינת יצור אנושי בעל הכרתיות, אלא מכשיר לסיפוק מיני. וכך היא אומרת: “גם אם הייתי נכנסת למיטה עם ויברטור היית מרגיש ככה?” (עמ’ 96). גם צ’ארלי עצמו מטיל ספק גדול באפשרות שאדם ניחן בהכרתיות. למשל, הוא כותב על המבט של אדם: “עדיין הטלתי ספק באפשרות שהוא בכלל יכול, במובן אמיתי כלשהו של המילה, להביט” (עמ’ 113). ושוב הטלת ספק בקשר לחוויה הסובייקטיבית של כל בן אנוש: “קשה היה להאמין שלאדם יש משהו דומה. קל יותר להאמין שהוא רואה כמו שמצלמה רואה, או כמו שמיקרופון מאזין כביכול. שאין שם אף אחד” (132). ולא רק זאת, מתברר לצ’ארלי ולמירנדה שבבדיקת מצבו של אדם על ידי מומחית אפשר לראות באופן פומבי את מחשבתו של אדם (מה שלא ניתן לעשות עם בן אנוש): “היא… הקלידה סיסמה ארוכה וגללה עמודים של קוד שסמליהם הכתמתמים התחלפו במהירות לעינינו. תהליכי מחשבה, עולמו הסובייקטיבי של אדם, מהבהבים לעין כל” (עמ’ 190).  וכאשר אדם פועל בצורה הפוגעת ישירות בצ’ארלי ומירנדה, עולות בראשו של צ’ארלי המחשבות הבאות על אדם: “זיוף מוחלט, ובאיזה קלות נפלנו בפח, שגרה משנית מופעלת באמצעות מספר מוגבל של קלטים מוגדרים שיצר איזה פוסט-דוקטורנט… זה רק הכעיס אותי עוד יותר. כך גם העובדה שאני הוא האחראי להכנסתו של המחשב המהלך הזה לחיינו” (עמ’ 270).

יתר על כן, מתברר שבניגוד לבן אנוש, יש נושאים שאדם מתקשה מאוד להבינם, כמו למשל, התנהגויות מוסריות. קשה לו להבין שקרים לבנים שמטרתם בין היתר להציל אדם ממבוכה וצער. ובשיחה ארוכה בין צ’ארלי לבין טיורינג מתברר שמצב הרובוטים מסוגו של אדם הוא בכי רע: הם נכנסים למצב של קונפליקט קוגניטיבי עמוק כתוצאה מהסתירות הקיומיות המצויות בתרבות האנושית, וחלקם מתאבדים. בן אנוש מצליח להתמודד היטב עם חוסר האחידות והסתירות המובנות לתוך התרבות האנושית, אולם רובוט כאדם, שהמערכת שלו מושתת על מבנים מתמטיים שאינם סובלים סתירות, עלול להיקלע לקונפליקטים לוגיים כה קשים שכתוצאה יתקשה לתפקד כראוי ובסופו של דבר ישים קץ לחייו. זה מזכיר את הסיפורים והרומנים של אסימוב הבנויים על מצבים שיוצרים סתירה בין חוקי הרובוטיקה המוטבעים במוחם הפוזיטרוני.

הרומן הרובוטית מאוהבת? על אף שהתנהגותו של אדם קרובה יותר להתנהגותו של בן אנוש מאשר התנהגותה של קלרה, להבנתי, שניהם אינם ניחנים בהכרתיות – הם אינם בני אנוש. לעומתם, כבר בעמודים הראשונים של הרובוטית מאוהבת? ברור לקורא שהרובוטית גאיה אתנה ניחנה בהכרתיות, כלומר, היא אינה רובוטית-אישה, רובוטית ממין נקבה, אלא אישה-רובוטית, דהיינו, אישה בגוף של רובוטית. ברומן זה השאלה המעניינת אינה שאלת ההכרתיות – האם רובוטים ניחנים בהכרתיות, שאלה שלה נותן הרומן תשובה חיובית ברורה- אלא השאלה היא כיצד הגיבורה, גאיה אתנה, מתמודדת עם כל מה שקשור בתופעה המופלאה הזו של היות האדם מצוי במצב של הכרתיות. כבר בפסקה השנייה, בעמוד הראשון, מעלה רומן זה את הבעיה שניצבת לפני האישה-רובוטית. גאיה אתנה חשה תחושת קרירות נעימה: “בחוץ עמד אוויר קריר, והיא הרגישה על זרועותיה החשופות תחושת קרירות נעימה. זאת הייתה עבורה תחושה חדשה ומבלבלת. במקום הידיעה הרגילה, הסטנדרטית, שהייתה נשלחת לראשה, שעל זרועותיה יש לחץ אוויר בדרגה מסוימת, בריטוטים ובטמפרטורה ברמות ספציפיות, שעליה להגיב לכך בסדרה אפשרית ואוטומטית של תגובות בהתאם למצב שבו היא נמצאת, היא חשה לפתע באופן הכרתי אוויר קריר הנוגע בעור זרועותיה החשופות… טוב, אז מה עושים עכשיו? מה פירוש הדבר? איך אני צריכה להגיב כעת?”

הרומן הרובוטית מאוהבת? מתאר את קורותיה של הגיבורה הראשית, ‘גאיה אתנה 2’, רובוטית משוכללת לעילא שנשלחה מעולם-הנפילים האנושיים לכדור הארץ, חיפה, כדי לברר מה קרה לשליח הקודם שלהם לכדור הארץ, נדב בנצוּר בן האנוש. נדב נשלח לארץ כדי לחקור את התנהגות בני האדם כדי שוועדת עולם-הנפילים תוכל לשקול אם בני האדם מזיקים לא רק לכדור הארץ אלא לתבל כולה, ובמקרה שכן, להחליט להשמיד את כדור הארץ. אולם נדב הפסיק לשלוח דוחות לוועדה זו והחליט להישאר בחיפה, כי התאהב בבת-אדם, אגם אנפה, הציירת היפה. גאיה אתנה נשלחה לעקוב אחרי נדב, משום היותה רובוטית-אישה מתוחכמת ביותר, חסרת יכולת לחוש הכרתית בחוויות ורגשות, ולכן חשבו בעולם-הנפילים שהיא לא תסתבך ביחסים אמוציונליים עם בני אנוש, כפי שקרה לנדב, ותוכל לספק להם דיווח אובייקטיבי המתאר את שאירע בחיפה. אולם, עם בואה של גאיה לכדור הארץ, מתברר לה שהוּשְרֵתָה עליה הכרתיות, והתפתחו בה רגשות הכרתיים של אהבה עזה לנדב, וקנאה ושנאה גדולות לאהובתו של נדב, אגם אנפה. היא אינה יודעת איך להתמודד עם רגשות אלה, שהופיעו אצלה בפעם הראשונה כאן בכדור הארץ. היא גם לא יודעת איך לבשר לנדב על אהבתה אליו, כי נדב לא מאמין שרובוטית מסוגלת לפתח רגשות והכרתיות (consciousness). רובוטית אינה אלא מכונה משוכללת ומתוחכמת, וככזו היא משוללת הכרתיות. בינתיים מתברר שאגם אנפה מתה, ולא יודעים אם היא נרצחה או התאבדה, משום שיש רמזים לרצח אולם גם להתאבדות. החשד להתאבדות עולה מכך שאגם לקתה בדיכאון עמוק עקב חוסר אמונתה ביכולותיה כאמנית, כציירת. לבדיקת סיבות מותה של אנפה מתמנים חוקרת הפלילים היפהפייה שוש לוגסי, ובן זוגה, רב-סמל מתקדם דוד אפללו. החקירה מתפרסת על פני תחומים רבים ומרואיינים רבים, כולל נדב בנצור וגאיה אתנה. שוש ואפללו מגלים שגאיה היא אישה-רובוטית, כלומר, רובוטית בעלת הכרתיות, אולם אינם מסוגלים להכריע אם היא רצחה את אגם. בנוסף לכך עולה גם שאלה ששוש אינה מסוגלת לתת לה פתרון: האם ניתן להעמיד לדין רובוטית אפילו שהיא בעלת הכרתיות?

דיון:

בעוד שברומנים הקודמים, קלרה והשמש ו- מכונות כמוני, עומדת במרכז הדיון שאלת ההכרתיות: האם רובוטים ניחנים בהכרתיות וכיצד ניתן להוכיח שרובוטים מסוימים ניחנים בהכרתיות? האם העמידה במבחן טיורינג אכן מראה ללא כל ספק שהרובוט ניחן בהכרתיות? ברומן הרובוטית מאוהבת? התהפכה השאלה, וגאיה אתנה מייסרת את עצמה בבעיה שהיא אינה מסוגלת לפתור: איך ניתן לשכנע את נדב בנצור שהיא אינה רובוטית-אישה, אלא אישה-רובוטית, כלומר, אישה בלבוש רובוט, בעלת הכרתיות שהתאהבה בו בכל נפשה ומעודה? זו בעיה קשה וגורלית, כי נדב, כאמור, משוכנע שרובוט, יהיה משוכלל ומתוחכם ככל שיהיה, אינו אלא מכונה, וכמכונה הרובוט לעולם יהיה משולל הכרתיות.

רומנים בז’אנר של המדע הבדיוני אינם רק בחזקת שעשועי דמיון (שמקבלים מימוש גם ברומנים של פנטזיה), אלא בעיקרם מנסים לטפל בשאלות הנצחיות על אודות האדם: מה טבעו של האדם, מוצאו, ומה מייחד אותו ביחס ליתר היצורים על פני כדור הארץ. בקלרה והשמש מוצבת לפני האדם דמות ממשית של האידיאל האנושי – הטוב והחמלה – בדמות הרובוטית-ילדה, קלרה. הורי ג’וסי וגם ג’וסי עצמה מנצלים את קלרה עד הסוף, עד לרגע שג’וסי מחלימה, נוסעת ללימודיה באוניברסיטה, וזונחת את קלרה לנפשה. במכונות כמוני, ההתנהגות של אדם כל כך דומה להתנהגותו של בן אנוש, עד שניתן לבלבל בין בן אנוש לבין רובוט. ואכן אביה הזקן של מירנדה, מקספילד, סבור שצ’ארלי עצמו הינו רובוט, והוא מלא התפעלות מחכמתו והשכלתו הרחבה של אדם. ובכן עבור מקספילד חל לאמיתו של דבר היפוך של מבחן טיורינג: אם לא ניתן להבחין בין התנהגות של מחשב לבין התנהגות של בן אנוש, מדוע שלא נחשוב על בן אנוש כעל רובוט מאוד משוכלל ומתוחכם? מה ההבדל בין תוכנת מחשב, סמרטפון, טבלט, לבין תוכנה ביולוגית המקודדת בד.נ.א של בן אנוש?

גם גאיה אתנה בהרובוטית מאוהבת? משווה את החוויות ההכרתיות שהוּשרו עליה כאן בכדור הארץ למה שהיא יודעת על בני האדם. כשהיא נכנסת למצב של חרדה, היא חושבת: “כמה מסכנים הם בני האדם! איך הם מתמודדים עם התחושות והמחשבות האלו – אפשר לצאת מהדעת. הנה עוד ביטוי אנושי. לא נורמלי פירושו לצאת מהדעת”. בהמשך היא נזכרת במה שהיא הייתה פעם: “איך עברתי מעולם, שעתה נראה לי עולם של שלווה, עולם נייטרלי, שלא הוטרד אף פעם בתחושות ובמחשבות הכרתיות, בחוויות הכרתיות לא נעימות ומטרידות, איך קרה שעברתי מגן העדן של חוסר הכרה לעולם האומללות, לעולם הפקפוקים, לעולם החרדות ואי-הנעימות של החוויה ההכרתית?”.

ובכן, כפי שניתן להבין ממה שכתבתי עד כה – יש פה הבדל עצום בין עולם הרובוטים לבין העולם האנושי, והוא ניתן לביטוי במילה אחת: הכרתיות. זה האפיון הייחודי של האדם ואין בלתו. נכון, גם יתר היצורים החיים על פני כדור הארץ ניחנים בהכרתיות, אולם דרגות ההכרתיות שלהם נמוכות מזו של האדם. למשל, למיטב ידיעתי, אף בעל חיים לא הראה מודעות עצמית כאדם. זו תפיסה העולה בקנה אחד עם הגישה הדרוויניסטית הרואה באדם קצה מסוים של התהליך האבולוציוני שכולל את כל היצורים החיים.

עוד על רובוטים ב”יקום תרבות”