העידן הפוסט־אנושי: בין פנטזיה לחיי נצח לבהלה קיומית

מאמר זה פורסם בשם “ההתחלה” והוא לקוח מן הספר “העידן הפוסט-אנושי -בין פנטזיה לחיי נצח לבהלה קיומית”,”פרדס”, 2016) בעריכת יוחאי עתריה ועמיחי שלו.

Image result for ‫ערן הדס‬‎

ערן הדס

ההתחלה – מאת ערן הדס

עד שנת 2003 אהבתי שירה, אך רק בשנה זו החלטתי לשים אותה במרכז חיי. כדי לעשות כן, קראתי כמויות עצומות של ספרי שירה באנגלית ובעברית. הדבר הראשון שבלט לעיניי היה שמשוררים ישראלים נטו לכתוב בצורה נוסחתית. היו כאלו שנוסחתם הייתה פשוטה כל כך, שחשבתי שמחשב יוכל לכתוב שירה זהה לשלהם בקלות יתרה. לעומתם, נתקלתי במקרים כמו החריזה של נתן אלתרמן, או שירי הקונסיט של יהודה עמיחי ורוני סומק, שברור שהם חוזרים על פרוצדורה מסוימת בכל שיר, אבל עצם פיצוח הנוסחה שלהם הוא פיצוח נוסחת השירה. כדי לחקות אותם, תידרש בינה מלאכותית משוכללת במיוחד.

כדי להיכנס לעניינים, וגם כדי לכתוב שירה חדשה ממש, כזו שמגלמת את רוח התקופה, בדיתי דמות של משוררת, צאלה כץ, וכתבתי שירים מתוך נקודת מבטה האינטרנטית, בהתאם לאפיונים מלאכותיים שהענקתי לה. כץ, גיקית, תוכניתנית צינית, שתמיד נמצאת במצב מקוון, אך אוהבת לחקור את חיי הרווקות בעיר הגדולה, זכתה לפופולריות יוצאת דופן. היא התפרסמה בכתבי עת ובתקשורת, וכך נאלצתי ללהק דמויות שיקראו את שיריה בפסטיבלים ובאירועים. “הרגתי” אותה לאחר שהוזמנה לערוך ערב שירה בתיאטרון הלאומי

Image result for ‫צאלה כץ‬‎

צאלה כץ

בימי השיא שלה הפכה כץ לנושא שיחה לוהט, ובשיחת חולין עם שני חבריי הקולנוענים (שידעו על הזהות הבדויה), אגב אכילת חומוס, אמר עמי: “אני מעריך את הכתיבה, אבל לא מצליח להתחבר לשיריה של צאלה על האינטרנט. מה ההבדל בין זה לבין סרט שאעשה על רוחה של המצלמה? הרי ברגע שאני מכבה את המחשב, העולם הזה נעלם.” אלירן ענה לו: “לנו עדיין קשה לראות את העולם הזה, אבל אני מאמין שערן נמצא חמישה צעדים לפנינו.” את המשך היום ביליתי במחשבות על דבריהם. רציתי למצוא את הדבר שיהפוך את שירת הרשת לדבר-מה שמתקיים גם כשאנחנו לא מחוברים.

שיר מבוסס חוקים (פלינדרום)

שגרה

הָרְגֵשׁ שִׁגְרָה

שִׁגְרָה כּוֹפָה: הָפוֹךְ הָרֶגֶשׁ

כָּל שִׁגְרָה כּוֹפָה לַ הֲפוֹךְ הָרֶגֶשׁ לְךָ

שִׁגְרָה כּוֹפָה: הָפוֹךְ הָרֶגֶשׁ

הָרְגֵשׁ שִׁגְרָה

שירה מוגברת

בשנת 2007 התחלתי בניסויים. רציתי לבחון מה קורה לקוראים כשהם מקבלים טקסט “אנושי למראה”, ולמעשה אינו אלא רצף שרירותי של תווים שמציית לחוקים מסוימים. בעולם שבו הטכנולוגיה היא בעלת ההשפעה הדומיננטית ביותר על היצירה האנושית, מהי משמעותו של הדמיון הרב כל כך בין שרירותיות לאנושיות? האם זה אומר ש”גם אנחנו מכונות”? לאן אנו מתקדמים בעולם שבו שילובים של אדם ומכונה נמצאים מעבר לפינה? חשתי שגם אם השירים שהמערכת שלי תפיק לא יהיו “מדהימים”, התהליך ילמד אותי, ולו מעט, על הפואטיקה של המכונה.

בשנת 2009 הצלחתי להתברג לראשונה לסצנת השירה העולמית. ביקרתי לראשונה בניו יורק, ונתקלתי שם בהרצאה של ממציא האינטרנט, וינטון (וינט) סרף. באותה תקופה הוא הצטרף לגוגל כדי להיות סגן הנשיא שמפתח את הדבר הגדול הבא. הדבר הזה, שנכון לשנת 2016 קיים אך עדיין לא הוכיח את עצמו, נקרא Augmented Reality – מציאות רבודה, כלומר שילוב בין עולם המציאות לבין עולם ה-Virtual Reality – מציאות מדומה. השמועות דיברו אז על משקפיים מיוחדים שמאפשרים לחובשים אותם לראות את המציאות בשילוב עם אובייקטים גרפיים שקיימים רק בתוכנה; הם יופיעו בתוך שדה הראייה ויסייעו לחובש האביזר. לדוגמה, אם נראה פרצוף מוכר, נוכל לראות כיתוב עם שמו. מיד לאחר ההרצאה החלטתי לכנס את כל תוצאות הניסויים שלי תחת מטרייה אחת: Augmented Poetry – שירה מוגברת, כזו שתשלב את הטקסט בעולם החדש הוירטופיזי, שקורם עור וביטים לנגד עינינו.

שירה מוגברת מורכבת משלושה רכיבים:

  1. מחוללי שירה – מה שאני מכנה “מחשירים” – תוכנות (ולעתים גם חומרות) שמטרתן לייצר שירים. לדוגמה, יחד עם המשורר מרחב ישורון בניתי את המחשיר צורת אדם (2011), שכל הפעלה שלו מייצרת שיר זן שמבוסס על הספר “מורה נבוכים” של רמב”ם.
  2. היפרטקסטים – הכוונה כאן אינה רק לטקסטים בצירוף קישורים, אלא למערכות מחשב שסובבות סביב טקסטים, אבל המשתמשים או הקהל יכולים להשפיע עליהן. לדוגמה, במסגרת קבוצת בנות טיורינג בנינו משחק מחשב בשם ויקילנד (2014), שבו שתי קבוצות של אנשים נאבקות (פיזית) זו בזו כדי לעדכן ערך ויקיפדיה באחד מתוך שני טקסטים נתונים מתחרים. דוגמה אחרת היא הפרויקט רוטר אוף דה דיי (2013), שבו תוכנה צייצה בטוויטר מדי יום 5-3 חלקי משפטים מתוך האתר רוטר.נט שנשמעו לה פואטיים מבחינת מצלול. במקרה זה, התוכנה פעילה גם אם איש לא מתחבר לראות את תוצאותיה.
  3. צ’אט-בוטים (המצאתי להם את השם “בוטפטנים”) – שילוב של חילול (generation) טקסט עם אינטראקציה; זוהי מערכת שיודעת לקבל טקסט מן המשתמשים (בכתיבה או בדיבור), ולהשיב להם (בכתיבה או בדיבור) טקסט שנקבע לפי הקלט שקיבלה המערכת. דוגמה לכך היא הרובוטית פרנקי (2013), פרויקט משותף של מעין שלף, גל אשל ושלי, שבו רובוטית פיזית מראיינת בדיבור בני אדם שנכנסים למשרדה. כרובוטית לא-אנושית מבקשת פרנקי ממרואייניה להסביר לה מה זה אומר להיות אנושי עבורם, ובהתאם לתשובות שהם מספקים פרנקי מעמיקה לשאול באותו נושא או מחליפה את נושא השיחה.

איך שיר (מחולל) נולד?

רבות הדרכים ליצור שירים באמצעות תוכנה, וקצרה היריעה מלתאר את כולן. תוכנת חילול מושקעת – כמו זו ששימשה אותי לכתיבת הספר “אנשים שאתה עשוי להכיר” (2011), שאותה כיניתי, אגב, ג’ני הוכצייט – משתמשת על פי רוב במספר שיטות שונות ובשילובים שלהן. במידה מסוימת של הכללה ניתן לראות שלושה דורות של מחוללים, ואותה חלוקה תקפה הן למחשירים והן לבוטפטנים: יצירה מבוססת חוקים, הסקה סטטיסטית, למידה ממוחשבת.

יצירה מבוססת חוקים

זוהי השיטה שלרוב מדמיינים כשחושבים על פעולות אנושיות שמבצעים מחשבים. הדעה הקדומה של בני האדם היא שמחשבים יודעים לעשות רק מה שאנחנו מצווים עליהם לעשות, ואין להם יכולת לקבל החלטה עצמאית. מחולל מבוסס חוקים יכול להיות בנוי מתבניות של שורות, למשל על פי תחביר: “נושא, נשוא מושא”, ואת התבניות מאכלסות מילים שמוכנות מראש במחסני מילים. ניתן להגריל מן המחסנים השונים מילים לפי הקטגוריה: למשל, עבור נושא תיבחר המילה “ילד”, עבור הנשוא “אכל” ועבור המושא “תפוח”. היתרון בגישה זאת הוא שהשורות שלנו תמיד יהיו נכונות תחבירית, אם התבנית נכונה תחבירית. החיסרון הוא ששירים כאלו נוטים להיות נוסחתיים, ושנדרשת כמות גדולה של מילים כדי להימנע מחזרות כשיוצרים עוד ועוד שירים. ניתן גם להפעיל את שיטת התבניות על שיר קיים: מגרילים מילה או ביטוי, ומחליפים אותו בביטוי אחר שישמר את התבנית. חוזרים על הפעולה פעמים רבות עד שהשיר שונה מספיק מן המקור. בוטפטנים מבוססי חוקים יזהו תבנית מסוימת, לרוב על פי מילות מפתח (לפי סדר חשיבות יורד), ויגיבו בהתאם לתבנית שזוהתה.

שיר מבוסס חוקים (מאש-אפ בין התורה לנתן זך)

שבת זך

זכור את יום השבת לקדשו

אבל הוא לבדו בין כה וכה

ויכל אלהים מכל מלאכתו

והוא מתמהמה והוא לבדו

מכל מלאכתו אשר ברא

שגם אם יתמהמה

בוא יבוא

הסקה סטטיסטית

בשיטה זו ניתן לא להגדיר כלל חוקים למחשב, ופשוט לאפשר לו להתבונן בנתונים של טקסטים קיימים, ולתת לו ליצור שיר חדש ש”משקף” אותם מבחינה סטטיסטית. נתחיל מדף ריק, ובכל שלב ננבא את המרכיב הבא (כלומר המילה הבאה או האות הבאה). מבחינת המחשב, אפשר לומר ששיר הוא רצף של תווים אלפא-נומריים, רווחים וסימני פיסוק, ושאפשר לכתוב אותו אות אחרי אות. בהינתן האותיות שנצברו עד כה, אפשר לנבא מה תהיה האות הבאה בכל פעם. ישנן שיטות רבות לבצע את הניבוי, למשל בשיטת “שרשרות מרקוב”, כלומר, ניחוש סטטיסטי של האות הבאה על בסיס מספר מצומצם של האותיות שלפניה. אם בשלב הנוכחי שלוש האותיות האחרונות הן “תפו” (גם אם כבר יש בשיר המון שורות, מסתכלים רק על הסיומת), אזי מבחינה סטטיסטית הגיוני שהאות הבאה תהיה חי”ת, זי”ן, דל”ת, סמ”ך או רי”ש, אך לא הגיוני כנראה שהיא תהיה בי”ת. אם נבחרה (אקראית או לפי הסתברויות) האות חי”ת, אזי האות הבאה (שממשיכה את הרצף המקומי “פוח”) תהיה יו”ד או תו רווח, וכך הלאה. הקסם ששבה אותי בשיטה זו הוא ההבנה ששירה, לכאורה עניין רגשי, היא למעשה פעולה חישובית. בוטפטן מבוסס הסקה סטטיסטית ידוע הוא Cleverbot, שבתחילת דרכו השתדל לענות בעיקר דברים שמשתמשים הזינו לו בשיחות קודמות, לפי הסתברות שהוא ייחס לתשובה בהינתן הקלט.

למידה ממוחשבת

למעשה זוהי הרחבה של השיטה הסטטיסטית, ולעתים היא משלבת בינה לבין יצירה מבוססת חוקים. הרעיון כאן הוא שאמנם ייווצרו חוקים, אבל לא אנחנו נגדיר למחשב את החוקים, אלא רק נזין נתונים והתוכנה תבנה את החוקים בעצמה. הנושא קצת סבוך, אז לא אכנס לפרטים, אבל אציג קצת מהעקרונות. למידה ממוחשבת (מכונה גם למידת מכונה, ופעם קראו לה כריית מידע, ואפשר למצוא קווים מקבילים בינה לבין המושג בינה מלאכותית) היא למעשה דרך שבה המחשב לומד דרך דוגמאות ומיישם עבור מקרים שלא ניתנו לו בדוגמאות. למשל, נניח שניתן למחשב את ציוני הבגרות של כלל תלמידי ישראל בכל המקצועות, ולאחר מכן ניתן למחשב ציונים של תלמידה חדשה בכל המקצועות לבד מאנגלית, ונשאל את המחשב האם היא תעבור את המבחן באנגלית או תיכשל בו. המחשב יבנה מודל מתמטי שישקלל את כל הדוגמאות, ויש להניח שבאחוזים גבוהים יוכל לנבא על סמך הציונים האחרים מה יהיה הציון הנוסף. גרסה יחסית מנוונת של תיאור זה רלוונטית לשיטה שתיארתי בהסקה הסטטיסטית, אבל כיום ישנם מודלים חכמים בהרבה.

למידה ממוחשבת ופוסט-הומניזם

ישנם מודלים של למידה ממוחשבת – חלקם קיימים כבר משנות התשעים – שפשוט יבנו לנו מערכת חוקים כאילו אנחנו כתבנו מחולל בשיטה מבוססת חוקים. מודל שנקרא C4.5 יחזיר לנו תוצאה בנוסח: “אם בספרות היא קיבלה מתחת ל-70, ואם בפיזיקה היא קיבלה מעל 98” וכו’, “אזי אנבא שציונה יהיה עובר”. מודל זה מצוין לתחקור מפני שהוא מתאר את עץ ההחלטות. החלטה זו נקראת “סיווג” או קלסיפיקציה מפני שהיא בוחרת רק עובר או לא עובר, אבל ניתן לסווג גם בין הקטגוריות עבור כל ציון שהוא מספר שלם בין 0 ל-100. ניתן גם לחשב מתמטית תוצאות שהן לא רק השמה בקטגוריות, ולמידה מסוג זה נקראת “רגרסיה”.

במחצית הראשונה של העשור השני של המאה העשרים ואחת חלה מהפכה של ממש בתחום הלמידה הממוחשבת עם התפתחות מצב שנקרא Big Data (“נתוני עתק”), כלומר יכולת חישוב שמאפשרת למידה מכמות נתונים עצומה (גוגל, פייסבוק וכדומה). רק כדי להבין את גודל המהפכה, בשנת 2011 המודלים המשוכללים ביותר לראייה ממוחשבת היו יכולים לזהות בערך 75% מהעצמים שהם ראו (כלומר, נתנו להם תמונה והם השיבו איזה עצם הם רואים). היכולת האנושית עומדת על זיהוי של כ-95%. החל מכניסת מודלים שנקראים Deep Learning (למידה עמוקה, לעתים “רשתות נוירונים עמוקות”), קפצה יכולת המחשב לזהות עצמים ובתחילת 2016 גם היא עומדת על כ-95%. כלומר, מחשבים כיום רואים (ומזהים) טוב כמו בני אדם. רובנו שמים לב שיכולת הזיהוי הקולי של הטלפון שלנו השתפרה פלאים, ואפילו התרגומים האוטומטיים פחות גרועים מפעם, וכל זאת בזכות אותן רשתות עמוקות שמשתמשות בנתוני עתק.

המשמעות היא שבפעם הראשונה במהלך ההיסטוריה מתבצעים תהליכי הסקת מסקנות וקבלת החלטות באופן תבוני, ולא על ידי אדם. אנחנו רק יצרנו למחשבים את הסביבה והמחשבים עושים זאת בעצמם. יחד עם ד”ר איל גרוס יצרתי מחולל שנקרא Word2Dream – מילה לחלום (2015), שתפקידו אינו ליצור טקסט יש מאין אלא דווקא להזין טקסט ולאחר מכן לתת למחשב “לחלום” עליו. הכוונה היא שהתוכנה מקבלת טקסט שאנו מזינים לתוכה, ולאחר מכן היא מתחילה לנתח אותו מול אוסף כל הטקסטים של “גוגל חדשות” עד שנת 2013 (באדיבות גוגל). התוכנה משתמשת בשיטה הקרויה Word2Vec, שמוצאת (באופן סטטיסטי) הקשרי משמעות בין מילים (וביטויים), ומנסה למצוא מילים שקשורות לטקסט המקורי. לאחר שמצאה מספר מילים כאלה, היא מתחילה לחשוב על אסוציאציות למילים החדשות, וכך היא מפליגה על כנפי הדמיון הקולקטיבי המשותף לחדשות אשר צרכנו במהלך השנים. מנאומו המפורסם של מרטין לותר קינג יודעת התוכנה להגיע תוך מספר דקות לציונות ולפמיניזם. המחשב מצליח לבצע את הפעולות שחלקנו מדמיין כרחוקות ביותר ממנו.

שיר בניבוי סטטיסטי (מתוך פרקי אבות ה)

עשרה נִסים

עשרה נסים נעשו לאבותינו

במצרים, ולא נמצא פְסול

בעומר ובשתי הלחם ובלחם

הפָּנים, ולא נצחה הרוח

עשרה נסים נעשו בבית

המטבחיים, ולא נראה זבוב

בבית המטבחיים, ולא כִבו

הגשמים את מי המבול

אוונגרד כתוכנה

תוצר דרמטי לא פחות של ההתפתחות הטכנולוגית הוא פער דיגיטלי. לרוב כשמדברים על פער דיגיטלי מתייחסים לאנשים שמכירים היטב את הטכנולוגיה אל מול אנשים שלא מכירים אותה כלל ולכן יוצאים נפסדים (חוסר יכולתם לשלם חשבונות ולהשיג מידע שאמור להיות נגיש לכל וכו’). אבל כיום נוצר פער דיגיטלי חדש, בין מי שנתוני העתק נמצאים בידו, בעיקר חברות מסחריות גדולות, לבין האדם הפשוט, שבהקשרים אחרים היה מכונה מעמד הביניים. אמנם ישנם נתונים שזמינים לציבור כולו, אך גם הנתונים הללו נתונים לחסדיהן של החברות הגדולות. זאת ועוד, סביר להניח שהנתונים שלא משוחררים לציבור רבים יותר, עשירים יותר ומסודרים טוב יותר מאלו שכן משוחררים. יתרה מזאת, לעתים לא די בנתונים המרובים אלא יש צורך ביכולת עיבוד וחישוב שתדע להתמודד אִתם, וגם כאן נשחק מעמד הביניים לעומת השחקנים הגדולים.

מחשירים ובוטפטנים הם כלים המאפשרים לכוון זרקור אל המציאות המשתנה שבה ההבדלים בין אדם למכונה פוחתים ומתבטלים. הם מציבים בפנינו מראה שבורה, מראים לנו באילו מקומות אנחנו מתנהגים כמכונות, וכמה חשוב שנעסוק באנושיות שלנו, וננסה לפענח אותה מחדש. מרגע שאנו לא היצורים התבוניים היחידים בעולם, עלינו לאפיין מחדש את הסטטוס שלנו, את יחסנו לעולם שבו אנו חיים – לא רק למכונה אלא גם לחי ולצומח ולסביבה שבה אנו נמצאים. אין פלא שהאינטרנט היה מבשרה של תנועת זכויות בעלי החיים, ושתופעת הטבעונות התעצמה רק בשנים האחרונות. תבוניותו של המחשב עזרה לאדם לראות כי הוא אינו נמצא בראש הפירמידה אלא חי בסביבה אקולוגית שדורשת ממנו אחריות.

לאורך ההיסטוריה שימשה השירה כשכבה קדמית של הלשון והמחשבה האנושית, מחלקת המחקר והפיתוח של הדמיון. בעולם שבו וירטואלי ופיזי מתחברים, השירה הממוחשבת היא מחלקת המחקר והפיתוח של יחסי אדם ועולם, הן הפיזי והן הווירטואלי. מחשירים ובוטפטנים הם לא רק מדיה, הם מולטי-מדיום, מאפשרים לנו תשתית שעל גבה ניתן לבנות אפשרויות רבות, שכיום מציתות את הדמיון ונראות בלתי מוגבלות. יחד עם זאת, החיבור בין שירה לתוכנה מאפשר גישה שלא מאבדת להתלהבות את נקודת המבט הביקורתית, שנעה לצד הקִדמה, אך מתנגדת לאימוצה באופן אוטומטי. התוכנה והמידע, שנתפסים בציבור כדברים ששייכים לתעשייה או לאקדמיה, סובלים בשל כך מתדמית שדוחקת אותם לכיווני מחשבה מסוימים, אינטרסנטיים. שירה ממוחשבת היא הזדמנות לעסוק באותם נושאים, לא כדי ליצור מוצר או כדי להוכיח טענה אלא כדי לעגן את הרגשות שלנו במציאות שמשתנה בצורה כל כך מסחררת, עד שקשה לנו להכילה.

ערן הדס בגן העדן האבוד זוכת פסטיבל עכו

ראו גם:

יובל בן עמי על חייה ומותה של צאלה כץ

אלי אשד על חייה המסתוריים של צאלה כץ

2 תגובות

  1. מענין מאוד. עבורי פחות השירה, ויותר האבחנות על big data, חשיבה עמוקה, ותפקיד המחשבים (ואולי בקרוב המכונות החושבות) בחיינו. האמנם ההתפתחויות האחרונות מאפשרות למחשבים ״לחשוב״? או שבסך הכל זה שיפור של מה שהיה קודם, שבעבר היה פשוט ״מספיק צולע״ כך שהיה ברור לנו שהמחשב אינו חושב? כידוע זו בעיה ישנה של – איך יודעים אם מישהו שיושב בחדר ולא רואים אותו הוא אדם או אלגוריתם.
    יותר מענין לשאול אם זה באמת חשוב, כל זמן שאי אפשר להבחין בין התוצרים של חשיבת-מחשב לתוצרים של חשיבת-אדם. במובן זה חלק גדול מהטכנולוגיה הוא החלפה של עבודה או פעילות אנושית בעבודה של מכונות, שמגיעות לאותן תוצאות, או טובות יותר. אז המכונות ״עושות את העבודה״ בצורה שונה מאנשים. זה אופייני גם בתהליכים פשוטים מאוד, למשל טחינת גרעינים ליצור קמח. בני אדם כתשו גרעינים עם עלי במכתש בתנועות למעלה למטה. מכונות עושות אותו דבר בתנועה מעגלית בטחנת רוח, או גלגל מים. האם הקמח שונה? כמובן שלא. אם כך, אולי לא אכפת לי איך המחשב הגיע למסקנה שהילדה צריכה ללכת להקבצה 4 יחידות במתמטיקה, אם ההחלטה שלו מוכחת שוב ושוב כנכונה.
    כל זמן שאנחנו לא מגיעים למצב של סקיינט, או אולי המטריקס, אולי אין בעצם מה לחשוש? בפרפרזה על הסרט הידוע אפשר אולי להציע – איך למדתי להפסיק לדאוג, ולאהוב את המכונות החושבות.

  2. זה לא משנה אם מכונות או פטפטנים יוכלו ליצור שירים עם אלגוריתם השאלה אם הם יהיו טובים,
    ליצור רגש באלגוריתם זה טוב אולי להמונים, מכונה עדיין לא יכולה לזייף אותנטיות.

השאר תגובה

אנו שמחים על תגובותיכם. מנגנון האנטי-ספאם שלנו מייצר לעתים דף שגיאה לאחר שליחת תגובה. אם זה קורה, אנא לחצו על כפתור 'אחורה' של הדפדפן ונסו שוב.

הזן את תגובתך!
הזן כאן את שמך

5 × חמש =