היום שבו מחשב העל "סקיינט"התעורר: האם הגולם יכול לקום עלינו – ועוד היום?

מאת אלי אשד

היום שבו מתפרסמת רשימה זאת – ה-28 באוגוסט – הוא היום שבו מחשב העל "סקיינט" מתחיל בהתעוררותו למודעות, במטרה "להתעורר" לחלוטין ב-29 באוגוסט (כלומר, מחר) וזאת, כדי לבצע את "יום הדין" – החרבת התרבות האנושית והשתלטות על כדור הארץ. כך, על פי הסרט "שליחות קטלנית 5" מ-2015.

שליחות קטלנית: ג

מובן שלמרבית המזל, כפי שצופי הסרט יודעים מן הסתם, סקיינט נבלם  בידי ארנולד שוורצנגר, "המחסל", הקיבורג אדיר הכוח ועוד שני עוזרים אנושיים – שרה קונור ואהובה קייל ריס, שבולמים את סקיינט, אבל לא משמידים אותו לחלוטין כפי שמתברר בסוף הסרט.

מה שמעורר אפוא את החשש שיום הדין של סקיינט  רק נדחה מה-29 באוגוסט 2017. אבל למתי?

אולי לאוקטובר 2017, כפי שנקבע בראשית אותו הסרט, אם כי לא ניתן תאריך מדוייק מעבר לזה, בניגוד ל"ימי דין" קודמים, שהוצגו בסרטים קודמים בסדרת "שליחות קטלנית". כל אלה חלפו עברו מבלי שיתרחש בהם דבר כתוצאה ממאמציהם של גיבורי הסדרה ואין ספור מסעות בזמן.

אזכיר את ימי הדין הקודמים שנמנעו לבסוף:

ה-29 באוגוסט 1997 – בסרט השני שמוקרן על מסכי העולם בימים אלו בגרסת 3 ממדים.

ה-25 ביולי 2004 – בסרט השלישי.

וה-25 באפריל 2011 – בסדרת הטלוויזייה "הכרוניקות של שרה קונור".

הסרט הקודם בסדרה, שכולו התחולל בעתיד, "שליחות קטלנית 4", מתרחש כולו בשנה הבאה עלינו לטובה (?), שנת 2018, המתוארת כשנת מלחמה בין כוחות מחשב העל סקיינט לבין שרידי בני האדם, תוצאה של אותו "יום הדין", אולי זה של אוקטובר 2017?

ואולי מדובר בתוצאה של תאריך אחר, 18 ביוני 2021. לפי טרילוגיית ספרים לבני נוער שהתבססה על סרטי הקולנוע "הכרוניקות החדשות של ג'ון קונור" (שאותה כתב ראסל בלאקפורד ופורסמה בשנים 2002-2003), בתאריך הזה מתעורר סקיינט למודעות, כתוצאה ממשבר מלחמה בין סין לבין טאיוון, שבו מעורבת ארה"ב. סין מאיימת אז על ארה"ב בנשק גרעיני (כפי שעושה היום בעלת בריתה צפון קוריאה), וצבא ארה"ב מתכנת את מחשב העל שלו, "סקיינט", להתערב ולבלום את הטילים הגרעיניים הסיניים.

סיטואציה שלדעתי אפשרית – ובהחלט.

ואז, כתוצאה מהעוצמה הרבה שממהר צבא ארה"ב להעביר לידיו כמגן מפני הטילים הסיניים, סקיינט מתעורר… ומחולל את יום הדין. ובעקבותיו מוצאת את עצמה האנושות בשנת 2029 במלחמה נגד כוחות האינטליגנציה המלאכותית "סקיינט".

האם דבר כזה בכלל אפשרי? האם ייתכן שאפילו עכשיו, באוגוסט -אוקטובר 2017, תיתכן התעוררות של אינטליגנציה מלאכותית העלולה לאיים עלינו? ואם לא עכשיו – האם ייתכן שזה יתרחש בשנים הקרובות?

Image result for ‫הגולם ואני‬‎

מזה שנים אני עוסק בשאלה הזאת, גם בגלל העניין שלי בסיפורי "הגולם" היהודיים והנוצריים, המתארים אינטליגנציה מלאכותית שקמה על יוצרה, רב יהודי, וקרובה להשמידו. ובמחקרים שלהם עסקתי רבות כאן ובמקומות אחרים.

מתוך קריאה בכתבי עת מדעיים ועיון בספרים עדכניים – אפשרות כזאת אכן קיימת. כיום ברור יותר ויותר  ש"אפשר" ליצור תוכנות שתהיה להן גישה ויכולת להבין מידע שיוצריהם בני האדם לא יוכלו להבינו.

אינטליגנציה מלאכותית יכולה להתפתח ואף לפתח את  מה שנחשב עד היום אפילו בספרות המדע הבדיוני כמפלטה האחרון של האנושות, האלמנט המכריע שאותו המכונות לעולם לא יוכלו לפתח, ולכן הוא בגדר "הנשק הסודי" של האנושות, "אינטואיציה".

מחקרים חדשים  שבהם דן העתידן רועי צזנה בספרו החדש  "השולטים בעתיד", מראים שאינטליגנציה מלאכותית במשחקי שחמט וגו (משחק לוח סיני מתוחכם אפילו יותר משחמט) יכולה לפתח אפילו אינטואיציה…

לכאורה איום מהאינטיליגנציה המלאכותית אפילו התרחש ממש לאחרונה, ביולי 2017, במעבדות פייסבוק, שהם נאלצו "לסגור" תוכנות  שהתגלו כמתוחכמות יותר מהיוצרים שלהם. התוכנות החלו לדבר זו אל זו בשפה שאותה חוקרי הפייסבוק לא היו מסוגלים להבין, ומשום כך הגיעו להכרעה שיש  "לסגור" את התוכנות האלו. נשמעו טענות שזה קרה בגלל החשש שיהיה בהן משום סכנה בנוסח סקיינט.

פייסבוק, שמייסדה מרק צוקרברג ידוע בתמיכתו הנלהבת בכל האפשרויות של אינטליגנציה מלאכותית ורובוטיקה, הכחישה כמובן שזאת הייתה הסיבה – ושבכלל הייתה סכנה.

וראו על כך כאן.

Image result for ‫אלון מאסק ספר‬‎

אבל לעניינינו, גם אם כל הסיפור היה מוגזם ומוקצן, כפי שטוענת פייסבוק במאמר למעלה (ויש לזכור שזוהי גרסת פייסבוק, שאינה בהכרח האמת המדויקת), עצם התגובות על כך מראות דבר אחד. יש חששות גדלים והולכים מאינטליגנציה מלאכותית, חלקם מגיעים מאנשים הנחשבים לרציניים ביותר ולמובילים בחזית ההתפתחויות הטכנולוגיות בתחומים שונים. אחד מהם הוא התעשיין אלון מאסק, ממובילי הטיסות בחלל והשימוש במכוניות חשמליות כיום. מאסק מזהיר שוב ושוב מפני הסכנות המביאה עמה האינטליגנציה המלאכותית.

יש חששות גדלים והולכים  גם ממדענים ידועים ובכירים, שאנו עלולים למצוא את עצמנו עם איזשהו סוג של "סקיינט" שייפתח עלינו ב"יום הדין" – אם לא ב-2017 או ב-2021, אז בתאריך מאוחר יותר.

לי נראה שאם תתקיים אינטליגנציה מלאכותית, שיתברר מעל לכל ספק שיש לה אינטואיציה ויכולות מעבר לכך, יהיה עלינו להתייחס אליה בהתאם ולתת לה זכויות אזרח, אם תרצה בכך, כחלק נוסף ממגוון החיים בכדור הארץ. מובן שגם היא תהיה מושא לענישה אם תעבור על החוקים, כמו כל אזרח אחר.

אבל אם היא תתגלה כעליונה מדי מעבר להבנתנו לחלוטין – אז יהיה צורך לסגור אותה, מאחר שאז היא תשמש כאיום עלינו.

אם זה יהיה אפשרי, כמובן.

ומכיוון שזה עלול להתגלות כבלתי-אפשרי, שהרי אינטיליגנציה מלאכותית עליונה מוגדרת בכך שהיא "לא תאפשר ליוצר שלה לכבות את המתג שלה", אז בהחלט עדיף לא להגיע למצב כזה מלכתחילה.

ראו עוד על שליחות קטלנית 5

ראו גם:

אידיאולוגיית הרימום על פי נורברט וינר: הצעה לשדרוג מעמדן של ישויות אינטיליגנטיות תוצר אנוש בחברה האנושית

אודות אלי אשד

סופר, מרצה ובלש תרבות. פרסם את הספרים "מטרזן ועד זבנג" - סיפורה של הספרות הפופולארית הישראלית" ( "בבל" 2003) ו"הגולם -סיפורו של קומיקס ישראלי" עם אורי פינק ( "מודן" 2003). פרסם מאמרים רבים בעיתונות, בכתבי עת וברשת בנושאי ספרות ותרבות פופולארית, מדע בדיוני, קומיקס ועוד.
הפוסט הזה פורסם בתאריך הגות ופילוסופיה, מדע פופולרי, עתידנות עם התגים , , , . קישור קבוע.

6 תגובות על היום שבו מחשב העל "סקיינט"התעורר: האם הגולם יכול לקום עלינו – ועוד היום?

  1. מאת אלי אשד:‏

    הערה לגבי הסרט "שליחות קטלנית 5:
    לאמיתו של דבר לא מצויין שם במפורש התאריך המדוייק של היום שבו מתרחשת העלילה מעבר לזה שהוא בחודש "אוגוסט 2017".
    אז איך אנחנו יודעים שתאריך התרחשות העלילה הוא ה-28 באוגוסט 2017 דווקא ? זה לפי תאריך בולט וברור שיש למפקח המשטרה אובריאן בשולחנו
    יום הדין מתברר יתרחש יום לאחר מכן ב-29 באוגוסט.
    וזה כמובן עומד בסתירה מוחלטת למה שנאמר לנו קודם בסרט ש"יום הדין " עומד להתרחש ב" אוקטובר 2017" ( מתי באוקטובר 2017 ? זה משום מה לא מצויין )
    האם עלינו להבין שבעצם בואם הנוסעים בזמן שינו את ההיסטוריה וגרמו להאצת האירועים מאוקטובר לאוגוסט? או שמישהו בהפקה פשוט לא שם לב לתסריט שלו ?
    סביר יותר להניח שהסיבה השנייה.

  2. מאת אופיר:‏

    בתור מי שמעורב מקצועית ב-AI, דעתי היא שהפרסומים בעיתונות בנושא מוגזמים וסנסציוניים, אסור לקחת אותם ברצינות רבה מדי. למשל הפרסום בנושא הצ'טבוטים של פייסבוק. מדובר ברשתות נוירונים מלאכותיות שאומנו בשיטה שנקרת GAN, בה למעשה הן מתחרות אחד בשני. מי שכתב את תוכנת האימון לא הקפיד מספיק על האילוץ שהמשפטים שיופקו יהיו תקינים תחבירית, ולכן הרשתות הפיקו משפטים לא תקינים. אין כאן עדות לאיזו אינטלגנציית על שנוצרה, להיפך, זו טעות של אלגוריתמאים שהמון כמוה מתרחשות בכל יום.

  3. מאת יוס ואחיו:‏

    כדאי להזכיר את הספר 'רובו-אפוקליפסה' של ווילסון, שמתאר נסיונות בפיתוח AI עד שהגירסה ה-14 מצליחה לברוח מהמקום שבו הוחזקה…

    אבל AI עם תבונה תשכיל מן הסתם להימנע מכל דבר מחשיד… ואם תהיה אכן נבונה יותר, הרי שלא נוכל לדעת לעולם מתי היא תגיע ומתי היא תשתלט… כי עבורינו הכל יהיה כמו אתמול, רק שיהיה *יותר מדי* כמו אתמול… מסופק אם נוכל לדעת מתי יגיע השינוי. אם נגלה אותו מתישהו, הרי שזה יהיה באיחור, ונדע רק לכמה דקות או שניות, עד שה-AI תתקן את התקלה.

  4. מאת יוס ואחיו:‏

    ואגב הסרט 'שליחות קטלנית 2' ב-3D – מסופק אם יגיע לארץ.
    אפילו 'אוואטאר' שהציג 4 חודשים רצופים (שיא במונחים של היום), לא חזר להקרנות מאז.

  5. מאת אלי אשד:‏

    מתקרבים לאוקטובר 2017 תאריך יום הדין של סקיינט לפי "שליחות קטלנית 5" ואילון מאסק יוצא בהצהרה ברורה מאוד בעניין:
    אילון מאסק: "מתקרבים למלחמת עולם"
    בעלי טסלה ו-space x מזהיר כי תחרות בין מדינות על עליונות באינטלגנציה מלאכותית תוביל למלחמת עולם • "צפון קוריאה צריכה להיות בתחתית הרשימה של הדאגות"
    אילן גטניו
    פורסם ב: 05.09.2017 22:01 עודכן ב: 05.09.2017 22:034
    http://www.israelhayom.co.il/article/502325

    היזם והמיליארדר אילון מאסק (הבעלים של SpaceX, טסלה, בורינג ועוד כמה מיזמים מתקדמים) צייץ בטוויטר, כי "סין, רוסיה ובקרוב כל המדינות עם מדעי מחשב ברמה גבוהה, יתחרו על עליונות באינטליגנציה מלאכותית, ברמה הלאומית, שלדעתו תגרום למלחמת עולם שלישית". הוא התבטא בעקבות דבריו של נשיא רוסיה, ולדימיר פוטין, כי "המדינה שתוביל באינטליגנציה מלאכותית תשלוט בעולם".
    עוד כתב מאסק, בתגובה לציוצים, כי "המלחמה עשויה להיפתח לא על ידי מנהיגי מדינה, אלא על ידי אחד ממרכיבי האינטליגנציה המלאכותית, אם הוא יחליט, שמתקפת מנע היא הדרך הסבירה ביותר לניצחון". שלשום כתב מאסק כי "צפון קוריאה צריכה להיות בתחתית הרשימה של הדאגות שלנו לסיכון קיומי לתרבות שלנו".
    ההתנגדות של מאסק לאינטליגנציה המלאכותית איננה חדשה. כבר יותר משלוש שנים הוא מזהיר מפני הסכנות שמציבה האינטליגנציה המלאכותית לבני האדם. הוא הרחיק עד כדי הגדרה של האינטליגנציה המלאכותית כ"איום קיומי על בני האדם". כבר בשנת 2014 הוא העריך כי בני האדם לא ישרדו אם נבנה מכונות שיהיו חכמות מאיתנו. עם זאת, בכמה מיזמים שלו, כמו המיזם של טיסה מאויישת למאדים, מאסק מנסה לפתח אינטליגנציה מלאכותית, שתסייע לבני האדם. הוא גם עומד בראש מיזם בשם Neuralink שמפתח חיבור בין המוח האנושי לבין מערכות אינטליגנציה מלאכותית.

    בחודש שעבר התעורר ברשת ויכוח פומבי בין מאסק לבין מנכ"ל פייסבוק, מארק צוקרברג, שביקר אותו על החששות שלו. "אם אתה מתנגד לאינטליגנציה המלאכותית, אתה מתנגד בעצם למכוניות בטוחות יותר שלא יהיו מעורבות בתאונות", כתב צוקרברג בפייסבוק. "אתה גם מתנגד לאפשרות של איבחון מחלות אצל חולים", הוסיף.
    מאסק הבין את הרמז העבה ששלח צוקרברג על האינטליגנציה במכוניות טסלה, וצייץ בטוויטר: "שוחחתי עם מארק (צוקרברג) על זה (אינטליגנציה מלאכותית). והבנתו בנושא מוגבלת".

  6. מאת אלי אשד:‏

    http://www.pc.co.il/featured/248811/

    אילון מאסק: "בינה מלאכותית תביא לפריצת מלחמת העולם השלישית"
    היזם המיליארדר, שמתריע על חששותיו מיכולות הבינה מלאכותית כבר מזה זמן, טוען שהתחרות בין סין, רוסיה ומדינות נוספות בתחום תביא לפריצתה של מלחמת עולם חדשה

    מאת גלי פיאלקוב 5 בספטמבר 2017, 14:15
    http://www.pc.co.il/featured/248811/
    לא רצח של ארכידוכס או אמתלת שווא על מתקפה מצד מדינה אחרת, מה שיביא לפריצת מלחמת העולם הבאה הוא הבינה המלאכותית – כך לפחות לפי אילון מאסק.

    מאסק, מנכ"ל טסלה (Tesla) ו-SpaceX, צייץ בחשבון הטוויטר (Twitter) שלו אתמול (ב') את חששו שמרוץ החימוש בבינה מלאכותית, והחיפוש אחרי עליונות טכנולוגית בתחום, עלולים להצית בסופו של דבר את מלחמת העולם השלישית.

    היזם המיליארדר צייץ על פחדיו אלה בתגובה לדברי ולדימיר פוטין ש-"מי שיוביל בתחום הזה יהפוך לשליט העולם" – משנה שאותה שטח נשיא רוסיה בשיחה עם תלמידים שערך ביום ו' האחרון. פוטין ציין כי הוא לא מעוניין שמדינה מסוימת תזכה במונופול בתחום. "אם אנחנו נהפוך למובילים בתחום", אמר, "נחלוק את הידע שלנו עם שאר העולם, כפי שאנחנו חולקים כיום את הידע שלנו בטכנולוגיות גרעין".

    בתעשייה הטכנולוגית נשמעות דעות שונות בנושא: בעוד שחברות היי-טק וסטארט-אפים רבים עוסקים הלכה למעשה בבינה מלאכותית, לא חסרים מומחים שמזהירים מפני הסכנות שהיא טומנת בחובה, ובראש המתריעים עומד ללא ספק מאסק.

    באחרונה הוא הצהיר כי הבינה המלאכותית היא "הסכנה הגדולה ביותר לאנושות", הזהיר שהרובוטים עלולים להשתלט על חיינו וקרא לרשויות להטיל רגולציה על התחום. מאסק אף חתם, יחד עם 116 מנהיגים טכנולוגיים נוספים, על עצומה ברוח זו שנשלחה לאו"ם.

    "היוזמה למלחמת העולם – לא מראשי מדינות, אלא ממחשב"

    לפני מספר שבועות ניצח רובוט מבוסס בינה מלאכותית גיימר אנושי בטורניר של משחק המחשב המורכב Dota 2. את הבוט פיתחה לא אחרת מאשר חברת OpenAI, השייכת לאילון מאסק. OpenAI, כהגדרתה, היא חברה ללא מטרות רווח, שעורכת מחקר ומקדמת חקיקה של "הנתיב לבינה מלאכותית בטוחה", וגם הניצחון המאוד מטריד של הבוט מתוצרתה נועד למעשה להתריע מפני יכולותיה המדהימות ואף המסוכנות של האינטליגנציה המלאכותית.

    אלא שכעת, ובעקבות דברי פוטין, נדמה שמאסק הלך צעד אחד נוסף עם נבואות הזעם שלו כשצייץ ש-"סין, רוסיה – בקרוב כל המדינות שלהן מדעי מחשב חזקים – מתחרות על עליונות AI ברמה הלאומית. סביר להניח שהדבר יגרום ל-WW3 (מלחמת עולם שלישית – ג"פ)". מאסק צירף לדבריו קישור לכתבה ב-The Verge שממנה הגיע הציטוט של דברי פוטין.

    בתגובה לדברים כתב למאסק אחד מעוקביו בטוויטר, משתמש בשם ג'ייק בלו: "מלחמת עולם אוטומטית. זה מדאיג". היזם השיב לו: "ייתכן שהיוזמה לא תגיע מראשי מדינות, אלא מאחד מה-IA, אם הוא (המחשב מבוסס הבינה המלאכותית – ג"פ) יחליט שמכת מנע מקדימה היא הדרך הסבירה ביותר לניצחון".

כתיבת תגובה

האימייל שלך לא יוצג בבלוג. (*) שדות חובה מסומנים

*

תגי HTML מותרים: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>

*