לרגל פסח, חג החירות, שמחה סיאני מזהירה מהשפעותיה המזיקות של הטכנולוגיה, ועכשיו עוד יותר מאי פעם בעבר – סכנותיה של הבינה המלאכותית Artificial Intelligence, שיכולה "לשחרר" את בני האדם מחוויות החיים עצמם.
המערכת
אחרי שתקראו את מאמרי זה, בוודאי תאמרו לעצמכם: "האישה הזאת היא Old fashioned woman, מה היא מבינה? אנו מתקדמים קדימה, בטכנולוגיה, ברפואה, בחקלאות… ובמה לא, והיא נשארת מאחור וחולמת עדיין על גן העדן האבוד שלה". אך אתם שוכחים דבר חשוב אחד – נכון, הכול משתנה סביבנו, אך אנו, כבני אדם, לא השתנינו! אנו נולדים, חיים, ומתים, באותה דרך. עם כל הקדמה, בנו, כבני אדם, דבר לא השתנה. אותן אהבות ואותן אכזבות, אותן הצלחות ואותם כישלונות, אותם חלומות וקיום מאוויים, או חלילה לא. כל אחד בחייו עובר את המסלול הזה, לטוב ולרע, ואין להימלט ממנו!
נכון, אני נהנית מפירות הקידמה בכל השטחים שציינתי, אך בד בבד, רעיי הרצים קדימה, אני רוצה "לגלות" לכם דבר מה. אני בשונה מכם, לא עשיתי "מסע דילוגים" כמוכם, אלא מיציתי והתענגתי על כל גיל שחייתי, ואמשיך למצות בחיי, ואמצוץ בקשית, גם הלאה כל טיפת חיים שתיוותר בכד החיים שקיבלתי במתנה.
כשנולדתי, הייתי תינוקת, אחר כך ילדה, נערה, אישה, אם, סבתא, וכיום, אני אפילו סבתא רבתא! ואילו אתם, "הדור של היום", כפי שאני קוראת לכם, עשיתם "קפיצת דרך" וכמעט לא נהניתם ממדרגות חייכם כמוני. עוד לא הספקתם להיות ילדים וכבר קפצתם, בלי הכנה מוקדמת, להיות נערים, ושיחקתם אותה "גברים" או "נשים". כבר משנות גיל העשרה המוקדמות, כי זה נראה לכם סקסי וגברי, או נשי ומפתה…
עוד לא הבשלתם דייכם, ואתם בבחינת בוסר, וכבר טעמתם מכל מנעמי החיים, מבלי למצותם עד תום. עישנתם, ולא רק סיגריות, שתיתם לשוכרה, חיללתם אהבה בפגישה הראשונה, והפסדתם את החיזור המענג והקסם בהתרגשות לגלות אחד את מיניותו שלו ושל השני, שלב אחר שלב. הרגתם את כל הפרפרים בבטן, את הכמיהה, הסקרנות…, ונהגתם בדיוק ההיפך. אחרי הקפה הראשון, אפילו מבלי להכיר זה את זו כמו שצריך. הוא שאל: "אצלי או אצלך?". והיא ענתה… עשיתם מה שגברים ונשים עושים בגלוי או בצנעה. אחרי זמן קצר, חודש חודשיים, במקרה הטוב, קפצתם להבא/ה בתור. ואם במקרה נישאתם, התגרשתם אחרי תקופה קצרה עם ילד, ילדה, ואכזבה מרה מהחיים.
בגיל שלושים, אתם מבחינתי כבר זקנים! אבל לא חכמים כמו זקנים, כי אינכם רואים שני צעדים לפני האף שלכם. אתם מעדיפים להתגלח על הזקן שלכם, מבלי לשמוע את עצת זקני המשפחה, שעברו מהמורות לא קטנות בחייהם ומנסים להזהיר אתכם מפניהן. האמינו לי, אני מדברת מתוך ניסיון. יש לכם מה ללמוד, אך תמיד נשמע מפיכם את המשפט הזה, כאמור: "הו, אתם מהדור הישן ולא מבינים לליבו של הדור הצעיר".
בבקשה, תעצרו לרגע, תנקו את הראש, ותביטו סביבכם. מה אתם רואים? האוקיינוסים אוצרים בעומק קרקעיתם זבל וכלי פלסטיק למיניהם שזרקתם חופשי חופשי כשביליתם על חוף הים. והים, בולע הכול, כולל את הזבל שלכם.
אניות סוחר ואחרות משאירות לעיתים שובל שמן או דלק מאחוריהן, הצף על פני המים או שוקע בהם, ובכך, בלי מחשבה תחילה, עשרות זני דגים למיניהם, גדולים כקטנים ושוכני ים אחרים נכחדים.
מאות מיני ציפורים ועופות יפיפיים נעלמו מן העולם. גם סוגי דבורים נעלמו מהטבע, "בזכות" בניית גורדי שחקים שסותמים את האוויר ולא מתכננים תחילה, בצד הבנייה, שמירה על הטבע, בבחינת "תחיה ותן לחיות". והלא מהאדמה אנו מוציאים את לחמנו.
גם חיות למיניהן נכחדו מן העולם, ויערות-עד שלמים נכרתים או עולים באש, ועוד ועוד… העולם מאבד את שיווי משקלו ומתחמם משנה לשנה, קל וחומר אצלנו, ארץ מדברית. הרי שלג נמסים ועוד קט יציפו את העולם במים. רוחות קדים הורסות ערים שלמות, ובתים מתמוטטים כמו בתי קלפים. עשן המכוניות ומקורות אחרים מזהם את האוויר, ורבים החולים במחלות ריאה שונות. הבצורות חוגגות. ברינה אתם מרוקנים את העולם הזה מרוב טובו שניתן לכם בחינם!
אבל, שמחה רבה קפצה עליכם לאחרונה עם ההמצאה החדשה – בינה מלאכותית! לא די לכם בהריסת הטבע, תחרות בבנייה לגובה, בניינים כמגדל בבל, עכשיו אתם מתכננים להשתלט גם על המוח האנושי – ה-AI לתפארת!
עכשיו, הגיע התור של ניוון המוח. בלחיצת כפתור אחת, נוכל להוציא מהגולם עבודות סמינריוניות שלמות, חישובים מתמטיים, ומשחקים ב"נדמה לי".
עכשיו, כבר לא תצטרכו לשבת שעות על שעות, כמוני, בספרייה הלאומית ובספריות אחרות, כדי לגלות מכמני חכמה ודעת של חוקרים, ממציאים, וגאוני עולם. לא תרדו לעומק העניין שאתם חוקרים, אלא בלחיצת כפתור הכול יוגש לכם על מגש של פלסטיק. הראש ריק והדף מלא. ואיך יידע המרצה שמה שהגשתם הוא פרי עמלכם? הוא לא יידע!
הנה סיפר לי ידידי בלפור חקק, שידידה סיפרה לו כיצד התחננה לבנה בשעה 10 בלילה, שסופסוף יכתוב את העבודה שהוא צריך להגיש למחרת למורה. הבן אמר לה שעוד מעט תהיה לו העבודה ביד, והיא התפלאה איך זה יכול להיות, כי הוא לא עבד עליה כלל וכבר 22. אחרי שעה קלה בישר הבן לאימו שהעבודה מוכנה. הוא כתב ל-AI על איזה נושא הוא רוצה שיכתוב והביא פרטים מספר הלימוד, ותוך חמש דקות הייתה לו העבודה ביד. הוא הגיש אותה למורה וקיבל 10! ולא עלה על דעת המורה שלו, שזו לא העבודה באמת שלו, שהיה אמור לטרוח, לחפש, לשבת, וללמוד היטב כדי להוציא ציון 10…
אז יש לי "עצת זהב" לרעיי המורים – תבחנו כל תלמיד ותלמיד לחוד, אך בעל פה! כפי שנהגו בזמני, תבחנו אותו אך ורק א ח ר י שהגיש לכם את העבודה שהכין, ואחרי שקראתם אותה בקפידה תשאלו אותו שאלות לפי החומר שלמדתם בכיתה במשך השנה, ולפי העבודה שהוגשה לכם על ידו. רק כך תוכלו לדעת נכוחה, מי למד ומי לא למד, ובהתאם תתנו את הציון. באופן זה תדעו, מי למד, הבין את החומר שנלמד בכיתה, ומי בעצת AI הלך? ה"קידמה" ממש מאלצת אותנו לחזור אחורה לשיטות הותיקות (והטובות) של פעם.
גרוע מכך, מהיום אפשר לזייף גם את מה שאתם רואים בטלוויזיה או שומעים ברדיו. איך תדעו אם אותו אדם שמדבר כך או אחרת הוא ב א מ ת אדם? ואולי זה ה-AI שמתוכנת כך שייראה כאדם מסוים ויאמר את מה שמתכנתיו רוצים שיאמר? לא תוכלו לדעת. ולכן, תוהו ובוהו ישרור פה בעתיד הקרוב, וכאילו בורא עולם יביט עלינו ממקום שבתו למעלה, יצחק ויאמר: "רציתם להיות כאלוהים, לנהל את העולם, לבנות מגדלי בבל, ליצור אדם וחיה, אז בבקשה, תשתמשו בבינה שנתתי לכם ותהרסו את העולם ואני, לא אסייע בידכם לתקן את מה שהרסתם".
אל תטעו ותחשבו, רעיי, שאני לא שמחה על הקידמה שלנו בשטח הרפואה, החקלאות המצילה ארצות נחשלות, ושמאותה פיסת אדמה אנו מסוגלים להוציא פירות רבים יותר בזמן קצר יותר, ועוד המצאות נפלאות המאריכות ומשפרות חיים, אך הכול צריך להיות במידה! ולא, “תפסת מרובה, לא תפסת”. אם לא נשמור על מידתיות, נמצא עצמנו רובצים אל מול הטלוויזיה שעות על שעות לבד בבית, אוכלים אוכל מתועש, ומבקרים אצל הרופא לעיתים קרובות – מה שלמעשה קורה כבר עכשיו.
אומר לכם בגלוי, אני פוחדת ממה שעתיד לבוא. כבת מזל דלי, אני חשה למרחוק את מה שעלול להיות בקרוב – אף אחד לא יאמין לאף אחד, וכדי להסיר את איום ה-AI שאנו כה מתלהבים ממנו (ויש על מה להתלהב), יקומו אנשים מאד חכמים שעוד נותרו בינינו, וימציאו מחשב שיפצח את ה-AI, שבתגובה יעשה יותר מתוחכם, וככל שיגבר התחכום, תגבר הבורות אצל בני האדם, שישושו מכך שמישהו אחר יעשה להם את העבודה.
אנשים יחוו יותר ויותר בדידות, כי הם יהיו ספונים בבתיהם עם הטלוויזיה והמחשב. לאט לאט יתמעטו הפגישות בין איש לרעהו, כמו שראיתי אצל בן משפחה צעיר שלי. שקידם פניי בברכה, ואחרי דקותיים אמר לי: "סבתא, אני הולך לחדר להמשיך ולשחק עם החבר שלי". בתום הביקור הלכתי לחדרו להכיר את החבר, ומה אני רואה? הוא אמנם משחק עם החבר, כדבריו, אבל כשהוא יושב ליד המחשב בחדרו, והחבר יושב ליד המחשב בביתו, ואין הם נפגשים ביניהם ממש. מיד רצתי וקניתי להם דוק וקלפי משחק, כדי להרגיש שהם גם משחקים ביחד.
בקיצור, רעים, אני חוששת שבקרוב תמונה גם בכנסת ישראל "שרת בדידות", כמו באנגליה. האדם יתחיל להתבודד עם מכונות ומחשבים, כאמור, והבדידות תכרסם בו לאט לאט, ותכלה כל חלקה טובה בנשמתו ובגופו. הפסיכולוגים ורופאי בריאות הנפש עושים ויעשו המון כסף. עם כל הקידמה, הם ישמעו אנשים בודדים שמאסו בחייהם, שאין להם כבר חיי חברה.
יהיו גם צעירים, שטעמו, כאמור, מהכול, ויחפשו דברים שיסעירו אותם – שלא תמיד הם טובים. לדוגמה, אותו צעיר ישראלי, שחי בישראל, וריגל ביודעין עבור האויב הפרסי, תמורת כמה אלפי שקלים עלובים, וישנם אחרים דוגמתו. וזאת, כדי למצוא עניין מסעיר בחייו, אחרי שטעם מהכול טרם זמנו ולא בהדרגה. עגל הזהב ישוב לשלוט בנו ועד אנה אנו באים.
רק לאחרונה גיליתי שיש תנועה בארה"ב, של אנשים צעירים יחסית, בני 30-50, שמדברים על כך שהם רוצים "ללכת אחורה" עם אורחות חייהם, לא להיות צמודים לפלאפון ולמחשב, אלא להיפגש בחברותא, לדבר, לשחק, לשיר … כמו פעם. עוד אמרו, שהם רואים מה יקרה הלאה עם המכונות הללו, שמשתלטות לנו על החיים. סיפרו, שהם פוחדים מעתיד שבו אנשים ישבו כל היום בבית לבד יתעסקו עם המחשב והסלולרי, ידברו רק עם ה-AI. כלומר, בדיוק מה שכתבתי למעלה.
נתקלתי בזאת באופן אישי. אמר לי מכר, שרצה לפרסם את הוצאת הספרים הקטנה שלי, שהוא שעות תמימות יושב עם ה-AI "הנפלא הזה", עד שהוא בעצמו מרגיש ששכח את כל העולם סביבו ולפתע שם לב שהשעה כבר חצות מבלי שהרגיש איך עבר הזמן. הגבר בן 45 ויש לו שלוש בנות. זאת הסכנה בשימוש לא נכון בטכנולוגיה, שימוש יתר, עד שאדם נותר לבדו עם המחשב בלי חברת בני אדם, ושוכח, במקרה זה, אפילו את בני משפחתו הגרים איתו באותו בית, דבר שיגרום בעיות נפשיות בעתיד, וחבל!
לכאורה הכול טוב ויפה עם הקידמה, אך אנשים מחפשים "חיים קלים" וזה פוגע בכושר השיפוט שלהם, בהיגיון הבריא שלהם ובחשיבה הבהירה מבלי להסתמך על "מחשבתו" של ה-AI. כך שבסופו של דבר הבינה המלאכותית גורמת נזק, ובמקום קדמה אנו "מתקדמים" אחורה.
וגם מצאתי גם במרשתת הפניה למאמרים מקצועיים בנושא.
רעיי, אל תיכנסו למרה שחורה בשל דבריי. במקום זאת, השתדלו להוציא מתוק מעז, והאמינו לי, יש הרבה מתוק בעולמנו. אל תדלגו על שלבי סולם החיים, אלא תעלו בו שלב אחרי שלב. תצאו ותבלו עם חברים, תקראו ספרים (ולא בטלפון הסלולרי, שלא תהרסו לכם את העיניים).
אל תעשו קיצורי דרך עם ה-AI, כי הקיצורים יפגעו בכם בעתיד, ואתם תשלמו את מלוא המחיר. תיהנו מהידע של ה-AI, אך אל תיתלו בה יהבכם. תכבדו ותסייעו לזולת, כי אף פעם אינכם יודעים מתי אתם תזדקקו לעזרה. תיהנו מהעולם היפה הזה, בדרך הישרה והטובה, ובטוחני שתצליחו. וגם, תשמעו מדי פעם לעצות שנותנים לכם הזקנים, כי אין חכם כבעל ניסיון!
תוספת של ד"ר אמנון סטופ
עתיד כזה, כפי ששמחה סיאני חוששת ממנו, שבו אנשים לא יפגשו יותר פנים אל פנים, מזכיר את ספרו של אסימוב "השמש העירומה". אף שגם בספר בני אדם בכל זאת מדברים זה עם זה, ורואים זה את זה דרך מסך שהוא למעשה כל הקיר, כך שנדמה שאנשים יושבים זה מול זה כאשר הם יכולים להיות בצד השני של העולם. אבל התיאור בספר, שנכתב בשנות ה-50, מזכיר את הסמארטפונים ופגישות בזום ודומיו בימינו.
אסימוב ידוע במיוחד בתיאור שלו של בינה מלאכותית (ב"מ) מושלמת. של "מוח פוזיטרוני" שמותקן ברובוטים שיכולים לעשות כל מה שבני אדם יכולים לעשות, כולל עבודות פיזיות, וכמובן חזקים, מהירים, ועמידים יותר מבני אדם. מענין שנראה שאסימוב הבין בשלב מסוים שרובוטים כאלו ייתרו את המין האנושי, ולכן הוא מסביר, בהמשכים והפריקוולים של סדרת "המוסד" הידועה שלו (שמתארת אימפריה גלקטית לאחר שבני האדם התפשטו לכל הגלקסיה), שבני האדם במודע החליטו לא לייצר יותר רובוטים כאלו, או בכלל להשתמש בבינה מלאכותית (כפי שעשה גם פרנק הרברט ביקום של חולית).
כמו שמחה סיאני למעלה, אני לא מתנגד לטכנולוגיה, להיפך. אני חושב שבב"מ טמונה הבטחה גדולה לשחרר את בני האדם, כמו טכנולוגיות קודמות, מעבודות "שחורות" – מסוכנות, משעממות, חוזרות על עצמן, שמעטים האנשים שבאמת רוצים לעשות. אני אישית לא חושב שה Large Language Models, אלו שכיום טוענים שהם ב"מ, הם באמת "בינה". לדעתי מערכות כמו chatGPT אפילו לא קרובות למה שנקרא "בינה מלאכותית כללית", והן לא יכולות לעשות אפילו חלק ממה שהבטיחו שיעשו, וראו את מאמרי בגליון "נכון" מספר 14 שיושק בשבוע הבא ביום שני 21/4. אבל ברור שגם המודלים האלו יוצרים בעיות, כפי ששמחה מתארת למעלה, ובודאי שבבינה מלאכותית אמיתית, כמו הרובוטים של אסימוב, יש בעיות וסכנות רבות.
אין צורך להפליג לחזונות אפוקליפטיים כמו בסרטי Terminator או The Matrix שבהם "המכונות" פונות נגד בני האדם, או משתלטות על האנושות לטובתה כמו בספר Humanoids. בעצם קיומן של מכונות עם בינה שווה או עולה על זו של בני האדם יש סכנות, וכפי שאנשים שעוסקים בנושא מזהירים – צריך לחשוב על הסכנות מראש. אבל, כפי ששמחה אומרת לנו, גם מערכות שאין בהן "בינה" אמיתית, ובכל זאת "משחררות" את בני האדם מהצורך לחשוב – הן מסוכנות.
קראו גם
את דוד סנדובסקי על הסיכונים בחדשנויות תרבותיות וטכנולוגיות
מה זה הטירלול הזה? מילא חוסר ההבנה מה ההבדל בין בינה מלאכותית "אמיתית" למה שבעיתונות קוראים אבל את כל המאמר היה אפשר לתמצת ב"הדור של היום, לא מבין כלום"
תגובות כאלו מצערות אותי משום שהן לא עניניות. הוצגו טענות על כך שהטכנולוגיה מפרידה בין בני אדם ומבודדת אותם, על ניוון היכולת ללמוד תוך הסתמכות על מערכות כאלו, ועוד. אם הטענות האלו לדעתך לא נכונות – כתוב תגובה מנומקת. או, למצער, הסבר מה ההבדל בין ב״מ ״אמיתית״ למה שבעיתונות קוראים ב״מ. אנשים שאינם אנשי מקצוע בתחום כמובן יודעים מה זה ב״מ רק מהעיתונות, מיעוט קטן הם בוגרי מדעי המחשב. אם תכתוב הסבר רציני אבל פופולרי על האבחנה, ומהי ב״מ אמיתית (אתה מתכוון אני מניח ל״בינה מלאכותית כללית״ שהזכרתי בתוספת שלי), נשמח לפרסם. אני מדגיש, הסבר פופולרי. יקום תרבות הוא לא עיתון מדעי מקצועי.
לא עניני למה? בטח לפני 100 שנים אמרו אותו דבר לגבי רדיו, לפני 70 שנה לגבי טלביזיה ולפני40 שנה זה היה משחקי מחשב ולפני 20 אינטרנט. אולי בזמן שאחרי גוטנברג אמרו דברים דומים על ספרים. כל הטיעונים לגבי כל הדברים האלו היו דומים לפחות אלו ששמעתי משך חיי וההבנה הפסיכולוגית בחצי גרוש שלי היא שהכל נובע מתסמונת "מישהו הזיז את הגבינה שלי"
בינה מלאכותית כמשמעה היא, יציר אדם שמסוגל לחשוב בעצמו. ב"בינה מלאכותית" כמו chatgpt אין שום בינה, יש מודולי ניתוח שפה (מעוררי התפעלות בפני עצמם) שמסוגלים להבין את הנאמר ולמצוא התאמה בבסיס נתונים ענק. זה הישג עצום בפני עצמו שאדם יכול לנהל שיחה עם הדברים האלו כפי שהיה יכול עם אדם אחר (מבחינה טכנית, עובר את מבחן טיורינג) אבל התשובות שיקבל יהיו מטומטמות הרבה פעמים גם אחרי שהוסבר ההקשר וכל אדם סביר לא היה ממשיך לחזור על הוריאציות של התשובות המוטעות.
זה אפילו לא המצב שchatgpt הוא בינה מלאכותית מטומטמת. למרות שאנחנות מתיחסים לchatgpt כתוכנה אחת למעשה יש מספר תוכנות כאשר למספר דיסיפלינות יש תוכנה אחרת. בזמנו כשהייתי צעיר ויפה קראו לדברים כאלו "מערכת מומחה" ולא בינה מלאכותית.
*הכותב עושה שימוש כמעט מדי יום בchatgpt ומוצא אותו מאוד מועיל ולו לצורך "סיעור מוחות", ומדי פעם הוא אכן צריך להזכיר לעצמו שבסך הכל מדובר בתוכנה לא חכמה במיוחד ועדיין הוא מצליח לתקשר עם הבריסטה שמכינה קפה ועם לקוחות קבועים אחרים בבית הקפה בוא הוא נוהג לשהות. גם עם המשפחה והשכנים הוא מצליח לתקשר אפילו בלי whatsup פנים מול פנים.
מרק, אתה בדיוק כותב מה שאני חושב. אני גם חושב שזו טעות לכנות את ה LLM בינה מלאכותית ואלו מערכות מומחה (נהדרות, אין ספק). ועדיין, הטענה היא שהן פוגעות ביכולת הלמידה והחשיבה של אנשים. שמחה נתנה דוגמא, וקראתי בתקשורת על דוגמאות אחרות. כולל פרופסור באוניברסיטה שציינה שהיא פוסלת על הסף עבודות שבבירור נכתבו על ידי הצ׳אט ובפרט כאלו שלא טרחו להסיר מהן את השורה
chatGPT says:
אם זה לא דוגמא לוויתור על יכולת החשיבה הביקורתית שלך ופשוט להעתיק מה שהמכונה נותנת, אז מה כן.
לדעתי אכן הטכנולוגיה מנוונת יכולות מסוימות (אנחנו כבר לא זוכרים בע״פ ספרים שלמים), וזה לא בהכרח רע כי כך מפנים זמן ו״מקום בראש״ לדברים אחרים. הבעיה היא, שוב, בהפסקת החשיבה. כמו הסיפור לפני כמה שנים על איזה מקום בארהב שהשריף המקומי כל הזמן היה צריך לבוא לגרור אנשים שנהגו לתוך המדבר כי תוכנת הניווט אמרה להם (בטעות כמובן) לנהוג ישר. מה, לא ראיתם שאין כביש? האוטומט אמר אז עשיתם? מי פה הרובוט…אז עכשיו תיקנו את המערכת והיא כבר לא טועה. אבל אנשים עדיין נוהגים ״על אוטומט״.
אותם אלו שהעתיקו את "chatGPT says:" העתיקו גם את שם התלמיד במבחנים בבית הספר, העתיקו את מה שיש stackexhange בלי לנסות להבין ולהתאים, או יותר גרוע העתיקו את התוצאה הראשונה בגוגל. לא שבהכרח ההעתקה בפני עצמה היא רעה, יתכן שכל דבר גרוע ככל שיהיה שמועתק הוא עדיין רמה אחת לפחות ממה שאותו אדם מסוגל ליצר בעצמו. הנקודה היא שאנשים העתיקו, מעתיקים ויעתיקו, אולי הסיבה היא עצלנות אולי הסיבה היא חוסר זמן לצבור ידע מתאים, אולי סיבה אחרת אבל מי שמתלונן על העתקות מchatgpt מתלונן על כך שלא מעתיקים כפי שהוא רגיל שצריך להעתיק לכן תסמונת "מישהו הזיז את הגבינה שלי"
זה לא שהחשיבה מפסיקה, מישהו צריך להיות חכם מספיק בשביל להדריך את הב"מ לספק לו את התוצאה הרצויה. להתלונן על השימוש בב"מ כמרדד אינטלגנציה הוא כמו להתלונן על כך שאנשים לא מסוגלים לדעת כמה עודף מגיע להם בסופר מאז המצאה המחשבונים כי הם מייתרים כל יכולת אריטמטית.
לגבי ההסתמכות על תוכנות ניווט, למה לשקר לעצמנו? מתי פעם אחרונה השתמשנו במפה מנייר ומי בכלל ידע לקרוא אותן מספיק טוב בשביל לנווט במדבר? על כל אדם שהלך לאיבוד במדבר או נפל מכביש בנמל יש מאות מליונים שהגיעו ליעד שמעולם לא היו בו קודם בעשירית הסטרס.
על כל עובדי הדואר הבריטי שנאלצו להחזיר לדואר כסף בסכומים לא טריויאליים בגלל באג תוכנה שמעת? אין ספק שהבעיה היא שלהם כי הם התנוונו כל כך שלא עשו הנהלת חשבונות כפולה. אולי אם היו משתמשים בחשבוניות במקום במחשב זה היה נמנע מהם 🙂
העולם מתקדם ולכל קידמה יש את החסרונות שלה, אבל לטעמי הדבר המגוחך ביותר זה לטעון שהקימה מייצרת אנשים טפשים או חסרי קישורים חברתיים. אחרי 10000 שנה מאז שהמציעו את הפפירוס יש מספיק עדות אמפירית שהטיעונים האלו אינם נכונים
(RFK טוען שחיסונים מנוונים את הגוף או סתם "לא טבעיים" ובזכותו יש לנו קבוצת ביקורת על כמה הקידמה מזיקה כי יש התפרצות של אבעבועות רוח בטקסס עם ילדים מתים. רק מוכיח שתמיד אפשר לחזור לזמנים הרעים לפני הקדמה, זה רק עולה בחיי אדם או באיכות החיים שלהם)
וסתם ככה לסיום, זה שבתיבת התגובות מבקשים ממני להכניס דוא במקום דוא"ל זה תוצאה של בינה מלאכותית או בינה טבעית? נראה לי שבני האדם האלו לא ממש חזקים בחשיבה 🙂
רק להבהיר את הסיפור על אנשים שנתקעו במדבר, היה כביש שפשוט נגמר. גם בארהב יש כבישים כאלו במיוחד במקומות נידחים, והם פשוט המשיכו לנהוג לתוך החול. זה לא ניווט במדבר.
בענין עובדי הדואר הבריטים אני זוכר ששמעתי משהו על זה והטענה היתה שדרשו להחזיר אחרי 10 שנים שיש התיישנות ולמעשה הדרישה להחזיר היא הלא-נכונה, אבל אני לא זוכר את הפרטים אם בכלל התענינתי.
בענין הדואל אחרי פעם אחת שהכנסת, ואם אישרת לזכור כמובן, מופיע אצלי לפחות ״שמרו את שמי, הדוא"ל שלי ואת האתר שלי בדפדפן זה לתגובות הבאות״. אנסה לבדוק מה שכתבת ולבקש שיתקנו.
תודה.
בריאות וחג שמח.
ד"ר משה גרנות כותב :
אשר למאמר של שמחה סיאני החוששת ממעלליה של AI, כדאי שתסיר דאגה מליבה: כל חידוש מעורר דאגה – למשל, במהפכה התעשייתית באנגליה פועלים העלו מכונות באש כי חששו לפרנסתם, אבל דווקא נוספו פרנסות של תעשיית המכונות. עם בואו לעולם המחשב האישי חששו שוב לאבטלה גדולה, אבל מסתבר שדווקא נוספו מלאכות הקשורות במחשב ובאביזריו הנלווים. לאחר משבר קטן, גם ל- AI יימצא פתרון לרווחת דור העתיד.
פרופסור זיוה שמיר כותבת בתגובה
שלום שמחה,
אני מסכימה איתך ב-100%, עולמנו הפוסט-פוסט-מודרני מביא מרוב תחכום וקִדמה לניוון המוח.
הצגת את התועה באופן יפה ומשכנע.
זיוה
שמחה סיאני כותבת:
ד"ר אלי אשד,
אכן כתבתי שבינה מלאכותית טובה אך רק במידה!!!
ימים ידברו, ובינתיים, אני שולחת לך ולד"ר משה גרנות, ידידי הוותיק, את תשובתו של ד"ר אלכס שניידר
בלינק הבא ששלח אליי, ואתם, ד"ר אשד וד"ר גרנות תגידו לי, האם לקחתם גם זאת בחשבון, או שאתם מביאים דוגמאות מימים ימימה על חידושים שפוגעים בבן האדם מבחינה של פרנסה, אך לא מהבחינה של ניוון המוח האנושי וקיצורי הדרך הגורמים לחוסר סבלנות, לבורות בשפה העברית והבדידות שיסבלו ממנה אנשים צעירים כזקנים בעתיד הקרוב?
ידידיי, אני לא סתם חרדה, כי אני רואה לאן זה מוביל.
לדוגמה: הבת הבכורה שלי, כמעט בת שישים, כותבת לי מארצות הברית, שם היא מתגוררת:: "אני אוהבת אותך" באנגלית – I love (צורה לב אדום, בלי המילה) U. והבן הקטן שלי בן ה56, כותב לי כמו במברקה:
"כן, לא, בסדר, נראה.. אימא בלי מגילות, שורה תחתונה, קצר ולעניין!". אין להם סבלנות בגרוש, כמו אחותו הגדולה – היא שם, והוא פה, ואותה תוצאה של תלות במחשבים. אז אם הם בגילם כותבים כך, מה יגעשו ילדיהם? את אותו דבר! לא שפה, רק אימוג'ים וסימנים, בלי לימוד השפה, קריאה, כי אין סבלנות, והכל מהר , עכשיו ועל המקום!
ואילו אתם, המלומדים ממני, לא רואים זאת בחיי היומיום שלכם, עם הילדים עם הנכדים, אלא חושבים רק על ההתקדמות באמצעות הטכנולוגיה? גם אני שמחה עליה, כי היא מקלה על חיינו בכל השטחים לא מעט, אך האם זרקתם מבט גם לצד השני? האם הבאתם בחשבון את התוצאות שיקרו לצד האנושי, אם לא "משתמשים" בו בתמונה ובמידה? לא!
ני מצרפת את המאמר ששלח לי ד"ר אלכס שניידר, כאמור, תקראו אותו בקפידה, "תעכלו" את הכתוב בו , תחשבו שנית ותבינו על מה אני מדברת ועל מה אני מצרה.
https://www.maariv.co.il/economy/tech/article-1189327?utm_source=mivzak&utm_medium=cpc&utm_campaign=start
ד״ר דינה לוין כותבת לשמחה סיאני:
שלום שמחה יקרה,
קראתי בעניין רב את מאמרך ואני מסכימה עם תפיסת העולם שלך. היטבת לתאר את שלבי הסכנות שבבינה המלאכותית, את ההתמכרות לה בלי להתאמץ ובלי לפתח את המחשבה והדמיון היצירתי. כמרצה בתלפיות ובמכללה בירושלים לא קיימתי מבחנים אלא הסטודנטיות היו צריכות להגיש לי עבודה על סמך העקרונות שנלמדו בהרצאות. אז עוד לא היה AI ,אך לא פעם נתקלתי בעבודות מועתקות מהאינטרנט. הן היו בהלם מהתגלית שהרסה להם את הקורס. ורק לאחר בכיות והתנצלויות שלהן הסכמתי לתת להן עוד הזדמנות לתקן את הציון הנכשל. אני חושבת שהעלית רעיון מצוין לבחינה פרטנית ובדיקה האם התלמיד מכיר את חומר הלימודים.
האמת שאני נעזרת בבינה המלאכותית אך נזהרת מאוד מתשובותיה ובודקת בכל הדרכים שבידי לאמת את התשובות. לא פעם התשבות מצוצות מהאצבע, לא אמינות ולא מבוססות. אולי זה כך רק בתחום שלי. בכל מקרה העלית טענות נכונות וחשובות שראוי להתייחס אליהן בכובד ראש.
בברכה , דינה לוין