נוצר על ידי DaVinci מהפרומפט artificial intelligence creates a drab world
נוצר על ידי DaVinci מהפרומפט artificial intelligence creates a drab world

שיפור ניכר של “בינה מלאכותית יוצרת” בשנים האחרונות מעורר שיח מר בין מתנגדי הבינה המלאכותית Artificial Intelligence, שחוזים התגשמות של חלום בלהות, לתומכים נלהבים, שרואים בבינה המלאכותית מהפכה מבורכת של ממש.

מתנגדי הבינה המלאכותית טוענים, בין היתר, כי היא תאיים על האנושות מהרבה בחינות: אינטלקטואלית; תעסוקתית; יצירתית; ועוד.

התומכים טוענים מנגד כי בקליק אחד אתה מקבל תוצר שפעם היית עובד עליו שעות רבות או אף ימים! סטודנט יכול להכין עבודה סמינריונית, מרצה הרצאה או מאמר, עורך דין כתב הגנה, ושופט פסק דין. שיכלול מתמשך של הבינה המלאכותית בשנים הקרובות יאפשר אולי לתת תשובות לשאלות שהמוח האנושי לא הצליח לפתור: תרופות לסרטן, פתרון בעיות מתמטיות ופיזיקאליות, ועוד.

חברות מסחריות גדולות וקטנות נערכות לשימוש הולך וגובר בבינה מלאכותית ואף מוסדות ממשלתיים – כך למשל משרד החינוך בשנה אחרונה עושה מאמץ לשלב בינה מלאכותית בהוראה בבתי הספר.

הקידמה הטכנולוגית לא ניתנת לעצירה, וראינו זאת לאורך כל ההיסטוריה אנושית, כשכרכרות הוחלפו במכוניות ורכבות, עבודה ידנית במכונות ופסי יצור, ונוקיה באפל. משום כך כדאי להיות מודעים לבעיות שכבר עכשיו ניתן לזהות.

אצביע על שלוש בעיות בשימוש בבינה מלאכותית: בעיית אימות הידע; בעיית פירוק ואינטגרציה של הידע; ובעיית פישוט של הידע ושל השפה.

ראשית, במאות השנים האחרונות עולם הידע התרחב עד כדי כך שעשרות ואף אלפי כרכים של אנציקלופדיות לא מסוגלים לתמצת אותו. מאגרים אינטרנטיים מתרחבים כל הזמן בסיועם של מאות אלפי אנשים מסביב לעולם. לפני מאות שנים איש אשכולות כמו ליאונרדו דה וינצ’י יכול היה לרכז את כל הידע הידוע אז בתחומים כמו רפואה, הנדסה, אומנות, אדריכלות, פיסיקה. לא עוד. אם אנחנו צריכים להבין משהו מסוים ומורכב אנחנו הולכים למומחה בתחום – רופא, עורך דין, מהנדס. יתכן שגם המומחה לא יידע את התשובה ויצטרך לנבור במאגרי מידע על מנת לספק תשובה. אומנם מומחה, לעומתנו, יידע להבחין בין אמיתי לשקרי.

אם אנחנו נבקש מבינה מלאכותית תשובה בתחום שאנחנו לא מכירים, אנחנו לא נוכל לדעת אם תשובה שקיבלנו נכונה או לאו. מבלי ידע קודם לא נוכל לאמת את התשובה של הבינה המלאכותית אלא נאלץ לסמוך על התשובה באופן עיוור.

יש שיטענו שאומנם כעת הבינה המלאכותית אינה מדויקת ואמינה מספיק בכל התחומים, אבל זה יקרה בזמן הקרוב ממש. ייתכן. אבל תמיד יישאר ספק שהיא מוליכה אותנו שולל במקרה מסוים. יש צורך במנגנון פיקוח – במיוחד במידע שאינו פיקטיבי לחלוטין (מה שקרוי בלקסיקון המקצועי “הזיות”) אלא יש בו אי דיוקים קטנים אבל חשובים שדורשים עין מקצועית בוחנת.

שנית, מבלי שאנחנו שמים לב לכך, במהלך הקריאה וכתיבה אנחנו מפרקים את הטקסט שלפנינו, ומרכיבים אותו מחדש בצורה אחרת. קריאה של טקסט יחד עם שאלות, כפי שנותנים למשל לסטודנט באוניברסיטה, הוא תהליך שלם במהלכו הסטודנט משכלל את כישוריו, את מיומנויותיו, את השליפה של משמעויות ואסוציאציות רלוונטיות מהזיכרון, ומבצע אינטגרציה של החלקים השונים לכדי תשובה או טקסט שלם.

אין תחליף לקריאה של טקסטים עבור פיתוח הכישורים השיכליים של האדם. הטלת משימות של “קריאה ומתן תשובה” על הבינה המלאכותית היא הפקרות של ממש. היא דנה את האנושות לניוון של הכשרים והמיומנויות. סכנה זו בא לידי ביטוי כבר עכשיו בירידה חדה בהרגלי הקריאה בשנים האחרונות מסביב לכל העולם. שימוש ב”בינה מלאכותית” חייב להיות מדוד ושקול.

שלישית, גם ידע וגם שפה הם דברים מורכבים. רבי רבדים. בשימוש שפתי בשיחה, בקריאה, בכתיבה, אנחנו משתמשים בעולם האסוציאציות הפרטי שלנו, שחלקו הוא מאוד נפוץ ומקובל, וחלקו מצומצם לקבוצות קטנות יותר. העושר השפתי והספרותי של יצירות ספרות טמון בהצטלבות בין עולם האסוציאציות של הסופר לעולם האסוציאציות של הקורא. משום כך אנחנו כקוראים יכולים לא רק למצוא את המשותף בקריאה של שייקספיר, וולף, או עוז, אלא גם לקרוא באופן שונה ולתת פרשנות שונה מאנשים אחרים. משום כך בן משפחה אחת לא בהכרח יבין שיחה של בני משפחה אחרת, ומי שלא שירת לא יבין את הדקויות ואת האירוניה של הז’רגון הצבאי.

בינה מלאכותית מכתיבה חד-ממדיות, כי היא מתבססת על עקרונות סטטיסטיים של השימוש בשפה. היא לא מתחשבת כלל בעולם האסוציאציות הפרטי שלנו, אלא רק בסטטיסטיקה של צירופי מילים. היא הופכת את השפה שלנו לשפה דלה וענייה. כניסה מסיבית של “בינה מלאכותית יוצרת” תקדם פישוט של השפה, כי הרבה מצירופי המילים יישארו מחוץ למסה הסטטיסטית העיקרית.

יתרה מזו, משום שבינה מלאכותית מתבססת על עקרון סטטיסטי של שימוש במילים, היא תכתיב לנו נרטיב מסוים אחד של ידע, הנפוץ והמקובל יותר, ותדחק את רגליהם של נרטיבים משניים יותר – מה שעלול לפגוע בקידום הידע עצמו, בקידום המדע. יותר מכך, כולנו עלולים להפוך לבני ערובה של כוחות לא שקופים, וקורבנות בלא יודעין של מניפולציות שונות.

אין טעם להילחם בקידמה טכנולוגית, אבל כדי שחלום הבלהות בשביל האנושות לא יתגשם חייבים ליצור איזונים ובלמים בכל המערכות החברתיות, התרבותיות, והציבוריות. 

צפו גם

ב- Sabine Hossenfelder על מחקרים שמראים שהיצירתיות של בינה מלאכותית נמוכה ויורדת

בלפור חקק על הספר בעידן הדיגיטלי

ערך ויקיפדיה על הרעיונות שבמאמר Is google making us stoopid

4 תגובות

  1. אלו נקודות חשובות שעל חלקן נכתב במידה מסוימת גם בתקשורת, למשל הבעיה של הצפה במידע שקרי דווקא שמיוצר במהירות ובקלות על ידי ״בינה מלאכותית״, סרטי יוטיוב מזויפים למשל, או שהמערכות האלו אכן פשוט נותנות מידע לא נכון. הטענה על החד-ממדיות חדשה לי, ומענין שבדיוק נתקלתי בסרטון של סאבינה הוסנפלדר שבו מוסבר שיש ממש מחקרים שמראים שככל שיותר מהמידע שהמערכות האלו ניזונות ממנו מגיע ממערכות כאלו, כך הוא נעשה יותר מעוות ויותר אחיד. דווקא בענין פיתוח הכישורים השכליים אני לא בטוח. כל פעם שיש טכנולוגיה חדשה מזהירים מפני הבעיה הזאת. אני מניח שכשהמציאו את הכתב טענו שזה יפגע ביכולות הזיכרון האנושיות – ואפילו צדקו (מי היום יכול לזכור בע״פ את האודיסאה), אבל היתרונות עולים בהרבה על החסרונות. ואחרי שכתבתי את כל זה, אני פשוט חושב שמה שנקרא ״בינה מלאכותית״ הוא לא באמת ״בינה״. מאוד לא התרשמתי מהדוגמאות שניתנו למה שהמערכות האלו ״יצרו״. אני בספק אם אכן הן יוכלו אי פעם לכתוב עבודה סמינריונית, בודאי לא מאמרים הרצאות או פסקי דין. אני לא מודאג דווקא כי אני לא מעריך את המערכות האלו כלל. זה סתם עוד כלי שיכול לשמש ליעול העבודה אבל בשום אופן לא מחליף אנשים וגם לא יחליף.

    • באשר לתוצרים: השימוש בבינה מלאכותית נעשה כמעט בכל התחומים. נכון שרוב התוצרים עדיין בינוניים שבטווח זמן של כמה שנים התוצרים בכמה תחומים יהיו מאוד טובים.
      לגבי האנלוגיה שלך לזכרון. נדמה לי שזיכרון הוא יכולת שהיא ברובה אם לא כולה יכולת פסיבית של השכל האנושי לעומת קריאה שהיא יכולת אקטיבית של השכל – אנליזה וסינתזה ועל כן פגיעה הרבה יותר משמעותית. בשורה תחתונה אני יותר פסימי ממך והלוואי אתבדה.

  2. לא יכולתה לדייק את חדשותי יותר ובפרט בהיותי איש אקדמיה. תרבות הספר היהודית משקפת מה למידה יכולה לפתח. אין קטונתי שנברח מבינה מלאכותית אבל בהחלט צריך לדייק שימוש. דוגמא פשוטה היא תרגום. אם אתה דובר השפות זה כלי נפלא שאתה מדייק את הצוצר שלו. אם לא… כמו שכתבת, לך סמוך. דבר נוסף. לא הכל נמדד לפי מהירות. תוצר..

    • כפי שאחד החברים שלי העיר לי – כנראה אפליקציות מקצועיות, ייעודיות שינוהלו ויוזנו על ידי אנשי מקצוע יצמצמו את האפשרויות של הטעויות. אבל זאת רק בעיה אחת ממיני רבים…

השאר תגובה

אנו שמחים על תגובותיכם. מנגנון האנטי-ספאם שלנו מייצר לעתים דף שגיאה לאחר שליחת תגובה. אם זה קורה, אנא לחצו על כפתור 'אחורה' של הדפדפן ונסו שוב.

הזן את תגובתך!
הזן כאן את שמך

4 + שש =