בינה מלאכותית במרחב הפדגוגי

זלדס, נ' וגפן, ע' (2023). "בינה מלאכותית במרחב הפדגוגי". כנס "בינה מלאכותית והמרחב האקדמי", אוניברסיטת בר-אילן, רמת-גן

עיקרי הדברים:

• הבינה המלאכותית מסוגלת לייצר טקסטים שנראים סבירים, אך עלולים להיות שקריים ואף מסיתים
• התוצרים של המכונה אינם כוללים מראי מקום והפניה למקורות שניתן להעריך את אמינותם
• במציאות כזו, עולה חשיבותו של החינוך לחשיבה ביקורתית
• הבינה המלאכותית היא טכנולוגיה חדשנית ומשבשת. מי שלא ילמד להשתלט עליה, עלול לאבד את פרנסתו 
• הבינה המלאכותית יכולה לחסוך זמן רב למורים בהכנת השיעור ובמשימות דומות, אבל אינה יכולה להחליף את המורים בתחומי פעילות חברתיים-רגשיים-ערכיים
• עלינו לחדד את היכולת שלנו להציג למכונה שאלות מדויקות ורלוונטיות, ולהוסיף להן שאלות השלמה והמשך בהתאם לתגובה המתקבלת. אלה המיומנויות שעל מערכת החינוך להקנות לתלמידים
• על המורים והבודקים של עבודות לחייב את התלמידים לבצע את שש הפעולות הבאות:

1. 1. לתת קרדיט לתוכנה אם הם נעזרו בה.
   2. להציג את הדיאלוג שניהלו איתה.
   3. להסביר אילו שאלות הציגו לה ומדוע.
   4. לתאר כיצד בדקו את הנתונים שהפיקה המכונה.
   5. לדווח אילו שיפורים הוסיפו התלמידים על התוצר הראשוני של המכונה.
   6. לערוך רפלקציה על התהליך.

• את הציון יש להעניק על ביצוע שש הפעולות דלעיל, ולא רק, אולי גם לא בעיקר, על התוצר הסופי
• תלמיד שהראה כי לא ויתר למכונה, לא הסתפק בתשובה הראשונה שנתנה אלא הציג לה שאלות חכמות ובדק היטב את מה שקיבל, יזכה לציון גבוה. וכך גם תלמיד שהוסיף רעיונות חשובים משלו

אוניברסיטת בר-אילן ערכה במרץ 2023 כנס בנושא "בינה מלאכותית והמרחב האקדמי", שבו דנו בהשפעת הבינה המלאכותית על תחום החינוך. לפניכם סיכום המושב "בינה מלאכותית במרחב הפדגוגי", שעסק בבעיות ובאתגרים שהבינה המלאכותית מציבה בפני מערכת החינוך, וגם בפתרונות האפשריים להם.

נתן זלדס, מומחה לנושאים חברתיים הקשורים לחידושים בטכנולוגיה:

עלינו להיות מודעים לכך שמערכות הבינה המלאכותית עלולות להיות מוטות נגד מיעוטים, מפני שהמידע שהן אומנו עליו מכיל הטיות כאלה. למשל, בתחילת הדרך המכוניות האוטונומיות לא זיהו הולכי רגל שחורים, משום שהן אומנו בעיקר על הולכי רגל לבנים. בעיה זו אמנם תוקנה בינתיים, אך ייתכן שעדיין יש בעיות נוספות.

לדף הכנס

לקריאה נוספת: כל סיכומי המאמרים בנושא בינה מלאכותית

ההתפתחויות הטכנולוגיות עלולות לסכן את הדמוקרטיה. למשל, טכנולוגיות של דיפ-פייק שיכולות לשתול בצורה משכנעת נאומים בפיותיהם של פוליטיקאים ודוברים אחרים. טכנולוגיות אלה זולות, נגישות וזמינות. כמעט כל אחד יכול לעשות בהם שימוש כדי לייצר ולהפיץ שקרים, תיאוריות קונספירציה ודברי הסתה בתפוצה רחבה. במציאות כזאת, שבה הפייק ניוז נראה לפעמים אמיתי יותר מחדשות אמיתיות, עולה חשיבותו של החינוך לחשיבה ביקורתית וספקנית. הדברים אמורים גם לגבי ChatGPT ומחוללי שיח אחרים, שמהווים פריצת דרך מדהימה בייצור מידע שנראה סביר, אך פעמים לא מעטות הוא שגוי. וזאת בדרך שקשה יותר לאתרה בהשוואה לחיפוש מסורתי בגוגל, משום שהתוצרים אינם כוללים מראי מקום והפניה למקורות שניתן להעריך את אמינותם.

מה שמקשה על החשיבה הביקורתית, היא העובדה שהתהליכים, השיקולים, הפרמטרים, האלגוריתמים והחישובים של מערכות בינה מלאכותית רבות אינם שקופים ואינם ידועים אפילו למתכנתים. כלומר, יש לנו תוצר סופי, אבל לא תיאור של התהליך שהוביל אליו (הנמקה והצדקה של התוצאה). התוצר מוגש למשתמש כ"ככזה ראה וקדש", ואין לנו שום ביקורת על התהליך, מפני ששקיפות היא תנאי הכרחי שבלעדיו לא מתאפשרת חשיבה ביקורתית.

אז למה הממשלות לא עוצרות את זה?

מחמש סיבות:

1. ההתקדמות הטכנולוגית מהירה מכדי שאפשר יהיה להגיב עליה ביעילות. (מנגנונים ממשלתיים ומדינתיים שמגבילים פעילות וחופש דורשים, ובצדק, דיונים ממושכים ובדיקות יסודיות – כדי שלא לפגוע למעלה מהדרוש בזכויות).
2. חוסר איפוק כתכונה של הטבע האנושי – כל מה שניתן להיעשות ייעשה.
3. דילמת האסיר (אם אנחנו לא נפתח את הטכנולוגיות האלה, מדינות אחרות, בהן יריבות עסקיות ואויבות צבאיות שלנו, יפתחו אותן לפנינו).
4. אינטרסים כלכליים חזקים של חברות כמו מייקרוסופט, גוגל ופייסבוק.
5. חוסר מודעות וחוסר הבנה מספקת בקרב פוליטיקאים, רגולטורים והציבור הרחב של הסכנות הצפויות מהטכנולוגיה.

האם נוכל להתמודד עם כל זה?

בטווח הארוך ייתכן שיש מקום לאופטימיות. אחרי הכל, האדם הקדמון הצליח להשתלט על האש. העניין הוא שבדרך היו הרבה כוויות ונפגעים, ולכן סביר שבטווחים הקצר והבינוני, עד שנבין אותן ונמצא דרכים לרסנן, הטכנולוגיות החדשות עלולות להביא גם סכנות ונזקים.

ד"ר עמיר גפן, מנהל מעבדה לבינה מלאכותית בחינוך של משרד החינוך:

מבחן טיורינג בודק אם ניתן לקבוע אם תוצר מסוים הוא פרי מאמצי אדם או מכונה. בכל האמור בעבודות אקדמיות, יותר ויותר מרצים נכשלים במבחן הזה, כלומר אינם מסוגלים לקבוע אם הטקסט נכתב על ידי סטודנט או על-ידי בינה מלאכותית. ואם הם מצליחים, זה פעמים רבות בגלל שהעבודות שחיבר ChatGPT טובות יותר ממה שמגישים רוב הסטודנטים. גם אנחנו במשרד לא מצליחים להבחין בין עבודות אנושיות ובין עבודות שחיברה התוכנה.

בקרוב יוטמעו הכלים האלה יוטמעו בתוכנות האופיס של מיקרוסופט: וורד, פאואר-פוינט, מנוע החיפוש בינג ואקסל. ללא ספק, מדובר בטכנולוגיה חדשנית ומשבשת. מי שלא ילמד להשתלט עליה, עלול לאבד את פרנסתו ואת מקום עבודתו.

מצד שני, בשלב זה המערכות עדיין לא מצליחות להשתוות לרמת הסטודנטים הטובים ביותר, ולא לקבל ציון מאה. התשובות של הבינה המלאכותית בינוניות פלוס, אבל לא מצטיינות באמת. המערכות מתקשות, ולמעשה גם לא מנסות, לחבר תשובות מקוריות ויצירתיות באמת. אין זה מקרה. המערכת מונחית לחפש את "האמצע של האמצע של האמצע", כלומר לערוך את הסיכום הכי מוסכם ומקובל של הממצאים והעמדות בכל סוגיה, בלי חריגות מעוררות מחלוקת ובלי הפתעות. כמו כבשה קונפורמית בעדר. מכאן קשה עד בלתי אפשרי להגיע לתוצאה מקורית ומבריקה. כפי שאמר אלברט איינשטיין: "האדם ההולך אחרי ההמון בדרך כלל לא יילך מעבר למקומו של ההמון. האדם ההולך לבדו, סביר להניח שימצא את עצמו במקומות שאף אחד מעולם לא היה בהם לפני כן".

כמו כל חידוש, הבינה המלאכותית מציגה איום והזדמנות. בתחום החינוך, החששות מפני העתקה מוצדקים. אבל אפשר ומוטב להתייחס אליהם כאתגר. אנו בדרך כלל לא אוהבים שינויים, אבל עכשיו אין ברירה. הבינה המלאכותית יכולה לחסוך זמן רב למורים בהכנת השיעור ובמשימות דומות, אבל אינה יכולה להחליף את המורים בתחומי פעילות חברתיים-רגשיים-ערכיים, שבהם אין תחליף לגורם האנושי.

ניתן לראות את השימוש בבינה המלאכותית כתהליך שמתחיל באדם ונגמר באדם. כמו ברעיון הכריך: אדם-מכונה-אדם. כלומר, הכל מתחיל מבני אדם, מסקרנות, מרצון לדעת משהו משאלה שמעניינת אדם. בשלב השני יש תהליך שמתבצע כמו בקופסה אטומה, בחוסר שקיפות. אבל התוצר שמחזירה המכונה אינו התוצר הסופי. התוצר חוזר אלינו – ואנחנו צריכים לבחון את אמינותו, להעריך את איכותו, לתקן, להוסיף, לשנות ולשפר. עלינו לעשות זאת באמצעות חידוד היכולת שלנו להציג למכונה שאלות מדויקות ורלוונטיות, ולהוסיף להן בהתאם לתגובה המתקבלת שאלות השלמה והמשך. אלה יכולות ומיומנויות שעל מערכת החינוך להקנות לתלמידים. איך ניתן לעשות זאת? למשל, לחייב את התלמידים לבצע את הפעולות הבאות:

• לתת קרדיט לתוכנה אם הם נעזרו בה.
• להציג את הדיאלוג שניהלו איתה.
• להסביר אילו שאלות הציגו לה ומדוע.
• לתאר כיצד בדקו את הנתונים.
• לדווח אילו שיפורים הוסיפו על התוצר הראשוני של המכונה.
• לערוך רפלקציה על התהליך.

את הציון יש להעניק על ביצוע שש הפעולות דלעיל, ולא רק, אולי גם לא בעיקר, על התוצר הסופי. כך למשל, תלמיד שהראה שלא ויתר למכונה, לא הסתפק בתשובה הראשונה שנתנה אלא הציג לה שאלות חכמות ובדק היטב את מה שקיבל, יזכה לציון גבוה. וכך גם תלמיד שהוסיף רעיונות חשובים משלו.

כאנשי חינוך עלינו לייצר תהליך טוב, שמתחיל באדם, שהציג שאלות נכונות, עבר אמנם דרך חור שחור שאיננו יודעים עליו דבר, אבל גם חזר לאדם, לתלמיד, שהעריך ושיפר אותו.