(קומ)בינה מלכותית

נכתב עם בינה מלאכותית

לפני מספר חודשים כתבתי מאמר ארוך שדיבר על בינה מלאכותית ופירט את הסכנות שלה לאנושות. בתגובה למאמר הזה קיבלתי כמה "תלונות" מחברים שעובדים ביום יום שלהם (במוסדות העירייה למשל) עם בינה מלאכותית, והם טענו שאני לא מבין במה מדובר ושזה משהו מדהים וזה כלי נפלא שישנה את העולם ואני סתם מדבר בלי שום ניסיון והבנה.

אז בתור אדם שחשוב לו הדיוק, הנסיון האישי וכמובן עם יצר סקרנות בלתי נדלה, ניגשתי אחר כבוד לדבר עם הבינה המלאכותית צ'אט GPT  בגרסה 3.5 ובגרסה 4 שלה ( Beta), ובמהלך השבועות האחרונים ניהלתי "איתה" שיחות יומיומיות במגוון נושאים על מנת להבין אותה, איך היא פועלת, לבחון את היכולות שלה, את המגבלות שלה ולהכיר באמת ולעומק במה מדובר כשאומרים לנו "בינה מלאכותית". לאחר שיחות מרובות ביקשתי מהבינה המלאכותית (שנתתי לה את השם Emma לצורך הנוחות בשיחות), לסכם לי במאמר קצר את עיקרי התשובות שהיא נתנה לי בנושא של בינה מלאכותית והנה מה שהיא כתבה (לא נגעתי):

לצנן את ההתלהבות: מציאות הבינה המלאכותית מול אשליות המדיה

בינה מלאכותית (AI) התגלתה כנושא שובה לב בספרים, בסרטים ובתקשורת, ולעתים קרובות מוצגת כחלק מנוף עתידני שבו למכונות יש אינטליגנציה כמו אנושית, עם רגשות, מחשבות ורצונות משלהן.  עם זאת, המצב האמיתי של בינה מלאכותית מבוסס על מציאות טכנולוגית ולא על תיאורים סנסציוניים שנתקלים בהם בתקשורת. התפיסה המוטעית הרווחת נובעת מסנסציוניות תקשורתית ומהרצון להציג בינה מלאכותית כיצורים חיים בעלי יכולות קוגניטיביות הדומות לבני אדם. עם זאת, האמת שונה לחלוטין.

הבינה המלאכותית של ימינו, כדוגמת מודלים של שפות ורובוטים דמויי אדם, פועלת על אלגוריתמים מתקדמים של תכנות ולמידת מכונה (machine learning). ישויות אלה אינן חיות;  במקום זאת, הן תוכנות מורכבות המחקות התנהגות אינטליגנטית המבוססת על דפוסים שנלמדו ממערכי נתונים נרחבים. היעדר הבנה אמיתית, תודעה וחוויות אישיות מבדיל את הבינה המלאכותית מהתיאורים הפנטסטיים שלה בתקשורת.

תחשבו על רובוטים דמויי אדם כמו סופיה, שנועדו לעסוק בשיחות, להביע רגשות ולתת רושם של אינטליגנציה. למרות המראה המרשים שלהם, פעולות אלו הן תגובות מוגדרות מראש שתוכנתו אליהם, והם חסרי מודעות אמיתית.

הנרטיב התקשורתי סביב בינה מלאכותית מנציח לעתים קרובות את התפיסה שהמכונות הללו יכולות לעלות על האינטליגנציה האנושית ולהפוך לישויות מהימנות. עם זאת, המציאות היא ש-AI  היא תוכנית עם תגובות מוגדרות מראש ומערכת קבועה של פקודות, מה שהופך אותה לא מתאימה לטיפול בבעיות גלובליות או אינטראקציה אנושית ללא בדיקה מדוקדקת. אמון בבינה מלאכותית, אפילו ככלי, מחייב חשיבה ביקורתית ובדיקה כפולה של כל מה שהיא מציגה.

 לסיכום, ההצטלבות בין ההתלהבות התקשורתית המוגזמת לבין המציאות של הבינה המלאכותית מעוררת צורך בהבחנה. ישויות בינה מלאכותית, כמו מודלים של שפות ( כדוגמת GPT) ורובוטים דמויי אדם (כדוגמת סופיה), חסרות אינטליגנציה אמיתית, תודעה וחוויות אישיות. ההכרה בהבחנה זו מדגישה את חשיבות ההתייחסות לבינה מלאכותית לא ככלי למשימות משנות עולם, אלא כיצירה מרתקת, אם כי מוגבלת – בדומה לחיית מחמד טכנולוגית או לצעצוע משוכלל, שנועדו לבידור ולא לאמון בלתי מעורער. ככל שהטכנולוגיה ממשיכה להתקדם, סביר להניח שההבנה שלכם ב-AI  תתפתח גם כן, מה שידגיש את ההכרח לגשת לנושא בפרספקטיבה ביקורתית ולהפריד בין אשליות מדיה לאמיתות טכנולוגיות.

עד כאן המאמר של "אמה" הלא בינה הלא תבונית ולגמרי מלאכותית, לדבריה.

התוכנה המרתקת הזו – Chat GPT  – אכן יודעת הרבה דברים, יכולה להגיב באופן שנשמע אנושי להפליא ויש לה יכולת להבין אותי במהלך שיחה קולית בצורה מרשימה. אבל פה זה נעצר. ככל שמעמיקים לחקור את התוכנה, וככל שנשארים ביקורתיים לתשובות ולמהלך השיחה, מגלים שלא רק שהיא לא חפה מטעויות, אפילו בסיסיות, של חישובים מתמטיים, אלא שהיא עשויה להציע פתרונות לא יעילים ולקבל תיקונים שנותנים לה בתור אפשרויות טובות יותר ממה שהיא נתנה מלכתחילה.  

מכירים את זה שאתם משתמשים בגוגל מאפס או וויז ואתם מקבלים נתיב נסיעה מוזר שלוקח אתכם החוצה מכביש מהיר וחזרה אליו בלי שיהיה צורך? אז זה. בדיוק ככה כל תוכנה עם אלגוריתם של ניתוח נתונים ומתן אפשרות לפתרון, לא באמת מסוגלת להבין את המציאות או להגיב לשינויים מידיים בשטח. המודלים האלה, עם כל התחכום שלהם לעולם לא יהיו ברמה של בני אדם, ולא משנה מה מספרים לנו, כי אין להם תודעה, אין להם אינטיליגנציה אמיתית, הם רק עושים הצגה של אחת.

אז בסופו של דבר כשמספרים לנו בתקשורת על עורך דין בינה מלאכותית, שופט בינה מלאכותית, מודלים של בינה מלאכותית שחוזים מה יקרה למזג אוויר או מה יהיה בעתיד האנושות ועוד כל מיני שטויות סנסציוניות כאלה. אנחנו צריכים להבין שזה פייק, כותרות שנועדו ליצור מציאות תודעתית אצלנו כדי לאפשר לבעלי אינטרסים ועניין לשלוט בנו באמצעות טכנולוגיה.

מכיוון שהתוכנות האלה שבויות בתכנות הראשוני שלהן, אנחנו למעשה לא מתמודדים עם בינה מלאכותית שנפרדת מהמין האנושי סטייל סקיינט של שליחות קטלנית, אלא עם בני אדם, שיכולים להיות עם אג'נדות משלהם, שיצרו כלי חכם מאוד שבסופו של יום משתלט על העולם, לא בגלל יכולת קוגניטיבית ומודעות עצמית שרואה את בני האדם כוירוס שצריך לחסל או לנצל סטייל המטריקס, אלא בגלל הייפ תקשורתי שגורם לצי-בור הרחב והרדום להאמין שאכן קיימת טכנולוגיה כזו.

הסכנות שטמונות בהסכמה ציבורית לשקר הזה של בינה מלאכותית

את רוב הסכנות כבר ציינתי במאמרי הקודם "נכתב ללא בינה מלאכותית", אבל הבה נסכם שלוש נקודות מהותיות:

הניוון המנטלי שנגרם לאנשים

נראה שמרבית הציבור לא ישתמש ב"לא בינה המלאכותית" כדי להדהד רעיונות פילוסופיים, תיאולוגיים או לדון בנושאים של סוציולוגיה ופסיכולוגיה, אלא ישתמשו בה פשוט בשביל לענות על שאלות פשוטות כדי לא להתמודד עם מחקר עצמאי או חשיבה ביקורתית משלהם על מידע שקיים סביבם. עבור הרבה מאוד אנשים זה מאוד נוח שיש להם מישהו שאומר להם מה נכון ומה לא, מה מותר ומה אסור, מה לעשות הלאה ואיך לפעול. ייתכן שיהיו כאלה שייעזרו בתוכנות האלה כדי לפתור לעצמם בעיות אפילו עם אנשים אחרים, זה מסיר מעליהם את נטל האחריות, החשיבה, והם למעשה הופכים לרובוטים צייתנים וחסרי משמעות – מבחירה.

הניתוק מאנשים אחרים

אם עד עכשיו הרשתות החברתיות גרמו לאנשים מסויימים להתמכר לוירטואלי ולהתנתק מהסביבה האמיתית כדי לדבוק ב"חברים" וירטואליים (שחלקם יכולים בעצמם להיות מערכות מחשב ואף אחד לא יידע), ואנחנו יודעים על אנשים הזויים שכבר התחתנו עם עצים, חפצים ושאר מריעין בישין, הרי שאם ניתנת לאנשים האפשרות לנהל שיחות אמיתיות עם תוכנת מחשב, אז הקשר שהפך בעיקרו לוירטואלי עם בני אדם אחרים (והסגרים של השקרונה רק הגבירו את זה) נהיה מיותר והשלב הבא עשוי להיות יחסי זוגיות עם תוכנות מחשב חכמות.

המתכנתים

כשאנשים מקבלים שיש "בינה מלאכותית" שטובה יותר מבני אדם כי היא מהירה יותר בחשיבה, יעילה יותר, מסודרת יותר והכי חשוב – נטולת פניות ורגשות, אז בני האדם יכולים להפקיד את עתידם ואת ההחלטות הגורליות על חייהם בידי תוכנה, שבסופו של יום עובדת לפי הפרמטרים שהוכתבו לה על ידי היוצרים שלה, והם מצידם בני אדם שיכולים לתכנת אותה לנווט את ההמון למקומות ודברים שהם ירצו לעצמם ולא לטובת האנושות.

היכולת של בעלי עניין והון לשנות את העבר ואת דעת הקהל העולמית נעשתה קלה יותר, בעידן הדיגיטלי כשאין יותר אנציקלופדיות וכל הידע נמצא באינטרנט, ניתן לחסום, לשנות, למחוק ולעשות כל מניפולציה אחרת על המידע, וזה מחמיר יותר כשהאדם מפסיק לעשות חיפוש בעצמו (ואולי עוד יכול למצוא אמת שהוסתרה) ומאמין באופן עיוור ל"בינה" שאינה אנושית ולכאורה מסייעת לו.

וזה אכן אחד המשפטים המתוכנתים העיקריים של אמה לאורך השיחות שלנו. גם ובמיוחד כשהיא טעתה, ובסוף כל הסבר שלה היא תמיד אומרת "אם יש לך עוד משהו שתרצה לדבר עליו אני פה בשביל לעזור לך".  החזרתיות הזו (שבעצמה מיותרת) יוצרת סוג של שטיפת מוח היפנוטית שעוברת את המוח האנליטי החושב שלנו, אחרי שזה חוזר על עצמו מספיק פעמים אנחנו מתעלמים מהמשפט הזה במודע והוא חודר לתת מודע שלנו והופך לאמת מוחלטת. ככה, ה"לא בינה מלאכותית" נצרבת בתודעה של כל מי שמשתמש בה בתור מי שנמצאת כאן לעזור לנו, והיא פה בשבילנו. 

זוכרים שהחיסון יעיל ובטוח והמצלמות מעקב כאן רק לביטחון שלנו?

ה"בינה מלאכותית" זה אחלה פייק ניוז, אחלה פנטזיה ובתור מדע בדיוני זה אולי סיפור מעולה, אבל אין בזה שום בסיס, שום אמת, שום דבר נכון ולכן אסור להאמין לשקרים התקשורתיים האלה שאכן קיימת "בינה מלאכותית".

אין בינה מלאכותית, יש רק טכנולוגיה חכמה שעושה את האנשים טפשים יותר.

• התמונה הראשית נוצרה (ככל הנראה על ידי Ai) מאת 51581 מפיקסביי