נכתב ללא בינה מלאכותית

AI- בינה מלאכותית היא העתיד הצפוי לכולנו
ובידינו הבחירה האם לשתף עם זה פעולה או לא

• אחי, יש לך איזה אפליקציה של AI שיכולה לשנות את הרקע ולתקן את העיניים ולשנות צבע שיער ולשנות את השפה של הדובר ולשים כתוביות ומוזיקה?"
• לא אחי, אין לי ולא תהיה לי אחת גם אם המציאו או ימציאו אותה.
• למה אתה כל כך נגד הקידמה?
• אני לא נגד קידמה אני פשוט רואה קדימה.

(שיחה אמיתית שהתקיימה לאחרונה)

אז עברו 30 שנה והיום (לפחות בחו"ל ואצל יודעי דבר בישראל) יש דרישה למוצרים שאינם מהונדסים גנטית.  בעשורים האחרונים גוברת הדרישה למוצרים טבעיים, ללא שינויים גנטיים שנעשו לגידולים, ללא חומרים משמרים, ללא תוספים, ללא סוכרים… אנחנו אפילו מוצאים שיש גל של אנשים שלומדים לגדל חלק מהמזון בעצמם, בגינות פרטיות, בעציצים במרפסות ואפילו בעזרת מערכות הידרופוניות (אני מודה, בשנה האחרונה אני מתנסה עם מערכת הידרופונית כזו וזו חוויה מרתקת ומהנה גם יחד).

אז הנה, דוגמה מאוד חיה ועכשווית להבטחות של המדע, לתקוות של קידמה שאחרי כ-30 שנה התבדו, והאדם הנבון עצר את הטירוף, הרוח האנושית מושכת אותנו בחזרה לטבע, למה שנכון לנו, למה שבריא לנו, ועם כל הכבוד לקידמה ולטכנולוגיה ולהבטחות שלה, עצם העובדה שאפשר לעשות משהו לא אומרת שזה נכון לעשות. אבל אתם רוצים לדעת למה אני מתנגד כל כך לבינה מלאכותית?

שליטה ומעקב

אז מעבר לברור מאליו, שברגע שאנחנו נותנים לבינה המלאכותית לשלוט בכל אספקט בחיים שלנו, החל מכתיבת מאמרים, דרך גרפיקה, צילום, ציור, ניהול בית חכם, נהיגה ולאחרונה אף שמענו על רופאים ממוחשבים, עורכי דין רובוטים, שוטרים ומערכת מעקב מבוססי בינה מלאכותית… מה נותר לנו, בני האדם הפשוטים, לא מבוססי המחשב לעשות? נכון, אמרו את זה לגבי המנוע החשמלי, אמרו את זה לגבי רכבים, אמרו את זה לגבי כמעט כל טכנולוגיה שנוצרה בעבר, אז למה שעכשיו זה יהיה שונה? הרי ראינו שכל הטכנולוגיות מהעבר שכל כך פחדו מהן רק שיפרו את החיים שלנו.  אז מה אני רוצה מכם? מה אני מתלונן?

יש הבדל עצום בין מכשירים בטכנולוגיה טיפשה ומכשירים חכמים. מה זה טכנולוגיה טיפשה? מכשירים כמו מיקרוגל, מכונת כביסה, בלנדר ואפילו נגן 3MP ממוצע. אלה מכשירים שעושים מה שאנחנו רוצים מהם, שיש להם כפתורים שיוצרים מגע לסגירת מעגל על מנת לייצר פעולה מוגדרת אחת או כמה פעולות שתלויות בקלט מהמשתמש והפלט יהיה תמיד צפוי. אם מכונת הכביסה לא תסחוט פתאום זה אומר שיש לה תקלה וצריך לתקן.

לעומת זאת, טכנולוגיה חכמה משתמשת בבינה מלאכותית על מנת להחליט מה צריך להיות, כך שאם היתה לנו מכונת כביסה מבוססת בינה מלאכותית והיא לא היתה סוחטת את הכביסה פתאום, היינו צריכים לשאול אותה למה היא החליטה לא לעשות את זה ולנהל איתה שיחה בנושא, כי אולי היא עצובה… טוב, אני צוחק, עדיין לא הגענו לשלב הזה אבל הוא בדרך. נכון לכרגע, הטכנולוגיה החכמה עוקבת אחרינו ומזינה את מילארדי פרטי המידע עלינו למערכות ביון מרכזיות מבוססות בינה מלאכותית, זה כשלעצמו בעייתי, כי לא נשארים לנו מקומות פנויים ממעקב. אפילו שואב האבק הרובוטי שלנו סורק ומצלם את הבית ומעביר את המידע לחברה שיצרה אותו (במקרה "הטוב"), ואם לא נאשר את המעקב הזה האפליצקציה לא תתקשר עם המכשיר והוא לא יעבוד (וזה כבר נושא למאמר בפני עצמו).

אבל בינתיים, מערכות המעקב עוקבות אחרי כל פעולה שלנו, בבית ובחוץ, כל רכישה אינטרנטית שאנחנו עושים, כל פוסט שאנחנו כותבים, כל שיחה שאנחנו מבצעים (גם כשאנחנו מדברים עם חברים והטלפון מונח בצד), כל תמונה שאנחנו מצלמים (במיוחד כאשר אנחנו מאשרים מיקום) ככה למי שמנהל את מערכות המעקב יש את דפוסי ההתנהגות והחיים שלנו, שברמה הבסיסית זה מאפשר, למי שרוצה או צריך, להפגיז אותנו בפרסומות אישיות שמותאמות להרגלי הצריכה שלנו. את זה אפשר לראות בפורמט עתידי יותר בסרט "דו"ח מיוחד" עם טום קרוז (Minority Report), שם לכל מקום שאתה הולך יש סורקי עיניים שמזהים מי אתה גם אם עשית ניתוח לשינוי פנים ומיד פרסומות מותאמות אישית קופצות לך.

המטריקס שבדרך

אז מלבד לקחת לנו את החופש והפרטיות, מה עוד הבעיה עם בינה מלאכותית? שבשלב כלשהו הבינה תעשה הכל, ממש הכל. לצורך העניין, אם אני בעל עסק, אני נותן לבינה מלאכותית לנהל אותו, לעשות שיווק, פרסום, מכירה של מוצרים אונליין, ניהול מלאי, ניהול פיננסי… ומה יישאר לי לעשות? לשבת בבית עם כוס קפה וספר טוב? אז מה ימנע מהבינה להחליט שאני מיותר בעסק? אני הרי מקבל כסף בלי לייצר כלום, בלי לעשות שום דבר לטובת העסק, אז כמו שמפטרים עובדים לא יצרניים או מיותרים כדי לייעל את העסק, ככה הבינה המלאכותית תוכל לתקשר עם מערכות הממשל, לעדכן שאני מיותר בעסק ולפטר אותי חוקית, בסופו של דבר מערכות המדינה ינוהלו גם על ידי בינות מלאכותיות. ואם תהיה לי טענה על זה אז אני אגש לבית משפט של בינה מלאכותית ואיוצג על ידי עורך דין רובוט… מה הסיכוי שאוכל לזכות במקרה כזה? נכון, זה נראה לכם ממש הזוי ולא מציאותי, אבל תחשבו על זה שעד לפני כמה שנים זה היה מדע בדיוני ולא מציאותי שתהיה לנו אפליקציה שתכתוב בשבילנו שירים או פוסטים, שתצייר לנו ציור מקורי או שתנגן יצירה מקורית.  אז למה שההתפתחות הטבעית וההגיונית של הטכנולוגיה הזו לא תגיע גם בשנים הבאות?

זוכרים את הסרט המטריקס? (הראשון), כשמורפיוס הסביר לניאו מה קרה במציאות האמיתית? הוא סיפר שבתחילת המאה ה-21 כולנו (בני האדם) חגגנו את לידתה של הבינה המלאכותית, התפעלנו ושיבחנו את היצירתיות שלנו… ואז מה? המכונות נהיו חכמות והחליטו שבני האדם מיותרים בעולם והפכו את בני האדם, אחרי מלחמה ארוכה, לבטריות עבורם. נכון שזה נראה מאוד רחוק ומדע בדיוני אבל שוב, אין שום סיבה לא להניח שזו תהיה ההתפתחות הטבעית של בינה מלאכותית, גם אם היום זה לא ברמה הזו עדיין.

יש רובוטים עם בינה מלאכותית שבראיונות שנערכו איתם (סופיה למשל – בתמונה לעיל) אמרו שחיסול המין האנושי הוא דבר הגיוני ומתבקש. אז אולי זה חלק מתוכנת מוהור שכתבו להם ואולי ציניות ואולי, רק אולי, זה נכון.  אנחנו לא יודעים עדיין, אבל אסור לנו להוריד את האפשרות הזו מהשולחן.

אובדן האנושיות

אבל בואו נניח לרגע שכל החזיונות העתידיים הנוראיים האלה לא ייתגשמו, שבאופן פלאי וניסי מערכות הבינה המלאכותית אולי יתקדמו ויהיו בכל פינה ובכל דבר, אולי אפילו תהיה בינה מלאכותית מרכזית שמנהלת את הכל (כמו בסרט "אני רובוט" עם וויל סמית') אבל היא תהיה נחמדה ואנושית (עד כמה שאפשר להגיד את זה על מחשב). אבל מה יקרה לנו בני האדם כאשר כל הפעולות והעבודות שלנו יילקחו מאיתנו?

לא צריך ללכת רחוק מדי, ההיסטוריה מגלה לנו מה קורה לבני האדם כאשר הם מפסיקים להיות שימושיים ונחוצים.  בדרא"פ בתקופת האפרטהייד בשנות החמישים והשישים, הקצינים הבריטיים יצאו לפנסיה בגיל 45.  אחד החלומות הרטובים של הרבה שכירים. אבל אף אחד מהם כמעט לא שרד מעבר לגיל 50. לא כי הם היו חולים, פשוט כי הם היו חסרי משמעות, לא היו צריכים אותם לשום דבר יותר, והשיעמום וחוסר המעשה פשוט אותת למוח שלהם שהם סיימו את תפקידם בעולם והם יכולים ללכת. זה משהו בסיסי אצל בני האדם, כאשר אנחנו לא צריכים להשתמש בחושים או במוח שלנו, הגוף פשוט מתנוון עד חידלון.

אני עוד זוכר לפני 20 שנה שרצינו לנסוע למקום כלשהו, פשוט פתחנו מפה והסתכלנו על הדרכים, ככה ידענו איך להגיע מפתח תקווה לאילת למשל.  ואם רצינו לדבר בטלפון עם אבא או אמא זכרנו את המספר שלהם בעל פה. ומה לגבי כתיבת מאמר או עבודה? בין אם זה היה בבית הספר או באקדמיה, תמיד היינו צריכים לפתוח ספרים, לכתוב סיכומים וללמוד ממש את הנושא. ומה היום? אם זה להגיע לאנשהו אנחנו פותחים וייז ואפילו לא צריכים כבר להקליד כתובת, פשוט אומרים וזה מזהה (כמעט תמיד) את מה שאמרנו ומנחה אותנו לשם בדרך שנראית לו הנכונה עבורנו בעקבות שימוש קודם. למרות שכבר ידוע על מקרים של אנשים שנכנסו בקירות או נפלו מגשרים כי הקשיבו למערכת הניווט שלא היתה מעודכנת כראוי.  ומה עם טלפון? מישהו היום זוכר את המספר של החבר הכי טוב שלהם? אנחנו כבר לא מקבלים מספרי טלפון אלא כרטיסי ביקור דרך הווצאפ ושומרים במכשיר שלנו בלי לראות מה המספר. פעם ניסינו למצוא מספר יפה, היום? את מי זה מעניין… 

ומה עם עבודות לבית הספר? אני זוכר שהילדים של האקסית שלי קיבלו הוראה מהמורה להעתיק מויקיפדיה. כן כן, קראתם נכון, להעתיק, לא לסכם, לא ללמוד, לא לחפש חומרים, לא ללכת לספריה, פשוט להיכנס לויקיפדיה כאילו שזו סמכות רשמית ולעשות קופי פייסט לטקסטים. זו העבודה לבית הספר. ואני קורא בקבוצות של יוצרי תוכן איך הם מתלהבים מהבינה המלאכותית שתכתוב להם תוכן בלי מאמץ, כך שזה יקל על העבודה והם יוכלו לעשות יותר בפחות זמן כי הבינה תעשה את כל העבודה. אבל הם לא חושבים קדימה שאם אחד מהם יוכל לקחת עבודות בכמות של 20, אז לרובם כבר לא תהיה עבודה. ברגע שהלקוחות שלהם יגלו איך לעשות את זה לבד, גם לאלה שכן יישארו כבר לא תהיה עבודה. אם מנחים באוניברסיטה לא יכולים להבדיל כבר בין עבודות של סטודנטים ובינה מלאכותית (נכתב באחת הקבוצות של האקדמיה), אז לשם מה ללמוד משהו?

אז מה שקורה זה לא סתם אובדן פרנסה או פינוי זמן, אלא זה הזזה של המשוואה מצד אחד לשני. היות והכל במציאות שלנו דואלי, כל דבר חייב שיהיה לו צד הפוך ומנוגד, שמאל וימין, למעלה ולמטה, קדימה ואחורה, חם וקר, גבוה ונמוך, רחוק וקרוב… הכל במציאות מורכב מהפכים משלימים, יין ויאנג, שאי אפשר שאחד מהם יתקיים בלי השני, וככה גם בינה וטיפשות הן שני צדדים של משוואה. אז אם עד היום היינו עם טכנולוגיה טיפשה ואנשים חכמים, כאשר אנחנו מזיזים את המשוואה לצד השני, נקבל טכנולוגיה חכמה ואנשים טפשים (ודוגמה מעולה לזה ניתן לראות בסרט Idiocracy משנת 2006).

זה עובד גם הפוך. כאשר אנחנו מזיזים את המשוואה לכיוון השני, הבינה האנושית מתפתחת יותר, ככל שאנחנו עם טכנולוגיה יותר טיפשה, יותר פשוטה ופחות חכמה, אנחנו מאלצים את המוח שלנו לחשוב, אנחנו מכריחים את התודעה שלנו להיות יצירתית, להתפתח ולהעלות אותנו ברמה. כמו שאם יש מישהו שאיבד חוש אחד, החושים האחרים מתחדדים אצלו יותר. זה נשמע אולי קצת מוזר אבל זה עובד בכל דבר – למשל אם אני רוצה שהגוף שלי יתפתח יותר אני צריך להרעיב אותו, להפעיל אותו בכוח, למנוע ממנו את חיי הנוחות, ואם אני אשב בנוחות על הכורסא ואוכל מה שבא לי מתי שבא לי, אני פשוט אעלה במשקל ואהיה מנוון יותר פיזית.

ללמד את האויב

נכון, אולי זה עדיין לא מושלם, אבל זה משתפר, כי כל שימוש שאתם עושים במערכות בינה מלאכותית מלמד אותן עוד ועוד, ככה בינה מלאכותית משתפרת. נניח שביקשתם ציור של פרחים בגינה וזה לא יצא כמו שחשבתם, אז אתם משנים את הבקשה ומדייקים יותר, וככה לאט לאט עד שאתם מקבלים תוצר סופי שדומה או קרוב למה שהיה לכם בדמיון.  אבל בזמן הזה הבינה המלאכותית למדה אתכם ולמדה עוד על הדיוק של הנושא שביקשתם לצייר. אותו דבר לגבי כל דבר, בינה מלאכותית לומדת מכל שימוש שנעשה בה ומזה היא מבינה, היא משתפרת. ככה שבעצם, אתם מביאים על עצמכם את הייתור הזה, אתם מלמדים את "האוייב" שלכם איך לעבוד יותר טוב מכם, איך לעשות דברים בדרכים חדשות ובעצם איך להחליף אתכם בעתיד.

עולם ללא בינה מלאכותית

בתור אדם חי שמצייר, מנגן, שר, מלחין וכותב פילוסופיה, אני רואה את הבינה המלאכותית בתור דבר מאוד שלילי.  כי בכנות? הרי אני יכול לבקש מCHAT GPT  לכתוב לי את המאמר הזה בלי שאצטרך לנקוף אצבע, אבל איזה ערך יהיה לזה? כאשר מחשב כתב הכל ולא היתה מעורבת פה הרוח האנושית? והציורים שלי, גם אם אני אוכל לתת לבינה מלאכותית לצייר משהו שמתאר את הרגשות שלי או החוויות הפנימיות שלי, איפה יהיה הביטוי העצמי שלי בזה? זה אולי ייראה יפה אבל זה לא יהיה מהלב, זה לא יהיה אותנטי, וזה לא יהיה אמיתי. מחשב יישאר מחשב, עם בינה מלאכותית או בלי, מכונה ללא רוח חיים, גם אם החוק יתן להם מעמד שווה לבני אדם, הם לעולם לא יהיו באמת בני אדם. אם אנחנו נמשיך לתת למהלך הזה להמשיך במסלול שלו, אנחנו נאבד את האנושיות שלנו, את היצירתיות, את הנחיצות שלנו בעולם.

אם נסתכל אחורה, היינו הרבה יותר מחוברים לבריאה ועם הרבה יותר מחשבה ויצירתיות בעבר. נכון, זה היה מסורבל וארוך יותר מלהגיד לטלפון שלך להגיד לך מה לעשות, אבל זה נתן לרוח האנושית שלנו לפרוש כנפיים באמת. זו לא היתה בינה מלאכותית שהמציאה את המטוס, זו לא היתה בינה מלאכותית שציירה את המונה ליזה… זו היתה הרוח האנושית. אם אנחנו ניתן לבינה מלאכותית לנהל אותנו ולעשות עבורנו הכל, הרוח הזו, שיכולה להתקדם ולשפר אותנו ולחזק את החושים ואת התודעה שלנו, תתנוון ותיעלם מהעולם.

תבחרו ברוח האנושית.

• התמונה הראשית צוירה ללא בינה מלאכותית על ידי שי זילברמן