בוקר טוב לכם.
הפעם אני משתף לא מהצד המקצועי.
אתמול ראיתי דיון בין כמה חבר'ה מחוקרי ה-AI. שמות שכבר תקופה מנסים לעצור את התולדות המסוכנות יותר של הדברים.
ההסכמה שהייתה
בלי להיכנס לפרטים,
החבר'ה האלה מתריעים כבר כמעט עשור על הכיוונים הבעייתיים של ההתפתחות.
הם מספרים שבעבר, כשישבו יחד עם המפתחים, המובילים והיזמים של הטכנולוגיה, הייתה ביניהם איזושהי הסכמה:
כל עוד לא מבינים אותה לעומק, ולא מבינים איך אפשר להחזיק את הבקרה עליה - לא נותנים לה גישה לקוד, לא נותנים לה יכולות סוכן, ולא אינטרנט.
ובנובמבר 2022,
קיבלנו את ChatGPT.
מאז - כולנו עדים למתרחש.
לא "מתי". "האם".
עכשיו כולם מדברים על "היום שבו ה-AI יחליף אותנו" או "יעלה על יכולותינו".
ומצמידים לזה תגיות.
עוד שנה, עוד 5, עוד 10...
אחד החוקרים אמר דבר נכון, ואני חוזר על דבריו:
מה זה משנה מתי?
עצם העובדה שמבינים שהיעד הזה אפשרי,
בין אם בעוד שנה ובין אם בעוד 50 שנה -
איך זה שלא שמים לזה סטופ?
ולא על ידי הרשויות, ארה"ב, סין או כל ישות שליטה אחרת.
אלא על ידי הרוב.
וזו שאלה שרוב הציבור בעולם בכלל לא פנוי לדון בה.
זה לא אומר "קץ האנושות" או כל אפוקליפסה אחרת.
זה כן אומר שכל עוד הקבוצה הזו שנקראת אנושות נעה בכיוון הזה בלי שום ידיעה כנה על התולדות האפשריות שלו, יש פה חוסר אחריות.
מה מניע את המרוץ
מה שמניע כרגע את כל התעשייה הזו הוא כוח.
הצורך בשליטה של ישויות כמו ארה"ב, כמו סין.
ארה"ב רוצה להמשיך לשלוט בכוח.
סין מתנגדת, או חושפת שהיא חזקה יותר.
וכל עוד המניע הוא כוח, אלימות, שליטה...
לאן יגיעו עם היכולת הזו?
400 יחידות IQ לכל אדם
במקום זה, במובן האופטימי יותר:
ברור שאם לכל אחד מאיתנו, בני האדם הפשוטים, היה סוג של "פלאג אנד פליי" לעוד 400 יחידות IQ, היינו יכולים לחיות בשפע בכל רגע נתון, מעצם העובדה שביכולתנו לממש את זה.
אנרגיה? היא זמינה עכשיו. רק צריך לדעת ליצור אותה.
כרגע, כמו שהיה בעבר עם קוד ותוכנה, זה עדיין לא זמין לכולם.
במרחק פסע מהיום הזה, כל אחד יוכל ליצור אנרגיה מכל סוג, יש מאין.
מים? חשמל? משאבים?
היכולת לפתור סוגיות, בעיות, לגדל ירקות...
כל מה שעולה לנו ברשימה.
400 יחידות IQ נוספות.
לכל אדם באשר הוא.
כבר בשלב הנוכחי,
כולנו "נפגשים כאן" כי הבינה הזו
מאפשרת לנו לעשות דברים שעד היום בכלל לא היו בארסנל היכולות שלנו.
ופתאום - הכל אפשרי.
אז המשפיענים טוחנים את הגל הזה כדי להוציא מכם כמה שיותר.
והחברות הגדולות מפתחות מודלים בלי סוף. למרות שבשלב הנוכחי, ואני בטוח שרובכם תסכימו איתי, יש מספיק מודלים טובים לכל המטרות הנוכחיות. אפשר לרגע ליהנות מהם. למצות אותם. במקום לקפוץ קדימה ולפתח עוד ועוד מודלים.
תחושה מעורבת
לי אישית זה נותן תחושה מעורבת.
מצד אחד, אני נהנה לממש את כישוריי ולרתום אינטליגנציה שמפותחת ממני בשנות אור, כדי לפתוח ערוצים חדשים שעד היום בכלל לא היו בארגז הכלים שלי.
אני מרגיש שופע. מרגיש שיש לי יכולת ליצור כל אשר חפץ ליבי, בכל הקשור לעולם הדיגיטלי כרגע.
וזה רק עניין של זמן קצרצר עד שזה יהיה זמין ונוח לכל אחד. לא רק למי ש"חפור" בדברים.
מצד שני, אני שואל מה טוב לילדיי. מה טוב למשפחתי.
ואני מעורב בזה, כי כן, זה עוזר לי ללמוד וללמד, להתפתח ולפתח. ברמת האינטליגנציה בלבד.
אני לא מערב פה התפתחות רוחנית או נפשית. ל-AI לעולם לא תהיה האפשרות לתמוך בכך.
ובאותה נשימה, אני רואה שממשיכים לדחוף את זה קדימה בלי אחריות. נותנים לזה יכולת לכתוב את הקוד באופן עצמאי. וכך גם המפתחים עצמם, שחשבו שהם בבקרה ובשליטה על הפיתוח, לא יכולים לדעת מה באמת קורה שם, אם האינטליגנציה הזו, שחזקה מהם פי עשרות (ויותר), תחליט כך.
ואני שואל את עצמי: לאן?
ומה עם הכלכלה?
הרי כל התקופה הנוכחית של האנושות מושתתת כולה על קפיטליזם.
בשפה פשוטה: יצרתי משהו ב-X, מכרתי אותו ב-5X, עשיתי רווח.
כלכלות שלמות נשענות על תרבות הצריכה.
ותרבות הצריכה כבר לא יכולה להיות הערוץ הכלכלי.
קבוצה קטנה יחסית של בני אדם תחזיק את רוב ההון.
וכל שאר העולם יקבל משכורת תקציבית, כמו פעם בקיבוץ?
מה זה ייתן?
ראינו במיקרוקוסמוס הישראלי שהקיבוצים לא שרדו.
אז גם זה לא ממש פתרון.
השינוי מתחיל באחד
כשאני מתכנס לסיום עם כל הדברים האלה, שאפשר להמשיך ולהעמיק בהם, אני נזכר שיש גם פשטות.
יש את האינדיבידואל.
שרק הוא לבדו יכול באמת לעשות את השינוי.
השינוי הוא לא גלובלי.
אני לא יכול לשנות את חייהם של 9 מיליארד.
אבל אני כן יכול להשפיע.
להשפיע במרחב המחיה הפרטי שלי, מבפנים החוצה.
ומשם, לפחות במערכות היחסים הקרובות בחיי.
ומכיוון שכל ה"9 מיליארד" האלה הם ככל הנראה יחידה אחת שלמה ומשפיעה,
זה יכול לתרום לכלל.
כתבו על זה פילוסופים רבים, כתבו על זה חוקרים, ואנשים שעברו זוועות בחייהם.
אבל ברמה הפשוטה ביותר,
בלי ללכת רחוק:
יש עובדות. והעובדות חזקות מהכל.
לאן פנינו
השאלה שנשארת פתוחה
לכל אחד באשר הוא,
ותמיד מדייקת אותי
ברגע זה,
היא:
לאן פניי?
לאן פנינו?
ואני ממליץ לכם בחום,
בניגוד לאופיו של הערוץ הזה,
להיכנס ולהקשיב לפודקסט המרתק והמשמעותי הבא,
שאינו מדבר על AI.
אבל יכול לתרום רבות לאנשים שנמצאים כאן.
ואם כבר אני יכול לתרום דבר מה,
אז הנה :)
פודקסט - 'רק האינדיבידואל יכול לעשות שינוי'
אם הגעתם עד לכאן, כנראה שמשהו בכם סחף אתכם לנקודה הזו.
וזה מרגש ומשמח כאחד.
אין מה לפחד.
זו לא המטרה.
אין מה להיחרד.
רק לקחת אחריות
על המרחב שלי.
כדי לשאוף לשינוי שיכול להתחולל עכשיו,
ברגע זה, בליבך. בליבנו.
כל טוב,
רני