כשסוכנים עושים הכל: איך נראה האינטרנט החדש? עם טל מורגנשטרן

סיכום AI

סקירה כללית טל מוגנשטרן, שותף בקרן ההון־סיכון לייטספיד, מציג עמדה כפולה לגבי בינה מלאכותית: אופטימיות בטווח הארוך ופסימיות בטווח הקצר. לטענתו, הבינה המלאכותית תשפר דרמטית את הרפואה, המדע, הרובוטיקה והחינוך, אך קצב ההתפתחות מהיר בהרבה מקצב ההסתגלות של מוסדות, שווקים וחברות. הטענה המרכזית שלו היא שהבינה המלאכותית לא רק תשנה מוצרים, אלא תחליף את האופן שבו האינטרנט והכלכלה הדיגיטלית פועלים. סוכנים יפעלו בשם המשתמשים, יעקפו אתרים וקטלוגים, ויערערו על מודלים המבוססים על פרסום, ממשקים ותנועת משתמשים אנושית. - רגע מקור רלוונטי: [02:10]–[02:53], שבו מוגנשטרן מגדיר את עצמו אופטימיסט לטווח ארוך ופסימיסט לטווח קצר. הטיעון המרכזי: התקדמות מהירה מול מוסדות איטיים מוגנשטרן סבור שהבעיה העיקרית אינה עצם קיומה של הטכנולוגיה, אלא חוסר ההתאמה בין קצב ההתקדמות לבין קצב התגובה של החברה. יכולות חדשות מתפשטות במהירות, בעוד שרגולציה, חינוך, אבטחה ושוק העבודה משתנים לאט יותר. מכאן נובעת שרשרת הסיכון שלו: מודלים וסוכנים נעשים מסוגלים יותר; אנשים רבים מקבלים גישה ליכולות שבעבר דרשו מומחיות; מנגנוני בקרה אינם תמיד קיימים; ואז אירוע סייבר או תשתית משמעותי מאלץ ממשלות וחברות להגיב בדיעבד. הוא אינו מצפה שרגולציה לבדה תפתור את הבעיה, אלא מדגיש שילוב של תמריצים עסקיים, חברות הגנה, השקעות מדינתיות ותשתיות לאומיות. - רגע מקור רלוונטי: [06:33]–[07:40], על היעדר שליטה מלאה, התפתחות נחילי סוכנים והאפשרות לאירוע שפוגע בתשתיות. הראיות והדוגמאות שהוצגו הסיכון הקרוב ביותר שמוגנשטרן מתאר הוא שימוש זדוני בכלים קיימים, לא בהכרח השתלטות עצמאית של מערכת על האנושות. הוא מדגים תרחיש שבו אדם בעל מחשב נייד ומודל זמין משתמש ביכולות אוטומטיות כדי לתקוף בית חולים, מערכת מים, חשמל או שדה תעופה. לדבריו, הגנות בסיסיות עשויות לצמצם סיכונים, אך הן אינן מבטלות את האיום כאשר התוקף הוא אדם בלתי צפוי מחוץ למערכת. במקביל, הוא מצביע על תועלות שכבר נראות לעין: גילויים מדעיים, חומרים חדשים, תרופות וטיפולים, רובוטיקה, ניתוח תמונות ומתן מורה פרטי איכותי לכל תלמיד כמעט ללא עלות. אלה אינם מוצגים כהבטחות רחוקות בלבד, אלא כתחומים שבהם הוא רואה התקדמות ממשית כבר כיום. דוגמה מרכזית נוספת היא השימוש שלו בסוכן אישי.

הוא מתאר סוכן בעל מחשב, דואר אלקטרוני, לוח שנה, אחסון וכרטיס אשראי משלו, שפועל כמו עוזר אישי ומבצע משימות במקום המשתמש. הוא מספר שהסוכן הצליח למצוא עבורו טיסה חלופית ולבצע הזמנה לאחר שינוי בלתי צפוי בנסיעה. - רגע מקור רלוונטי: [13:18]–[13:48], על רובוטיקה, מדע, תרופות וחינוך; [19:33]–[20:16], על הסוכן האישי; [23:37]–[24:07], על הזמנת טיסה ומלון. כיצד הסוכנים עשויים לשנות את האינטרנט לפי מוגנשטרן, האינטרנט הנוכחי בנוי סביב בני אדם: דפים, תפריטים, חיפוש, קטלוגים ופרסום. בעולם של סוכנים, המשתמש יביע כוונה — למשל לקנות מוצר או לתכנן נסיעה — והסוכן יבצע את החיפוש, ההשוואה והעסקה בלי שהמשתמש ייכנס לאתר מסוים. המשמעות הכלכלית היא פגיעה אפשרית במודל הפרסום ובכוחם של אגרגטורים כמו מנועי חיפוש, חנויות מקוונות ואתרי הזמנות. חברות יוכלו לבחור אם לפתוח את המידע והעסקאות לסוכנים ולגבות עמלה, או לסגור את הגישה ולנסות לשמור את המשתמש בתוך האתר שלהן. מוגנשטרן טוען שרוב התעבורה באינטרנט תהיה בעתיד תעבורת סוכנים, ושאתרים יצטרכו להיבנות עבור מכונות ולא רק עבור משתמשים אנושיים. עם זאת, הוא מודה שהתחום עדיין ניסיוני, ואין עדיין כללים ברורים לאופן שבו שירותים “מתחבבים” על סוכנים או הופכים לבחירה המועדפת שלהם. - רגע מקור רלוונטי: [20:16]–[21:47], על “אגרגציה של אגרגטורים”, שינוי החיפוש ופגיעת האפשרית בפרסום; [24:49]–[26:21], על אינטרנט המיועד לסוכנים והשלב הניסויי. התובנה הלא־שגרתית: דווקא מותגים נעשים חשובים יותר לכאורה, אם סוכן בוחר עבור המשתמש, המותג אמור להיות פחות חשוב. מוגנשטרן טוען את ההפך: בעולם שבו קל להעתיק תוכנה, ממשק או תכונה, מותג אמין עשוי להפוך לאחד הנכסים שקשה להחליף. הוא מציע שבעולם הדיגיטלי יישארו בעיקר שלושה סוגי יתרונות שקשה לעקור: אפקט רשת, מוצר פיזי או חיכוך פיזי שקשה לשכפל, ומותג חזק. המותג אינו רק לוגו, אלא סיבה שלקוח, עובד או סוכן יעדיפו חברה מסוימת כאשר ההבדלים הטכנולוגיים בין המתחרים מיטשטשים. - רגע מקור רלוונטי: [28:43]–[30:40], על חזרת המותג למרכז ועל שלושת סוגי היתרון שקשה להחליף. תחזיות, טווחי זמן ותנאים בטווח הקצר, מוגנשטרן צופה אירועי סייבר או תשתית משמעותיים, ואף מעריך שבמהלך השנה הקרובה עשוי להתרחש אירוע שיפגע באנשים או בשירות חיוני.

הוא אינו מציג זאת כוודאות, אלא כניחוש המבוסס על הפער בין היכולת הטכנולוגית לבין ההיערכות הקיימת. בטווח הארוך, הוא צופה המשך התקדמות כמעט בלתי הפיכה של בינה מלאכותית, משום שמדינות רואות בה צורך אסטרטגי וכלכלי. תחזית זו תיחלש אם תשתיות המחשוב יהפכו יקרות מדי, אם הריבית וההשקעות יקרסו לאורך זמן, או אם יתברר שהיכולות אינן מתורגמות להכנסות ולשימושים רחבים. הוא אינו חושב שהשוק נמצא בהכרח בבועה, משום שלדבריו רבות מהחברות מייצרות הכנסות אמיתיות. עם זאת, הוא מכיר בתלות של התחום במספר קטן של חברות, בהשקעות עתק בתשתיות ובאפשרות שמשבר מאקרו־כלכלי יחשוף חולשות. - רגע מקור רלוונטי: [07:26]–[08:24], על אירוע אפשרי בשנה הקרובה; [44:10]–[44:55], על אי־החזרה לאחור ועל השאלה אם מדובר בבועה. ההשפעה על חברות, עובדים ויזמים מוגנשטרן אינו צופה בהכרח ירידה פשוטה בכמות העבודה. הוא מתאר אפקט שבו עובדים נעשים יעילים יותר, ולכן מצופה מהם לבצע יותר משימות. הוא מקשר זאת לפרדוקס ג'בונס: שיפור היעילות עשוי להגדיל את השימוש הכולל במשאב במקום לצמצם אותו. בעולם התוכנה, הוא מבחין בין חברות שמחזיקות את הנתונים והתשתית המרכזית לבין חברות שמוכרות ממשק דק, מעט לוגיקה ושילוב עם מודל קיים. חברות מהסוג השני חשופות יותר להחלפה, בעוד שמערכות כמו תוכנות לניהול משאבי ארגון או מערכות מכירה עשויות להתחזק אם הן הופכות למאגר הנתונים שסוכנים צורכים. ליזמים הוא מציע לבנות לפני גיוס כסף, להימנע מהמתנה לאישור חיצוני, ולהתמקד בבעיה שבה החברה יכולה להיות במקום הראשון בעולם. הוא גם ממליץ ליזמים ישראלים להגיע פיזית לקליפורניה, משום שלדבריו תל אביב נמצאת מבחינת תעשיית הטכנולוגיה שעות מאחור ושנים מאחור מבחינת קצב ההתפתחות. - רגע מקור רלוונטי: [46:34]–[47:49], על יתרון חברות המחזיקות נתונים ועל חולשת חברות המוכרות רק ממשק; [1:03:19]–[1:06:17], על נסיעה לקליפורניה, בנייה מהירה והקדמת גיוס. המשמעות לישראל ולאקוסיסטם המקומי מוגנשטרן מזהה בישראל יתרון של עשייה עם מעט משאבים, לצד ניסיון טכנולוגי בתחומי סייבר, שבבים, הגנה ומדע יישומי. הוא מאמין שהמעבר הנוכחי לתשתיות, חומרה, מדע עמוק וסייבר עשוי להתאים ליכולות המקומיות יותר מתקופות שהתמקדו בעיצוב ובמוצרי צריכה.

עם זאת, הוא מצביע על חסרים מבניים: קשר חלש יחסית בין האקדמיה לתעשייה, מחסור במחשוב, מרכזי נתונים ומעבדים, וכן מחסור בכישרון יישומי. מבחינתו, מחשוב הוא משאב לאומי, ובתחומים מסוימים ישראל אינה יכולה להסתמך רק על שירותי מודלים חיצוניים דרך ממשקי תכנות. ההשלכה המעשית היא שמדיניות טכנולוגית צריכה לכלול השקעה בתשתיות מחשוב, גישה לחומרה, חיבור טוב יותר בין חוקרים לתעשייה ופיתוח חברות בתחומים שבהם לישראל יש סיכוי ממשי להיות מובילה. הוא גם מזהיר שחברות ישראליות בתחומים יישומיים צריכות הצדקה חזקה יותר מאשר “אנחנו יעילים וזולים יותר”, משום שכסף אמריקאי רב יכול לצמצם את היתרון הזה. - רגע מקור רלוונטי: [49:37]–[50:21], על היתרון הישראלי בעשייה עם פחות משאבים; [56:43]–[58:53], על אקדמיה, מחשוב ותשתיות לאומיות. הסתייגויות ושאלות פתוחות המקור מציג בעיקר את השקפתו של משקיע, ולא מחקר שיטתי או סדרת נתונים שמוכיחה את התחזיות. הטענות על אירוע סייבר קרוב, על תעבורת אינטרנט שתהיה בעיקר של סוכנים ועל שלושת סוגי היתרון העתידיים הן תחזיות אנליטיות, לא עובדות מבוססות שנבדקו בשיחה. נותרות גם שאלות מהותיות: האם סוכנים יוכלו לפעול באופן אמין באתרים ממשלתיים ובמערכות מורכבות; כיצד ייקבע מי אחראי לטעות של סוכן; האם חברות יעדיפו לפתוח את שירותיהן לסוכנים או לחסום אותם; והאם מותג יוכל להשפיע על סוכן באותה מידה שהוא משפיע על אדם. בנוסף, מוגנשטרן מדגיש את קצב השינוי, אך אינו מכמת את גבולות החומרה, עלויות האנרגיה, איכות הנתונים או העלויות הארגוניות. לכן יש לקרוא את התחזיות שלו כמסגרת לחשיבה על כיוונים וסיכונים, ולא כלוח זמנים ודאי. מסקנות מרכזיות מוגנשטרן מציג את הבינה המלאכותית כטכנולוגיה שתשפר במידה רבה את החיים, אך גם תייצר זעזועים מיידיים באבטחה, בתעסוקה, ברגולציה ובכוח המרוכז אצל מספר קטן של חברות ומעבדות. הסוכנים הם נקודת המפנה המרכזית בעיניו: הם עשויים להפוך את האינטרנט ממערכת שבני אדם מנווטים בה למערכת שסוכנים מנהלים עבורם. כתוצאה מכך, פרסום, אתרים וממשקי משתמש ייחלשו יחסית, בעוד שנתונים, תשתית, אמון, מותג ומוצרים פיזיים יתחזקו. ההמלצה המעשית העיקרית שלו ליזמים היא לפעול במהירות: לבנות מוצר לפני גיוס, לבחור תחום שבו אפשר להיות מובילים, להיחשף למוקדי החדשנות העולמיים ולהשתמש בבינה מלאכותית כחלק טבעי מהפתרון — לא רק כתווית שיווקית.