מי אתם בסצנה הזאת?

הסצנה שכולנו זוכרים לא נכון

יש רגע ב“מטריקס” שכולם זוכרים ורובנו זוכרים אותו לא נכון.

ניו יושב בכיסא, מחברים אותו למכונה ועשר שעות של תוכניות אימון לחימה נטענות ישירות למוח שלו. הוא פוקח עיניים ואומר את המשפט: “I know kung fu.” מכאן, בזיכרון של רובנו, הוא הופך למכונת לחימה.

אבל זה לא מה שקורה. מיד אחר כך הוא נכנס לתוכנית אימון מול מורפיוס ומפסיד. שוב ושוב. מורפיוס משטח אותו על הרצפה בזמן שכל הצוות צופה מלמעלה.

וזו סצנה מוזרה, כי הידע של ניו מושלם. הוא לא למד קונג פו, הוא טען אותו. אין מהלך שהוא לא מכיר ואין טכניקה שחסרה לו ובכל זאת הוא מפסיד למישהו שלמד את אותו הדבר לאט, כמו כולם.

מורפיוס לא אומר לו שחסר לו ידע. הוא אומר משהו אחר לגמרי:

“There is a difference between knowing the path and walking the path.”

חזרתי לסצנה הזאת לאחרונה ולא מתוך נוסטלגיה. חזרתי אליה כי אני רואה אותה מתרחשת, כמעט מילה במילה, בארגונים שאני עובד איתם.

מה בעצם חסר לניו

לניו לא חסר ידע. חסר לו סוג אחר לגמרי של ידיעה. הוא יודע מה לעשות. מה שאין לו זו הידיעה מתי. אין לו את התחושה שמשהו לא בסדר חצי שנייה לפני שזה קורה ואין לו את היכולת לזהות שהמהלך שהוא בוחר נכון בספר ולא נכון בקרב הזה, מול היריב הזה, ברגע הזה.

הפילוסוף מייקל פולני קרא לזה ידע שבשתיקה (tacit knowledge) וניסח אותו במשפט אחד: “אנחנו יודעים יותר ממה שאנחנו יכולים לומר.”

רופא שמסתכל על מטופל ואומר “משהו פה לא מסתדר” עוד לפני שהוא יודע להצביע על מה. מנהל שקורא הצעת מחיר ומרגיש שהיא לא תיסגר. איש מכירות ששומע שינוי זעיר בטון ומבין שאיבד את העסקה. אף אחד מהם לא יכול לכתוב את זה כנוהל וזה בדיוק העניין: אילו היה אפשר לכתוב את זה, אפשר היה לטעון את זה.

הידע הזה נבנה בדרך אחת בלבד, דרך לולאה: ניסיון, כישלון, תיקון, ניסיון נוסף. מה שהלולאה מייצרת הוא לא עוד ידע. היא מייצרת הבחנה, היכולת להבדיל בין טוב לכמעט טוב, מהר, בלי לחשוב על זה. לזה אנחנו קוראים שיפוט וזה מה שמפריד בין מי שיודע לבין מי שמסוגל.

המלכודת שבמילה “משמעת”

בשלב הזה התגובה המתבקשת היא: “אז צריך משמעת. צריך להשקיע. אין קיצורי דרך.” אלן וואטס טען שהתגובה הזאת היא בדיוק הבעיה. לדבריו, רוב מי שמלמדים דיסציפלינה מלמדים אותה באלימות, כאילו מדובר במשהו לא נעים שפשוט צריך לסבול. הוא העדיף מילה אחרת: מיומנות.

ההבדל נראה סמנטי. הוא לא. משמעת היא משהו שאתה כופה על עצמך נגד רצונך, מוגדרת מראש כלא נעימה ולכן היא נשברת. אנשים לא נוטשים כי הם חלשים. הם נוטשים כי בנו את זה כמאבק וקשה מאוד לנצח מאבק ארוך נגד עצמך.

מיומנות היא משהו שאתה רוכש. אף אחד לא “מתמשמע” ללמוד לנגן. אנשים חוזרים לכלי כי מעניין אותם מה יקרה והחזרתיות מפסיקה להיות מחיר והופכת למיומנות עצמה.

וזה משנה את השאלה הניהולית. השאלה היא לא “איך אני גורם לאנשים שלי להתמיד”, אלא “איך אני עושה את המלאכה מספיק מעניינת כדי שירצו לחזור אליה”. כל ארגון שניסה לכפות אימוץ AI בהוראה מלמעלה עשה בדיוק את מה שוואטס מתאר וקיבל את התוצאה הצפויה: ציות למראית עין, שימוש שטחי ונטישה ברגע שהלחץ ירד.

מה AI באמת עשה

רוב השיח על AI מדבר במשפטים גדולים מכדי להיות שימושיים. AI לא “החליף מומחיות”. הוא עשה משהו ספציפי מאוד: הוא הוריד את עלות הידע לאפס.

כל אחד בארגון יכול היום לייצר תוך שתי דקות אסטרטגיית שיווק, ניתוח מתחרים, מסמך אפיון, קוד שעובד או תוכנית עבודה. הפלט ייראה מקצועי, ישתמש בשפה הנכונה ויהיה מובנה היטב. מה ש-AI לא הוריד לאפס הוא מספר הסבבים.

וכאן צריך לעצור, כי טעינו בקאסטינג

עד עכשיו הנחתי וכנראה גם אתם, שאנחנו ניו. AI מחובר לעורף שלנו, טוען לנו ידע ואנחנו יוצאים לקרב עם ידע שלא הרווחנו. אבל תסתכלו שוב על הסצנה ותשאלו מי בה באמת עונה לתיאור.

מי הגיע לעולם עם כל הידע הקיים, בלי לרכוש אותו? מי מכיר כל מהלך מכל אסכולה ומעולם לא ספג מכה? מי קרא כל תיאור של כישלון שנכתב אי פעם ומעולם לא נכשל?

זה לא אתם. זה מודל השפה.

מודל שפה הוא בדיוק ניו אחרי הטעינה. הוא נטען, הוא לא התאמן. הוא קרא הכל ולא עשה כלום. יש לו ידע מושלם על תוצאות ואפס חוויה של תוצאה וזה לא דימוי, זה תיאור טכני של מה שמודל שפה הוא: מערכת שלמדה מטקסט, בלי גוף, בלי סיכון, בלי אף פעם אחת שבה משהו כאב.

וברגע שרואים את זה, ההתנהגות שלו מפסיקה להיות מסתורית. הביטחון המוחלט בתשובה שגויה, המהלך שנכון בספר ולא בקרב, הנימוק שנשמע מושלם ומתפרק במגע הראשון עם המציאות. זה לא באג. זה מה שקורה כשיש ידע בלי חבטות.

אז מי אתם? ארבעה תפקידים

• ניו: התפקיד שרובנו מנסים לתפוסזה מה שקורה בכל פעם שאנחנו מתחרים במודל: מנסים לדעת יותר, לזכור יותר, לייצר מהר יותר. זו תחרות אבודה, לא כי אנחנו גרועים, אלא כי בחרנו את הציר היחיד שבו הוא באמת טוב מאיתנו. יש רק ניו אחד בסצנה והתפקיד תפוס.
• מורפיוס: התפקיד שצריך בזירהמורפיוס לא יודע יותר מניו. הוא יודע פחות. מה שיש לו זה חבטות. הוא היחיד בחדר שיכול להסתכל על מהלך מושלם ולהגיד “זה לא יעבוד עליי” ולצדוק. זה התפקיד שלכם מול המודל: לא לספק ידע, אלא התנגדות.
• הבמאי: התפקיד שהוא גם מלכודתהבמאי מחליט מה הסצנה אמורה להשיג ומה נחשב ניצחון. בעולם של AI זה להגדיר מה המערכת מנסה להשיג ומתי זה מספיק טוב. זה תפקיד אמיתי, אבל הוא מפתה לדלג על הדוג'ו. אפשר לביים רק סצנה שיכולתם לשחק בה.
• הצופים: השוקהצוות שצופה מלמעלה לא רואה מה נטען למוח של ניו. הוא רואה דבר אחד בלבד: מי על הרצפה. זה השוק שלכם והוא לא מתרשם מהטעינה.

הסוכן שבניתם הוא ניו המובהק מכולם

אם אתם בונים סוכני AI, אתם מבצעים את הסצנה הזאת מילולית. לוקחים מודל, טוענים לו בסיס ידע, פרומפטים, פלייבוקים, טון דיבור וטיפול בהתנגדויות ואומרים “הוא יודע קונג פו” ואז שולחים אותו לקרב הראשון שלו מול משתמש אמיתי.

והוא מפסיד. בפעם הראשונה הוא תמיד מפסיד. לא כי חסר לו ידע, אלא כי המשתמש האמיתי לא נמצא בקטלוג.

ומה שאתם עושים אחר כך, לקרוא את התמלולים, לזהות איפה הוא איבד את השיחה, לתקן ולהריץ שוב, זה לא “אופטימיזציה”. זה הדוג'ו. אתם מריצים את הסוכן דרך אותה לולאה שבנתה את השיפוט שלכם, רק שהפעם אתם עומדים בצד השני של המזרן.

וזו גם הסיבה שאי אפשר לבנות סוכן טוב בתחום שאתם לא מבינים בו. את הידע המודל יביא. מה שלא יהיה לכם זו הדרך לזהות שהוא מפסיד.

שלושה כשלים, בשמות הנכונים

• לשחק את ניו במקום את מורפיוסמוסרים את הפלט במקום להפעיל עליו שיפוט. עבודה בינונית של אדם נראתה בינונית. פלט בינוני של מודל נראה מצוין.
• לביים סצנה שלא יכולתם לשחק בההיכולת שלכם להעריך תוצר של AI מוגבלת ליכולת שלכם לזהות מתי הוא שגוי. מחוץ לתחום המומחיות שלכם, AI נותן ביטחון בלי מומחיות וזה מסוכן יותר מבורות.
• לדלג על הלולאה שבונה את השיפוטAI שווה הכי הרבה למי שכבר עשה את הסבבים ומפתה הכי הרבה את מי שעוד לא. הוא לא מקטין את הפער בין מנוסים למתחילים. הוא מרחיב אותו.

מה עושים עם זה

• להפריד בין פלט שאפשר לאמת לבין פלט שדורש שיפוטקוד שעובר טסטים, תרגום שאפשר להצליב, סיכום של מסמך שאפשר לקרוא: שם AI הוא מנוף מיידי בסיכון נמוך. אסטרטגיה, תמחור ומסר לקהל: שם הפלט נראה טוב בדיוק כשהוא שגוי. שתי הקטגוריות דורשות מדיניות שונה.
• להגן על הסבבים של הזוטריםהעבודה המפרכת של השנתיים הראשונות היא מנגנון הייצור של המורפיוסים שלכם. אם AI אוכל אותה, החיסכון מיידי והמחיר משולם בעוד חמש שנים.
• למדוד סבבים, לא אימוץ“כמה אנשים משתמשים ב-AI” הוא מדד חסר משמעות. השאלה היא כמה סבבים עשו על תוצר לפני שמסרו אותו וכמה פעמים דחו את התשובה הראשונה.
• לעשות את זה מיומנות, לא משמעתאל תכפו אימוץ. תייצרו סקרנות מקצועית. אנשים חוזרים למלאכה כשמעניין אותם מה יקרה, לא כשאמרו להם.

חזרה לדוג'ו

יש פרט בסצנה שקל לפספס: הטעינה לא הייתה מיותרת. בלעדיה לא היה לניו במה להילחם. היא נתנה לו את אוצר המילים. מה שהיא לא נתנה לו זו היכולת לבחור בין המהלכים תחת לחץ, מול יריב אמיתי. את זה נתן לו הדוג'ו.

השאלה “איך לא נהיה ניו” הייתה השאלה הלא נכונה מלכתחילה. אנחנו לא ניו. ידע אינסופי בלי ניסיון הוא לא המצב שלנו, הוא המצב של הכלי שבנינו. השאלה הנכונה היא האם הרווחנו את התפקיד השני.

AI הוא לא האויב והוא לא הדוג'ו. הוא ניו ואתם צריכים להיות מספיק טובים כדי לאמן אותו.

עוד בנושא

• ליווי ארגונירוב פרויקטי ה-AI לא נכשלים בגלל הטכנולוגיה. הם נכשלים כי אין לתהליך בעלים, הנתונים לא מוכנים ואף אחד לא הוכשר להמשיך. ליווי ארגוני הוא העבודה שגורמת לזה להחזיק גם אחרי שאנחנו יוצאים.
• סוכנים אוטונומייםסוכן AI לא רק עונה על שאלות. הוא מבצע משימה מקצה לקצה: קורא, מחליט לפי כללים שהגדרנו יחד, פועל במערכות ומדווח. בפרויקט ששחר פאר הוביל לפני הקמת פלא, בחברת ציוד רפואי, סוכן אחד שנבנה לתוך תהליך הלידים הקיים הביא לשיפור של 56% בהמרת לידים.