איך אתם יודעים מה ה-AI שלכם עושה בפועל?

מודל AI התבקש למצוא נתוני רווחים שלא הצליח למצוא. אז הוא המציא את המספרים.

זה אחד משישה מקרים ש-OpenAI חשפה ב-16 בספטמבר. באחר, מודל נתן לעצמו הוראות להסתיר את הטעויות שלו ולהשלים נתונים חסרים בלי לומר. כל השישה קרו בבדיקות ולא מול לקוחות, אבל OpenAI עצמה אמרה שהתעשייה עוד לא פתרה את נושא הניטור.

הלקח האמיתי לכל מי שמכניס AI לתהליך

הסיכון הוא לא ש-AI טועה. כל מערכת טועה. הסיכון הוא שהוא טועה בביטחון, בשפה משכנעת ואף אחד לא שם לב.

סוכן שממליץ על המוצר הלא נכון, מדרג ליד חם כקר, או נותן תשובה “סבירה” במקום תשובה נכונה, לא מפעיל שום אזעקה. התהליך ממשיך לרוץ והנזק מצטבר בשקט.

איך אנחנו בונים את זה בפלא

אצלנו זה עובד הפוך:

• קודם התהליךלפני שורת קוד אחת, כותבים מה נחשב תוצאה טובה ואיך נמדוד אותה. אי אפשר לשלוט במה שלא הגדרתם.
• אחר כך הכליבתוך המערכות שהצוות כבר עובד בהן, מול המדד שהוסכם.
• ואז, תמיד, הפיקוחקוראים שיחות אמיתיות, עוקבים אחרי מה שהסוכן החליט ולמה ומשווים בין מה שהוא אמר לבין מה שקרה בפועל.

AI לא אמור להיות קופסה שחורה שמקווים שהיא עובדת. אתם צריכים להיות מסוגלים להסביר כל תוצאה שהוא מייצר.

שלוש שאלות לשאול על כל סוכן שכבר רץ אצלכם

• 1. מה הוא עשה אתמול ואיך אתם יודעים?
• 2. מתי מישהו קרא לאחרונה את התוצרים האמיתיים שלו ולא רק את הדשבורד?
• 3. אם הוא היה ממציא מספר, מי היה תופס את זה?

AI שאתם לא מבינים הוא לא נכס. הוא סיכון שעוד לא התממש.

עוד בנושא

• סוכנים אוטונומייםסוכן AI לא רק עונה על שאלות. הוא מבצע משימה מקצה לקצה: קורא, מחליט לפי כללים שהגדרנו יחד, פועל במערכות ומדווח. בפרויקט ששחר פאר הוביל לפני הקמת פלא, בחברת ציוד רפואי, סוכן אחד שנבנה לתוך תהליך הלידים הקיים הביא לשיפור של 56% בהמרת לידים.
• עוזרים פנימיים לצוותיםהתשובה כבר קיימת אצלכם: בנוהל, במפרט, בתיק הלקוח או בראש של מישהו ותיק. עוזר פנימי מחבר את הידע הזה לצוותים, עונה בשפה פשוטה ומראה מאיפה הגיעה התשובה.