כפי שכתבתי בעבר הבעיה הגדולה ביותר של הבינה המלאכותית (היוצרת) היא התפיסה הרווחת שהיא הפתרון לכל בעיה ושהיא יכולה לבצע כל משימה (בצורה מושלמת). כל מי שהתנסה כבר יודע הדרך לשלמות עוד ארוכה.

בשנתיים האחרונות הבינה המלאכותית משנה את הדרך בה ארגונים ועובדים מתמודדים עם אופן קבלת ההחלטות וביצוע המשימות בעבודתם. אך לצד הפוטנציאל העצום, הטכנולוגיה אינה חפה מטעויות ובעיות, ולא כל משימה או אתגר מחייב שימוש בכלים או סוכני בינה מלאכותית (AI Agent). לעיתים קרובות מדי עובדים ומנהלים נוטים להשתמש בסוכנים גם כאשר פתרונות טכנולוגיים מסורתיים (כמו קוד אמין ומוכר) יכול להספיק.

מתי נכון או לא נכון להשתמש בסוכני בינה מלאכותית

סוכני בינה מלאכותית הם טכנולוגיה רבת עוצמה, אך הם אינם מתאימים לכל משימה. לפני שממהרים ליישם כלים או פתרונות מבוססי בינה מלאכותית חשוב לבחון את אופי המשימה ואת התוצאות הנדרשות. בדומה לבניה של צוות אנושי אנחנו צריכים לשאול את עצמנו מה סוג המשימה ? אילו כלים קיימים יכולים לתת לנו פתרון טוב יותר ? האם נוכל לקבל מהסוכנים תשובות מהימנות ? ורק לאחר שענינו על שאלות אלו נוכל לבחון אילו סוכנים מתאימים ביותר לביצוע המשימה ? (אם בכלל)
במקרים רבים ניתן להתמודד עם אתגרים עסקיים בעזרת אוטומציה פשוטה או מערכות מבוססות חוקים, פרדיקציות או שימוש פשוט במודלי שפה (LLM) והנחיות מדויקות (Prompting). גישות אלו לעיתים מספקות אמינות ושליטה גבוהות יותר - בלי להוסיף מורכבות מיותרת לפתרון.
חשוב מאד לשים לב לתורה הנדרשת, במקרים של תהליכים סטנדרטיים וכאשר השונות בתוצאה נדרשת להיות נמוכה כמו בבדיקה של מערכות טכניות, חילוץ נתונים פיננסיים מורכבים, בקרה על פסי ייצור או כל תהליך שהתוצאה שלו צריכה להיות מוחלטת, סוכנים המבוססים על מודלי בינה מלאכותית יוצרת (שהם פחות דטרמיניסטיים) עשויים להוסיף אי-ודאות במקום ערך.
לעומת זאת, בתהליכים דינמיים ובעלי שונות גבוהה - כמו תוכן שיווקי, הדרכות ארגוניות, מסרים לעובדים ועוד סוכנים יכולים להוכיח את עצמם ככלים יעילים במיוחד.
ברוב המקרים, לא מדובר בהחלטה של “כן סוכן” או “לא סוכן”. המפתח הוא לבנות מערכת משותפת של אנשים, סוכנים וכלי אוטומציה, כך שכל אחד מהם יביא את חוזקותיו לתהליך.

השקיעו בהערכה ובבניית אמון המשתמשים

אחת הטעויות הנפוצות ביותר היא ההבטחה והקסם של סוכני ה AI בשלב הדמו והצניחה בביצועים לאחר היישם. במקרים רבים, מיד לאחר הדמו עובדים רבים מדווחים על תסכול בגלל תוצרים באיכות נמוכה או לא עקבית, שמוביליה לאובדן אמון ולירידה חדה בשימוש.
כדי למנוע זאת, יש להשקיע בפיתוח סוכנים כמו שמשקיעים בעובדים חדשים. לכל סוכן צריכה להיות הגדרת תפקיד ברורה, תהליך חפיפה מסודר אשר מבוסס על הנגשת המידע הרלוונטי לעובד לצד בקרה ומשוב מתמשך לשיפור ביצועיו. גישה זו מבטיחה שהסוכן ילמד, יתקדם ויתרום לאורך זמן.
מרכיב מרכזי בתהליך הוא יצירת מערכת הערכה שוטפת. מערכת זו תשמש גם כספר הדרכה וגם כמדד ביצועים שתסייע להגדיר מה יהיו מדדי ההצלחה של הסוכן בכל משימה. בין אם מדובר בנהלים מתועדים או בידע סמוי שנמצא ברשות הסוכן - חשוב לתעד ולמדוד את הביצועים שלו כך שניתן יהיה לשפר אותם באופן שיטתי.
הכי חשוב: אין דבר כזה “להשיק ולשכוח”. המפתחים ובעלי הידע הארגוני חייבים להישאר מעורבים, לבדוק ולכוון את הסוכן באופן קבוע.

הקלו על המעקב והאימות בכל שלב

בהמשך ישיר לסעיף הקודם, ככל שארגונים מטמיעים יותר סוכנים כך חשוב יותר לנתר ולאמת את פעילותם בכל שלב בתהליך או המשימה אותה הם מבצעים. מעקב אחר תוצאות בלבד אינו מספיק: כאשר מתרחשת טעות, אם לא קיימת מערכת בקרה והבנה של הצואה / מסקנה אליה הגיע הסוכן יהיה קשה לאתר את מקורה ולתקן אותה ככל שיידרש.
שילוב כלי בקרה ושקיפות בתוך תהליכי העבודה ויצירת התוכן של הסוכן מאפשרים לזהות בעיות בשלב מוקדם ולתקן אותן במהירות.

התרחישים הטובים ביותר הם אלו שחוזרים על עצמם

במרוץ אחר החדשנות, ארגונים רבים יוצרים סוכנים חדשים לכל משימה - מה שמוביל לבזבוז משאבים, כפילויות ועלויות מיותרות. הדרך הנכונה יותר היא לחשוב כמו בהנדסת התוכנה המוכרת והמסורתית במונחים של רכיבים (סוכנים) הניתנים לשימוש חוזר.
משימות רבות - כמו קליטת נתונים, חיפוש, ניתוח או חילוץ מידע - חוזרות על עצמן בתהליכים ארגוניים רבים. בניית של סוכנים מודולריים ושיתוף התהליכים בין הסוכנים השונים (ושימוש חוזר בין תהליכים שונים) מאפשרת חיסכון בזמן, בכסף ובשגיאות.
פיתוח ספרייה מרכזית של סוכנים מאומתים (כאלו שעברו ולידציה ובדיקה של התוצאות במשימה הספציפית שלהם) מאפשר למפתחים ולעובדים לגשת לסוכנים אלו בקלות. שילובם בתהליכים השונים יכולה לצמצם עד 50% מהעבודה המיותרת ולזרז את ההטמעה.

אנחנו (בני האדם) לא הולכים לשום מקום

יישארו חיוניים - אך תפקידם ישתנה
הרחבת השימוש בסוכני בינה מלאוכתית מציפה בשנים האחרונות שאלות טבעיות על עתיד התעסוקה. אמנם סוכנים יוכלו לבצע חלק גדל מהעבודה, אך בני אדם יישארו מרכיב חיוני בתהליכים, במיוחד בתחומים הדורשים שיפוט, בקרה ורגולציה.
עם זאת, תפקידי העובדים ישתנו. חלק מהמשרות יקטנו, אחרות יתמקדו בהדרכת הסוכנים ובפיקוח עליהם. מנהלים יצטרכו לנהל את המעבר הזה בזהירות, להשקיע בהכשרות, ולהבטיח שהידע האנושי ממשיך להנחות את הסוכנים שיהפכו לחלק מסביבת העבודה שלנו.
לאט לאט נגלה שקליטת סוכן לעבודה דומה יותר לגיוס עובד חדש מאשר להתקנת תוכנה, הארגונים שיצליחו בעתיד יהיו אלו שיבינו שהבינה המלאכותית שותפה לדרך ולא תחליף לעבודה שלנו.

לסיכום:
סוכני בינה מלאכותית יכולים לחולל שינוי אמיתי - אך רק אם משתמשים בהם בצורה נכונה. ההצלחה טמונה בהבנת המשימה, השקעה בניתוח תהליך העבודה, הערכה ובקרה, שקיפות, ושימוש חוזר וחכם של הסוכנים תוך שילוב האדם בלב התהליך. מי שישכיל למצוא את האיזון הנכון - יפיק את המרב מהעידן החדש של סוכני ה AI.

המאמר נכתב בהשראת הפרסום הבא של מקינזי.
One year of agentic AI: Six lessons from the people doing the work
https://www.mckinsey.com/capabilities/quantumblack/our-insights/one-year-of-agentic-ai-six-lessons-from-the-people-doing-the-work