בפרק הזה אירחתי את תמיר דרשר, Principal Engineer ב- Microsoft CoreAIויוצר-שותף של Squad, פרויקט קוד פתוח לבניית צוותים של סוכני AI, לשיחה על Loop Engineering – מערכת אג'נטית אוטונומית שרצה בלולאות וסוגרת לבדה משימות מקצה לקצה. דיברנו על האבולוציה של לולאות ההרצה, עשינו סדר במושגי היסוד, ודנו בתנאי עצירה אפקטיביים למערכת, כך שתהיה עצמאית ויעילה מחד, אך ממוקדת במשימה וכפופה לבקרה אנושית מאידך.
בהמשך עברנו לפרקטיקה והסברנו איך בכלל כדאי להשתמש ב-Loop Engineering, וצללנו לעומק ודיברנו על שמירת זיכרון וקונטקסט בצוותי Multi-Agent, על סוכן מנהל מול סוכנים מתמחים, ומה נדרש כדי להריץ סוכנים אוטונומיים בענן עם יכולות Self-Healing.
מגיש: עמית בן דור
אורח: תמיר דרשר
עורכת ראשית: שלי נוי
מנהל אולפן: עידו שקד
טכנאי: אביאור זמבר
שיווק: רעות שוקר
מפיק ועורך: דביר זילבר
תמלול הפרק
עושים תוכנה. שלום ותודה שהצטרפתם לעוד פרק של עושים תוכנה, אני עמית בנדור. אז גם אתם עברתם ליד דסק של אחד המפתחים בחברה וראיתם 20 לופים רצים או ששמעתם איזה הרצאה בחברה, אני אומר שרבים מכם שמעתם על loop engineering וזה באמת נושא שהוא כזה מאוד חם, אבל אני חייב להגיד שאני שמתי לב שהרבה אנשים לפעמים באים עם איזשהו בלבול של מתי משתמשים בזה, איך, מה best practices, מה העקרונות באמת המנחים להשתמש בצורה אפקטיבית בלופים ומתי להשתמש בלופים, וזה באמת הנושא שלנו היום, והזמנתי לצורך זה לאולפן את תמיר דרשר.
שלום שלום כיף לראות אותך כיף לחזור כן אז אתה היית פה פעם אחרונה בפרק אני לא יודע אולי זה היה חמש שנים שש שנים משהו כזה עבר זמן כן היה לי יותר שיער. ופחות שומן אבל כן אז כיף גדול היה לנו פרקים על פישר ועל נכון ועל פיוז ונכון והיה לנו דיונים חמים סביב הנושאים האלו אז מי שרוצה לחזור וקצת נוסטלגיה. אבל היום באמת הזמנתי אותך לדבר על לופים, תספר לנו כזה במילה מה אתה עושה היום, אני יודע שאתה כזה פעיל בעולמות ה-AI. כן, אז תמיר דרשר, אני פרינסיפל אינג'יניר במייקרוסופט בקבוצת הסרברלס שתחת ארגון ה-Core AI. העיסוק שלי הוא בעיקר בעולמות של ה-Durable Execution, של AI Agent, של Agentic Workflows.
וכל המעטפת מסביב מבחינת האינפרה. במקביל אני גם ה-co-creator של Squad יחד עם ברדי גסטר, שסקוואד זה למעשה איזשהו open source שעשינו שמאפשר לייצר צוותי AI שיכולים להיות אוטונומיים והם human driven. ואתה יודע, כמו כולנו, מתעסק הרבה בלאן אנחנו הולכים מכאן ואיך אנחנו משלבים AI בכל העולמות שלנו מסביב, וזה חם ומעניין. אהה, זה נשמע שאתה ממש בקור של הדברים, איפה שדברים קורים, ונראה לי שאנחנו נדבר בטח על סקוואד גם קצת יותר באריכות בהמשך, אבל אני רוצה שנתחיל באמת מהלופים, ולמי שעכשיו עוצר ושואל את עצמו למה הוא צריך את זה, כי כבר הוא אקספרט עם הקלוד או הקופיילוט או משהו לא עובד איתו, מה זה הקונספט הזה ולמה באמת צריך את זה? אז אפשר להגיד שלופ אנג'ינירינג זה בגדול המעבר מסינגל פרומפט שאנחנו כותבים מקבלים תוצאה ליותר משהו שמתחיל להרגיש כמו מערכת אג'נטית שיודעת לעבוד באופן שוטף ורפיטבל ולקחת משימה או אחריות ולהצליח לממש את זה מקצה לקצה.
עכשיו הדבר הזה הוא אנחנו אומרים לופ זה קצת מה... מילה הזאת, מהמושג הזה של פידבק לופ, או אם אנחנו רוצים האינר לופ, או אפשר אפילו להגיד זה ה-SDLC, ה-Life Cycle של Software Development, בצורה המודרנית עם AI. וכמובן שזה נהיה חם, כי המודלים נהיים חכמים, הם יודעים לתת תשובות, אבל עדיין אנחנו צריכים מסגרות של אנג'ינירינג, כדי שדברים יעבדו כמו שצריך. אפשר להגיד שזה כמו סטארט-אפ שמאוד מאוד השקיעו בפונקציונליות ובחוזק של המוצר, אבל כשזה מתפתח וגדל ויש יותר ויותר חלקים שמשתלבים בזה, צריך להתחיל להכניס עקרונות הנדסיים כדי שזה יהיה observable ושיהיה לנו את היכולת לסקיוריטי ואת היכולת באמת לוודא שמה שהוא עושה באמת עושה את זה בצורה טובה עם הגנות, וכל זה נכנס לנו לקונספט הזה של ה-loop engineering. אז זה נשמע שבעצם אנחנו נותנים יותר דרור בעצם לאג'נט לעשות מה שהוא רוצה בהיבט של כלומר בסשנים יותר ארוכים, אבל מהצד השני בגלל שאנחנו נותנים לו לעבוד לאורך יותר זמן, אנחנו רוצים שהוא יהיה עקרונות באמת טובים בזמן שהוא שמה, כי אנחנו כבר אולי לא נמצאים כחלק מהלופ הזה.
נכון, וגם העניין של ההמשכיות, כי זה לא מספיק שרק עשינו משימה עכשיו אחת טובה. אנחנו רוצים לחזור לזה, או רוצים שה-AI שלנו, האג'נט, המערכת האג'נטית, תמשיך מתישהו בהמשך בגלל משהו אחר, אבל תלמד מהטעויות, תשתפר לאורך זמן. והדבר הזה בעצם מייצר פה אוסף של כל מיני קומפוננטות וכל מיני אקסס שאנחנו צריכים להשקיע בהם ולחשוב על איך הם מתחברים ביחד. איך אנחנו מודדים את זה, איך אנחנו מוודאים את זה, איך אנחנו דואגים שלא יעשו לנו משהו עוין, כן? פרומפטינג ג'קשן וכל מיני דברים סביב לזה וגם איך אנחנו עובדים שהוא לא ישתולל, שמענו סיפורים על AI שמשתולל, אז ביחד אוסף כל הדברים האלה באמת זה נהיה עולם שכל אחד ממנו הוא ציר שאפשר להרחיב עליו באמת הרבה, אז אנחנו ננסה, נמקווה להתרכז ככה בגדול ולתת נקודות להמשך.
יאללה מעולה, אז אני חושב שאפשר כזה לצלול פנימה, אני יודע שזה עולם עם הרבה הגדרות וקונספטים, תן לנו סדר. אוקיי, אז בואו נתחיל במושג הזה שנקרא מודל, כן? יש לנו גם בתוך זה כל מיני דברים ששומעים עליהם, פרונטיר מודל ולוקל מודלס, ויש LLM וSLM, בסוף הדברים האלה הם stateless, אתה נותן להם איזשהו input טקסטואלי, מקבל חזרה איזשהו output אחר, לצורך העניין במקרה הזה נתרכז בדברים שהם טקסטואליים, כן? ואז זה מתחיל להיות מעניין שאם אתה נותן את הפרומפט, שזה בעצם הטקסט עם קצת הנחיות והכוונות, אז הוא משנה את הגישה שלו. עכשיו, המודל בפני עצמו לא יודע לעשות שום דבר בתקשורת לעולם האחר, בגלל זה יש לנו טולס.
אז כשאנחנו לוקחים את כל הדבר הזה שצריך להניע את המודל, לחבר לו את הטולים, לדעת להפעיל אותם וכל זה, זה כבר מה שמתחילים לקרוא לו ההרנס. עכשיו, לקחתי את המודל עם ההרנס ו... הארנס יכול להיות במתק לוד או קופיילוט או גרוק ואחרים, כן, קירו. ועכשיו אני נותן לו טאסק, אז הוא ידע בעצם לעשות מעין סוג של לופ מאוד מאוד קטן בשלובת הטאסק הזה, ובסופו של דבר לתת לי איזשהו תוצר. אבל פה הוא עוצר, בעצם אנחנו צריכים עוד איזשהו תהליך שיגיד, רגע, האם מה שקיבלנו הוא באמת תואם למה שביקשנו?
כלומר, אנחנו נותנים ספסיפיקציה ואנחנו מקבלים תוצאה ועכשיו העניין מה המרחק בין הספסיפיקציה לבין התוצר הזה. ומה שהניע את כל הדבר הזה כנראה הוא הקונספט הזה שנקרא Ralph Loop, שלפני בערך שנה הוצג, שהרעיון הוא מאוד נאיבי, זה בעצם אפשר להגיד המקבילה של ברוטפורס בעולם ה-AI. בואו נריץ את ה-AI שלנו, את ההרנס שלנו בלולה, ממש בווייל. וכל פעם נגיד לו, אוקיי, זאת הספסיפיקציה, זה התוצר שיש עד עכשיו, בוא תמשיך לעבוד. אתה לא, עד שאתה לא מסיים, אתה לא חוזר אליי לדבר איתי.
בדיוק, כאילו, אנחנו שמים תנאי עצירה מאוד מאוד ארטילאי כזה של, האם הגעתי לתוצאות? תמשיך, תמשיך, תמשיך, תמשיך. באופן די מעניין, זה באמת שיפר, כן? אז זה היה ההתחלה של הדבר הזה שאנחנו קוראים לו לופ. עכשיו, כמובן שהיום אנחנו מדברים על לופ שהוא הרבה הרבה יותר מתקדם, כי בעצם זה לא רק לולאה, כשאתה מתחיל לייצר כאלה לולאות, שאחת היא באמת לכתוב את זה בסקריפט, בימים הראשונים פשוט היה לנו סקריפטים, אנשים ייצרו כאלה באש סקריפט שמריצים את זה בלולאה, אתה מתחיל להכניס כל מיני דברים של, אוקיי, איך באמת אני עושה את האבלואציה לקואליטי?
כי אני אגיד לאותו מודל לבדוק אם התוצר שלו הוא אותו דבר as is, זה... כאילו קצת חוטא למטרה, אני רוצה judgment קצת אחר. כל מיני שיטות כאלה של אבלואציה שהן הרבה יותר מתמטיות אם תרצה, כמו היום אנחנו מדברים על hill climbing, שבעצם מסתכלים על זה כמו פונקציה, ואנחנו סוג שמנסים להגיע לפסגה, לאופטימום, בכל מיני מתודולוגיות. ודיברנו כבר על security ו-governance וכל הדברים האלה. אז כל הדבר הזה בעצם מייצר לנו את הרמה הזאת.
בתוך עלולה. ולמעשה, כשאנחנו מדברים על הלופ המודרני, אנחנו מדברים על זה שאוקיי, יש לנו איזשהו טריגר, וטריגר יכול להיות זה שאני פונה אל האג'נט שלי, או שהטריגר יכול להיות שיש איזה אינסידנט או אישו, ועכשיו אנחנו צריכים שלב של הבנה, אנחנו צריכים שלב של פלנינג, ולייצר סוג של תוכנית שאנחנו רוצים לעקוב אחריה, וכמובן לעשות את האימפלמנטציה. ואנחנו רוצים לבדוק את זה ואנחנו רוצים בסוף לעשות סוג של inspection ואנחנו רוצים לבדוק שבאמת מה שקיבלנו תואם לכלל ההנחיות מעבר למשימה הבודדת וכמובן לחזור חלילה, כן? אז יש לנו כל מיני שלבים כאלה שמתחילים לרוץ וזה ברמה של agent בודד ועכשיו גם העולם שלנו מתרחב לעולמות האלה של ה-multi-agent או לצוותים של אייג'נט, סקוואד זה רק דוגמה, אנחנו מתחילים לראות הרבה הרבה יותר תופעות כאלה, ואז איך הם מתקשרים, איך עושים את האורקסטרציה, איך עושים את ההנד-אוף, מה לגבי הנולדג', איך אנחנו עושים נולדג' ברמה המקומית, ברמה הארגונית, איך אנחנו מתחזקים ממורי לאורך זמן, איך אנחנו עושים על כל הדבר הזה סוג של קונטקסט באג'טינג, בסוף יש פה עלויות. אנחנו צריכים איזשהו אקונומי מודל לכל הדבר הזה.
כן, שזה בעצם לא רק עלות של טוקנים, הרבה פעמים גם ככל שאנחנו דוחסים כל מיני שטויות לתוך הקונטקסט, אמנם המודלים היום אולי קצת יותר חסינים, אבל עדיין אין בזה שום ערך שהוא טוב, אנחנו גם מפסידים איכות בדרך כלל וגם כסף על הדרך. נכון, למעשה יש פה כמה משאבים שאנחנו כל הזמן מתחרים אליהם. יש לנו את ה-context window, שאנחנו רוצים לנצל אותו בצורה טובה, כי אם אני אשים סתם מידע לא רלוונטי, זה יבלבל את המודל שיקבל את זה. כמובן שיש פה את הפן של ה-context מבחינת עלות הטוקנים, כן? ויש להם קשינגים שונים שבעצם החברות מנהלות עבורנו.
יש פה בכלל את העניין הזה של הפרלליזציה, כי... אני רוצה באמת להריץ את ה-C הזה שעובד עכשיו על המערכת שלי, יש לי מלא מלא פיצ'רים שצריכים לעבוד, אבל בסוף יש גם לימיט שאני מקבל מצד המודל, יש לי רייט לימיט, איך אני מנהל את הפרלליזציה? מעבר לזה, נגיד שכולם עובדים, ואפילו אני אומר לצוות המקומי של ה-AI שרץ אצלי לעבוד, איך הם לא דורכים אחד לשני על האצבעות? כלומר, מה האייסוליישן מודל? ומצד שני לפעמים הם כן רוצים לקשר אחד לשני.
אז אלה כל מיני דברים שאנחנו מתחילים ככה לפתח פאטרנים. היה לנו המון למידה במסגרת זה שאני ובריידי עובדים על סקוואד בהיבטים האלה. היום אני ובריידי גם עובדים צמוד עם גיטאב, יחד עם הצוותים שקשורים לקרו פיילוט, כי בעצם התעשייה הזאת היא מצד אחד מאוד צעירה, מצד שני היא מאוד מאוד מתקדמת. הכל בספידים, כן. כן, וכל יום יוצא משהו חדש, כן, וצריך לראות מה הדבר הנכון, כי אנחנו כמובן רוצים לתת יותר יכולות, אנחנו גם רוצים לא לעשות טעויות.
ככל שהמודלים שלנו נהיו יותר חזקים, קורה דבר דווקא די מעניין, הם במידה מסוימת נהיים פחות טובים ממה שחשבנו, כי הם מתחילים להגדיל ראש. אז הם אומרים, אה, ביקשת ממני לתקן פה טקסט, אבל... אולי אני אעשה פורי ארכיטקצ'ר לכל הדבר הזה. כן. זה לא מה שאנחנו רוצים.
ידוע, כן. אז המעטפות האלה שאנחנו שמים, השלבים השונים של הבקרה, הם מתחילים להיות מעניינים, נוצרים לנו סטנדרטים מסביב לכל הדבר הזה. כן, אז אני אשמח שבאמת ניכנס רגע אחד לבאמת איך עושים דברים נכון. ואני רוצה שנתחיל ממה שדיברת בעצם על השלב הזה שאנחנו עושים אבלואציה, שהיינו רוצים שזה יהיה איזשהו משהו שהוא כמה שיותר דיטרמיניסטי, נכון? זה במצב כזה אידיאלי.
אנחנו יכולים להגיד, יש כזה, הרבה פעמים זה נקרא verify, נכון? שאני כאילו יכול להגיד לו, לעשות את הבדיקה, ויכול להיות שזה אפילו, אנחנו רוצים שזה, כמו שאמרנו, זה יהיה agent אחר, זה דווקא לא יהיה זה שעושה את הפעולה עצמה. ואנחנו רוצים בעצם שיהיה לנו משהו שהוא כמה שיותר אפשר באופן בלתי תלוי להגיד. הגעת למשימה ואני יודע שיש עולמות מסוימים שזה אולי יחסית נשמע לפחות יותר קל אם זה תוצאה מסוימת או להעביר טסטים מסוימים או אפילו תוצאה ויזואלית אני למשל בעולמות המשין לרנינג והמחקר וכאלו הרבה פעמים שובר את הראש ולא ממש יודע מה לשים שם אז ספר קצת איך אתה ניגש לשלב הזה. קודם כל אני שואל את ה-AI אז בואו ננסה לפרק את זה.
אז אמרתי בהתחלה שאם אני לוקח את אותו LLM שהוא stateless ונותן לו טקסט אחר עם מניפולציות שונות, הוא יגיב באופן אחר. אנחנו מכירים את הדבר הזה קצת כפרומפט אינג'ינירינג. מאוד מאוד מקובל היום גם לעשות LLM איזה judge. העניין הוא שאתה רוצה לוודא שבאמת הוא יהיה מפוקס על המטרה ושלא ניכנס לכל מיני hallucinations. אז זה אופציה אחת, להריץ כן את המודל או מודל אחר בסקיל מסוים, באיזשהו פרומפט מאוד מאוד ספציפי.
שוב, יש מחקרים, אבל הרבה זה, אתה יודע, ניסוי ותהייה עד שמגיעים לדבר הזה. אבל בעיקר להגדיר לו מה הם הפרמטרים, כן? האם זה תואם לגיידליינס של הפרויקט? עכשיו כן, יש פה איזושהי מידה מסוימת של אמונה. שאנחנו צריכים במודל.
אני חושב, התעשייה כן מתחילה לקבל את זה שאנחנו צריכים לייצר פרוססים שהם דטרמיניסטיים, עם נקודות בתוכם שהן נקודות של, נקרא לזה של reasoning, שהן בעצמן לא, כן? כי בסוף מה שאנחנו מקבלים פה היום זה סוג של עובדים הסתברותיים, כן? פובליסטיים. וגם אנחנו כבני אדם, אנחנו לא בהכרח לוגיים ועושים את ההחלטות הנכונות. אז צריך לקבל את הדבר הזה, זה המצב.
כן, אבל יש באמת לא מעט מחקרים שמראים שה-LLM הזה, ג'אג' באמת הוא לא תמיד קונסיסטנטי כל כך, ויש עם זה קשיים. זה נכון, ואני מניח שגם ג'אג'ס אמיתיים, כן, הם כאלה. נכון. עכשיו, יש כרגע את התחום שנהיה מאוד מאוד חם של Decision Models, כן, כמו ג'אב, OpenAI הוציאו עכשיו את ה-Decision API, מתחילים לראות את זה, שלכאורה אמור לקרב אותנו למשהו שהוא קצת יותר דטרמיניסטי. אפשר להגיד שזה האבולוציה של מודלים של קלסיפיקציה.
כן, וולוטס זה מודלים של קלסיפיקציה, אבל כן. זה כן, אבל בצורה חדשה, בצורה חדשה. אז אנחנו באמת נראה לאן הדבר הזה יתפתח. אז כמובן שלשים כל מיני גארדריילס שהם באמת דטרמיניסטיים, משהו שמריץ את הטסטים, משהו שעושה לינט, משהו שבודק באמת בכל מיני פרמטרים שבאמת מדידים, זה הדרך הנכונה, כן? כמובן שלא תמיד ה-AI ידע.
כי לא הגדרתי לו ולכן אנחנו מגיעים פה גם לעניין הזה של אפשר לקרוא לזה Human in the Loop, אני מעדיף בהקשר הזה לקרוא לזה Human Driven, כי אם אני בונה פה משהו שכל הזמן יעצור ויחכה לה Human, אז לא השגתי כלום, קיבלתי פה סוג של Wizard מאוד מאוד יקר. אנחנו רוצים כן משהו שהוא כן יכול להיות אוטונומי בהחלטות, אבל... שאני כל פעם יכול לשפר אותו. אנחנו מאוד אוהבים להתייחס לזה כמו שהייתי מגייס איזשהו אאוטסורס, צוות חיצוני, ובהתחלה הוא עושה דברים כי הוא למד לעבוד בצורה מסוימת, וזה לא בהכרח מתאים לארגון שלי. אז אני אגיד להם, לא, אצלנו עושים ככה, כל הדיירקטיבס האלה הם מה שגורמים לו, לצוות הזה או צוות ה-AI, בעצם להתיישר למסלול שאנחנו רוצים.
שיעמוד בו. אז כן, עדיין יש פה AI שמפעיל AI ומתבססים על זה שהטקסט שאנחנו שמים הוא נכון. אתה מתחיל לראות גם כן שימוש בכל מיני פורמטים טקסטואליים שמצליחים אולי להפוך את זה למשהו קצת יותר אחיד. מדויק, אחיד, שפה פשוטה, כן, יש הרבה טריקים כאלו. יש את הרמות השונות של האנגלית, אני משתמש בזה בפרומפטים שלי בכתיבה, נורא אוהב להשתמש בכל מיני מילים ספרותיות כאלו ומוזרות.
אני לאחרונה הגשתי הרצאה לכנס בברלין שאני הולך לדבר בה, וזה היה עוד קצת לפני הימים ששמנו לב לזה, וראיתי שהוא השתמש במילה ליברס, ליברס כזה, כאילו שזו מילה שהוא נורא אוהב לחזור עליה כאילו כל פעם, ושכחתי שזה בדיסקריפשן, אני הכנסתי את זה, ומיד אמרתי, מה זה הסלופ הזה? כן. אז כאילו... לגמרי, אז קרפצי למשל לפני כמה זמן פרסם שזה... תקן שתעשיית החלל פיתחה לפני שנים כדי להסביר באופן פשוט הנחיות עד ששומעים קליק עד שכל מיני כאלה אז זה חלק מהעניין הזה כן כאילו.
בגדול טקסט כן שפה חופשית הופך להיות שפת התכנות החדשה אז עכשיו אנחנו מתחילים להכניס לזה את העקרונות של שפות פיתוח כן כדי שזה יהיה יותר. אידיאומטי וסטרקצ'רד וכאלה אז בעצם המעטפות האלה לשים כל מיני נקודות שבהם אפשר להפעיל. את הכלי בקרה עדיין אנחנו נעבוד עם פייפליינים שיכולים להיות גם כן אג'נטיק פייפליינס אבל עדיין יש שלבים סדורים. כשאנחנו מסתכלים למשל על הגיטאפ אג'נטיק וורקפלוז, זה די נחמד לראות איך הם הצליחו לשים את המגבלות ואת היכולת שלך להגדיר את הדברים כדי שה-AI יהיה מיושר. אי אפשר להפעיל כלים מסוימים או אי אפשר לצאת למקומות מסוימים כאילו כל מיני דברים כאלה, התנאים האלה, המגבלות האלה, הם מה שבסוף יוביל אותנו ל-AI טוב, וזה בסדר שה-AI ייצר את ה-workflow.
Human-driven אומר שאני עדיין צריך להיות איזשהו חלק מהתהליך ולבקר אותו בשאיפה שזה יהיה מאוד פשוט, כי אני לא רוצה להיכנס ולטעות בגלל שהרים של טקסט פשוט לא... כן, זה קשה נורא לפעמים גם לעקוב כבר אחרי כמויות הטקסט. עכשיו ברמה כאילו קצת הפרקטית, כי לפעמים אנחנו מקבלים גם הערות ממאזינים או איזה שמדברים באופן כללי. אז ספר קצת אם זה כללי עצירה כאלו מסוימים שנגיד איזה כללי עצירה אתה בדרך כלל בוחר, אם יש לך כזה פרקטיסס טובים לאיך מגדירים את זה, ובכלל דברים אחרים בעצם בתהליך שאתה כזה ממש עושה ביומיום. אז זה לא ספק פלנינג ולראות שזה עוקב בפלן וללכת אפילו בגישה של אוקיי.
בוא ניישר קודם כל את התוכנית, כן? זה הדרך שאז נוכל להגיד לו, כאשר הפלן הזה הגיע לנקודה מסוימת, תעצור לבקרה, כן? זה פרקטיקה מאוד מאוד טובה. ושוב, כמו שאמרנו, אנחנו רוצים שכל דבר יהיה טסטד, אנחנו רוצים לוודא שכל ההגנות מסביב מתקיימות, וכאשר יש משהו ש... אולי הוא playable, שאפשר באמת לשחק איתו, אז להגיד לו, אני רוצה עכשיו לבחון את זה, כן?
חלק מהדברים. וכשאתה עושה, כשאתה אומר human in the loop, אז בעצם אתה ממש כותב לו, כשאתה נותן אותה instruction ללופ, אתה ממש אומר לו, כשאתה מגיע לנקודה ככה וככה, כאילו אני עושה את זה, אולי יש דרך יותר טובה, אז תכין לי את התוצר, אני אבדוק אותו, ואז אנחנו ממשיכים. אז אני אצלול רגע לסקוואד. אז יש כמה דברים נגיד בסקוואד שבעצם עם הזמן הכנסנו ולמדנו שזה מאוד יעיל. אחד, נתחיל עם זה שאנחנו עובדים עם בקלוג של אישוז או באז'ור דב-אופס או איפה שלא תנהלו את האייטמים שלכם ולמעשה מוגדר לנו סט של סטייטים.
אז אני שם משהו בתודו ואני עושה לו אסיין לסקוואד והסקוואד מתחיל לעבוד על זה. והסקוואד יודע כחלק מההגדרות שלו שכאשר יש משהו שהוא צריך גישה למשהו שאין לו או כאשר הוא הגיע ל-PR, אז לשנות את הסטטוס כדי שאני אעשה לזה ריוויו או אם הוא בלוקט או אם הוא תקוע על משהו, אז גם כן. עכשיו ברגע שהוא עובד עם טאסקים כאלה שהוא כל פעם יכול גם לשים בהם מידע ולשמר קונטקסט ברמה טסקית לאורך זמן, זה גם מוביל אותו לעצור בשלבים, כי בסוף צריך להבין, הכלים האלה הם למדו על בסיס העולם, לפחות עד כה, כן? על פי העולם הקיים. אז אם הם רואים איך בני אדם עד עכשיו עשו דברים, וכשזה היה הצורה שבה הם העבירו טסקים בין...
זאת אומרת, ככה הם מנסים.
בשנים האחרונות כמעט כל אחד ואחת מאיתנו נושאים משהו. אובדן, חוסר ודאות, חרדה, לילות בלי שינה, או פשוט תחושה שמשהו בנו השתנה. מה קורה לנו אחרי שהעולם נסדק? וכדם, קהילה וחברה שלמה, קמים מחדש. קמים יחד הוא פודקאסט חדש שבוחן את שאלות הליבה שמאחורי טראומה והחלמה.
בפודקאסט הזה אני, פרופסור פנינית רוסו נצר, ראש מכון קמה וחוקרת משמעות, חוסן, צמיחה ממשבר ורווחה נפשית, מראיינת חוקרים, אנשי שטח ומי שחיים את המורכבות הזאת על בשרם. מה המחקר יכול לחדש לנו? איך ממצאים משנים מדיניות? ומה כל אחד מאיתנו יכול לעשות כבר מחר בבוקר כדי לנוע לקראת החלמה וריפוי? קמים יחד זמין בכל אפליקציות הפודקאסטים וביוטיוב של מכון קמה.
לשחזר את זה. בגלל זה לפעמים אתה תשאל כמה זמן לוקח לעשות משהו, והוא יגיד לך, אה, זה ייקח לי חודשיים. למה? כי הוא חושב כמו בן אדם. כשנתקלתי בזה הרבה פעמים, אני אומר לו, לא, אנחנו מסיימים את זה עכשיו תוך חצי שעה, על מה אתה מדבר?
הוא לא חושב בהקשר של האסטימציה שהוא AI, הוא חושב שהוא בן אדם, אז הוא אומר, אה, אם אני בן אדם, ככה בן אדם יעשה. נכון. עכשיו, לאורך זמן הדברים יהיו הרבה יותר סינתטיים באינטרנט, כן? אז נראה לאן זה יוביל. אבל עדיין, ההסתכלות אחורה ואיך היינו עושים ומנהלים דברים בצורה מסודרת, אנחנו יכולים לנצל את זה כרגע.
ולעבוד בצורה הזאת. אז זה דבר אחד. דבר שני, סקוואד עובד בצורה של מולטי אג'נט. אז יש לי את הקורדינטור, שבעצם משפט הדגל שלו זה שהוא לא דואר, הוא דלגייטור, הוא עושה דלגציה לאחרים. עצם זה שהוא עושה דלגציה ונותן את זה לספיישלייזד אג'נט, כבר מוביל אותו להגדיר להם מה הם צריכים לעשות באופן נורא נורא ממוקד, ככה זה הסתיים, והוא גם בוחר את הרמה של איך הוא עושה ספון לסאב אג'נטס האלה, כן?
ולכן התקשורת הזאתי, כן? באופן, לא כל דבר אני יודע להסביר למה זה ככה, אבל זה עובד, גורם לכל אחד מהם גם כן לעבוד. כמובן, בגלל שהוא ברקע, הוא יכול לדגום, ואם משהו נראה לו כאילו זה לא מתכנס, כן? אז הוא יכול לעצור אותו. יכול לייצר סאבסשנס אחרים וזה דרך גם כן להתעסק.
אחד הדברים שאנשים גם כן פחות מבינים, אני חושב, זה שבגלל שהקונטקסט שלנו מוגבל, אחת לכמה זמן נעבור איזשהו תהליך של קומפקשן. כל דבר כזה שמבצע תכיסה לכאורה מאבד מידע, והאיבוד מידע הזה יכול לגרום לאג'נט שירוץ לאורך זמן לשכוח מה בדיוק היה התנאי העצירה שלנו. אז אנחנו חייבים להוציא את התנאי העצירה, היינו רוצים, ממה שעובד כרגע, בגלל זה ההפרדה של אג'נטים ולעשות מנגנון בקרה גם אם הוא אג'נט אחר עובד יותר טוב מלקחת אג'נט בודד, כי יש לנו פה מעין single point of failure. כן, אני מאוד מתחבר לזה וגם בכלל אני שם לב שלפעמים יש עקרונות מסוימים שתוך כדי שיחה באמת מאוד ארוכה אז הולכים fading away ובכלל בשלב מסוים הוא כאילו מאבד את זה ואני אומר לו מה הגדרתי לך בהתחלת הדברים האלו. נכון וזה נורא חשוב באמת שיהיה לו באיזשהו מקום את היכולת הזאת אני משתמש בזה בצורה יותר נאיבית לפעמים שאני כותב הוא מבקש ממנו לכתוב את העושם לו את העקרונות נגיד באיזה קובץ md.
ואני באמת כשאני נותן לו את האינסטרקציה אני אומר לו כל פעם כאילו תחזור לזה כשאיבדת רגע כיוון תחזור לזה ואני רואה.
שטויות שקורות שם, ואני, אבל הוא חוזר פתאום, קורא את העקרונות, חוזר למסלול, וזה מאוד מספק. נכון, אז באמת ההגדרה הזאת של בוא ננהל בצד, כן, יש את הפלן, ויש גם את כל הנוטס, כן, של מה קורה, כדי שנדע, כן, כל הזמן להיזכר בדברים החשובים, כמו בני אדם, כן, אני עלול לשכוח, אבל פעם מישהו סיפר לי שההפך מלשכוח זה לרשום. אז אותו דבר, ככה האג'נט שלנו צריך להגדיר אותו, זה חלק ממה שאנחנו מתחילים להכניס לתוך הרנסס, ובטח ובטח כשאנחנו מייצרים את הלופים האלה, שהרבה מהם בסופו של דבר זה פשוט להגדיר את אותם שלבים, ולדאוג שלכל שלב כזה יש לי את הדרך לעשות לו את האסטימציה, ואם אני יכול לעשות אותו דטרמיניסטי, לדוגמה, כל העניין הזה של הגוברננס, האם אפשר לעשות עכשיו משהו כזה, מותר, אסור, איך אני מגביל גישות למודל או דברים מהסוג הזה? אנחנו נראה שהמימושים היום זה על בסיס כל מיני הוקים כאלה, כן? אז סתם אם נסתכל לדוגמה על AGT, שזה ה-Agent Governance Toolkit, אז הוא מכניס כל מיני הוקים כאלה ואני עדיין יכול להגדיר בשפה, בימלים דטרמיניסטיים, כן?
אקספליסיט את הפוליסיז ואז ידאג שהפוליסיז האלה הוא לא ישכח אותם או לפיתוב ליבו יעשה אותם. אלה בעצם הדרכים. עכשיו, אני שוב, אני מתאר לעצמי שלאנשים בבית, הדברים מתחילים להישמע נורא נורא מורכב. כל העניין פה עם הלופים האלה בפריימורקים כאלה ואחרים זה להוריד את המורכבות הזאת כדי שאנחנו לא נצטרך להתעסק עם זה. אז זה היה לגבי התנאי הצירה.
אם אתה רוצה אפשר אולי טיפה להרחיב באמת על העניין הזה של הקונטקסט והממורי ונולדג', אני חושב שזה גם כן עולם מאוד מאוד מעניין. כן, אנחנו דיברנו באמת באלן פרק על second brain ובאמת גם אנחנו מדברים על הנושאים האלו, אבל כאילו ספציפית ללופים יש איזה שהם best practices שאתה יכול לספר על הדברים האלה? אחד הדברים אני חושב שהם best practices או איזשהו pattern, זה לעשות היררכיה של זיכרון, כן? בעצם, אם נחשוב על בני אדם והזיכרון שלנו, אז יש לנו זיכרון לטווח קצר, יש לנו זיכרון לטווח ארוך, כלומר, אני צריך להיזכר בדברים מסוימים כאשר אני בסיטואציה מסוימת, כלומר, להיות driven לפי הסנאריו, ואלה כלים שכחלק מהלופ, כן? אנחנו...
מקבלים. עכשיו, אם אני אסתכל לדוגמה על קו פיילוט, כן, גם כן לפני כמה חודשים הוסיפו כאלה ממורי טולס, כן, כל ממורי אפשר לשים סוג של קלאסיפיקציה, כן, ולשים את זה לפי טירס שונים, כן, אז זה משהו שהוא באמת בסט פרקטיס. לדוגמה בסקוואד, כן, יש לנו את היכולת, יש לנו ישות כזאת שאתה מקבל כחלק מסקוואד, כחלק מהצוות, שהיא נקראת סקרייפ. והמטרה של הסאב אג'נט הזה זה לנהל את הזיכרון. כל הסאב אג'נט האחרים במהלך הריצה שולחים לסקרייב באינבוקס דברים שהם חושבים שזה אינסייט או שכדאי לעלות לרמת הצוות כולו.
וסקרייב כמי שזה האחריות שלו יודע איך לרכז את זה ובעצם לשמור את זה בצורה נכונה. מצד שני, לכל אג'נט כזה, לכל סאב אג'נט, שהוא ספיישלייז בתחומו, נגיד אחד הוא עושה טסטינג והשני עושה סיילס, כן? יש לו גם את הלוג הפנימי שלו, גם להחלטות עבר שהוא עשה וגם ללרנינגס שהיו לו בדרך, כי הם רלוונטיים רק אליו. אז זה עוד רמה כזאת של קלאסיפיקציה שאנחנו רוצים לעשות. כמובן יש דברים שהם ברמת סשן בודד, יש דברים שהם ברמת רפו, יש דברים ברמה של ארגון שלם.
כלומר הניהול לפי רמות הוא מאוד מאוד חשוב. עצירה קטנה ותכף חוזרים. אז כשארגון מתפתח ונבכי הדאטה שלו עולים, שם מתחיל הבלאגן. היום בפינה שלנו אני מארח את תומר פלג, שהוא Staff Data Platform Engineer ב-RiskyFind, ותומר יספר לנו על Ownership ועל Data Quality. תומר, ספר לי מתי הכאב התחיל.
קודם כל נעים מאוד. אני מאוד שמח להיות פה. אז כמו שאמרת, ברגע שארגונים גדלים, ככה גם האתגרים והבעיות שצצות לאורך הדרך. אני באופן אישי חושב שזה דווקא בתקשורת ובעבודה בין צוותים, ששם אני חושב שנוצרה הבעיה. אם אני מספר את זה מההיבט האישי שלי, לפני מספר שנים נתקלנו בזה כשהבנו שאין לנו מספיק נראות והבנה על איך הדאטה זורם בארגון, מה שהקשר לנו מאוד בזיהוי ובטיפול של דאטה אישות במהירות, מה גם המעטת של הצוותים.
כמות הפוסט מורטמים שיכלו להימנע מבעוד מועד עם קצת תקשורת, תיאום והבנה של האימפקט של שינוי כזה או אחר. אז יש פה איזה פער, צריך לטפל בו, אנחנו החלטנו לקחת את זה באטם אפ ולמעשה השלב הראשון היה לבנות task force שכל הייעוץ שלו זה לבנות תהליכים שיזינו את כל הדאטה סטס, פלטפורמס, סרוויסים, קשרים ביניהם כמובן, מטה דאטה ועוד לתוך דאטה קטלוג. כאשר מי שלא מכיר דאטה קטלוג אפשר לחשוב על זה כמיין ספרייה גדולה של כל האסטים הארגוניים. בהינתן המיפוי הזה, התחלנו להתקדם לשלב הבא, וזה להעביר את האחריות לצוותים. בסופו של דבר הם הדאטה אונרס, הם הדאטה פרודוסרס, ועל כן הם אלה שצריכים לתת את ה-accountability וה-guarantees לדאונסטרים קונסומרס.
אז בעצם איזה התחייבויות צוותי הפיתוח צריכים לתת במקרה כזה? יפה, אז אם נחזור אחורה בזמן ונשאל מפתח, איזה גרנטיז הוא נותן לצרכנים שלו, רוב הסיכויים שהוא יבוא ויגיד אני משתמש בסכמה, משתמש בעברו, פרוטו, זה מה שרווח אז וזה גם מה שרווח היום. וזה לא שזה לא נכון, זה בסופו של דבר שומר לי על קומפטביליות בין פרודוסר לקונסומר ומאפשר לי את הרבולוציה של הדאטה. אבל סכמה בלבד לא מספקת לי שום סיפור חוץ מסטרקצ'ר ודאטה טייפס. כלומר אם סכמה באה ומגדירה לי שדה אימייל מטייפ סטרינג או ריקווירד, אף אחד לא אומר לי באמת אם השדה הזה מגיע ריק או מגיע כאימייל ולידי, מגיע כמשהו אחר.
שדה טיימסטמפ מגיע כמיליסקנדס, כסקנדס. בסופו של דבר יש לזה הרבה מאוד משמעות למי שצורך את זה ומסתמך על הדאטה הזה. אז יש כאן איזשהו פער דתאי שצריך להשלים אותו. ומה שאנחנו החלטנו לעשות זה לבנות מנגנון ולידציה שרץ בריל טיים ובוסס דאטה קונטרקטס. ומה שהוא עושה הוא מזהה דאטה ויוליישנס אגנסט הפרידפיינד רולסט.
שאותו הדאטה אונר מגדיר ומתחייב עליו, ובמידה ומזוהה דאטה ויוליישן, מייצר אינסידנט באותו דאטה קטלוג שיצרנו, וזה כבר מאפשר לי כמה דברים. קודם כל יש לי פול אודיט על ההלף של הדאטה סט אובר טיים, דאונסטרינג קונסומרס יכולים to subscribe to such events and to act upon במידת הצורך, ובסופו של דבר לנתב אלרט באמצעות PagerDuty לאונינג טים. אז כבר השלמנו פה את המעגל. של סכמה וקונטרקט ולמעשה רווחנו את המכל העולמות. שזה פתרון מאוד יפה ואלגנטי ורציתי לשאול אותך אתה חושב שאפשר לקחת את זה לעוד מקומות?
אז כמובן ושוב אני אומר זה תלוי מקרה אבל אנחנו באופן אישי ראינו כאן את הפוטנציאל העצום של מנגנון ולידציה מהסוג הזה והחלטנו לקחת את זה למקום קצת אחר. אם דאטה קונטרקט באמת הוכוונו ותרגטו דאטה בתוך הארגון כבר בסופו של דבר הדאטה הזה מגיע מאיפשהו. משתמשי קצה, סוחרים, חברות שאיתן עשינו אינטגרציה. גם אם בשלב האינטגרציה הכל נראה תקין, זה לא נותן לי שום גרנטיז על איך הדאטה הזה נראה בפועל, אובר טיים, בפרודקשן אונליין, וגם כאן יש מקום לדבר שאני קורא לו באופן אישי API קונטרקס, שזה קונטרקטים שמאוד מוכווני סגמנט, אינדסטרי, דומיין, סוחר וכו', שמאפשרים לי לטרגט דאטה בהתאם לאופי שלו, ובסופו של דבר להבין את הטיב שלו ומה נכנס לי למערכת. וככה לקראת סיום השאלה שחייבת להישאל בימינו, איך כל זה מתחבר למה שקורה היום באיג'נטיק AI?
אז כמובן אי אפשר להתחמק מזה באמת, ואם מסתכלים אחורה, פעם היינו צריכים לכתוב Workflows ו-Pipelines מאוד מסובכים רק כדי להשיג את ה-Enforcement ואת ה-Validation שאנחנו רוצים בשביל כל האינטגרציות האלה מול המפתחים ומול הדאטה שרק גדל וגדל. אם אנחנו באמת חושבים על הג'נטיק AI ועל ה-Coverage שהוא נותן לנו היום והיכולות האנליטיות, אפשר באמת לבנות פה כלי מאוד עוצמתי שמשלב את ה-Data Quality Observability שבנינו יחד עם ה-Data Catalog ולמעשה להשיג פה Root Cause Analysis מאוד איכותי ומהיר, למנוע Data Issues מבעוד מועד ועל הדרך גם להרחיב את ה-Review Cycle ולהכניס את כל הגורמים הרלוונטיים כאשר סקימה פרופוזלס במנהל דיוויטוי. תודה רבה, תודה רבה לך. ונחזור לפרק. אז דיברנו על פרקטיקה, אבל לא דיברנו על משהו מאוד בסיסי, איך תכלס היום מי שיש לו קו-פיילוט או קלוד קוד או קרסר וכולי, איך הוא בעצם ניגש בכלל לרוץ על לופים?
אני יודע שאני, כשאני עובד עם קלוד קוד, יש איזושהי בעצם פקודה שהיא סלאש גול, פעם היה גם סלאש לופ, אני חושב שאולי זה עדיין קיים, אבל... אני חושב שזה קצת פחות מומלץ, ואז שם במקום לכתוב באמת את הפרומפט הרגיל, אז אני, ההנחיה היא לכתוב בעצם את ה-condition הזה שאנחנו רוצים, את סיפור רקע ואת ה-condition, איך זה נראה במקומות אחרים? אז א', אני לא ממליץ לכתוב בעצמך loop, כן? בסוף נרצה להשתמש באיזשהו framework או יכולת פנימית של הכלי, כי... כי זה פשוט יהיה יותר נכון.
אבל אם נסתכל מה זה אומר בפועל, נגיד שעשית את הסלאש פלן או משהו כזה, בסוף הרצת איזשהו סקיל או איזשהו טול שחשוף לך. אני אתן דוגמה אפילו מאוד מאוד קונקרטית. קופיילוט למשל הוסיפו לאחרונה קונספט שנקרא Dynamic Workflows. אתה אומר אני רוצה לעשות תהליך 1, 2, 3. מה שקורה זה שלמעשה כשאמרת לו שאתה רוצה לייצר את ה-Dynamic Workflow, הפעלת סקיל, שהסקיל יקח את האינפוט הזה ותרגם אותו לקובץ JavaScript, שהוא שם אותו בתוך התיקייה הרלטיבית, וכשתגיד לו פעם הבאה שאתה רוצה להריץ את ה-workflow הזה, אז מה שהוא יעשה הוא פשוט יריץ את הסקריפט.
בסקריפט עצמו הם נתנו את ה... תוך ה-SDK שלהם, שבעצם יש גישה ליכולות של המודל ושל קו-פיילוט וכו'. אז כשעשית פלן, למעשה עשית משהו מאוד מאוד דומה. דיינמיק וורקפלואו זה אומר בוא נעשה את זה לכל וורקפלואו, ומה שעשה פלן ואחרים הוא אמר לא, בוא נהיה, יש לי וורקפלואו מאוד מאוד ספציפי. הוורקפלואו הזה זה לקחת את האינפוט שנתת, בוא נעשה ממנו תוכנית, נשמור את התוכנית הזאת באיזשהו קובץ או דאטאבייס וכולי, ונתחיל עכשיו את השלב שהוא באמת עושה לולה.
ומה עלולה כל פעם תעשה, היא תבדוק מה מצב הפלן ותפעיל את היכולות של הטולים האחרים שיש לנו. אז אני הייתי יכול עכשיו בסביבה כזאת או אחרת לייצר לי כזה סקיל שגם עובד עם איזשהו סקריפט שכתבתי, שזה בדיוק מה שהוא יעשה, ועכשיו זה רק העניין לחזור על אותם סטפים שאמרנו קודם, ופשוט שהקוד, לפעמים הוא דטרמיניסטי, לפעמים הוא... בוא נפעיל עכשיו את המודל הספציפי עם פרומפט מאוד מאוד ספציפי שאומר בוא תריץ בדיקות וכאשר הוא סיים בוא נגיד לו לעשות את האיתרציה הבאה. כן זה בעצם הלופ כן זה בסוף לא כן זה לא כל כך מטורף משהו שיכולים לעשות לבד. אני יודע שלדעתי בקרסר זה קיים כן גם כן כסוג של סקיל.
ושם בעצם יש את ה... אם אנחנו מדברים על הפופולריים והיותר סטנדרטיים. אני חושב שזה פשוט מעניין להבין שבסופו של דבר כל ה-UI היפה שאומר בוא נשנה מוד, בוא נעשה זה, זה רק שינוי בפרומפט, בסיסטם פרומפט שאנחנו נותנים למודל, או באותן קונפיגורציות שאומר האם טולים נרשה להפעיל אותם באופן מראש שהוא אפוב. או האם אני חושף עוד טולים שאני מביא מהבית, כמו של זיכרון, שבסוף זה טול שמחובר לדאטאבייס, ופשוט יודע להגיד למודל, אם אתה רוצה לזכור משהו בפעם הבאה, תפעיל את הטול הזה, ותשלח פרמטר כזה, פרמטר כזה. כן, או כמה בעצם קריאות בכלל אני יכול לעשות לטולים, עד שלפעמים הארנס פשוט עוצר, ואני מאמין שהארנסים האלו, במיוחד שהם במוד כזה, אז הם פשוט מאפשרים לי הרבה הרבה הרבה יותר.
עם איזשהו באמת סנס של מתי עוצרים, מתי כדאי כאילו לחזור רגע אחד ליוזר כדי שהוא לא יתעצבן. כן, תראה, אני זוכר שכשנראה לי זה היה קלוד לפני שנה, מישהו הצליח למצוא מה הפרומפט שהם נותנים כשהוא הופך אותו לטוב, וזה היה מאוד מעניין, כי היה שם משהו כמו, המשפחה שלי נחטפה וישחררו אותה רק אם אתם... אז... בסוף זה רק לדעת איך להשתמש בפסיכולוגיה של ה-AI כדי שיעשה את מה שאתה רוצה. אז במקום שאני אצטרך לעשות את הפסיכולוגיה הזאת, מישהו אחר עושה את זה בשבילי.
בצורה שמישהו שאולי יצר את המודל, לפחות מכיר אותו בצורה באמת טובה, שזה מעולה וזה מגניב. אחלה, אז רציתי לשאול על עוד משהו, ודיברנו באמת על, כשחושבים על לופים, אנחנו חושבים על משהו שרץ באמת לאורך הרבה הרבה זמן ולפעמים אנחנו מפעילים את הדברים האלו דרך ההרנס או הסביבה שלנו באמת המקומית ולא תמיד זה באמת מאפשר לנו להגיע לרמות היותר רחוקות כאילו אני למשל היום אנחנו עובדים על איזה סוג של אוטו ריסרצ' מהרעיון של להיפתח אז של קרפטי ובאמת אחת המחשבות היא ברגע שאני סוגר את הלפטופ אז כן נגיד קלוד עשו משהו שהלפטופ גם כשהוא סגור הוא ער וזה שורף לך את הסוללה אבל עדיין לפעמים אנחנו רוצים לשים את הדברים האלו גם כבר בענן ואפשר להגיד שזה כזה של השלבים שהיו מתקדמים. ספר לנו קצת על זה איך מה פרקטיסס מה עושים היום אנשים בקטע הזה.
בסוף, בסוף, בסוף, כל הכלים האלה הם בסוף איזשהו CLI שאנחנו מריצים. אז נגיד בסקוואד, אחד הדברים שמגיע עם הסקוואד CLI זה קומנד שנקרא watch עם פרמטר execute. ולמעשה, מה שמגיע ב-workflow הדטרמיניסטי שרץ זה, אוקיי, בוא נלך לסרוק כל מיני ערוצים כמו Teams, Slack, אימייל. או כל דבר שאנחנו אומרים, כן? בואו נעשה לזה איזה סוג של אבלואציה ראשונה עם מודל זול, כדי להבין מה צריך לעשות עם זה, ואז נפעיל את המודל היקר עם הסקוואד עצמו שיתחילו לעבוד, ותמיד נעדכן את הבקלוג, ותמיד נעשה פוש ופול כדי להתעדכן, כן?
עכשיו, ברגע שאנחנו מגדירים סקריפט כזה, כן? וזה אקסקיוטבל שאני יכול להריץ אותו, אז עכשיו באמת ההוסטינג זה לא יכול להיות כל דבר. ועכשיו השאלות שאנחנו מתחילים לשאול, אוקיי, איך הוא מקבל גישה למודל? כלומר, נגיד אני עובד עם קו-פיילוט, אז אני צריך שהוא יהיה עם איזשהו לייסנס ויוזר מול גיטאפ. אז איך אני עושה את זה?
תחת איזה אידנטיטי? היום למעשה מה שאתה תראה הרבה שמריצים את זה באופן אוטונומי ברקע, פשוט משתמשים בלייסנס האישי שלהם. אז מי שעשה את העבודה זה לא ה... אג'נט שלי זה תמיר עצמו. כן.
אז אנחנו מתחילים לראות גם כן תנועה בכיוון הזה של אג'נט איידנטיטי, אז זה דבר אחד. שתיים, אתה צריך באמת את הגישה לכל הסורסים האחרים, ואז אתה או שאתה עושה שיתוף של סיקרטס, או שאתה מתחיל להשתמש, אנחנו רואים את הפאטרן הזה של AI גייטוויי, אובר גם פרסמו שהם עשו MCP גייטוויי. פשוט לשים את כל התקשורת החוצה, האינטגרציות במקום ששם מנהלים את האותנטיקציה והאוטוריזציה, אבל המודל שלי, האידיוט שלי יודע לקבל גישה לדבר הזה לפי מה שאני מגדיר בפוליסי. ועכשיו יש לי באמת אקסקיוטבל שרץ, הטריגרים שלו יכולים להיות טריגרים שפשוט הוא מתעורר קרון ג'וב, בסוף זה קרון ג'וב וסורק, או... שזה באמת יהיה יזום מאיזשהו טריגר כזה או אחר שאני מגדיר, מתחיל להריץ לי את אותו פייפליין בקוד שבשלבים מסוימים מפעיל את אותו הרנס שלנו, שהסביבה מראש הוגדרה לעבוד עם הלייסנס והגישה והסיקרטס ולהתחבר, וככה הדבר הזה נע.
ברגע שאנחנו שמים אותו שירוץ תחת איידנטיטי עם זהות אמיתית, כביכול, אז אנחנו מקבלים את הכוח הגדול. אז שוב, כל הדבר הזה עכשיו אנחנו נעטוף באיזשהו אימג' וזהו, ופשוט נפעיל את זה. שמים אותו על הקלאוד, שמים שם איזשהו מוניטורינג או אובסרבביליטי בטח, כדי לראות מה קורה. כן, אתה רוצה שיהיה לך הלפצ'ק, אתה צריך הארטביט כדי לדעת שהוא עדיין שם, הוא לא תקוע. אני חושב שמה שמעניין גם בהקשר הזה, כשהתחלתי לעשות את הוואץ', אז לפעמים הוא נתקע בכל מיני בעיות, ואתה יודע, בעולם הישן, אז הייתי צריך ללכת לתקן את הסקריפט ולהעלות גרסה וכולי וכולי.
עכשיו אמרתי לו, אתה יודע מה? אם אתה נתקע בבעיה, תלך בעצם לסנאריו שבו אתה עושה דיאגנוסטיקה, מתקן את עצמך ומעלה לעצמך את הגרסה העצמית, כן? ואז הוא הפך להיות סלף הילינג, כן? וכמובן שעשיתי שם שכל דבר כזה זה בסוף יהיה מתועד וזה, אבל... אנחנו מגיעים למקום הזה באמת שזה always on, הוא self-healing, הוא באמת אוטונומי, מחובר למה שאני מרשה לו להיות מחובר, ואז אני יכול להריץ את זה גם בסקייל, כן?
ופה אנחנו פשוט נגיע למצב הזה שרוב הבעיות שאנחנו מכירים היום בעולמות של אג'נט, זה same old problems של מערכות מבוזרות. אני אומר שאג'נטים זה פשוט המייקרו סרוויסס. המודרניים, אותן בעיות, אנחנו פותרים אותן אותו דבר, פשוט צריכים להיות ערים להם. כן, טוב, אני חושב שאתה נמצא גם קצת בעתיד, כי סקוואד זה באמת, כאילו, ניסיון לקחת את הדברים למולטי אייג'נט, והרבה אנשים עוד עדיין לא שמה בתקשורות, ובכל, אולי האלגוריתמים השונים שלמדנו עוד באוניברסיטה, על איך מערכות מבוזרות לא נכנסות ללופים, ולדדלוקים, וכל מיני כאלו, וזה באמת... זה מעניין ומורכב.
כן, זה עולם מרתק, זה עולם מרתק, אני חושב שזה פשוט זז מהר ממה שאנחנו חושבים. אני חושב שמה שאותי גם מניע זה, אנחנו רגילים לדבר על אג'נטים בהקשרים של האנג'ינירינג, פיתוח וזה, אני כל הזמן נחשף לעולמות של אנשים שמשתמשים בזה בדברים לא קשורים בכלל, בין אם זה מרקטינג וסיילס ונדלן ו... כל דבר כזה זה באמת עולם, וכל פעם שמישהו בא ואומר לי, עשיתי עם סקוואד וזה, ואני אומר לו, וואו, זה כאילו סצנאות בכלל, זה קונה אותי. עשיתי קניות עם סקוואד, אחד קנה לי בסופרפארם, אחד קנה לי בירקות. גם אופציה, גם אופציה.
כזה? כן. מגניב. אבל זה העתיד שלנו, כן. כן, וזה מחבר דרך אגב לאחד הפרקים האחרונים שלנו שעשינו על פרסונל אסיסטנטס.
וננו קלואו וכל הקלואוים למיניהם שבאמת זה מתחבר אבל שם באמת לפעמים אנחנו רוצים איזה סוג של איג'נט שהוא טיפה יותר קודינג אבל הוא קצת כזה כאילו שהוא אנחנו לא מדברים איתו דווקא בוואטסאפ או משהו דווקא משהו שהוא טיפה יותר מתקדם ויותר מעמיק אבל יודע לרוץ באופן אוטונומי ובאמת לרוץ לעשות כל מיני דברים. מגניב, אז טוב, אני למדתי הרבה ואני כבר אלך לשפר את הלופים הקיימים שלי ואני מקווה שהמאזינים באמת למדו ולקחו באמת דברים. יש איזה שהם ריסורסים, כל מיני דברים שנגיד מי שרוצה קצת יותר לקרוא, קצת יותר להעמיק, יש לך המלצות על כמה דברים? כן, אז בטח ובטח בתוך הבלוג. בגיטאב, יש לנו את הבלוג שנקרא Command Line של מייקרוסופט, שגם אני פרסמתי שם, גם אחרים.
כמובן, תלוי בטכנולוגיה, בשפה, כל אחד במקומות של הפריימורקים, זה מאוד מאוד מעניין לראות גם איך פריימורקים שונים מתייחסים לדבר הזה. והבלוג שלי, כמובן, תמירדרשר.com, גם מוזמנים להתחבר בלינקדאין וב-X. ובכל הרשתות האלה, ותגידו לאייג'נט שלכם שנמצא עוד מקורות ויסכם לכם, זה הכי טוב. מעולה, יופי. טוב, תודה רבה תמיר שבאת, ונתראה בפרק הבא.
תודה רבה. יש לכם סיפור מעניין במשפחה? סבא גיבור? אימא שעשתה היסטוריה? אני וצוות עושים היסטוריה ניצור עבורכם תוכנית רדיו דוקומנטרית מרתקת וקסומה.
familysounds.com co.il, סיפור משפחתי, מתנה מדהימה שנשמרת לדורות