סוכנים אמינים על תשתית בעלות אפס

האילוץ

כל מה שאני בונה לעצמי וללקוחות רץ על תוכניות חינמיות או על מודלים מקומיים. בלי כרטיס אשראי, בלי APIs בתשלום. רוב האנשים מתייחסים לזה כמגבלה. אני מתייחס לזה כקלט תכנוני, כי מערכת ששורדת מגבלות של תוכנית חינמית היא מערכת ששורדת הכל.

איך זה נראה בפועל

נתיבי הגיבוי הם המוצר, לא רשת הביטחון. AgentLens מריץ את הניתוח דרך שכבת AI שלא תלויה בספק, עם שלושה מצבים: מנוע דטרמיניסטי מקומי, התוכנית החינמית של OpenRouter, או Ollama מקומי. כשהתוכנית החינמית עמוסה, הסריקות עוברות למנוע הדטרמיניסטי אוטומטית, וכל תוצאה מתויגת עם המנוע שהפיק אותה. משתמשים אף פעם לא רואים כשל; הם רואים תגית.

מחזור החיים של טוקנים הוא חלק מהתכנון. Hermes, הסוכן האישי שלי בוואטסאפ, מפעיל Gmail, Calendar, Drive ו-Sheets דרך אפליקציית OAuth ייעודית בגוגל. אפליקציות OAuth במצב Testing מקצרות את חיי ה-refresh token ל-7 ימים, אז האפליקציה עברה את דרישות האימות של גוגל (דף בית, מדיניות פרטיות, מעבר ל-Production) כדי שההרשאות יחזיקו מעמד. כשטוקן בכל זאת פג, הסוכן התאושש עם רענון שקט בלי התחברות מחדש, וקריאות המייל והיומן אומתו מול החשבונות האמיתיים אחר כך.

להידרדר, לא למות. כשספק החיפוש של Hermes החזיר תוצאות ריקות, התיקון היה שרשרת גיבוי: DuckDuckGo Lite כברירת מחדל, נקודת קצה של HTML כגיבוי, ונתיב ההתאוששות נשמר כ-skill לשימוש חוזר, כך שהסוכן הבא מקבל אותו בחינם.

פיקוח הוא פיצ'ר. Agent Office הוא דשבורד חי שבו הסוכנים שלי יושבים ליד שולחנות ומזרימים את העבודה שלהם: אירועי התחלה וסיום של משימות, גרף משימות של 7 ימים לכל סוכן, ציון אמינות, התראות על סוכן תקוע ו-replay מלא של היום. אם סוכן שותק או מתחיל להיכשל, אני רואה את זה לפני שהמשתמש רואה.

שערי איכות נמדדים

טענות על אמינות צריכות מספרים, אז אני מודד אותן. האתר הזה עצמו מחזיק 100 מושלם בכל ארבע הקטגוריות של PageSpeed בדסקטופ, ו-100 בנגישות, Best Practices ו-SEO במובייל. ציון המוכנות לסוכנים שלו עלה מ-76 ל-100 אחרי שהעליתי משא ומתן על תוכן ב-Markdown, עמוד 404 ב-Markdown, זהות מובנית ב-JSON-LD ומדריך llms.txt. שני הציונים מגיעים מבודקים חיצוניים, לא ממני.

מה אני לוקח מזה

עלות היא החלטת ארכיטקטורה. אמינות היא פיצ'ר של המוצר. אם מערך הסוכנים שלך עובד רק כל עוד ה-API בתשלום זמין והתקציב מחזיק, עוד אין לך מערך.