Shadow AI
חסימה של כלים ופרסום נוהל לא מבטלות את ההתנהגות. השימוש עובר למקום שאי אפשר לראות: לשונית בדפדפן, התחברות אישית, בלי התקנה.
חסימה של כלי AI לא מורידה את הסיכון, היא רק מרחיקה אותו מהעין. אנחנו עוזרים לארגון לאפשר שימוש ב-AI, עם בקרה בנקודה שבה מקלידים את הפרומפט, מדיניות ברורה ותיעוד של מה שקרה.

לפי AI Index 2025 של Stanford HAI, 78% מהארגונים דיווחו על שימוש ב-AI ב-2024, לעומת 55% שנה קודם. העובדים כבר שם, והשאלה היא אם אפשר לראות מה קורה.
חסימה של כלים ופרסום נוהל לא מבטלות את ההתנהגות. השימוש עובר למקום שאי אפשר לראות: לשונית בדפדפן, התחברות אישית, בלי התקנה.
אנליסט מדביק חוזה כדי לסכם אותו, מפתח מדביק קוד כדי לנפות תקלה. פרוקסי רואה לאן התעבורה הולכת, לא מה נכתב בה, וסוכן בתחנה בודק קבצים ותהליכים ולא טקסט מוקלד.
מערכת DLP תזהה גיליון שנשלח במייל, אבל לא את אותם מספרים שהוקלדו שורה אחרי שורה בחלון צ'אט. זו פער בתכנון, לא תקלה של כלי מסוים.
אנחנו מתחילים בשאלה מה קורה היום, ואז מעבירים את האכיפה למקום שבו ה-AI נמצא בשימוש, במקום לחסום כלי אחרי כלי.
האכיפה יושבת במקום שבו הפרומפט מוקלד, שם יש הכי הרבה מידע על הזהות ועל ההקשר, ולא רק על החיבור לרשת.
מדיניות שמבחינה בין תפקידים, בין סוגי מידע, ובין חשבון ארגוני לחשבון אישי של אותו כלי, כך שכלי אחד מותר בהקשר אחד ומנוהל באחר.
כיסוי של הדפדפן, התוספים, שולחן העבודה והרשת, ורישום של מה שנשאל ומה שהוחזר, כולל פעולות של סוכני AI, כך שאפשר לשחזר אינטראקציה גם אחרי שבועות.
כשבוחנים כל בקרה, שואלים אותה את אותן ארבע שאלות. ככה מבדילים בין אפשור אמיתי לבין חסימה איטית.
בקרה שרואה רק את החיבור יודעת לאן הלכו, לא מה נשלח.
אכיפה אחרי השליחה היא תחקיר. אכיפה לפני השליחה היא הגנה.
דפדפן, תוספים, שולחן עבודה ורשת: בקרה על נקודה אחת משאירה את השאר פתוחות.
בקרה שהעובדים עוקפים לא עובדת. המבחן הוא אם הם בוחרים בכלי המאושר גם כשאף אחד לא מסתכל.
מתייחסים לאבטחה כאל אפשור ולא כאל שער. נותנים לעובדים גישה מנוהלת לכלים שהם רוצים, ומפעילים את הבקרות בנקודת האינטראקציה, לפני שהמידע יוצא.
זה שימוש ב-AI שלא אושר ושאבטחת המידע לא רואה. כל חסימה דוחפת אותו רחוק יותר מהעין, והוא לא דורש התקנה, רק לשונית ושם משתמש.
הם רואים את החיבור ואת הקבצים והתהליכים, אבל לא את תוכן הפרומפט שמוקלד בדפדפן, ולכן הם לא יודעים מה יוצא מהארגון.
בנקודה שבה הפרומפט מוקלד, בדפדפן. אפשר להרחיב אותה לדפדפנים אחרים דרך תוסף, ולהשלים עם בקרות רשת, אבל בלי לסמוך עליהן לבדן.
אילו כלי AI בשימוש, מי משתמש בהם, אילו קטגוריות מידע נכנסו, ואם אפשר לשחזר אינטראקציה רגישה אחת. לרוב הארגונים אין היום תשובה לכל אלה.
סוכן שמבצע פעולות צריך להיות מנוהל כמו משתמש: הרשאות מוגדרות ותיעוד של כל פעולה שהוא עושה.
נשמח לבחון יחד את האזורים במערכות המידע המועמדים לשדרוג ולהציע פתרונות טכנולוגיים המבוססים על עשרות שנות ניסיון מעשי בשטח.
פגישת אפיון והתאמה