אימון מודלים, היסטוריית שיחות ושמירת נתונים
OpenAI אינה מאמנת מודלים על נתוני ChatGPT Business, Enterprise או API כברירת מחדל. לשמירת שיחות וקבצים יש כללים נפרדים. Zero Data Retention (ZDR) ב-API של OpenAI דורש אישור וכפוף למגבלות של נקודות קצה ותכונות. יומני ניטור שימוש לרעה עשויים לכלול תוכן עד 30 יום בתצורת ברירת המחדל, בכפוף לחריגים.
Anthropic מפרסמת כללי שמירה נפרדים למוצרי השיחה המסחריים של Claude ול-API. Microsoft מציינת שבקשות ותשובות ב-Microsoft 365 Copilot אינן משמשות לאימון מודלי יסוד. נתוני שימוש עשויים להישמר בהתאם למדיניות הארגון ב-Microsoft 365. בדקו את תנאי החשבון ואת ההגדרות שלו.
וקטורי חשיפת מידע שכיחים בשימוש יומיומי ב-LLM
שלושה תרחישים מובילים את הסיכון: הדבקת נתונים סודיים לשורת השאילתה, העלאת קבצים עם מטא-דאטה והזרקת הוראות עקיפה (Prompt Injection). מפתחים מדביקים לעיתים מעקבי שגיאות עם סיסמאות למסדי נתונים, ומנהלי מכירות מצרפים טבלאות לידים עם מספרי טלפון ומספרי תעודת זהות.
הזרקת הוראות עקיפה מתרחשת כאשר מודל סורק דואר אלקטרוני נכנס או דפי אינטרנט של צד שלישי. הוראות מוסתרות גורמות לסוכן לקרוא מסמכים פנימיים ולשדר את המידע לשרת חיצוני בשליטת התוקפים.
הגדרת כללים לשיתוף נתונים
ספקו לעובדים חשבונות מאושרים והגדירו באילו נתונים מותר להשתמש. בדקו אילו בקרות גישה וחיבורים ליישומים זמינים במסלול שנבחר.
כלי מניעת דליפת נתונים (DLP) יכולים לזהות תבניות של מפתחות API ומספרי כרטיסים כשהמוצר או השער תומכים בבדיקה כזאת. בדקו בנפרד העלאת קבצים ויישומים מחוברים. מסנן תבניות עלול להחמיץ מידע רגיש.
מה לבדוק לפני שיתוף נתוני עבודה
| מוצר | אימון מודלים | היסטוריה ושמירה |
|---|---|---|
| ChatGPT Business / Enterprise | נתוני עבודה מוחרגים כברירת מחדל | לבדוק היסטוריה והגדרות שמירה בסביבת העבודה |
| OpenAI API | נתוני API מוחרגים כברירת מחדל | לבדוק יומנים, שמירה בנקודות קצה וזכאות ל-ZDR |
| מוצרים מסחריים של Claude | לבדוק תנאים מסחריים והגדרות | לבדוק שיחות ו-API בנפרד |
| Microsoft 365 Copilot | בקשות ותשובות אינן משמשות לאימון מודלי יסוד | לבדוק היסטוריית שימוש ומדיניות שמירה של Microsoft 365 |
שלבי יישום להטמעה בטוחה של כלי בינה מלאכותית
סדר פעולות מעשי להגדרת סביבת העבודה והמחשבים הניידים של העובדים.
- למפות את הכלים והחשבונות שבהם משתמש כל צוות.
- לבדוק אימון, שמירה, העלאת קבצים וחיבורים לכל מוצר ומסלול מאושרים.
- להגדיר אילו סוגי נתונים מותר לשתף ולהוציא סיסמאות וטוקנים מבקשות ומקבצים.
- לבדוק את הגבלות השיתוף באמצעות נתונים סינתטיים.
- למנות אחראי לבדיקה חוזרת של ההגדרות, התנאים והיישומים המחוברים כשחל שינוי.
