מדריך
ענן ריבוני, שרתי הארגון או רשת מנותקת: איפה ה־AI שלכם צריך לרוץ?
מתחילים בשאלה אחת: איפה מותר לעבד את המידע שלכם? אם מותר לעבד אותו באזור ענן שתבחרו, ענן ריבוני הוא ההתחלה המהירה ביותר. אם הוא חייב להישאר בחשבון הענן שלכם, בוחרים ענן פרטי; אם הוא חייב להישאר על החומרה שלכם, בוחרים את מרכז הנתונים שלכם; ואם שום דבר לא יוצא מהבניין, בוחרים רשת מנותקת עם מודלים פתוחים על כרטיסי ה־GPU שלכם. בליבה כל יכולת זמינה בכל ארבע האפשרויות, כך שההחלטה היא איפה התוכנה רצה, לא מה היא יודעת לעשות.
מהן ארבע האפשרויות?
- ענן ריבוני
- מתארח באזור שתבחרו ומופעל על ידי ליבה. הדרך המהירה לתהליך בסביבת ייצור, עם שמירת נתונים באזור שבחרתם ומרשם עיבוד מתועד.
- ענן פרטי (VPC)
- בתוך סביבת הענן שלכם: החשבון שלכם, גבולות הרשת שלכם, בקרות האבטחה שלכם, התוכנה שלנו.
- מרכז הנתונים שלכם
- על החומרה שלכם, בשליטה התפעולית שלכם.
- רשת מנותקת
- ללא שום חיבור חיצוני. מודלים פתוחים רצים על כרטיסי ה־GPU שלכם, כך שאף קריאה למודל אינה יוצאת מהבניין.
אילו שאלות מכריעות?
- איפה מותר לעבד את המידע? אם הכללים שלכם מגדירים מדינה או אזור, כל אפשרות ששומרת את המידע שם פתוחה בפניכם. אם הם אוסרים על צד שלישי לארח אותו, הבחירה מצטמצמת לחשבון הענן שלכם או לחומרה שלכם.
- האם משהו רשאי לצאת מהבניין? יש ארגונים שאינם יכולים לאפשר שום חיבור חיצוני, גם לא קריאה למודל AI. זה מוביל לרשת מנותקת.
- מי יפעיל את השרתים? בענן ריבוני ליבה מפעילה את הסביבה. בחשבון הענן שלכם או במרכז הנתונים שלכם השליטה התפעולית נשארת אצלכם, ואיתה גם העבודה על התשתית.
- מה צוות האבטחה כבר מנהל? אם כבר יש לכם סביבת ענן עם בקרות משלה, פריסה בענן פרטי מציבה את התהליך בתוך גבולות שצוות האבטחה מכיר.
- יש לכם כרטיסי GPU? ברשת מנותקת המודלים הפתוחים רצים על כרטיסי ה־GPU שלכם. היכולת ובחירת המודלים תלויות בחומרה שיש לכם או שתרכשו.
- כמה מהר צריך את התהליך הראשון? ענן ריבוני הוא הדרך המהירה לסביבת ייצור. התקנה בתוך הסביבה שלכם מוסיפה את הזמן שלוקח לאשר ולחבר אותה אצלכם.
האם מוותרים על יכולות באפשרות מחמירה יותר?
לא. אין יכולת בקרה, סוג מחבר או כלי הערכה שקיימים רק בסביבה המתארחת של ליבה. התקנה ברשת מנותקת היא המוצר המלא. מה שמשתנה הוא מי מפעיל את התשתית, וברשת מנותקת גם באילו מודלים משתמשים.
מה נשאר זהה בכל אפשרות?
- המידע שלכם אינו משמש לאימון שום מודל, לא שלנו ולא של ספק. זה כתוב בחוזה.
- הצפנה: AES 256 במנוחה ו־TLS 1.3 בתעבורה.
- כניסה אחידה (SAML), ניהול משתמשים מהספרייה שלכם (SCIM), אימות רב־שלבי מחייב והרשאות לפי תפקיד.
- פיתוח, בדיקות וייצור נפרדים. כל שמירה היא גרסה, ופרסום לייצור מחייב אישור.
- כל שלב נשמר, כך שתמיד אפשר לבדוק מה קרה ולמה.
לפרטים ראו אבטחה ובקרה ואפשרויות הפריסה.
כמה זמן זה לוקח?
זה תלוי בתהליך, במספר המערכות שהוא נוגע בהן ובמהירות שבה החיבורים מאושרים אצלכם. אנחנו נותנים הערכה אחרי המיפוי ומקבעים אותה במסמך התכולה. תהליכים ראשונים מתוכננים בכחמישה עד תשעה שבועות כולל הטמעה.
מגבלות
המדריך עוזר לבחור כיוון. הדרישות המחייבות מגיעות מצוותי האבטחה, המשפט והרכש שלכם. הבקרות שלנו מתוכננות בהתאם לדרישות ISO 27001, SOC 2, GDPR וכללי הגנת המידע החלים אצלכם. תכנון לפי מסגרת אינו זהה להחזקת הסמכה או לאישור של גורם בלתי תלוי, ולכן כדאי לשאול אותנו מה הסטטוס העדכני של כל דרישה שצוות הרכש שלכם מציב.
שאלות ותשובות
האם ענן ריבוני זהה להתקנה On-Premise?
לא. ענן ריבוני מתארח באזור שתבחרו ומופעל על ידי ליבה. On-Premise פירושו מרכז הנתונים שלכם, על החומרה שלכם ובשליטה התפעולית שלכם.
האם סוכני AI יכולים לרוץ בלי חיבור לאינטרנט?
כן. ברשת מנותקת מודלים פתוחים רצים על כרטיסי ה־GPU שלכם, כך שאף קריאה למודל אינה יוצאת מהבניין. זה המוצר המלא, לא גרסה מצומצמת.
האם המידע שלנו משמש לאימון מודלים?
לא. שום דבר שאתם מעבדים אינו משמש לאימון מודל כלשהו, לא שלנו ולא של ספק, וזה כתוב בחוזה.
איזו אפשרות הכי מהירה להתחלה?
ענן ריבוני. זו הדרך המהירה לתהליך בסביבת ייצור. התקנה בתוך הסביבה שלכם מוסיפה את הזמן שנדרש לאשר ולחבר אותה אצלכם.
ספרו לנו איפה התהליך צריך לרוץ.
תארו את התהליך, את המערכות שהוא נוגע בהן ואת המגבלות על המקום שבו מותר לעבד את המידע.
דברו איתנו