מנוע Kubernetes (OKE)

האיצו את בניית מודלי הבינה המלאכותית

תהליך בניית מודלים הבינה המלאכותית מתחיל בהכנה וניסויים בנתונים, מה שמשפר את הגישה המאובטחת והמשותפת למעבדי GPU והניהול המרכזי. OKE מאפשר לצוותים:

- הפקת המרב מניצולת ה-GPU באמצעות אשכולות מאובטחים מרובי דיירים

- שיתוף פעולה יעיל בסביבות המנוהלות באופן מרכזי

- שילוב עם Kubeflow לפיתוח ופריסה יעלים של מודלים

למידע נוסף על הרצת יישומים בצמתים מבוססי GPU עם OKE.

OKE: נבנה באופן ייעודי לבינה מלאכותית ולמידת מכונה

OKE, שבנוי על תשתית הביצועים הגבוהים של OCI, מעניק:

- גישה למעבדי ה-GPU של NVIDIA (H100, A100, A10 ועוד)

– רשת RDMA מהירה במיוחד לקבלת תפוקה מרבית וזמן המתנה קצר

- שליטה מלאה עם צומתי עובדים מנוהלים או בניהול עצמי של Kubernetes

גלו כיצד ליצור אשכול Kubernetes ולהתקין את Kubeflow בתוכו.

תיאום יעיל של עומסי עבודה של אימון

מדעני נתונים מסתמכים על תזמון ממוטב כדי למקסם את השימוש במשאבים לעבודות אימון. OKE תומך במתזמנים מתקדמים כגון Volcano ו-Kueue כדי להריץ עומסי עבודה מקבילים ומבוזרים ביעילות.

אימון בינה מלאכותית בקנה מידה גדול דורש רישות אשכולות מהיר ובעל זמן השהיה קצר. התשתית התומכת ב-RDMA של OCI מעצימה את OKE להעביר נתונים ישירות לזיכרון GPU וממנו, תוך צמצום זמני ההשהיה ויצירת מרב התפוקה.

OKE: מוכן לאימון בינה מלאכותית להפקת ביצועים גבוהים

OKE, המבוסס על תשתית OCI אמינה, מביא לכם:

- גישה למעבדי GPU של NVIDIA (H100, A100, A10 ועוד)

– חיבורי רשת מהירים במיוחד, מגובים ב-RDMA

- הגמישות להריץ עבודות על צומתי Kubernetes בניהול עצמי

למידע נוסף על הרצת יישומים בצמתים מבוססי GPU עם OKE.

מוכנים להריץ עומסי עבודה של GPU ב-OKE עם צומתי מתכת חשופה של NVIDIA A100? מדריך זה יכול להראות לכם כיצד לעשות זאת.

יכולת הסקה יעילה וניתנת להרחבה של בינה מלאכותית

OKE מנצל את מלוא היתרונות של Kubernetes כדי לנהל ביעילות תאי הסקה, ובכך הוא מתאים משאבים באופן אוטומטי כדי לעמוד בביקוש. עם Kubernetes Cluster Autoscaler, OKE יכול לשנות גודל של מאגרי צמתים מנוהלים באופן אוטומטי על סמך דרישות עומס עבודה בזמן אמת, מה שמאפשר זמינות גבוהה וניהול עלויות אופטימלי בעת הרחבת שירותי הסקה.

התזמון המתקדם וניהול המשאבים של OKE מאפשרים לכם להגדיר הקצאות מדויקות של CPU וזיכרון לתאי הסקה, ובכך לתמוך בביצועים עקביים ואמינים כשעומסי העבודה משתנים. למידע נוסף על פריסה וניהול של יישומים ב-OKE.

OKE מציע אפשרויות רבות עוצמה ליכולות הסקה חסכוניות וניתנות להרחבה של בינה מלאכותית - כולל צמתים וירטואליים לשינוי גודל מהיר ברמת התא והגמישות לפעול על מעבדים מבוססי GPU ו-Arm.

ראו כיצד לפרוס את המיקרו-שירותים של NVIDIA NIM בקנה מידה גדול באמצעות OCI Kubernetes Engine.

למידע נוסף על הפעלת יכולת ההסקה של הבינה המלאכותית בצומתי GPU, עיינו בתיעוד כדי להריץ יישומים על צמתים מבוססי GPU.

פשטו את העברת היישומים עם OKE

העברת היישומים שלכם אל OKE מאפשרת:

• להעביר יישומים קיימים כפי שהם - אין צורך לשנות את הארכיטקטורה, רק להעביר וזהו.
• פשטו את התהליכים היום-יומיים שלכם באמצעות אוטומציה מובנית עבור הרחבה, תיקון ושדרוגים.
• ייעלו את ניהול התשתית כך שהצוות שלכם ישקיע פחות זמן בתחזוקה ויותר בחדשנות.
• שפרו את יעילות המשאבים ומטבו עלויות בעזרת כלי תיאום מתקדמים.
• הגבירו את הזריזות, זמן הפעולה התקינה והחוסן בעזרת אזורי הענן הגלובליים בזמינות גבוהה של Oracle.
• חזקו את האבטחה ואפשרו תאימות באמצעות הבקרות והאישורים ברמה הארגונית של Oracle.

מודרניזציה עם OKE פירושה פעולות מהירות ומאובטחות יותר - בעוד Oracle מטפלת בחלקים המורכבים מאחורי הקלעים. כך ההעברה הופכת לפשוטה, ואפשר להתמקד במה שחשוב: העסק שלכם.

עקבו אחר מדריך הפריסה שלב אחר שלב על השימוש ב-OKE, OCI Bastion ו-GitHub Actions כדי לבצע העברות מאובטחות ואוטומטיות.

למידע נוסף על תכונות וניהול של OKE, עיינו בתיעוד הרשמי של OKE.

האיצו את פיתוח המיקרו-שירותים עם OKE

בבניית מיקרו-שירותים OKE מאפשר לצוותים שלכם:

• לפתח ולפרוס שירותים באופן עצמאי, כך שרעיונות טובים מגיעים למשתמשים מהר יותר.
• הפכו בניות והשקות לאוטומטיות עם שילובי OCI עבור CI/CD לקבלת עדכונים חלקים יותר (וסופי שבוע שקטים יותר).
• הרחיבו כל מיקרו-שירות לפי דרישה כדי להתאים לצרכים העסקיים שלכם - אין עוד צורך בהקצאת משאבים של הכול או כלום.
• הפכו את הארכיטקטורה שלכם למודרנית כדי לשפר את הזריזות והחוסן ולהכין את העסק שלכם לקראת העתיד.

עם OKE תקבלו את הכלים החזקים והאבטחה הארגונית ש-Oracle ידועה בהם, בתוספת הגמישות הנדרשת למיקרו- שירותים. שנו את הדרך שבה אתם בונים, מעדכנים ומרחיבים יישומים – עם פחות כאבי ראש והרבה יותר שליטה.

למידע נוסף על פיתוח וניהול מיקרו-שירותים:

• עיינו בארכיטקטורות הפניה ושיטות עבודה מומלצות לבניית מיקרו-שירותים ב-OCI
• נטרו וייעלו את היישומים שלכם עם Oracle Application Performance Monitoring Cloud Service למיקרו-שירותים
• תרגלו פריסה, ניהול והרחבה של מיקרו-שירותים ב-OKE בסדנה מעשית של LiveLab זו
• בדקו את הטמעת המיקרו-שירותים של Spring Boot ב-Oracle Cloud