NVIDIA ו-Microsoft מקדמות את פיתוח ה-RTX AI PCs

בעידן שבו בינה מלאכותית גנרטיבית משנה את פני התוכנה למחשבים אישיים, NVIDIA ו-Microsoft מציגות שיתוף פעולה חדשני שמטרתו לשפר את חוויית המשתמש ולהביא לחדשנות בתחום. מחשבי RTX AI של NVIDIA מהווים את הבסיס לשינוי זה, עם טכנולוגיה שמפשטת את תהליך הניסוי בבינה מלאכותית גנרטיבית ומאפשרת ביצועים משופרים על גבי Windows 11.

אחד מהחידושים המרכזיים הוא TensorRT, ספרייה שתוכננה מחדש במיוחד עבור מחשבי RTX AI. הספרייה מציעה ביצועים מובילים בתעשייה עם בניית מנוע בזמן אמת על המכשיר עצמו, וגודל חבילה קטן פי 8, מה שמאפשר פריסה חלקה של AI ליותר מ-100 מיליון מחשבי RTX AI.

בכנס Microsoft Build הוכרז כי TensorRT ל-RTX נתמך באופן טבעי על ידי Windows ML, ערכת חיזוי חדשה שמספקת למפתחי אפליקציות תאימות חומרה רחבה וביצועים מתקדמים. עבור מפתחים המחפשים תכונות AI מוכנות לשילוב, ערכות הפיתוח של NVIDIA מציעות מגוון רחב של אפשרויות, כולל NVIDIA DLSS ושיפורים מולטימדיה כמו NVIDIA RTX Video.

חובבי AI ומפתחים יכולים להתחיל בקלות עם NVIDIA NIM, מודלים של AI ארוזים מראש ומותאמים לריצה באפליקציות פופולריות כמו AnythingLLM, Microsoft VS Code ו-ComfyUI. השבוע ישוחרר מודל יצירת תמונות FLUX.1-schnell כ-microservice של NIM, ו-microservice הפופולרי FLUX.1-dev עודכן לתמוך ביותר כרטיסי RTX.

למי שמחפש דרך פשוטה וללא קוד להיכנס לפיתוח AI, ניתן להשתמש בפרויקט G-Assist, העוזר האישי של RTX PC באפליקציית NVIDIA, לבניית תוספים לשליטה באפליקציות מחשב ופריפריות באמצעות AI בשפה טבעית. תוספים חדשים זמינים כעת, כולל חיפוש אינטרנט של Google Gemini, Spotify, Twitch, IFTTT ו-SignalRGB.

ערכת התוכנה של מחשבי AI כיום דורשת מהמפתחים להתפשר על ביצועים או להשקיע באופטימיזציות מותאמות לחומרה ספציפית. Windows ML נבנתה כדי לפתור את האתגרים הללו. היא מופעלת על ידי ONNX Runtime ומתחברת בצורה חלקה לשכבת ביצוע AI מותאמת המסופקת ומתוחזקת על ידי כל יצרן חומרה.

לכרטיסי GeForce RTX, Windows ML משתמשת אוטומטית בספריית TensorRT ל-RTX לחיזוי מהיר וביצועים גבוהים. בהשוואה ל-DirectML, TensorRT מספקת ביצועים מהירים יותר ב-50% עבור עומסי עבודה של AI במחשבים אישיים.

TensorRT, ספרייה שנבנתה במקור למרכזי נתונים, עוצבה מחדש עבור מחשבי RTX AI. במקום ליצור מראש מנועי TensorRT ולארוז אותם עם האפליקציה, TensorRT ל-RTX משתמשת בבניית מנוע בזמן אמת על המכשיר כדי לאופטימיזציה של אופן הרצת מודל ה-AI עבור כרטיס ה-RTX הספציפי של המשתמש תוך שניות ספורות. חבילת הספרייה צומצמה משמעותית בגודלה פי 8.

TensorRT ל-RTX זמינה למפתחים דרך תצוגה מקדימה של Windows ML היום, ותהיה זמינה כ-SDK עצמאי ב-NVIDIA Developer ביוני. מפתחים יכולים ללמוד עוד בבלוג ההשקה של TensorRT ל-RTX או בבלוג של Windows ML של Microsoft.

מפתחים המחפשים להוסיף תכונות AI או לשפר את ביצועי האפליקציות יכולים לנצל מגוון רחב של ערכות פיתוח של NVIDIA. אלו כוללות NVIDIA CUDA ו-TensorRT להאצת GPU; NVIDIA DLSS ו-Optix לגרפיקה תלת-ממדית; NVIDIA RTX Video ו-Maxine למולטימדיה; ו-NVIDIA Riva ו-ACE ל-AI גנרטיבי.

אפליקציות מובילות משחררות עדכונים החודש כדי לאפשר תכונות ייחודיות באמצעות ערכות הפיתוח של NVIDIA, כולל:

NVIDIA מצפה להמשיך לעבוד עם Microsoft ומפתחי אפליקציות AI מובילים כדי לעזור להם להאיץ את תכונות ה-AI שלהם על מכונות המופעלות על ידי RTX באמצעות האינטגרציה של Windows ML ו-TensorRT.

התחלת פיתוח AI על מחשבים אישיים יכולה להיות מאתגרת. מפתחי AI וחובבים צריכים לבחור מתוך יותר מ-1.2 מיליון מודלים של AI ב-Hugging Face, לכמת אותם לפורמט שרץ טוב על מחשב אישי, למצוא ולהתקין את כל התלויות כדי להפעיל אותם, ועוד.

NVIDIA NIM מקלה על ההתחלה על ידי מתן רשימה מאורגנת של מודלים של AI, ארוזים מראש עם כל הקבצים הדרושים להפעלתם ומותאמים להשגת ביצועים מלאים על כרטיסי RTX. ומכיוון שהם מכוננים, אותו microservice של NIM יכול לרוץ בצורה חלקה על פני מחשבים אישיים או הענן.

microservices של NVIDIA NIM זמינים להורדה דרך build.nvidia.com או דרך אפליקציות AI מובילות כמו Anything LLM, ComfyUI ו-AI Toolkit ל-Visual Studio Code.

במהלך COMPUTEX, NVIDIA תשחרר את microservice FLUX.1-schnell של NIM — מודל יצירת תמונות מ-Black Forest Labs ליצירת תמונות מהירה — ותעדכן את microservice FLUX.1-dev להוסיף תאימות למגוון רחב של כרטיסי GeForce RTX מסדרה 50 ו-40.

microservices אלו מאפשרים ביצועים מהירים יותר עם TensorRT ומודלים מכומתים. על כרטיסי NVIDIA Blackwell, הם רצים יותר מפי שניים מהר יותר מאשר להריץ אותם באופן טבעי, בזכות אופטימיזציות FP4 ו-RTX.

מפתחי AI יכולים גם להתחיל את עבודתם עם NVIDIA AI Blueprints — זרימות עבודה ודוגמאות פרויקטים באמצעות microservices של NIM.

NVIDIA שחררה בחודש שעבר את NVIDIA AI Blueprint ל-AI גנרטיבי מונחה תלת-ממד, דרך עוצמתית לשלוט בהרכב וזוויות מצלמה של תמונות שנוצרו על ידי שימוש בסצנת תלת-ממד כהפניה. מפתחים יכולים לשנות את ה-blueprint בקוד פתוח לצרכיהם או להרחיב אותו עם פונקציונליות נוספת.

NVIDIA שחררה לאחרונה את Project G-Assist כעוזר AI ניסיוני המשולב באפליקציית NVIDIA. G-Assist מאפשר למשתמשים לשלוט במערכת GeForce RTX שלהם באמצעות פקודות קול וטקסט פשוטות, ומציע ממשק נוח יותר בהשוואה לשליטה ידנית המפוזרת על פני לוחות בקרה ישנים רבים.

מפתחים יכולים גם להשתמש ב-Project G-Assist כדי לבנות בקלות תוספים, לבדוק מקרי שימוש בעוזר ולפרסם אותם דרך Discord ו-GitHub של NVIDIA.

Project G-Assist Plug-in Builder — אפליקציה מבוססת ChatGPT שמאפשרת פיתוח ללא קוד או עם קוד מועט באמצעות פקודות בשפה טבעית — מקלה על התחלת יצירת תוספים. תוספים קלים אלו, המונעים על ידי הקהילה, משתמשים בהגדרות JSON פשוטות ולוגיקה ב-Python.

דוגמאות תוספים חדשות בקוד פתוח זמינות כעת ב-GitHub, ומציגות דרכים מגוונות שבהן AI על המכשיר יכול לשפר את זרימות העבודה של מחשבים אישיים וגיימינג. הן כוללות:

חקור את מאגר ה-GitHub לעוד דוגמאות — כולל שליטה במוזיקה ללא ידיים באמצעות Spotify, בדיקות מצב שידור חי עם Twitch, ועוד.

חברות מאמצות את ה-AI כממשק החדש למחשבים אישיים. לדוגמה, SignalRGB מפתחת תוסף G-Assist שמאפשר שליטה מאוחדת בתאורה על פני יצרנים מרובים. משתמשים יוכלו בקרוב להתקין תוסף זה ישירות מאפליקציית SignalRGB.

החל מהשבוע, קהילת ה-AI תוכל גם להשתמש ב-G-Assist כרכיב מותאם אישית ב-Langflow — מה שמאפשר למשתמשים לשלב יכולות קריאה לפונקציות בזרימות עבודה ללא קוד או עם קוד מועט, אפליקציות AI וזרימות סוכנים.

חובבים המעוניינים לפתח ולנסות תוספים של Project G-Assist מוזמנים להצטרף לערוץ ה-Discord של NVIDIA Developer כדי לשתף פעולה, לשתף יצירות ולקבל תמיכה.

בכל שבוע, סדרת הבלוגים RTX AI Garage מציגה חידושים ותכנים מונעים על ידי הקהילה עבור אלו המעוניינים ללמוד עוד על microservices של NIM ו-AI Blueprints, כמו גם בניית סוכני AI, זרימות עבודה יצירתיות, דמויות דיגיטליות, אפליקציות פרודוקטיביות ועוד על מחשבי AI ותחנות עבודה.

התחבר ל-NVIDIA AI PC בפייסבוק, אינסטגרם, TikTok ו-X — והישאר מעודכן על ידי הרשמה לניוזלטר של RTX AI PC.

עקוב אחרי NVIDIA Workstation ב-LinkedIn ו-X.

ראה הודעה לגבי מידע על מוצרי תוכנה.