این بهینه‌سازی‌ها به طور خاص مدل‌های زبانی بزرگ (LLMs) را هدف قرار می‌دهند و تجربیات هوش مصنوعی مولد را تقویت می‌کنند.

در اینجا جزئیات مربوط به ارتقای چشمگیر عملکرد هوش مصنوعی انویدیا آمده است:

تا 3 برابر سریع‌تر: درایورهای R555 با استفاده از ONNX Runtime (ORT) و DirectML، عملکرد هوش مصنوعی را تا 3 برابر سریع‌تر در پردازنده‌های گرافیکی RTX و پلتفرم‌های PC RTX AI ارائه می‌دهند.

بهبود LLM: بهینه‌سازی‌های جدید طیف وسیعی از LLMها را شامل می‌شود، از جمله Phi-3، Llama 3، Gemma و Mistral، که منجر به تجربیات هوش مصنوعی مولد قدرتمندتر می‌شود.

WebNN با RTX: WebNN با RTX اکنون از طریق DirectML شتاب گرفته است و رابط برنامه‌نویسی کاربردی جدیدی را برای توسعه‌دهندگان وب برای استقرار مدل‌های جدید هوش مصنوعی ارائه می‌دهد.

پشتیبانی DirectML در PyTorch: مایکروسافت و انویدیا برای تسریع بیشتر عملکرد گرافیک RTX و افزودن پشتیبانی DirectML در PyTorch همکاری می‌کنند.

قابلیت‌های جدید درایور R555:

• پشتیبانی از DQ-GEMM metacommand برای مدیریت کوانتیزاسیون وزن INT4 برای LLMها
• روش‌های نرمال‌سازی جدید RMSNorm برای مدل‌های Llama 2، Llama 3، Mistral و Phi-3
• مکانیسم‌های multi-query attention و sliding window attention برای پشتیبانی از Mistral
• آپدیت KV در محل برای بهبود عملکرد توجه
• پشتیبانی از GEMM برای تانسورهای غیر ضرب‌شده در 8 به منظور بهبود عملکرد فاز context

تسلط بر هوش مصنوعی PC: انویدیا با مجموعه TensorRT و TensorRT-LLM خود، پیشرو در زمینه هوش مصنوعی PC مصرف‌کننده است و طیف وسیعی از محصولات را با قدرت هوش مصنوعی پردازنده‌های گرافیکی مانند هسته‌های Tensor ارائه می‌دهد.

گامی به سوی آینده هوش مصنوعی: کارت‌های گرافیک انویدیا با ارائه حداکثر 1300 تراشه محاسباتی هوش مصنوعی، از سریع‌ترین تراشه‌های هوش مصنوعی که امسال عرضه می‌شوند (با 100 تراشه) به مراتب قدرتمندتر هستند. این، به همراه جدیدترین پردازنده‌های گرافیکی RTX، پلتفرم‌های PC RTX AI را به پیشران بخش هوش مصنوعی در فضای مصرف‌کننده تبدیل می‌کند.

این به روز رسانی‌ها نشان دهنده‌ی تعهد انویدیا به ارائه پیشرفته‌ترین و قدرتمندترین راه حل‌های هوش مصنوعی به مصرف کنندگان و متخصصان است.

اگر علاقه‌مند دنیای تکنولوژی هستید حتما شبکه‌های اجتماعی فیسیت را در اینستاگرام، تلگرام، روبیکا، توییتر و آپارات را دنبال کنید.