Google представила Gemma 3 - велику мовну модель, що працює на одному GPU

hqdefault.jpg
Google представила Gemma 3 - нову версію великої мовної моделі (LLM) з відкритим кодом, розроблену на основі технологій Gemini 2.0. Вона відзначається високою продуктивністю та здатністю працювати на одному графічному процесорі або тензорному блоці обробки, що робить її ефективнішою за моделі OpenAI, Meta та DeepSeek.Що вміє Gemma 3? Підтримує понад 35 мов та має попередню підтримку із більш ніж 140 мовами. Обробляє текст, зображення та короткі відео. Контекстне вікно 128 тисяч токенів - дозволяє аналізувати великі обсяги даних. Підтримує виклик функцій і структурований висновок, що спрощує автоматизацію та створення ШІ-агентів. Має квантові версії, які зменшують розмір моделі та обчислювальні вимоги, зберігаючи високу точність. У рейтингу Chatbot Arena Elo, який оцінює продуктивність LLM у випадкових анонімних батлах, Gemma 3 випереджає такі моделі, як DeepSeek-V3, OpenAI o3- mini, Meta Llama 405B та Mistral Large. При цьому вона значно ефективніша у використанні ресурсів: якщо моделям DeepSeek потрібно 32 прискорювачі, то Gemma 3 справляється з тими ж завданнями (а в деяких випадках навіть краще) всього на одному NVIDIA H100. ProIT 2025.03.13 15:06 https://proit.org.ua/google-priedstavila-gemma-3-movnu-modiel-shcho-prat...