Oggi presentiamo Gemma 4 12B, il nostro ultimo modello progettato per portare l’intelligenza multimodale degli agenti direttamente sui laptop. Colmando il divario tra il nostro E4B edge-friendly e il nostro Mixture of Experts (MoE) 26B più avanzato, Gemma 4 12B racchiude potenti funzionalità in un ingombro di memoria ridotto. È anche il nostro primo modello di medie dimensioni a disporre di ingressi audio nativi.
Grazie alla comunità degli sviluppatori, Gemma 4 i modelli hanno ora superato i 150 milioni di download. Hai costruito tutto da bracci robotici indossabili per assistenza fisica a sicurezza IA di livello aziendale. Siamo entusiasti di vedere cosa costruirai con quest’ultima aggiunta.
Ecco una panoramica di ciò che rende unico Gemma 4 12B:
- Nuova architettura unificata: Nessun codificatore multimodale. Gli input visivi e audio fluiscono direttamente nella dorsale LLM.
- Ragionamento avanzato: Prestazioni di riferimento vicine al nostro modello 26B, sbloccando potenti ragionamenti in più fasi e flussi di lavoro agenti.
- Laptop pronto: Abbastanza piccolo da poter essere eseguito localmente con soli 16 GB di VRAM o memoria unificata.
- Aperto e accessibile: Rilasciato con licenza Apache 2.0 con supporto in tutto l’ecosistema degli sviluppatori.
- Pronto per la bozza: Gemma 4 12B è dotato di drafter Multi-Token Prediction (MTP) per ridurre la latenza.
Insieme, queste funzionalità apportano funzionalità multimodali avanzate all’hardware di tutti i giorni senza sacrificare la velocità o il ragionamento. Diamo ora uno sguardo più da vicino a come Gemma 4 12B raggiunge questo obiettivo.
Esegui localmente agenti all’avanguardia
Gemma 4 12B offre prestazioni vicine al nostro modello MoE più grande da 26B rispetto ai benchmark standard, ma con meno della metà dell’ingombro di memoria totale. Abbastanza piccolo da poter essere eseguito localmente su laptop consumer con 16 GB di RAM, sblocca potenti esperienze multimodali e agenti direttamente sul tuo computer.
Fonte: deepmind.google
