Piccoli modelli di intelligenza artificiale su dispositivi edge per festeggiamenti potenziati dall’intelligenza artificiale
21 ore fa
Benvenuti in questo articolo dove la festa tradizionale incontra le tecnologie più all’avanguardia. Mentre ci avviciniamo al capodanno lunare cinese, è il momento perfetto per godersi il periodo del festival con alcuni consigli culturali dei nostri assistenti AI, sia con un modello linguistico Large di Mistral AI che con un modello multimodale come LLaVA.
La particolarità di questo articolo è che implementeremo i modelli menzionati su un dispositivo di piccole dimensioni a basso costo: Raspberry Pi, rendendo la tecnologia AI avanzata accessibile anche nella tua cucina, come molti altri elettrodomestici.
Mentre entriamo nell’anno del Drago, è un momento emozionante sfruttare un piccolo modello di intelligenza artificiale su un dispositivo di base e godersi l’atmosfera festosa. Non preoccuparti se non hai mai utilizzato un Raspberry Pi o un’intelligenza artificiale generativa prima; in questo articolo ti guiderò attraverso ogni singolo passaggio di questo progetto, da zero a eroe.
Iniziamo!
Come hai capito, questo articolo richiederà hardware di base. Ecco cosa ti servirà:
- Raspberry Pi 5–8 GB: Ho acquistato separatamente il Raspberry Pi per 129 euro. In alternativa, è possibile acquistare uno starter kit che può includere tutti i componenti elencati di seguito.
- Scheda di memoria micro: Più grande e veloce è la scheda SD, meglio è. Ho optato per “Adattatore SanDisk MicroSDXC + SD da 128 GB con prestazioni dell’app A2 fino a 190 MB/s, Classe 10, U3, V30”. Questa scheda micro SD mi è costata 27 euro.
- Convertitore micro HDMI: Necessario per la visualizzazione. Ho comprato l’opzione più conveniente per circa 4 euro.
- Ventola (opzionale): Per raffreddare la CPU. Inizialmente non avevo acquistato una ventola, ma quando la mia CPU si è surriscaldata eccessivamente e i miei modelli di intelligenza artificiale hanno iniziato a funzionare più lentamente, ho capito che una ventola di raffreddamento avrebbe potuto migliorare le prestazioni. Ne ho appena acquistato uno stamattina per 20 euro e vedrai il mio adorato fan nel mio prossimo articolo. 🙂
- Alimentatore USB-C da 27 W: Mi è costato 20 euro.
Fonte: towardsdatascience.com
