Installare un’IA in locale su Windows MacOS o Linux: Installare IA locale sul proprio dispositivo per chat private e sicure.
Installare un’IA in locale su Windows MacOS o Linux
Le IA si stanno diffondendo sempre di più, quelle esistenti aggiungono nuove funzionalità e diventano più precise, quelle nuove cercano di tenere il passo o di offrire funzionalità diverse.
Ma una cosa che hanno in comune tutte le IA online è che quello che scrivete rimane sui loro server.
Questo significa, che anche se garantiscono sicurezza e anonimato, comunque le vostre domande, i documenti che caricate e le risposte generate saranno presenti sui loro serve, e potrebbero essere usate, anche se in maniera anonima per istruire e migliorare l’IA.
Se non fornite all’IA informazioni personali, o che volete mantenere private, questo potrebbe non essere un problema, ma se ci sono richieste che volete che non vengano utilizzate, l’alternativa potrebbe essere un’IA locale.
LM Studio
LM Studio è un software che permette una volta installato di scegliere tra diversi modelli di IA quale scaricare ed utilizzare.
Alcuni dei modelli presenti sono:
- OpenAI GTP-OSS
- DeepSeek R1
- Dolphin 3.0
e in generale quasi tutti i modelli presenti su Huggingface.
Dai miei test il modello che ha dato risultati migliori è stato:
- Dolphin3.0-Llama3.1-8B-GGUF
Per ogni modello comunque è possibile vedere la richiesta in RAM e in GB.
LM Studio è completamente gratuito e si può scaricare dal sito web lmstudio.ai.
Vantaggi e Svantaggi
Vediamo quali sono i vantaggi e gli svantaggi di avere un’IA installata in locale:
Vantaggi
- Le conversazioni sono private e rimangono solo sul nostro dispositivo
- Se installiamo più IA possiamo passare con 1 solo click da una all’altra
- Anche all’interno della stessa chat possiamo passare da un’IA all’altra per avere una risposta diversa
- Totalmente gratuito (anche per le versioni più avanzate)
Svantaggi
- L’IA richiede molte risorse, un modello base occupa circa 10GB si spazio e richiede almeno 4/8GB di RAM
- La versione locale dell’AI non si collega online, quindi non è possibile fare ricerche e avere informazioni aggiornate
- Il modello dell’IA dovrà essere aggiornato manualmente in caso di disponibilità di nuove versioni
Video
Nel video vediamo l’installazione di LM Studio, il download e l’utilizzo di 3 modelli IA (OpenAI, Dolphin, DeepSeek).