Cosa considerare prima di acquistare un PC per l'AI locale
L'arrivo di modelli linguistici e strumenti di intelligenza artificiale eseguibili localmente ha acceso l'interesse di molti utenti, spingendoli a valutare l'acquisto o l'upgrade di una workstation dedicata. Tuttavia, le esigenze hardware per l'AI differiscono sensibilmente da quelle per gaming o produttività classica. Prima di investire, è fondamentale comprendere i colli di bottiglia reali e le priorità tecniche.
La GPU è il cuore pulsante. Per l'inferenza di modelli di grandi dimensioni (con oltre 7 miliardi di parametri), la quantità di VRAM è spesso più critica della potenza di calcolo pura. I modelli come Llama 3, Mistral o Phi-3 richiedono tra 6 e 16 GB di VRAM per funzionare a precisione 4-bit (quantizzazione). Per il fine-tuning o l'addestramento, servono fino a 24 GB o più. Una scheda con 16 GB di VRAM (es. RTX 4060 Ti 16 GB, RTX 3090 usata) è il minimo consigliato per flussi di lavoro seri. Attenzione alle GPU con 8 GB: sono rapidamente insufficienti per modelli di media dimensione in FP16.
RAM di sistema e storage. Mentre la GPU gestisce il modello, la RAM di sistema ospita il contesto, i token di input e le applicazioni di orchestrazione (es. Ollama, LM Studio). 32 GB di RAM DDR4/DDR5 sono il minimo; 64 GB offrono margine per carichi di lavoro misti. Lo storage deve essere un NVMe veloce (PCIe 4.0 o superiore): i modelli occupano spesso decine di GB e i tempi di caricamento iniziale dipendono dalla velocità di lettura sequenziale. Un SSD da 1-2 TB è auspicabile per mantenere più modelli disponibili.
CPU e raffreddamento. La CPU ha un impatto minore sulla velocità di inferenza, ma può diventare un collo di bottiglia nella tokenizzazione e nella gestione del sistema multi-thread. Un processore moderno a 8-12 core (Intel i7/Ryzen 7 o superiori) è sufficiente. Il raffreddamento è cruciale: le GPU moderne (specialmente le NVIDIA RTX 3000/4000) producono molto calore sotto carico prolungato. Un case con buon flusso d'aria, ventole PWM e un dissipatore CPU adeguato prevengono il thermal throttling, che riduce le prestazioni del 20-30%.
Attenzione alle piattaforme consumer. Molte schede madri consumer (B660, B760, B650) supportano solo PCIe 4.0 x16, ma la differenza con PCIe 3.0 per l'inferenza è minima. Più importante è verificare la presenza di PCIe lanes sufficienti per eventuali multi-GPU (spesso limitate sulle piattaforme a presa singola). Inoltre, le GPU enterprise (es. A4000, RTX 6000 Ada) offrono ECC e maggiore VRAM, ma hanno costo elevato. Per uso hobbistico, le schede gaming di fascia medio-alta rimangono il miglior compromesso.
Conclusione. Investire in un PC per AI locale richiede un bilanciamento ponderato: privilegiate una GPU con almeno 12-16 GB VRAM, 32-64 GB di RAM, un SSD NVMe capiente e un sistema di raffreddamento robusto. Evitate di spendere su CPU di fascia ultra-top se il budget limita la VRAM. Prima dell'acquisto, configurate la macchina virtualmente con strumenti come PCPartPicker e controllate i requisiti dei modelli che intendete eseguire. L'AI locale è ancora un ambito in evoluzione: costruite un sistema flessibile, aggiornabile e con margine per crescere.