Dialogo con Claude Sonnet 5.
Vorrei allestire un server per l’AI, potresti dare delle indicazioni motivate sulle migliori scelte (scheda madre, CPU, scheda video …) ?
La scelta più critica è la GPU, non la CPU: l’inferenza è quasi interamente legata a VRAM e banda di memoria, non a potenza di calcolo generica.
Scheda video — è qui che va la maggior parte del budget
La RTX 5090 (32GB GDDR7, ~1.792 GB/s di banda) è oggi la GPU consumer singola più veloce per l’inferenza LLM, e i suoi 32 GB di VRAM la rendono finalmente adatta a lavorare seriamente con modelli da 34B. In pratica è l’unica scheda consumer che riesce a far girare in locale, senza offloading, modelli MoE molto grandi come Llama 4 Scout a 109B parametri quantizzato Q4. Il prezzo street si aggira sui 2.200-2.500€, quindi assorbe gran parte del tuo budget ma è giustificato se vuoi girare modelli 30B-70B con margine. ML JourneyCompute Market
Se vuoi risparmiare, l’alternativa sensata è la RTX 5080 (16GB, ~999$ MSRP, in Italia realisticamente 1.100-1.300€): è la scelta di miglior rapporto qualità-prezzo per la maggior parte degli utenti di AI locale, a meno che tu non debba far girare modelli da 30B+ parametri, nel qual caso conviene puntare dritto sulla 5090. Local AI Master
Una terza via, se accetti hardware usato, è una RTX 3090 da 24GB: offre 24GB di VRAM a un prezzo inferiore a quello di una 5070 Ti nuova, un’ottima scelta se il budget è più tirato ma vuoi comunque margine per modelli 30B+. RunAIHome
Perché la VRAM conta più di tutto
Se il modello non entra interamente in VRAM, il runtime scarica alcuni layer sulla RAM di sistema via PCIe, e la velocità crolla a pochi token al secondo — più lenta di quanto tu riesca a leggere. Quindi la regola pratica: compra tanta VRAM quanta te lo permette il budget, anche a costo di una CPU più modesta. RunAIHome
CPU
Per pura inferenza LLM la CPU è quasi un contorno: basta un Ryzen 7/9 serie 9000 o un Intel Core i7 di generazione recente, purché la piattaforma supporti PCIe 5.0 x16 (utile per sfruttare a pieno la banda della GPU) e abbia abbastanza corsie PCIe/lane di memoria se in futuro vuoi aggiungere una seconda scheda.
Scheda madre
Cerca una mobo (AM5 per AMD o LGA1851 per Intel) con:
- slot PCIe 5.0 x16 con buon rinforzo meccanico (le 5090/5080 sono pesanti)
- supporto DDR5 almeno a 128GB totali (4 slot), utile se in futuro vuoi fare offload parziale su RAM
- connettore ausiliario coerente con un PSU da 1000W+
RAM
64GB DDR5 come minimo, 128GB se vuoi margine per modelli più grandi con offload parziale o per eseguire più container/servizi in parallelo (es. Ollama + vector DB + altro).
Alimentatore
La RTX 5090 ha un TDP di 575W, quindi serve un PSU da almeno 1000-1200W 80+ Gold/Platinum con connettore 16-pin 12VHPWR nativo (o adattatori di qualità). Float16
Storage
NVMe PCIe 4.0/5.0 da 1-2TB: i modelli GGUF pesano diversi GB ciascuno e vuoi tempi di caricamento rapidi.
Riepilogo indicativo per 2.000-5.000€
- RTX 5090 32GB → ~2.300€
- CPU Ryzen 7 9700X o simile → ~350€
- Mobo AM5 PCIe 5.0 → ~250-350€
- RAM 64-128GB DDR5 → ~250-500€
- PSU 1200W Gold → ~200€
- NVMe 2TB → ~150€
- Case con buon flusso d’aria + dissipatore → ~150-250€
Totale realistico: 3.700-4.200€, con margine per contingenze. Se vuoi restare più vicino ai 2.000-2.500€, sostituisci la 5090 con una 5080 o una 3090 usata e il resto della configurazione cala di conseguenza.
Vuoi che ti indichi anche software/stack consigliato (Ollama, vLLM, LM Studio) in base ai modelli che hai intenzione di far girare?
Si, grazie
Ecco lo stack software, pensato sul tuo caso d’uso (chat/assistenti in locale):
Sistema operativo
Ubuntu Linux (o altra distro) è la scelta più solida per un server AI: driver NVIDIA più stabili, meno overhead, e la maggior parte degli strumenti di serving sono pensati primariamente per Linux. Windows funziona bene se preferisci un’esperienza desktop, ma per un “server” vero e proprio Linux resta la scelta più pulita.
Il motore di inferenza: tre strade diverse
Ollama e LM Studio ottimizzano per “far girare un modello nei prossimi cinque minuti”, mentre vLLM ottimizza per “servire il modello a cento persone contemporaneamente”. Per te, che vuoi un assistente/chat personale, la scelta pratica è tra i primi due: Digital Applied Team
- Ollama — è il punto d’ingresso più semplice per gli LLM locali: un’installazione in un comando, poi
ollama pullper scaricare un modello eollama runper chattarci, con un’API compatibile OpenAI su localhost:11434 che funziona con Aider, Continue.dev, Open WebUI e praticamente ogni altro tool. È la scelta giusta se vuoi anche integrarlo con altre app (editor di codice, automazioni, ecc.). Consigliato come base. CoderseraAimadetools - LM Studio — si è guadagnato la reputazione di strumento più accessibile per il deployment locale, specialmente per chi non ha un background tecnico, con una GUI curata e un browser di modelli integrato. Utile se preferisci un’interfaccia grafica tipo “app desktop” invece della riga di comando, o vuoi provare rapidamente modelli diversi cliccando invece che digitando comandi. Rost Glukhov
- vLLM — lascialo da parte per ora: è pensato per servire molti utenti contemporaneamente con throughput enormemente superiore, ma ha senso solo se stai servendo un modello a 10, 50 o 100 utenti simultanei o processando job batch enormi. Se in futuro vuoi trasformare il server in qualcosa che usa tutta la famiglia o il team, è lì che passerai. SitePoint
Interfaccia utente consigliata
Sopra Ollama, installa Open WebUI: è un frontend web (self-hosted, in Docker) che ti dà un’esperienza tipo ChatGPT — cronologia chat, upload documenti per RAG, multi-utente con account — collegandosi all’API di Ollama in locale.
Formato dei modelli
Scarica modelli in formato GGUF quantizzati (Q4_K_M è il compromesso qualità/velocità più usato). Con 32GB di VRAM sulla 5090 puoi tranquillamente far girare modelli da 30-70B in Q4; con la 5080 (16GB) resta più sensato fermarsi su modelli 14-27B.
Riepilogo pratico
- Ubuntu + driver NVIDIA (serie 570+ per supporto Blackwell/RTX 50)
- Ollama come motore di inferenza
- Open WebUI come interfaccia
- Modelli GGUF Q4_K_M, dimensione in base alla VRAM disponibile
Se in futuro ti interessa anche generare immagini in locale (ComfyUI/Automatic1111) o fare fine-tuning leggero (LoRA), fammi sapere: cambia leggermente lo stack ma la GPU che hai scelto regge bene entrambi gli scenari.
Perchè Amazon riporta un prezzo sopra i 4000€ per la sola RTX 5090 ?
Confermo, in Italia i prezzi sono realmente su quei livelli: le RTX 5090 partono da circa 3.650€ per i modelli base (MSI Ventus 3X OC) e arrivano a 4.250€ per le versioni custom premium, mentre l’MSRP ufficiale della Founders Edition è 2.389€ ma è sostanzialmente introvabile. I dati di Trovaprezzi confermano prezzi tra i 4.040€ e i 4.370€ per modelli come Gigabyte Gaming OC, MSI Ventus 3X, Zotac Solid OC e ASUS ROG Astral. Homelabz
Il motivo del gap rispetto al MSRP è strutturale, non un problema del singolo rivenditore:
1. Scarsità di produzione vs domanda
NVIDIA produce volumi ridotti rispetto alla domanda, l’allocazione italiana è marginale, e i partner board come ASUS, MSI, Gigabyte, Zotac e PNY assorbono tutto il volume disponibile fissando il prezzo che vogliono. In pratica non esiste quasi offerta al prezzo di listino: quello che trovi sono solo modelli custom dei partner, con margini più alti. Homelabz
2. Nessuna Founders Edition disponibile
La Founders Edition (quella che costerebbe 2.389€) è il modello che compare nei titoli di giornale ma che di fatto non si trova in vendita. Tutto ciò che vedi su Amazon o altri store sono schede “custom” (dissipatori tripli/quadrupli, PCB rinforzati, RGB, ecc.) che partono già più in alto e salgono ulteriormente per via della scarsità.
3. Domanda AI che si somma a quella gaming
La 5090 non la comprano solo i gamer: è anche la scheda consumer più ambita per AI locale (32GB VRAM), quindi la domanda complessiva è più alta rispetto alle generazioni precedenti, spingendo ulteriormente i prezzi al rialzo in un mercato con offerta già limitata.
Cosa significa per il tuo budget
Con 4.000€+ solo per la GPU, il tuo piano da 3.700-4.200€ totali diventa irrealistico se punti alla 5090 nuova. Le opzioni pratiche sono:
- RTX 5080 (16GB) — se ti serve VRAM per un homelab AI, conviene sapere che le usate 3090/4090 fanno lo stesso lavoro a un quarto del costo; la 5090 conviene davvero solo per training serio. Per la tua inferenza chat/assistenti, la 5080 resta comunque un’ottima scelta a ~1.500-1.800€. Homelabz
- RTX 3090 usata (24GB) — se trovi un usato affidabile, ti dà VRAM quasi pari alla 5090 a una frazione del prezzo.
- Aspettare — si vocifera di una RTX 5090 SUPER per fine 2026/inizio 2027 con possibili 36GB di VRAM e prezzi potenzialmente più stabili una volta normalizzata la produzione di memoria, anche se non è confermato ufficialmente.
Vuoi che ti rifaccia i conti del sistema completo partendo dalla RTX 5080 o da una 3090 usata, per restare dentro il budget di 2.000-5.000€?
Si, grazie
Ottimo, ecco i prezzi reali del mercato italiano che ho appena verificato, e due configurazioni complete costruite su queste basi.
RTX 5080 (16GB GDDR7): prezzo reale 1.060-1.250€ per i modelli base (Zotac Solid Core, Inno3D X3), quindi molto più vicino al MSRP rispetto alla 5090 — la scarsità colpisce soprattutto la fascia top.
RTX 3090 (24GB, usata): qui c’è una sorpresa — anche il nuovo costa ancora circa 2.190€ (la carenza di memoria GDDR6X/7 ha tenuto alti anche i prezzi delle schede di generazione precedente). Conviene quindi cercarla solo sull’usato (Subito.it, eBay, Wallapop), dove puoi trovarla realisticamente tra 900€ e 1.400€ a seconda di stato e garanzia residua — ma con il rischio tipico dell’usato (usura, eventuale storico mining, niente garanzia ufficiale). Trovaprezzi
Configurazione A — RTX 5080 nuova (più sicura, garanzia piena)
| Componente | Modello indicativo | Prezzo |
|---|---|---|
| GPU | RTX 5080 16GB (Zotac/Inno3D base) | ~1.150€ |
| CPU | Ryzen 7 9700X | ~350€ |
| Scheda madre | AM5 PCIe 5.0 (es. MSI B850) | ~280€ |
| RAM | 64GB DDR5 6000MHz | ~280€ |
| Storage | NVMe PCIe 4.0 2TB | ~140€ |
| PSU | 850W 80+ Gold | ~130€ |
| Case + raffreddamento | Case ATX buon airflow + tower cooler | ~150€ |
| Totale | ~2.480€ |
Con 16GB gestisci bene modelli 14B-27B in Q4, lasciandoti oltre 1.500€ di margine sul budget per eventuali upgrade futuri (più RAM, secondo SSD, o accantonarli per una seconda GPU).
Configurazione B — RTX 3090 usata (più VRAM, stesso budget)
Stessa base (CPU/mobo/RAM/storage/PSU/case) ma con RTX 3090 usata al posto della 5080: risparmi circa 200-400€ sulla GPU e ottieni 8GB di VRAM in più (24GB vs 16GB), utile per modelli 30B-34B. Nota che la 3090 ha un TDP simile (350W) quindi il PSU da 850W resta adeguato. Lo svantaggio è la banda di memoria inferiore e nessuna garanzia ufficiale — verifica sempre lo stato delle ventole/pasta termica e chiedi foto/prova funzionante prima dell’acquisto.
Consiglio pratico: se non hai fretta, la Config A (5080 nuova) è la scelta più tranquilla per un primo server AI — garanzia, supporto driver più lungo nel tempo, e prestazioni token/sec superiori sui modelli medi che userai per la maggior parte del tempo (14B-27B, che coprono benissimo l’uso “chat/assistente”). La 3090 usata ha senso solo se sai già che vuoi spingerti verso modelli 30B+ e sei a tuo agio a comprare hardware di seconda mano.