Oggi vi porto dentro casa mia, letteralmente, per raccontarvi cosa succede quando provi a tenere un’intelligenza artificiale intera dentro al tuo computer, offline, senza server, senza abbonamenti, senza un solo dato che esce dalle mura di casa.
Partiamo dal punto che mi ha fatto più impressione, il consumo di risorse. Perché quando io e voi parliamo di IA, pensiamo sempre a un’app che si apre, scriviamo, e la risposta arriva magicamente, come se non costasse nulla a nessuno.

È come quando guardi un gioco next gen girare fluido sullo schermo e dai per scontato tutta la potenza di calcolo che c’è dietro, invisibile, silenziosa. Io volevo vedere cosa c’è davvero dietro quella magia, cosa serve per farla girare, e ho deciso di portarmela in casa, sul mio Mac Mini M4 di ultima generazione con 16 giga di ram, per capirlo con le mie mani invece che leggerlo su un articolo.
Tutto è partito da una curiosità che mi porto dietro da mesi. Avevo letto che i modelli cinesi sono diventati incredibilmente efficienti, e che la maggior parte di noi usa appena una frazione di quello che questi strumenti possono davvero fare, un po’ come quando compriamo uno smartphone pieno di funzioni e ne sfruttiamo forse un decimo. E qui la prima sorpresa vera, che voglio raccontarvi bene perché non lo sapevo neanche io fino a poco tempo fa, non esiste un solo modello cinese, ne esistono decine, anzi centinaia! Fatti da aziende diverse, con approcci diversi, con filosofie diverse.

C’è DeepSeek, quello di cui probabilmente avete sentito parlare di più, forte soprattutto su ragionamento e matematica, tanto che ha fatto tremare pure Wall Street quando è uscito, ricordate. C’è Kimi, di Moonshot AI, pensato per gestire testi lunghissimi, roba da centinaia di pagine in un colpo solo. C’è GLM, molto orientato alla programmazione. E poi c’è quello che ho scelto io per il mio esperimento, Qwen, sviluppato da Alibaba. Non l’ho scelto a caso, visto che non avrei potuto a causa dei moltissimi modelli, quindi ho chiesto a Claude di Anthropic. Ho chiesto a una IA quale IA usare… inception di IA: solo 3 anni fa sarebbe stata fantascienza.
Comunque avete letto bene, Alibaba, lo stesso colosso che conoscete per l’ecommerce, quello di Jack Ma per intenderci, ha costruito una delle famiglie di intelligenze artificiali open source più solide al mondo, e questo è un dettaglio che mi ha lasciato a bocca aperta, spercie perché non ne sapevo nulla. Non parliamo di uno strumento sperimentale fatto da qualche laboratorio sconosciuto in un garage, parliamo di un modello robusto, multilingua, capace di scrivere bene anche in italiano, e soprattutto scaricabile gratis, con i pesi, cioè il vero e proprio cervello del modello, disponibili per chiunque voglia installarli sul proprio computer. Una cosa che né Claude né ChatGPT permettono di fare, perché quei modelli restano chiusi dentro i server delle rispettive aziende, e giustamente, è il loro modello di business.

Quindi eccomi qui, ho scaricato un programma gratuito che si chiama LM Studio, semplicissimo da usare, niente righe di comando, niente competenze tecniche richieste, quasi un videogioco quanto a facilità di installazione. Esiste anche un’alternativa più tecnica, si chiama Ollama, pensata per chi vuole collegare il modello ad altri programmi tramite comandi da terminale, ma per uno che scrive come me, LM Studio è la scelta naturale, tutto grafico, tutto intuitivo.
Dentro ho installato una versione di Qwen pensata apposta per la scrittura, la stessa cosa che faccio io tutti i giorni, articoli, contenuti, romanzi. Tutto questo sul mio Mac mini M4, come dicevo, la macchina che tengo a casa per lavorare, con sedici giga di memoria RAM, non tantissimi per questo tipo di esperimenti, ma sufficienti per iniziare a giocare.
Il bello, e qui torniamo al punto della privacy che mi sta a cuore da sempre, è che una volta scaricato il modello non serve più internet. Zero account, zero abbonamenti, zero dati che viaggiano verso qualche server sconosciuto dall’altra parte del mondo. Tutto resta lì, chiuso dentro il mio hardware, come un vinile che gira da solo senza bisogno dello streaming, o come un libro che tieni in libreria invece di prenderlo in prestito ogni volta. Quando io scrivo qualcosa in quella chat, quel testo non lo vede nessuno tranne me, non passa da nessuna parte, non finisce in nessun database aziendale, non alimenta nessun algoritmo esterno.
Ma vi devo raccontare anche la parte più onesta dell’esperimento, quella dove le cose non sono andate come speravo, perché è proprio lì che nasce la riflessione più importante di questo racconto. Appena ho iniziato a usarlo seriamente, il modello mi ha praticamente mangiato tutta la RAM del computer. Con sedici giga condivisi tra sistema operativo e intelligenza artificiale, il margine era strettissimo, e il mio Mac ha iniziato letteralmente a boccheggiare, incapace di fare qualsiasi altra cosa nel frattempo, come quando in un videogioco apri troppe finestre insieme e il frame rate crolla a picco. Tra l’paltro l’attesa per le risposte era 10 volte più lunga di quanto usi una IA in cloud.

Ho dovuto fermare tutto, disinstallare il modello e il programma, ripulire anche le tracce nascoste che restano sparse nel sistema dopo una disinstallazione normale, con un piccolo strumento gratuito fatto apposta per quello, e tornare al mio strumento di lavoro quotidiano.
Ed è qui, esattamente in quel momento, mentre immaginavo la ventola del Mac mini girare a manetta solo per rispondere a due domande banali, che mi è venuta la domanda che voglio davvero lasciarvi oggi. Non una lezione, una riflessione aperta, come piace fare a me. Se un modello piccolo, un settimo appena della grandezza di quelli che uso normalmente ogni giorno, ha messo in ginocchio il mio singolo computer di casa solo per farmi tentare di scrivere due paragrafi, quanto consumano davvero, in energia, in elettricità, in calore da smaltire, i giganteschi modelli di intelligenza artificiale che tutti noi usiamo ogni giorno, su scala globale, milioni di persone insieme, nello stesso istante, mentre chiedono ricette, compiti di scuola, consigli sentimentali?

Non ho una risposta precisa da darvi, e onestamente diffido di chi la spara con troppa sicurezza, perché i dati veri li conoscono solo le aziende che gestiscono quei server, chiusi come casseforti… a parte Google che è un po’ più trasparente. Ma questo piccolo esperimento casalingo, fallito nel modo più concreto possibile, mi ha fatto capire una cosa che prima sapevo solo in teoria, quanto sia energivoro tutto questo mondo che ormai diamo per scontato, come diamo per scontata l’acqua che esce dal rubinetto di casa o la luce che si accende premendo un interruttore. Dietro ogni risposta che riceviamo in mezzo secondo, c’è una macchina che lavora, che scalda, che consuma, da qualche parte nel mondo, magari in un capannone enorme che non vedremo mai.
Ne parliamo tanto di intelligenza artificiale in termini di cosa può fare per noi, molto meno di cosa costa farla girare, in senso letterale, economico, ambientale. Forse è ora di iniziare a farci anche questa domanda, con la stessa curiosità con cui ci facciamo tutte le altre, la stessa curiosità che mi ha spinto a fare questo piccolo esperimento fallito in casa mia, un pomeriggio, un Mac mini, e una lezione che non mi aspettavo.