Come eseguire GPT-OS (CHATGPT) localmente su Mac con LM Studio

L’esecuzione di un modello di linguaggio di grandi dimensioni (LLM) come GPT-OSS di CHATGPT può avere più vantaggi, tra cui fornire accesso offline a uno strumento modello di lingua AI come GPT. Se sei un fan di LLMS, strumenti di intelligenza artificiale e chatgpt, potresti essere interessato a eseguire un’istanza locale di GPT-OSS, ma anche se sei abbastanza nuovo per gli strumenti di AI, potrebbe essere intrigante per te da sperimentare. Inoltre, se sei uno degli utenti CHATGPT che non sono elettrizzati per GPT-5 e vogliono tornare a GPT-4, eseguire GPT-OS sul tuo Mac fornisce un’altra strada per farlo.

Attraverseremo un modo davvero semplice per ottenere il modello aperto di GPT, CHATGPT, correndo localmente sul tuo Mac. (E sì, puoi eseguire anche GPT-OS su Windows o Linux usando praticamente gli stessi metodi delineati di seguito, ma ovviamente ci stiamo concentrando su MacOS qui).

Sono disponibili due versioni di GPT-OS, ci concentreremo sul modello GPT-OS-20B più leggero poiché occupa solo 16 GB di spazio di archiviazione (rispetto a 120 GB+ per il modello GPT-OSS-120B). Questo funzionerà meglio su un Mac più potente con una buona GPU, ma il modello GPT-OSS-20B funziona abbastanza bene ed è più che utilizzabile nei nostri test su più diversi Mac Silicon di Serie M. Sebbene GPT-OS sia offline e non abbia accesso a Internet, è comunque necessario avere un accesso a Internet inizialmente per scaricare i file di dati.

Come eseguire GPT-OSS localmente e offline su Mac

Puoi eseguire GPT-OS (CHATGPT) a livello locale e offline su Mac facilmente con l’app LM Studio gratuita, ecco come ottenere rapidamente questa configurazione:

1. Scarica LM Studio gratuito da https://lmstudio.ai/download



2. Avvia LM Studio e scegli “Power User”



3. Nella schermata successiva Assicurati che GPT-OSS sia selezionato e quindi fai clic su “Scarica GPT-OSS” per iniziare a scaricare i file necessari



4. Quando il download è finito, scegli “Avvia una nuova chat”



5. Nella parte superiore dello schermo, fai clic nella barra del titolo



6. Seleziona “OpenAI/GPT-OSS” come modello, che caricherà il modello con cui interagire con



7. Quando GPT-OSS-20B ha finito di caricare, sei pronto per interagire con GPT-OSS proprio come qualsiasi altra istanza di Chatgpt, Chatbot o LLM

Goditi la tua esperienza GPT locale offline personale! Puoi usarlo proprio come qualsiasi altro LLM o chatbot ed è in grado di rispondere alle domande, eseguire equazioni e matematica, generare linguaggio e cose come lettere o rapporti, analizzare i dati, scrivere codice e tutto ciò che ti aspetteresti da un potente strumento di intelligenza artificiale.

Poiché GPT-OS è offline offline, non sarà in grado di aggiornare con nuove informazioni o richiedere nuovi dati dal Web, ma ha un set di dati enorme con cui funzionare anche nella versione 20B. Se vuoi avere ancora più capacità, ma prestazioni più lente sulla maggior parte dei Mac di consumo, puoi utilizzare la versione 120B se hai lo spazio su disco per accomodarla.

Questo ovviamente copre la corsa a livello locale di GPT, che si basa su GPT 4, ma ci sono molti altri modelli che puoi correre offline, tra cui Llama, e il Llama senza censure, DeepSeek e molti altri.

Che tu ami o odi gli strumenti di intelligenza artificiale, sono qui per rimanere e sono sempre più potenti e onnipresenti. Il fatto che puoi eseguire i modelli offline è di interesse significativo per molti utenti incentrati sulla privacy o che vogliono solo sperimentare un LLM senza tutta la massiccia condivisione e formazione dei dati che continua con qualsiasi strumento di intelligenza artificiale connesso a Internet online.

Se sei attento alla super privacy e ti concentri e vuoi garantire che non c’è accesso a Internet a LLM in quanto hai le tue discussioni e le interazioni super top secret con un LLM, potresti persino scaricare e installare prima GPT in una macchina virtuale e poi prendere quella macchina virtuale completamente offline, garantendo che non esiste una connessione esterna o un accesso. Le persone lo fanno per molte ragioni, incluso l’utilizzo di LLM per motivi molto personali. Dipende tutto da te, sperimenta ed esplora.

Dai un’occhiata ad altri articoli di intelligenza artificiale o articoli specifici di CHATGPT, se ti piacciono gli AI e LLM!

Imparentato