GECO AI
L’inferenza locale usa hardware compatibile di tua proprietà per eseguire un modello.
Il calcolo del modello avviene sul dispositivo. Questo offre più controllo sull’esecuzione, ma non dimostra che l’intera piattaforma funzioni offline. Account, messaggi e metadati possono usare servizi GECO.
Verifica memoria, spazio, licenza del modello e runtime prima dell’installazione. Mantieni collegato il computer se vuoi accedere ai modelli da remoto. Elettricità, spazio e hardware hanno costi anche con inferenza locale.