Local AI Challenges 🐧 Linux Day 2026 · Fermo · 24 ottobre 2026 Slide e materiali del talk “Local AI Challenges”, presentato al Linux Day 2026 organizzato da FermoLUG. Un'intelligenza artificiale utile non deve necessariamente vivere nel cloud. Possiamo eseguire modelli AI sui nostri computer, scegliere strumenti aperti e mantenere un maggiore controllo sui dati.

🎯 Obiettivo del talk Esplorare opportunità, limiti e sfide dell'AI locale: far funzionare modelli linguistici e multimodali sul proprio hardware, preferibilmente con software open source e strumenti accessibili.

La presentazione è pensata per un pubblico misto, tecnico e non tecnico, e alterna concetti introduttivi, confronti e dimostrazioni pratiche. 🧩 Argomenti

• Cloud AI vs Local AI: privacy, controllo dei dati, costi e impatto ambientale.
• LLM e SLM: cosa sono, come generano risposte e perché il modello più grande non è sempre la scelta migliore.
• Transformer e prompt: concetti essenziali per capire il funzionamento e l'uso dei modelli.
• AI sul proprio computer: hardware, GPU, memoria e compromessi prestazionali.
• RAG (Retrieval-Augmented Generation): interrogare documenti e basi di conoscenza senza riaddestrare il modello.
• Modelli Vision: analisi e classificazione di immagini.
• Agenti AI: dall'elaborazione delle richieste all'impiego di strumenti e flussi operativi.
• Sfide reali: qualità delle risposte, limiti di contesto, prestazioni e affidabilità. 🛠️ Strumenti delle demo Le dimostrazioni si basano principalmente su: Strumento Utilizzo Linux (Ubuntu) Ambiente di esecuzione locale Ollama Esecuzione e gestione dei modelli AI AnythingLLM Interfaccia conversazionale, RAG e funzionalità agentiche Modelli open-weight Esempi di modelli per testo e immagini

Nota: “Open-weight” non significa automaticamente “open source”: licenze e condizioni d'uso variano da modello a modello.

📂 Slide e materiali Le slide della presentazione sono il contenuto principale del repository. Eventuali dataset, prompt, script e materiali di supporto possono essere aggiunti e documentati separatamente.

Per consultare le slide: apri i file della presentazione presenti nel repository, una volta caricati. 🔐 Privacy e limiti L'elaborazione locale può ridurre la necessità di inviare dati a servizi esterni, ma non garantisce automaticamente privacy, sicurezza o conformità normativa. È importante verificare configurazione degli strumenti, telemetria, integrazioni, connessioni di rete e licenze dei modelli.

Analogamente, l'impatto ambientale dipende dall'hardware, dal suo ciclo di vita, dai consumi effettivi e dal carico di lavoro: non esiste una soluzione universalmente migliore. 🎤 Evento e relatore

• Evento: Linux Day 2026
• Data: 24 ottobre 2026
• Luogo: Fermo (Italia)
• Organizzazione: FermoLUG
• Talk: Local AI Challenges
• Relatore: Samuele Pacioni 📜 Utilizzo dei materiali

LICENZA CC BY-NC-SA 4.0

I nomi e i marchi dei software citati appartengono ai rispettivi titolari. Il software libero ci dà la possibilità di capire, sperimentare e scegliere anche dove far funzionare la nostra AI.