In questa puntata ti parlerò del mio nuovo iPhone 16, di Perplexica un motore di ricerca IA locale e di LM Studio.

Note dell’episodio

1. Link citati

Introduzione e comunicazioni di servizio:

Gli argomenti trattati includono: il nuovo iPhone, Perplexica, e LM Studio.
Si annuncia l'intenzione di dedicare puntate monotematiche a libri letti, partendo con "The Death of Expertise" da discutere entro il 10 marzo.

Nuovo iPhone 16:

Filippo ha acquistato un iPhone 16 base con 128 GB di spazio, principalmente per il supporto futuro di Apple Intelligence.
L'iPhone viene utilizzato principalmente per ascoltare podcast, telefonate, messaggi (senza Telegram e WhatsApp), hotspot, foto/video e musica.
Viene sottolineato che l'iPhone è considerato l'acquisto meno soddisfacente in termini di rapporto qualità/prezzo.
Il passaggio dall'iPhone 11 Pro al 16 non ha portato grandi differenze nelle foto, ma un miglioramento notevole nell'audio degli speaker.
Le nuove funzioni video e foto 3D per Vision Pro sono considerate interessanti ma non fondamentali per l'uso che ne fa.
Il nuovo processore è più veloce e ora supporta il 5G.
L'installazione è stata fatta da zero, senza passaggio dati, per eliminare app inutilizzate e ottimizzare lo spazio.

Perplexica:

Viene spiegato cos'è Perplexity, un motore di ricerca con intelligenza artificiale che recupera informazioni da diverse pagine web e le riassume.
Perplexity è considerato un sistema utile che giustifica l'uso degli LLM, ma è criticato per rendere la ricerca una commodity e non incentivare la visita delle fonti.
Perplexica è un progetto open source che si ispira a Perplexity, ma permette l'installazione locale tramite Docker.
Perplexica utilizza SearXG, un aggregatore di motori di ricerca che rispetta la privacy.
I risultati della ricerca vengono passati a un LLM (come ChatGPT o Lama) per generare risposte.
L'autore ha sperimentato con Perplexica, notando miglioramenti nel tempo, ma anche limitazioni come la velocità e l'uso iniziale della lingua inglese.
Per usare Lama con Perplexica, è stato necessario ampliare la finestra di contesto per gestire meglio i testi da riassumere.

LM Studio:

LM Studio è un progetto per eseguire LLM offline sul proprio laptop, con un'interfaccia grafica semplice.
Offre la possibilità di chattare con i documenti tramite RAG, selezionando se estrarre parti rilevanti o passare il documento intero all'LLM.
Permette di avere un mini server locale compatibile con l'API di Open AI.
Si interfaccia con Hugging Face per scaricare modelli LLM, compresi quelli ottimizzati per Apple Silicon (MLX).
L'autore critica il fatto che non sia open source e che non sia chiaro il modello di business.
Non supporta la lingua italiana nativamente, ma offre un repository GitHub per la traduzione dell'interfaccia.