Rivet: una soluzione facile e veloce per creare agenti AI con LLM in locale

Ho scoperto da pochissimo una interessante (e giovane) iniziativa open-source in ambito di Intelligenza Artificiale: Rivet.

Non ho maturato ancora sufficiente esperienza per parlartene in modo approfondito e con la dovuta cognizione di causa ma nel video che segue ti mostro perché lo ritengo interessante.

Nel mentre, tra l‘altro, ti mostro come usare Ollama e Mistral per riassumere una sentenza della Cassazione. Grazie ad alcuni trucchi sono riuscito ad ottenere un buon risultato anche se Mistrar è un LLM relativamente piccolo e, con la lingua italiana, non è sempre perfetto (come si vede nel video).

1. Video dimostrativo di Rivet

Rivet è un ambiente di programmazione visiva per la creazione di agenti AI con LLM. Itera sui tuoi grafici prompt in Rivet, quindi eseguili direttamente nella tua applicazione. Con Rivet, i team possono progettare, eseguire il debug e collaborare in modo efficace su complessi grafici di prompt LLM e distribuirli nel proprio ambiente. (Fonte il sito del progetto)

Il video è stato fatto velocemente per il canale telegram di Avvocati e Mac. L’ho ripulito delle sbavature più grosse. Nelle descrizione del video trovi anche link a risorse utili.

Buona visione.

In conclusione

Credo che il video dimostri come sia relativamente facile creare un flusso di lavoro, anche abbastanza evoluto, usando Rivet, anche utilizzando un LLM locale come con Ollama e Mistral.

Quel che mi interessa di più di questa applicazione è che, con un minimo di lavoro, è possibile creare flussi di lavoro relativamente complessi che non credo di poter riuscire a fare senza programmare in Python o simili e, l’approccio usato, mi ricorda molto l’approccio di Comandi Rapidi che amo.

Come sempre se ti è piaciuto quel che hai letto o visto e non l’hai già fatto, ti suggerisco di iscriverti alla mia newsletter. Ti avvertirò dei nuovi articoli che pubblico (oltre ai podcast e video su YouTube) e, mensilmente, ti segnalerò articoli che ho raccolto nel corso del mese ed ho ritenuto interessanti.