GUIDA Come creare un Chatbot con LLama

[Skills07]

Mi piace sempre migliorare le cose e dal classico frontend con html statico siamo passati al frontend in typescript con Mantine e react, decuisamente tutta un'altra musica



Il bot è diventato anche meglio di chatgpt :






lato backend python lui ti risponde a token:




Ricordo a tutti che sta girando su un i7 4790+16gb ram ddr3 e una gtx 970.
Sono impressionato dalle performance

 

[Skills07]

Mi sto sempre più innamorando del mondo della AI, che facendo lo streamer mi sono reso conto che potevo fare un tool che mi generasse le clip per TikTok in automatico.

Bene ho usato llama più ffmmpg il Motion capture per catturare la webcam, catturare audio e farmi montare il video.

Con un solo comando mi genera fino a 100 clip dal mio VOD

 

[Moffetta88]

Ma la repo l'hai messa privata? Mi da un bel 404 xD

 

[Skills07]

ah si stasera ve la rendo disponibile, ho fatto delle modifiche sostanziali che non compilava prima per quello... adesso è ok, ha il front-end react

 

[Mursey]

Con un solo comando mi genera fino a 100 clip dal mio VOD

Tutto in locale senza andare su nessun server?

 

[mr_loco]

Tutto in locale senza andare su nessun server?

penso usi una macchina secondaria sempre in locale, altrimenti tra AI e ffmpeg la scheda video si ciuccia tutte le risorse
video salvato in rete -> AI cerca i "punti salienti" -> gira i timing come output -> ffmpeg legge l'output, fa i tagli e genera le clips
una cosa simile puoi farla su n8n se non vuoi sbatti di creare un applicazione

 

[Skills07]

Tutto in locale senza andare su nessun server?

Tutto in locale, l'unica cosa che fetcha lato web è il link di twitch o youtube.