HomeCorso FormazioneAnatomia degli LLMs: architettura, attenzione e spiegabilità

Anatomia degli LLMs: architettura, attenzione e spiegabilità

Partner erogante

Beam Me Up S.r.l.

Offerente

Beam Me Up S.r.l.

Descrizione corso

Porta le tue competenze nel Natural Language Processing a un livello superiore con un corso avanzato pensato per professionisti che lavorano con Large Language Models. In 18 ore di formazione approfondirai la teoria sui Transformer e parteciperai a laboratori pratici per costruire complesse pipeline di analisi. In più, avrai la possibilità di richiedere un coach dedicato per i tuoi progetti.

Obiettivi formativi
  • Analizzare la struttura interna di un LLM: layers, embedding, masking
  • Comprendere la meccanica della self-attention e dei modelli autoregressivi
  • Utilizzare metodi per spiegare il comportamento dei modelli linguistici
  • Integrare modelli LLM in pipeline NLP con maggiore consapevolezza tecnica.
Programma formativo e prerequisiti per partecipare
  • Introduzione al NLP e ai modelli linguistici
  • Introduzione ai Transformer e lezione pratica (ambiente di sviluppo e libreria HuggingFace)
  • Pipeline NLP con Transformer (preprocessing, training, finetuning, valutazione) e lezione pratica
  • Applicazioni dei modelli generativi e lezione pratica (task NLP con LLM)
  • Interpretabilità dei Transformer e lezione pratica (probabilità e probing)
  • Spiegabilità dei modelli e lezione pratica (matrici di attenzione e tecniche di feature attribution)

È il percorso adatto a te se:

  • Conosci i concetti chiave di NLP.
  • Sai applicare le tecniche fondamentali di Natural Language Processing: Stopwords removal, Regular Expression, Tokenization, PoS Tagging, Topic Modelling.
  • Conosci i concetti chiave del Machine Learning.
  • Sai utilizzare il linguaggio di programmazione Python.
  • Sai utilizzare le funzioni fondamentali per la programmazione in Python.
Docenti

Alessio Miaschi e Michele Papucci

In che modo viene erogata la formazione

Formazione online

Periodo di erogazione della formazione o di disponibilità a erogare la formazione

Il corso è erogabile, su richiesta, in ogni momento dell’anno.

Dettagli del corso

Ore di docenza

18

Posti disponibili

Nessun limite

Lingua/e di docenza

Italiano

Lingua/e delle slide

Inglese

Uso di piattaforme online per esercitazioni o questionari

Materiali di studio e di training

Video, slides, notebook, elearning e materiale di approfondimento.

Modalità di valutazione

Valutazione di un project work personale

Richiedi informazioni su questo corso