Get started with language models in Azure Databricks

• Understand Generative AI
• Understand Large Language Models (LLMs)
• Identify key components of LLM applications
• Use LLMs for Natural Language Processing (NLP) tasks
• Exercise – Explore language models

Implement Retrieval Augmented Generation (RAG) with Azure Databricks

• Explore the main concepts of a RAG workflow
• Prepare your data for RAG
• Find relevant data with vector search
• Rerank your retrieved results
• Exercise – Set up RAG

Implement multi-stage reasoning in Azure Databricks

• What are multi-stage reasoning systems?
• Explore LangChain
• Explore LlamaIndex
• Explore Haystack
• Explore the DSPy framework
• Exercise – Implement multi-stage reasoning with LangChain

Fine-tune language models with Azure Databricks

• What is fine-tuning?
• Prepare your data for fine-tuning
• Fine-tune an Azure OpenAI model
• Exercise – Fine-tune an Azure OpenAI model

Evaluate language models with Azure Databricks

• Explore LLM evaluation
• Evaluate LLMs and AI systems
• Evaluate LLMs with standard metrics
• Describe LLM-as-a-judge for evaluation
• Exercise – Evaluate an Azure OpenAI model

Review responsible AI principles for language models in Azure Databricks

• What is responsible AI?
• Identify risks
• Mitigate issues
• Use key security tooling to protect your AI systems
• Exercise – Implement responsible AI

Implement LLMOps in Azure Databricks

• Transition from traditional MLOps to LLMOps
• Understand model deployments
• Describe MLflow deployment capabilities
• Use Unity Catalog to manage models
Exercise – Implement LLMOps

• scopo e significato dei Large Language Models (LLMs)
• l’implementazione di Retrieval Augmented Generation (RAG), una tecnica avanzata di elaborazione del linguaggio naturale che migliora le capacità dei modelli generativi integrando meccanismi esterni di recupero delle informazioni
• l’implementazione di sistemi di ragionamento a più stadi per suddividere i problemi complessi in più fasi o passaggi
• i principi dell’IA responsabile per l’implementazione, le considerazioni etiche e le modalità di mitigazione dei rischi
• distribuire e gestire gli LLM durante il loro ciclo di vita utilizzando Azure Databricks

Lingua utilizzata nel corso/dal docente: Italiano
Il materiale didattico è in lingua Inglese

Il corso include:

• documentazione didattica accessibile via web, di durata illimitata;
• un attestato di frequenza inviato via e-mail una settimana dopo il termine del corso.