Думаешь, было бы здорово иметь собственный GPT у себя на компьютере? А как насчёт LLM прямо у себя на телефоне? И как заставить такую модель работать эффективно с конкретными материалами и текстами? Обо всём вы узнаете в этой лекции. Таймкоды: 00:00 - Вступление 01:13 - Что такое GPT, отличия обычной и большой языковой модели 08:27 - На что способна LLM? 11:40 - Что нужно для работы с LLM? 17:00 - Установка Ollama, локальный запуск 19:35 - Про веса моделей и квантование 24:28 - Настройка LLM в Ollama, что такое Modelfile 33:45 - Как улучшить работу локальной LLM? Finetuning, RAG 42:00 - Как улучшить RAG. Простые примеры.
Hide player controls
Hide resume playing