Как управлять экспериментами с LLM, чтобы не скатиться в скрытую угрозу Владислав Балаев, ЛАНИТ

На волне ажиотажа вокруг LLM многие компании задаются вопросом: какие задачи бизнеса могут решать большие языковые модели? Есть ли от них реальный экономический эффект или это просто бесполезная магия? В ИТ-компаниях энтузиасты с азартом пробуют разные подходы к LLM. Зачастую в одной компании одну и ту же LLM-головоломку параллельно решают специалисты из разных отделов и департаментов, даже не зная об опыте друг друга. В ЛАНИТ столкнулись с этой проблемой. Мы поделимся кейсами, которые помогают упорядочить эксперименты с LLM с максимальной пользой для бизнеса. Поговорим о том, как экспериментируем с большими языковыми моделями, создаем внутренние сообщества по обмену опытом и внедрили платформу, которая упрощает внедрение сервисов на базе LLM в ИТ-производство. Подсветим возможные шаги по контролю LLM на разных уровнях: команда — инфраструктура — группа компаний. Обсудим, что бывает, когда работа с моделями обучения ведется хаотично. #итпикник