Как запустить RAG-файл на Llama 3.1 с помощью LM Studio локально на своем ПК (2024)

В этом видео мы поговорим, как установить локально нейросеть Llama 3.1 8b, чтобы пользоваться ей бесплатно кастомизировать эту нейросеть через Anything LLM. Так же рассмотрим, как использовать RAG-файл через LM Studio и Anything LLM Детально разберем, как установить локально себе на ПК бесплатную нейросеть LLama 3.1 8b на 8 миллиардов параметров, чтобы можно было ей пользоваться без интернета, безлимитно и абсолютно приватно. А так же сделаем тюнинг и развернем ее через привычный нам интерфейс ЧатаGPT. ========================================= Полезные ссылки: 1.⁠ ⁠Установка приложения LM Studio: 2.⁠ ⁠Установка приложения Anything LLM: ========================================= Ссылка на видео о том • ТОП 9 способов использования ChatGPT - ========================================= 👉🏻 Подписывайтесь на мой канал и ставьте лайки, если вам интересна тема Нейросетей, Llama 3.1, чата GPT-4o c canvas, Midjourney, Flux, Heygen, и Искусственного Интеллекта. ВОПРОСЫ: Хотите узнать больше про другие Нейросети или больше про возможности ЧатаGPT? 👉🏻 Пишите ваши вопросы и предложения в комментариях! О чем это видео: Это видео о том, как легко прокачаться свою персональную нейросеть Llama 3.1 8b и прикрутить к ней RAG-файл. Как сделать более кастомную версию через Anything LLM и как сделать проще через LM Studio. Таймкоды: 0:00 Интро 0:53 Андрей Бурдин 1:13 Установка LM Studio 2:02 Запускаем Llama 3.1 8b 3:21 Установка Anything LLM 4:15 Связка LM Studio с Anything LLM 5:00 Создание сервера в LM Studio 5:57 Связка Anything LLM с LM Studio через локальный сервер 8:36 Тестируем RAG-файл 10:10 Способ №2 RAG-файл сразу в LM Studio 11:00 Кому подходит LM Studio, а кому Anything LLM 12:00 Топ-9 Способов использования Нового Голосового Ассистента ЧатGPT #llama 1 #Llama3 #лама3