Алексей Гончаров | Быстрый и экономичный инференс LLM в прикладных задачах

Uploaded By: Myvideo

Published on

16 Sep 2024

16 views

0

0 votes

0

About Share Download Add to

Спикер: Алексей Гончаров, основатель Тема доклада: Поделится опытом оптимизации расходов на инференс LLM с применением квантования, дообучения моделей, LoRA адаптеров и низкоуровневых фреймворков инференса. Data Fest 2024: Презентацию к докладу Вы можете скачать в треке OptimalDL: ___ Наши соц.сети: Telegram: Вконтакте: Канал с вакансиями в telegram: Канал с апдейтами по курсам: Как попасть в чат сообщества ODS Mattermost:

Share with your friends

Link:

Embed:

<iframe width="640" height="360" src="//myvideo.cc/embed/ZEdwTnlwNHZZdkRxd2xZS3lSK0cwMGxobkpzREpIZjhuY2dHdEtpTCtzWT0" frameborder="0" webkitallowfullscreen mozallowfullscreen allowfullscreen></iframe>

Video Size:

Custom size:

x

Autoplay video

Hide player controls

Hide resume playing

Add to Playlist:

Favorites

My Playlist

Watch Later

Профессиональный Дебют ММА Алексей Голубовский , бои без правил , submission , нокаут

2 days ago

00:11:11

Профессиональный Дебют ММА Алексей Голубовский , бои без правил , submission , нокаут

4 46%

. Чемпионат мира. (HD) Россия - Латвия

7 days ago

00:12:49

. Чемпионат мира. (HD) Россия - Латвия

106 39%

. Чемпионат мира. (HD) Россия - Чехия (Финал)

1 week ago

01:53:14

. Чемпионат мира. (HD) Россия - Чехия (Финал)

5.4K 63%

Алексей Гончаровtan video

1 week ago

00:01:07

Алексей Гончаровtan video

263 55%

Великие исполнители (Том 6: Алексей Грибов)

1 week ago

01:12:58

Великие исполнители (Том 6: Алексей Грибов)

1.1K 92%

. Чемпионат мира. (HD) Россия - Беларусь

1 week ago

00:01:27

. Чемпионат мира. (HD) Россия - Беларусь

13 66%

. Чемпионат мира. (HD) Россия - Швейцария

1 week ago

00:01:23

. Чемпионат мира. (HD) Россия - Швейцария

9 66%

Спектакль Пигмалион в театре В. Маяковского (онлайн-смартфон)

1 week ago

00:07:23

Спектакль Пигмалион в театре В. Маяковского (онлайн-смартфон)

10 13%

Hypnozis - Time (Live, Pink Floyd Cover)

1 week ago

00:06:47

Hypnozis - Time (Live, Pink Floyd Cover)

1.7K 21%

ВСЕ ГОЛЫ ДНЯ - ПАРК ЛИГА Крыма 2021/22

2 weeks ago

00:28:05

ВСЕ ГОЛЫ ДНЯ - ПАРК ЛИГА Крыма 2021/22

14 31%

ВС по боксу Кубок Н.А. Никифорова Денисова среди юношей/юниоров 16-17 лет. Ринг Б. Санкт-Петербург. День 2.

2 weeks ago

04:23:32

ВС по боксу Кубок Н.А. Никифорова Денисова среди юношей/юниоров 16-17 лет. Ринг Б. Санкт-Петербург. День 2.

9K 26%

Форум Мой бизнес. Бери и делай! Социальное предпринимательство 2.0 (Зал Коворкинг)

2 weeks ago

09:06:48

Форум Мой бизнес. Бери и делай! Социальное предпринимательство 2.0 (Зал Коворкинг)

1.2K 66%

Это сильнее меня

2 weeks ago

01:25:59

Это сильнее меня

22 52%

AI в юридическом (и не только) бизнесе | Форум ПравоТех 2024

3 weeks ago

00:55:22

AI в юридическом (и не только) бизнесе | Форум ПравоТех 2024

756 31%

Иван Александрович Гончаров - Обыкновенная история (1970)

3 weeks ago

02:15:14

Иван Александрович Гончаров - Обыкновенная история (1970)

5 46%

х.ф.Артём (1978)

3 weeks ago

02:24:33

х.ф.Артём (1978)

37 65%

Вице-премьер правительства Забайкалья Алексей Гончаров работал сегодня в селе Александровка

3 weeks ago

00:01:14

Вице-премьер правительства Забайкалья Алексей Гончаров работал сегодня в селе Александровка

412 49%

Сегодня по поручению Губернатора Забайкальского края Александра Михайловича Осипова состоялась встреча с жителями села Александр

3 weeks ago

00:04:04

Сегодня по поручению Губернатора Забайкальского края Александра Михайловича Осипова состоялась встреча с жителями села Александр

16 49%

ГряДка.ТуТ

3 weeks ago

00:16:38

ГряДка.ТуТ

9 57%

Многодетство | Трейлер | Смотрите новые серии с 12 ноября на START

3 weeks ago

00:02:22

Многодетство | Трейлер | Смотрите новые серии с 12 ноября на START

4.3K 74%

Нерешенные задачи, Нобелевская премия, ИИ и противоречия в науке всё о математике с Дробышевским

3 weeks ago

01:21:05

Нерешенные задачи, Нобелевская премия, ИИ и противоречия в науке всё о математике с Дробышевским

1 57%

800-е очко Артемия Панарина в регулярных чемпионатах НХЛ, он сделал результативный пас сегодня. РЕЙНДЖЕРС БУФФАЛО 1:6.

3 weeks ago

00:00:49

800-е очко Артемия Панарина в регулярных чемпионатах НХЛ, он сделал результативный пас сегодня. РЕЙНДЖЕРС БУФФАЛО 1:6.

186 16%

Алексеи Гончаров о состоянии инфраструктуры ЖКХ Забаикалья

4 weeks ago

00:06:06

Алексеи Гончаров о состоянии инфраструктуры ЖКХ Забаикалья

2.9K 41%

2 день ПЕРВЫЙ ОТКРЫТЫЙ ТУРНИР ПАМЯТИ ЗТ РСФСР ИСАЕВА Н П 2024

4 weeks ago

06:08:18

2 день ПЕРВЫЙ ОТКРЫТЫЙ ТУРНИР ПАМЯТИ ЗТ РСФСР ИСАЕВА Н П 2024

3.6K 59%

0 Comments

Guest