Опыт оптимизации инференса LLM для генерации кода в AI ассистенте разработчика GigaCode Русский AI

Uploaded By: Myvideo

Published on

5 Nov 2024

16 views

0

0 votes

0

About Share Download Add to

Спикер: Павел Прокофьев, Site Reliability Engineer GigaCode В этом выступлении мы поделимся нашим опытом использования инфраструктуры для инференса больших языковых моделей (LLM) в задаче генерации кода. Мы рассмотрим применяемые нами методы оптимизации и расскажем про возможности GigaCode.

Share with your friends

Link:

Embed:

<iframe width="640" height="360" src="//myvideo.cc/embed/bndjR3dmemZua3IvZTFydGNwRzVoV3FFL0JQaUdsRjhtSXFycHhGT052az0" frameborder="0" webkitallowfullscreen mozallowfullscreen allowfullscreen></iframe>

Video Size:

Custom size:

x

Autoplay video

Hide player controls

Hide resume playing

Add to Playlist:

Favorites

My Playlist

Watch Later

Разборы в Казани | Как дорасти до 100 клиник Секреты масштабирования медицинского бизнеса

7 hours ago

01:56:10

Разборы в Казани | Как дорасти до 100 клиник Секреты масштабирования медицинского бизнеса

2.8K 59%

Ваня Дмитриенко - 36.6 - Кавер на пианино, Караоке, Текст

13 hours ago

00:01:42

Ваня Дмитриенко - 36.6 - Кавер на пианино, Караоке, Текст

1 10%

Опен Кидс Велосипед караоке

13 hours ago

00:02:38

Опен Кидс Велосипед караоке

1 24%

Кто управляет успехом Предприниматель или управленец

14 hours ago

01:58:49

Кто управляет успехом Предприниматель или управленец

78 40%

GLOBAL TECH FORUM | ЦИФРОВИЗАЦИЯ БИЗНЕС-ПРОЦЕССОВ | 21 марта 2024

1 day ago

00:01:29

GLOBAL TECH FORUM | ЦИФРОВИЗАЦИЯ БИЗНЕС-ПРОЦЕССОВ | 21 марта 2024

1 64%

GLOBAL TECH FORUM | ЦИФРОВИЗАЦИЯ БИЗНЕС-ПРОЦЕССОВ | 26 сентября 2024

1 day ago

00:00:42

GLOBAL TECH FORUM | ЦИФРОВИЗАЦИЯ БИЗНЕС-ПРОЦЕССОВ | 26 сентября 2024

4 56%

MORGENSHTERN ПОТЕРЯЕТ ПОПУЛЯРНОСТЬ В 2021 ГОДУ!

1 day ago

00:08:02

MORGENSHTERN ПОТЕРЯЕТ ПОПУЛЯРНОСТЬ В 2021 ГОДУ!

1 34%

СКРИПТОНИТ: НАСТОЛЬКО ЛИ ОН КРУТ // Дом с нормальными явлениями, Свистки и бумажки и тд.

1 day ago

00:09:53

СКРИПТОНИТ: НАСТОЛЬКО ЛИ ОН КРУТ // Дом с нормальными явлениями, Свистки и бумажки и тд.

5 29%

Практические инструменты устойчивости цепочек поставок | Денис Шульга, Axenix | ММЛФ-2024

2 days ago

00:18:44

Практические инструменты устойчивости цепочек поставок | Денис Шульга, Axenix | ММЛФ-2024

1 43%

Коллекторы в шоке: жесткие ответы на их звонки | Не для слабонервных 18+

2 days ago

00:37:35

Коллекторы в шоке: жесткие ответы на их звонки | Не для слабонервных 18+

103 26%

realme Neo7 Starship Edition | Official Trailer

2 days ago

00:00:39

realme Neo7 Starship Edition | Official Trailer

43 90%

Отраслевой опыт, кровосмешение и слабоумие

2 days ago

00:03:31

Отраслевой опыт, кровосмешение и слабоумие

12 40%

Обзор Indiana Jones and the Great Circle в поисках 5090 ti

7 hours ago

00:12:09

Обзор Indiana Jones and the Great Circle в поисках 5090 ti

2 69%

Опыт Липецкой области в применении ИИ в соцсфере президенту России на Международной конференции по искусственному интеллекту и м

2 days ago

00:01:03

Опыт Липецкой области в применении ИИ в соцсфере президенту России на Международной конференции по искусственному интеллекту и м

8 54%

Государство ЗАБИРАЕТ Деньги у Простых ГРАЖДАН!

8 hours ago

00:09:15

Государство ЗАБИРАЕТ Деньги у Простых ГРАЖДАН!

1 69%

Павел Хмурчик НЕДЕЛЯ с Samsung Galaxy S20 FE | ЛУЧШИЙ в 2021 ПЛЮСЫ и МИНУСЫ

2 days ago

00:12:29

Павел Хмурчик НЕДЕЛЯ с Samsung Galaxy S20 FE | ЛУЧШИЙ в 2021 ПЛЮСЫ и МИНУСЫ

10 91%

Database Internals Meetup #5: пять докладов на секции СУБД конференции ISPRAS Open

3 days ago

05:28:10

Database Internals Meetup #5: пять докладов на секции СУБД конференции ISPRAS Open

307 64%

Видео от Александра Кузнецова

3 days ago

00:23:52

Видео от Александра Кузнецова

338 36%

ОБРУСЕВШИЕ с Майклом Гибсоном: пилот, морж и ученик джедая

3 days ago

01:34:37

ОБРУСЕВШИЕ с Майклом Гибсоном: пилот, морж и ученик джедая

1 10%

1 МИЛЛИОН ТЕБЕ или 2 МИЛЛИОНА ДРУГОМУ в GTA 5 RP (социальный эксперимент в гта 5 рп)

3 days ago

00:10:55

1 МИЛЛИОН ТЕБЕ или 2 МИЛЛИОНА ДРУГОМУ в GTA 5 RP (социальный эксперимент в гта 5 рп)

26 60%

ЦИФРОВЫЕ РЕШЕНИЯ РОСАТОМА: из России в мир | Александр Вибе, генеральный директор компании-интегратора цифровых решений Росатом

4 days ago

00:48:02

ЦИФРОВЫЕ РЕШЕНИЯ РОСАТОМА: из России в мир | Александр Вибе, генеральный директор компании-интегратора цифровых решений Росатом

18 20%

МЁДОНОСЫ САДА И ОПЫТ ОПЫЛЕНИЯ ПЛОДОВЫХ КУЛЬТУР

4 days ago

00:10:14

МЁДОНОСЫ САДА И ОПЫТ ОПЫЛЕНИЯ ПЛОДОВЫХ КУЛЬТУР

5 39%

Что нового в nanoCAD Стройплощадка 24 _ ПОС, ППР _ Отчет Календарный план строительства

4 days ago

00:51:40

Что нового в nanoCAD Стройплощадка 24 _ ПОС, ППР _ Отчет Календарный план строительства

3 82%

Как сократить время на поиск сотрудников и улучшить качество найма и адаптации

4 days ago

00:49:41

Как сократить время на поиск сотрудников и улучшить качество найма и адаптации

6 26%

0 Comments

Guest