Оптимизация инференса нейронок на CPU / Анастасия Торунова (Тинькофф)

Uploaded By: Myvideo

Published on

27 Oct 2024

1 view

0

0 votes

0

About Share Download Add to

Приглашаем на конференцию HighLoad 2024, которая пройдет 2 и 3 декабря в Москве! Программа, подробности и билеты по ссылке: -------- HighLoad Foundation 2022 Презентация и тезисы: В докладе расскажу, с какими проблемами мы столкнулись при запуске синтеза речи в прод: * особенности архитектуры WaveNet; * сервинг вокодера в реальном времени на CPU. И как их решили с помощью своей реализации с использованием векторных инструкций и квантизации весов модели. Нашли ошибку в видео? Пишите нам на support@

Share with your friends

Link:

Embed:

<iframe width="640" height="360" src="//myvideo.cc/embed/Wkt0NGNkcmJaVzhuNVRZend5aFU1azhiNExXSWVTbDVYZU92SEdXNTh3Yz0" frameborder="0" webkitallowfullscreen mozallowfullscreen allowfullscreen></iframe>

Video Size:

Custom size:

x

Autoplay video

Hide player controls

Hide resume playing

Add to Playlist:

Favorites

My Playlist

Watch Later

Нейронные сети: быстрый инференс на GPU с помощью TensorRT / Дмитрий Коробченко (NVIDIA)

5 days ago

00:43:11

Нейронные сети: быстрый инференс на GPU с помощью TensorRT / Дмитрий Коробченко (NVIDIA)

1 34%

Оптимизация инференса нейронок на CPU / Анастасия Торунова (Тинькофф)

5 days ago

00:41:12

Оптимизация инференса нейронок на CPU / Анастасия Торунова (Тинькофф)

1 60%

WiBD Russia Spring Data Meetup 2024: Большие языковые модели: возможности и ограничения

1 month ago

00:22:58

WiBD Russia Spring Data Meetup 2024: Большие языковые модели: возможности и ограничения

26 57%

Артем Земляк | Легкие пути оптимизации инференса ML моделеи на CPU

2 months ago

00:24:11

Артем Земляк | Легкие пути оптимизации инференса ML моделеи на CPU

1 63%

Алексей Гончаров | Быстрый и экономичный инференс LLM в прикладных задачах

2 months ago

00:46:21

Алексей Гончаров | Быстрый и экономичный инференс LLM в прикладных задачах

12 55%

Егор Швецов | Model compression -Introduction intro Quantization

2 months ago

02:06:46

Егор Швецов | Model compression -Introduction intro Quantization

43 90%

Александр Шалимов Методы ускорения инференса нейронных сетей на примере видеоаналитики

9 months ago

00:41:14

Александр Шалимов Методы ускорения инференса нейронных сетей на примере видеоаналитики

14 90%

GTA GRAND MOBILE | СКАЧИВАЙ НА ТЕЛЕФОН #shorts #грандмобайл #grandmobile #блекраша

12 months ago

00:00:19

GTA GRAND MOBILE | СКАЧИВАЙ НА ТЕЛЕФОН #shorts #грандмобайл #grandmobile #блекраша

1 86%

Python, ML и Wasm. Александр Боргардт, DuckStax

2 years ago

00:40:44

Python, ML и Wasm. Александр Боргардт, DuckStax

9 49%

Нейронные сети: современные методы оптимизации и глубокое обучение

3 years ago

00:30:44

Нейронные сети: современные методы оптимизации и глубокое обучение

33 55%

№12 Григоренко Дмитрий Оптимизация нейронных сетей. Прунинг.

3 years ago

01:01:49

№12 Григоренко Дмитрий Оптимизация нейронных сетей. Прунинг.

11 77%

NVIDIA Triton Inference Server и инференс в продакшене

4 years ago

01:22:19

NVIDIA Triton Inference Server и инференс в продакшене

250 49%

Контейнеры NVIDIA GPU Cloud (NGC)

5 years ago

01:02:24

Контейнеры NVIDIA GPU Cloud (NGC)

3.2K 24%

ОТКРЫЛ КОНТЕЙНЕРЫ НА 500 РУБЛЕЙ НА DIAMOND RP | ВЫБИЛ INFERNUS DT В GTA SAMP

5 years ago

00:03:38

ОТКРЫЛ КОНТЕЙНЕРЫ НА 500 РУБЛЕЙ НА DIAMOND RP | ВЫБИЛ INFERNUS DT В GTA SAMP

1 84%

ГОНКА НА ЛАУНЧ ИНФЕРНУСЕ НА $ | ARIZONA RP YUMA | GTA SAMP

5 years ago

00:06:01

ГОНКА НА ЛАУНЧ ИНФЕРНУСЕ НА $ | ARIZONA RP YUMA | GTA SAMP

2 64%

0 Comments

Guest