Оптимизация инференса нейронок на CPU / Анастасия Торунова (Тинькофф)

Uploaded By: Myvideo

Published on

27 Oct 2024

1 view

0

0 votes

0

About Share Download Add to

Приглашаем на конференцию HighLoad 2024, которая пройдет 2 и 3 декабря в Москве! Программа, подробности и билеты по ссылке: -------- HighLoad Foundation 2022 Презентация и тезисы: В докладе расскажу, с какими проблемами мы столкнулись при запуске синтеза речи в прод: * особенности архитектуры WaveNet; * сервинг вокодера в реальном времени на CPU. И как их решили с помощью своей реализации с использованием векторных инструкций и квантизации весов модели. Нашли ошибку в видео? Пишите нам на support@

Share with your friends

Link:

Embed:

<iframe width="640" height="360" src="//myvideo.cc/embed/Wkt0NGNkcmJaVzhuNVRZend5aFU1azhiNExXSWVTbDVYZU92SEdXNTh3Yz0" frameborder="0" webkitallowfullscreen mozallowfullscreen allowfullscreen></iframe>

Video Size:

Custom size:

x

Autoplay video

Hide player controls

Hide resume playing

Add to Playlist:

Favorites

My Playlist

Watch Later

Онлайн-дискуссия Как подготовить и внедрить большие языковые модели

2 weeks ago

01:11:47

Онлайн-дискуссия Как подготовить и внедрить большие языковые модели

680 80%

Опыт оптимизации инференса LLM для генерации кода в AI ассистенте разработчика GigaCode Русский AI

1 month ago

00:17:17

Опыт оптимизации инференса LLM для генерации кода в AI ассистенте разработчика GigaCode Русский AI

22 78%

100 игр от Ритуалиста До Этёрнуса №1 Deadlock

1 month ago

00:19:46

100 игр от Ритуалиста До Этёрнуса №1 Deadlock

240 60%

D-FINE : метод регрессии bounding box в детекторах объектов на основе DETR

1 month ago

00:00:12

D-FINE : метод регрессии bounding box в детекторах объектов на основе DETR

16 53%

Нейронные сети: быстрый инференс на GPU с помощью TensorRT / Дмитрий Коробченко (NVIDIA)

2 months ago

00:43:11

Нейронные сети: быстрый инференс на GPU с помощью TensorRT / Дмитрий Коробченко (NVIDIA)

1 29%

Оптимизация инференса нейронок на CPU / Анастасия Торунова (Тинькофф)

2 months ago

00:41:12

Оптимизация инференса нейронок на CPU / Анастасия Торунова (Тинькофф)

1 27%

WiBD Russia Spring Data Meetup 2024: Большие языковые модели: возможности и ограничения

3 months ago

00:22:58

WiBD Russia Spring Data Meetup 2024: Большие языковые модели: возможности и ограничения

28 92%

Артем Земляк | Легкие пути оптимизации инференса ML моделеи на CPU

3 months ago

00:24:11

Артем Земляк | Легкие пути оптимизации инференса ML моделеи на CPU

1 44%

Алексей Гончаров | Быстрый и экономичный инференс LLM в прикладных задачах

3 months ago

00:46:21

Алексей Гончаров | Быстрый и экономичный инференс LLM в прикладных задачах

19 21%

Егор Швецов | Model compression -Introduction intro Quantization

3 months ago

02:06:46

Егор Швецов | Model compression -Introduction intro Quantization

44 56%

Александр Шалимов Методы ускорения инференса нейронных сетей на примере видеоаналитики

11 months ago

00:41:14

Александр Шалимов Методы ускорения инференса нейронных сетей на примере видеоаналитики

16 93%

GTA GRAND MOBILE | СКАЧИВАЙ НА ТЕЛЕФОН #shorts #грандмобайл #grandmobile #блекраша

1 year ago

00:00:19

GTA GRAND MOBILE | СКАЧИВАЙ НА ТЕЛЕФОН #shorts #грандмобайл #grandmobile #блекраша

1 6%

Python, ML и Wasm. Александр Боргардт, DuckStax

2 years ago

00:40:44

Python, ML и Wasm. Александр Боргардт, DuckStax

9 44%

Нейронные сети: современные методы оптимизации и глубокое обучение

3 years ago

00:30:44

Нейронные сети: современные методы оптимизации и глубокое обучение

33 12%

№12 Григоренко Дмитрий Оптимизация нейронных сетей. Прунинг.

3 years ago

01:01:49

№12 Григоренко Дмитрий Оптимизация нейронных сетей. Прунинг.

11 32%

NVIDIA Triton Inference Server и инференс в продакшене

4 years ago

01:22:19

NVIDIA Triton Inference Server и инференс в продакшене

250 70%

Контейнеры NVIDIA GPU Cloud (NGC)

5 years ago

01:02:24

Контейнеры NVIDIA GPU Cloud (NGC)

3.2K 61%

ОТКРЫЛ КОНТЕЙНЕРЫ НА 500 РУБЛЕЙ НА DIAMOND RP | ВЫБИЛ INFERNUS DT В GTA SAMP

5 years ago

00:03:38

ОТКРЫЛ КОНТЕЙНЕРЫ НА 500 РУБЛЕЙ НА DIAMOND RP | ВЫБИЛ INFERNUS DT В GTA SAMP

1 77%

ГОНКА НА ЛАУНЧ ИНФЕРНУСЕ НА $ | ARIZONA RP YUMA | GTA SAMP

5 years ago

00:06:01

ГОНКА НА ЛАУНЧ ИНФЕРНУСЕ НА $ | ARIZONA RP YUMA | GTA SAMP

2 26%

0 Comments

Guest