2024-09-07 Запуск RPC на RepkaPi 3

Uploaded By: Myvideo

Published on

8 Sep 2024

33 views

0

0 votes

0

About Share Download Add to

На стриме протестировал возможность запуска в режиме RPC-сервера на микрокомпьютере RepkaPi 3, с удивлением для себя обнаружил, что эта малютка неплохо справлятся с пусть и не самыми большими (:-) языковыми моделям. - В первой четверти стрима занимался обновлением прошивки RepkaPi 3 и установкой всего необходимого для запуска Docker-контейнеров, далее приступил к сборке специлазированного контейнера содержащего RPC-сервер и запуску оного на Репке, а llama-server (в режиме RPC-клиент) запустил у себя на локальной машине, после пробовал выполнить инференс. Под конец стрима повторил процедуру ещё и на Raspberry Pi CM3 . - И собрал схему полноценного распределённого инференса. Сделать пожертвование: Ссылки:

Share with your friends

Link:

Embed:

<iframe width="640" height="360" src="//myvideo.cc/embed/eGRoRkFWT0N6TTNPa1UvYkNIRi9SRDJBS1hzT2dZUkFCakQ4aXFQYjlpTT0" frameborder="0" webkitallowfullscreen mozallowfullscreen allowfullscreen></iframe>

Video Size:

Custom size:

x

Autoplay video

Hide player controls

Hide resume playing

Add to Playlist:

Favorites

My Playlist

Watch Later

Проблема дефицита Водителей в России новая Инвестиционная возможность!

4 days ago

01:53:47

Проблема дефицита Водителей в России новая Инвестиционная возможность!

122 45%

Гайд запуска на Google Ads, гембла, Бангладеш - АРБИТРАЖ ТРАФИКА 2025 ВТОРАЯ СЕРИЯ

4 days ago

00:15:21

Гайд запуска на Google Ads, гембла, Бангладеш - АРБИТРАЖ ТРАФИКА 2025 ВТОРАЯ СЕРИЯ

29 48%

Рассказ про СКАЗ | Кто здесь аниматор

5 days ago

02:12:26

Рассказ про СКАЗ | Кто здесь аниматор

4.9K 88%

Нас дразнят новой GTA 6! Assassin's Creed Shadows улучшили | Итоги недели

5 days ago

00:12:03

Нас дразнят новой GTA 6! Assassin's Creed Shadows улучшили | Итоги недели

36.6K 48%

Новости ТВК 22 ноября 2024: запуск Орешника, опасное молоко и массовое отравление

5 days ago

00:44:17

Новости ТВК 22 ноября 2024: запуск Орешника, опасное молоко и массовое отравление

7.8K 91%

ПЕРЕХОД зависит от НАС! Как пробуждаются в Индии | Инесса Картинцева

4 days ago

01:24:15

ПЕРЕХОД зависит от НАС! Как пробуждаются в Индии | Инесса Картинцева

1K 39%

Консорциум как организация по стратегическому решению вопросов технологического суверенитета РФ

6 days ago

01:17:42

Консорциум как организация по стратегическому решению вопросов технологического суверенитета РФ

593 76%

Открыла сезон 2024/стригу/ убираю/ Ленинградская область#сад#дача#идеидлясада

6 days ago

00:32:36

Открыла сезон 2024/стригу/ убираю/ Ленинградская область#сад#дача#идеидлясада

9 28%

ЛУЧШИЕ RPG ШУТЕРЫ (2024) / ШУТЕРЫ С ЭЛЕМЕНТАМИ RPG / ШУТЕРЫ С ПРОКАЧКОЙ / ШУТЕРЫ С ОТКРЫТЫМ МИРОМ

1 week ago

00:13:29

ЛУЧШИЕ RPG ШУТЕРЫ (2024) / ШУТЕРЫ С ЭЛЕМЕНТАМИ RPG / ШУТЕРЫ С ПРОКАЧКОЙ / ШУТЕРЫ С ОТКРЫТЫМ МИРОМ

51 62%

Игры с открытым миром / Лучшие игры с открытым миром на ПК / Одиночные игры

1 week ago

00:11:50

Игры с открытым миром / Лучшие игры с открытым миром на ПК / Одиночные игры

31 27%

20 ЛУЧШИХ игр с ОТКРЫТЫМ миром / Игры с открытым миром

1 week ago

00:23:08

20 ЛУЧШИХ игр с ОТКРЫТЫМ миром / Игры с открытым миром

195 80%

Текущая ситуация и прогноз развития рынка ИЖС | Василий Пономаренко ТОП-ДЕВЕЛОП

1 week ago

00:41:44

Текущая ситуация и прогноз развития рынка ИЖС | Василий Пономаренко ТОП-ДЕВЕЛОП

167 78%

Новости ноября: Реестр Военных, Повышение Пенсий, Узаконен Майнинг, Период Охлаждения по Кредитам!

1 week ago

00:04:42

Новости ноября: Реестр Военных, Повышение Пенсий, Узаконен Майнинг, Период Охлаждения по Кредитам!

134 5%

Интервью с Ольгой Хасановой о премии URBAN, рынке недвижимости, девелоперах и не только.

1 week ago

00:41:40

Интервью с Ольгой Хасановой о премии URBAN, рынке недвижимости, девелоперах и не только.

771 51%

Повышение ставок по семейной ипотеке, выделение лимитов, Смоленский мост

2 weeks ago

00:17:27

Повышение ставок по семейной ипотеке, выделение лимитов, Смоленский мост

31 94%

Отражение Рефлектора: Михаил Воронов (Рефлектор 5/2) Открытая Встреча для Участников Сезона Глубины (09-11-2024)

2 weeks ago

01:11:59

Отражение Рефлектора: Михаил Воронов (Рефлектор 5/2) Открытая Встреча для Участников Сезона Глубины (09-11-2024)

151 47%

Сергей Герасимов: как зарабатывать на татуировках Как открыть тату салон (RB подкаст)

2 weeks ago

00:59:40

Сергей Герасимов: как зарабатывать на татуировках Как открыть тату салон (RB подкаст)

1.9K 54%

МНК XXIV. Концерт-открытие Фестиваля. ПРОКОФЬЕВ.

2 weeks ago

01:58:57

МНК XXIV. Концерт-открытие Фестиваля. ПРОКОФЬЕВ.

1.5K 74%

М.Видео: в 2022 году было гораздо хуже, чем сейчас

2 weeks ago

00:52:48

М.Видео: в 2022 году было гораздо хуже, чем сейчас

2.4K 92%

10 ЛУЧШИХ игр с ОТКРЫТЫМ миром / Игры с открытым миром

2 weeks ago

00:09:07

10 ЛУЧШИХ игр с ОТКРЫТЫМ миром / Игры с открытым миром

144 32%

Обновление сборки Карт России и Ближнего Зарубежья ETS2 RusMap | SibirMap | Донбасс | Бонус

2 weeks ago

00:22:18

Обновление сборки Карт России и Ближнего Зарубежья ETS2 RusMap | SibirMap | Донбасс | Бонус

7 10%

Путин о НОД практически открытым текстом Валдай

3 weeks ago

00:02:06

Путин о НОД практически открытым текстом Валдай

88 37%

Бизнес на Авито! Как эффективно продвигать услуги на Avito Полное руководство 2024

3 weeks ago

00:11:18

Бизнес на Авито! Как эффективно продвигать услуги на Avito Полное руководство 2024

181 65%

Как учитель на пенсии открыла бизнес и заработала в пандемию

3 weeks ago

00:41:50

Как учитель на пенсии открыла бизнес и заработала в пандемию

139 77%

0 Comments

Guest