Описание

Infer Ring
Infer Ring enables local LLM inference by combining the memory of multiple iOS and macOS devices. Just run the app on each device to pool their RAM and unlock models that wouldn’t fit on a single machine. Infer Ring works over both Wi-Fi and wired connections — simply connecting devices with a USB cable lets you immediately utilise their combined power. Supports both tensor and pipeline parallelism.
ещё ↓
Ad

Скриншоты

#1. Infer Ring (iOS) От: Mikita Rodzin
#2. Infer Ring (iOS) От: Mikita Rodzin
#3. Infer Ring (iOS) От: Mikita Rodzin
#4. Infer Ring (iOS) От: Mikita Rodzin
#5. Infer Ring (iOS) От: Mikita Rodzin

Что нового

  • Версия: 0.2.3
  • Обновлено:
  • - added tensor parallelism support
    - added new models

Цена

  • Сегодня: Бесплатно
  • Минимум: Бесплатно
  • Максимум: Бесплатно
Отслеживайте цены
Ad

Разработчик

Очки

0 ☹️

Рейтинги

0 ☹️

Списки

0 ☹️
  • Infer Ring

Отзывы

Ваш отзыв будет первым 🌟

Дополнительная информация

Infer RingInfer Ring Короткий URL: Скопировано!
  • 🌟 Поделиться
  • App Store

Вам также могут понравиться

Вам также могут понравиться

Поисковые операторы в AppAgg
Добавить в AppAgg
AppAgg
Начните использовать AppAgg. Это бесплатно!
Регистрация
Войти