Вышел сервис ODS, который превращает обычный ПК в локальный ИИ-сервер:
• Автоматически определяет характеристики компьютера
• Подбирает подходящую модель под железо
• Скачивает и запускает её локально
Всё без облака и подписки. Через единую панель подключаются ИИ-агенты, голосовые помощники, RAG, поиск, генерация изображений — данные не покидают машину.
Проект: https://github.com/Osmantic/ODS
Для бизнеса, которому нельзя уводить данные в облако, — готовый сценарий приватного ИИ на своём железе.