Самый простой способ запустить открытую модель на своём компьютере: одна команда скачивает и запускает её, плюс локальный REST API и библиотеки для Python и JavaScript.
Все репозитории
Открытые модели и инференсhuggingface
transformers
Главная библиотека для работы с моделями: единый код для текста, зрения, звука и мультимодальных задач, и для запуска, и для обучения. Через неё выходит большинство новых открытых моделей.
Кому подойдёт
Python-разработчикам и исследователям, которые запускают и дообучают модели.
Как начать
- Установи:
pip install "transformers[torch]". - Запусти
pipeline(task="text-generation", model="Qwen/Qwen2.5-1.5B")по примеру из Quickstart. - Меняй
taskиmodel, чтобы попробовать распознавание речи, изображения и другое.
Шаги взяты из README. Перед запуском сверься с актуальной версией в репозитории.
Звёзды за последние 30 дней
+2 4126 сент. — 6 окт.
Описание автора
🤗 Transformers: the model-definition framework for state-of-the-art machine learning models in text, vision, audio, and multimodal models, for both inference and training.
Ещё в категории «Открытые модели и инференс»
Свой чат-интерфейс в стиле ChatGPT, который подключается к Ollama и любым API, совместимым с OpenAI. Ставится одной командой Docker и работает на твоём сервере.
Движок на C/C++, который запускает языковые модели на обычном железе: ноутбуках, телефонах, серверах без видеокарты. На нём держится большая часть локального AI, включая Ollama.
Репозиторий большой открытой модели DeepSeek-V3 со смесью экспертов: описание, результаты тестов и инструкции запуска. Показал, что открытая модель может идти вровень с закрытыми.
Основа большинства современных нейросетей: тензоры с ускорением на GPU и автоматическое дифференцирование, с обычным питоновским кодом внутри. На нём написаны Transformers, Llama и почти все открытые модели.
Движок для быстрой раздачи моделей на видеокартах: экономно расходует память и держит много запросов одновременно. Стандартный выбор, когда модель нужно отдавать как сервис.