text-generation-inference
О программе
Этот навык Claude предоставляет экспертные рекомендации по развертыванию сервера Text Generation Inference (TGI) от Hugging Face — готового к промышленному использованию решения для обслуживания LLM с высокой пропускной способностью. Он позволяет разработчикам настраивать расширенные функции, такие как квантование, непрерывная пакетная обработка и тензорный параллелизм, для эффективного развертывания моделей. Используйте этот навык для внедрения масштабируемого и оптимизированного LLM-инференса в производственных средах.
Быстрая установка
Claude Code
Рекомендуетсяnpx skills add fgarofalo56/Suppercharge_Microsoft_Fabric -a claude-code/plugin add https://github.com/fgarofalo56/Suppercharge_Microsoft_Fabricgit clone https://github.com/fgarofalo56/Suppercharge_Microsoft_Fabric.git ~/.claude/skills/text-generation-inferenceСкопируйте и вставьте эту команду в Claude Code для установки этого навыка
GitHub репозиторий
Часто задаваемые вопросы
Что такое Skill text-generation-inference?
text-generation-inference — это Claude Skill от fgarofalo56. Skills объединяют инструкции и ресурсы, которые Claude загружает по мере необходимости, чтобы выполнять задачи, связанные с text-generation-inference, без дополнительных запросов.
Как установить text-generation-inference?
Используйте команды установки на этой странице: добавьте text-generation-inference в Claude Code как плагин или клонируйте репозиторий в каталог skills, затем перезапустите Claude, чтобы загрузить Skill.
К какой категории относится text-generation-inference?
text-generation-inference относится к категории Мета.
Можно ли использовать text-generation-inference бесплатно?
Да. text-generation-inference размещён на AIMCP и доступен для бесплатной установки.
Похожие навыки
Этот навык предоставляет проверенную в продакшене настройку для Content Collections — TypeScript-ориентированного инструмента, который преобразует файлы Markdown/MDX в типобезопасные коллекции данных с валидацией Zod. Используйте его при создании блогов, сайтов документации или контентных приложений на Vite + React для обеспечения типобезопасности и автоматической проверки содержимого. Он охватывает всё: от настройки плагина Vite и компиляции MDX до оптимизации развертывания и валидации схем.
Этот навык позволяет разработчикам создавать приложения на платформе прогнозных рынков Polymarket, включая интеграцию с API для торговли и получения рыночных данных. Он также обеспечивает потоковую передачу данных в реальном времени через WebSocket для отслеживания текущих сделок и рыночной активности. Используйте его для реализации торговых стратегий или создания инструментов, обрабатывающих обновления рынка в реальном времени.
Этот навык помогает разработчикам создавать плагины OpenCode, которые подключаются к более чем 25 типам событий, таким как команды, файлы и операции LSP. Он предоставляет структуру плагина, спецификации API событий и шаблоны реализации для модулей на JavaScript/TypeScript. Используйте его, когда вам нужно перехватывать, отслеживать или расширять жизненный цикл ассистента OpenCode AI с помощью пользовательской событийно-ориентированной логики.
SGLang — это высокопроизводительный фреймворк для обслуживания больших языковых моделей (LLM), специализирующийся на быстрой структурированной генерации JSON, regex и рабочих процессов агентов с использованием кэширования префиксов RadixAttention. Он обеспечивает значительно более высокую скорость вывода, особенно для задач с повторяющимися префиксами, что делает его идеальным для сложных структурированных результатов и многократных диалогов. Выбирайте SGLang вместо альтернатив, таких как vLLM, когда вам требуется ограниченное декодирование или вы создаете приложения с интенсивным совместным использованием префиксов.
