SKILL·81A748

huggingface-tokenizers

davila7
Aktualisiert 2 months ago
416 Ansichten
18,478
1,685
18,478
Auf GitHub ansehen
DokumenteTokenizationHuggingFaceBPEWordPieceUnigramFast TokenizationRustCustom TokenizerAlignment TrackingProduction

Über

Diese Fähigkeit bietet eine leistungsstarke Tokenisierung mit HuggingFace's Rust-basierter Bibliothek und verarbeitet 1 GB Text in unter 20 Sekunden. Sie unterstützt BPE-, WordPiece- und Unigram-Algorithmen und ermöglicht das Training benutzerdefinierter Tokenizer sowie die Verfolgung von Ausrichtungen. Nutzen Sie sie, wenn Sie produktionsreife, schnelle Tokenisierung benötigen oder benutzerdefinierte Tokenizer erstellen möchten, die in das Transformers-Ökosystem integriert sind.

Schnellinstallation

Claude Code

Empfohlen
Primär
npx skills add davila7/claude-code-templates -a claude-code
Plugin-BefehlAlternativ
/plugin add https://github.com/davila7/claude-code-templates
Git CloneAlternativ
git clone https://github.com/davila7/claude-code-templates.git ~/.claude/skills/huggingface-tokenizers

Kopieren Sie diesen Befehl und fügen Sie ihn in Claude Code ein, um diese Fähigkeit zu installieren

GitHub Repository

davila7/claude-code-templates
Pfad: cli-tool/components/skills/ai-research/tokenization-huggingface-tokenizers
0
anthropicanthropic-claudeclaudeclaude-code
FAQ

Häufig gestellte Fragen

Was ist der Skill huggingface-tokenizers?

huggingface-tokenizers ist ein Claude Skill von davila7. Skills bündeln Anweisungen und Ressourcen, die Claude bei Bedarf lädt, um Aufgaben rund um huggingface-tokenizers ohne zusätzliche Eingaben auszuführen.

Wie installiere ich huggingface-tokenizers?

Verwende die Installationsbefehle auf dieser Seite: Füge huggingface-tokenizers als Plugin zu Claude Code hinzu oder klone das Repository in dein Skills-Verzeichnis. Starte Claude danach neu, damit der Skill geladen wird.

Zu welcher Kategorie gehört huggingface-tokenizers?

huggingface-tokenizers gehört zur Kategorie Dokumente.

Kann ich huggingface-tokenizers kostenlos nutzen?

Ja. huggingface-tokenizers ist auf AIMCP gelistet und kann kostenlos installiert werden.

Verwandte Skills

release-standards
Dokumente

Diese Fähigkeit bietet Richtlinien für semantische Versionierung (semver) und Formatierungsstandards für Changelogs bei Softwareveröffentlichungen. Nutzen Sie sie bei der Vorbereitung von Releases, um Versionsnummern (Major/Minor/Patch) korrekt zu erhöhen und Changelog-Einträge zu strukturieren. Sie enthält Regeln für Pre-Release-Kennzeichnungen und klare Beispiele für Entwickler.

Skill ansehen
commit-standards
Dokumente

Diese Fähigkeit formatiert Git-Commit-Nachrichten gemäß dem Conventional Commits-Standard. Sie stellt Vorlagen und Typdefinitionen (wie `feat`, `fix`, `refactor`) bereit, um Konsistenz beim Schreiben oder Überprüfen von Commits zu gewährleisten. Verwenden Sie sie während des Commit-Prozesses, um eine klare, strukturierte Commit-Historie zu erstellen.

Skill ansehen
nano-pdf
Dokumente

nano-pdf ist ein CLI-Tool, das Entwicklern ermöglicht, PDFs mit natürlichen Sprachbefehlen zu bearbeiten, wie etwa Text zu ändern oder Tippfehler auf bestimmten Seiten zu korrigieren. Es ist ideal für schnelle, programmatische PDF-Modifikationen direkt vom Terminal aus. Überprüfen Sie stets die Ausgabe, da die Seitennummerierung zwischen Versionen variieren kann.

Skill ansehen
summarize
Dokumente

Dieses CLI-Tool fasst Web-URLs, lokale Dateien (einschließlich PDFs, Bilder, Audio) und YouTube-Links mithilfe verschiedener KI-Modelle zusammen. Entwickler können es zur schnellen Inhaltsgewinnung nutzen, indem sie API-Schlüssel der Anbieter festlegen und die Ausgabelänge anpassen. Es verwendet standardmäßig Googles Gemini-Modell und wird über Homebrew installiert.

Skill ansehen