tokenizersの被依存関係 以下のgemの最新版はtokenizersを必要としています
informers 1.2.1
Fast transformer inference for Ruby
2,290,920 ダウンロード数
discourse_ai-tokenizers 0.3.1
A Ruby gem providing a consistent interface for various AI/ML tokenizers including Open...
44,186 ダウンロード数
llm_memory 0.1.15
LLM Memory is a Ruby gem designed to provide large language models (LLMs) like ChatGPT ...
18,595 ダウンロード数
transformers-rb 0.1.6
State-of-the-art transformers for Ruby
2,822 ダウンロード数
clip-rb 1.1.0
OpenAI CLIP embeddings, uses ONNX models. Allows to create embeddings for images and text
2,800 ダウンロード数
vectorsearch 0.1.2
Vector Search backed by your vector search DB of choice.
1,667 ダウンロード数
token_estimator 0.1.2
TokenEstimator is a Rails gem that allows you to count tokens in Excel, CSV, PDF, TXT, ...
1,005 ダウンロード数
kiribi-multilingual_e5-small 0.0.2
Easy to use some onnx models.
249 ダウンロード数