Hugging Face

ニュース

transformers、llama.cppのGGUF量子化モデルを直接読み込み可能に

ノートPCで生成AIを動かす手段は、これまでllama.cpp系の専用ツールに頼る場面が多くありました。Hugging Faceが公開したtransformersの新機能は、その手間を減らす方向の変更です。検証や評価をPythonの通常環境で完結させたい担当者にとって、選択肢が一つ増えます。