Transformers.js v4 Preview公開
Hugging Faceは、WebブラウザやNode.js環境で機械学習モデルを実行するためのライブラリ「Transformers.js」のv4 Previewを公開。
最大の変更点は、C++で書き直されたWebGPUランタイムの採用。 約200のサポート済みモデルアーキテクチャに加え、v4で追加された新しいアーキテクチャに対しても、パフォーマンス、精度、カバレッジが向上。 また、ブラウザだけでなく、Node.js、Bun、DenoといったサーバーサイドランタイムやデスクトップアプリケーションでもWebGPUアクセラレーションを利用可能になった。
さらに、ビルドシステムをWebpackからesbuildに移行したことで、ビルド時間が10分の1に短縮され、バンドルサイズも平均10%削減された。
トークナイザーのロジックは @huggingface/tokenizers として独立したライブラリに切り出され、ブラウザとサーバーサイドの両方で利用可能となった。
その他、動的なパイプライン型の導入による型安全性の向上や、8Bパラメータを超える大規模モデルのサポートなども含まれる。