LLM-jp-4

NII の LLM-jp が 8B（Llama 2 系）と 32B-A3B MoE（Qwen3 MoE 系）をオープンソースで公開。約 12 兆トークン規模コーパス、最大約 6 万 5 千トークン入出力。ABCI 3.0。2026 年度に更大規模を順次公開予定。