まだ翻訳と要約をGPT-4oに頼ってる？「Swallow」が比較で最高点
- 公開
- 正式公開 2025-03-10
- 作り手
- Swallow LLM team（チーム）
- 対応
- モデル（Hugging Face）
- 言語
- 日本語・英語
- 価格
- 記載なし（重みは Hugging Face で公開。Llama 3.3 ライセンスと Gemma 利用規約の範囲で研究・商用に利用可）
どんなアプリか
Llama 3.3 SwallowはLlama 3.3をベースに日本語の能力を強化した大規模言語モデル (70B) です。モデルのパラメータ（重み）がHuggingFace上で公開されています。
Swallow LLM team、Llama 3.3 Swallow 公式サイト
Llama 3.3 Swallow は、米 Meta の Llama 3.3 をもとに、東京科学大学情報理工学院の岡崎研究室と横田研究室、産業技術総合研究所の研究チームが開発した大規模言語モデルです。公式サイトの日付は2025年3月10日で、重みは Hugging Face からダウンロードできます。
公開されているのは、ベースモデルの「70B v0.4」と、指示チューニング済みの「70B Instruct v0.4」の2種類です。報道によると、どちらも英語の能力を保ったまま、元の Llama 3.3 より日本語の能力を強化しています。
ベースモデルは、Llama 3.3 70B Instruct に継続事前学習をかけて作られています。学習には、日本語ウェブコーパス（Swallow Corpus Version 2）、日本語と英語の Wikipedia 記事、数学やコードなどから集めた約3,150億トークンが使われました。指示チューニングモデルは、このベースモデルに教師ありファインチューニングをかけたものです。
研究チームの比較（2025年3月時点）では、ベースモデルの日本語理解・生成タスクの平均スコアは0.629で、GPT-4o の0.646に次ぐ2位でした。NIILC（日本語の質問応答）、XL-Sum（自動要約）、WMT20（日英・英日の機械翻訳）では、比較したモデルの中で最高性能だったと説明されています。
指示チューニングモデルについては、日本語での問いかけに日本語で返すように調整されていると説明されています。応答に含まれる日本語の文字の割合は、GPT 系列のモデルが62%前後だったのに対し、このモデルは72%くらいまで上がったと書かれています。
同じ分野のアプリ
| 名前 | 型 | 仕掛け | 対応 | 料金 |
|---|---|---|---|---|
| Llama 3.3 Swallow | 継続事前学習モデル | Llama 3.3 をもとに日本語の能力を強化した70Bモデル | モデル（Hugging Face） | 記載なし |
| Sarashina2-8x70B | 日本語特化 MoE モデル | Mixture of Experts 構成で総計4600億パラメータの事前学習モデル | モデル（Hugging Face） | 無料（研究目的。商用利用不可） |
| llm-jp-3-172b-instruct3 | フルスクラッチモデル | 約1720億パラメータをフルスクラッチ学習し、学習データまで公開 | モデル（Hugging Face） | 無料 |
| Rakuten AI 3.0 | 日本語最適化 MoE モデル | GENIAC プロジェクトの一環で開発した約7,000億パラメータのモデル | モデル配布（Hugging Face） | 無料（Apache 2.0） |
| DeepSeek-R1-Distill-Qwen-14B/32B-Japanese | 推論モデル | DeepSeek-R1 の蒸留モデルに日本語を追加学習 | モデル（Hugging Face） | 無料（MITライセンス、商用可） |
入れる前に
公式サイトでは、2種類のうち事後学習済みの「70B Instruct v0.4」を通常の利用先として案内しています。事後学習をしていない「70B v0.4」については、特段の理由がない限り使う必要はないとしています。
研究や商用に使えますが、Llama 3.3 ライセンスに従ったうえで、Gemma 利用規約の利用制限にも抵触しないことが条件です。報道によると、学習用の合成データに Gemma 2（gemma-2-27b-it）を使っているためです。
研究チームは、得意な分野と弱い分野をはっきり書いています。日本語 MT-Bench での対話性能は0.772で、GPT-4o の0.848や Qwen2.5-72B-Instruct の0.835には届きませんでした（2025年3月時点）。人文科学やライティングは得意な一方で、コーディング・数学・推論では差がついているとしています。
Llama 3.3 Swallow 70B v0.4とGPT-4oの間には、まだ体感的な性能差を感じるところがありますが、これらの能力に重点を置くのであれば、Llama 3.3 Swallow 70B v0.4はGPT-4oの代替として検討できるレベルになりました。
Swallow LLM team、Llama 3.3 Swallow 公式サイト「性能」