「ELYZA-Thinking」を入れたら、日本語で“考えてから答える”AIが手元に
- 公開
- 正式公開 2025-05-01(HF 作成日は2025-04-30)
- 作り手
- 株式会社ELYZA(会社)
- 対応
- モデル(Hugging Face で配布)
- 言語
- 日本語・英語
- 価格
- 無料(Apache 2.0 ライセンス)
どんなアプリか
株式会社ELYZA が公開した、日本語で論理的に考える力を強めた大規模言語モデルです。アリババの Qwen2.5-32B-Instruct をもとに、日本語の追加事前学習と、長い思考過程を含むデータでの学習を行っています。OpenAI の o1/o3 シリーズや DeepSeek-R1 と同じく、思考の連鎖(Chain of Thought)を通して答えを出す「Reasoning Model」です。
本取り組みの特徴は、既に高度な論理的思考能力を備えた「Reasoning Model」に対して日本語追加学習を行うのではなく、「非 Reasoning Model」に対して新たにその能力を付与した点にあります。
株式会社ELYZA、PR TIMES のプレスリリース(2025-05-01)
学習データの作り方として、AlphaGo でも使われたモンテカルロ木探索(MCTS)から着想を得たアルゴリズムで思考過程つきのデータを探索しながら生成し、それを模倣学習させています。
同社の説明では、320億パラメータで o1-mini に匹敵する性能を出しており、数学系のベンチマークでは日本語・英語の両方で o1-mini を上回ったとしています。
開発の途中で得られた「Shortcut Model」も一緒に公開されています。推論モデルの学習用に集めた(問題、思考過程、回答)の組から思考過程を取り除いて学習させたもので、考えてたどり着いた答えをすぐに返せるようにしたモデルです。320億パラメータ版と70億パラメータ版の2種類があります。
320億パラメータの Shortcut Model について、同社は GPT-4o に匹敵する性能で、GPT-4 に対しては JHumanEval 以外の全てのベンチマークで上回ったと説明しています。
料金とデータの置き場所
Thinking と Shortcut の各モデルは Apache 2.0 ライセンスで公開されていて、研究にも営利目的にも使えます。
入れる前に
Hugging Face のモデルカードでは、運用には OpenAI 互換のサーバーを立てられる vLLM が勧められています。例として載っているコマンドは –tensor-parallel-size 8、–max-model-len 32768 の指定です。
同じ説明によると、同じ内容をくり返すループに入るのを防ぐため、temperature は 0.5〜0.7、top_p は 0.95 にすることが勧められています。
Hugging Face のページには、llama.cpp や Ollama、LM Studio などで使うための量子化版への案内もあります。