Raon-1 mini previewとは?商用で使えるライセンスとRTX 5090・Macでの動かし方

Raon-1 mini preview、使う前に分かること。KRAFTON AIの、手元のPCで動かせる言語モデル。重みや設定ファイルはApache License 2.0で、商用でも使える。KRAFTONのAPIとプレイグラウンドはApache License 2.0の対象外で、別の規約に従う。モデルカードには、RTX 5090やApple siliconのMacで動かす方法がある。動かし方はTransformers、vLLM、llama.cpp、MLX。GGUFやMLXのモデルを使う前に、Hugging Faceでアクセスを申請する。Raon-1 mini previewを手元で試したい人へ

KRAFTON AIの「Raon-1 mini preview」は、手元のPCにダウンロードして動かせる言語モデルです。モデルの重みはApache License 2.0で公開されていて、商用でも使えます。

モデルカードには、動かせる環境として、VRAMが32GBのNVIDIA RTX 5090を1枚使う方法や、Apple siliconのMacで動かす方法が書かれています。

目次

結論:商用で使えて、RTX 5090の1枚でも動く

  • 重みや設定ファイルなどはApache License 2.0です。商用の目的も含めて、ダウンロード、利用、改変、再配布ができます。
  • KRAFTONのAPIとプレイグラウンドはApache License 2.0の対象外で、別の規約に従います。
  • NVFP4のモデルなら、VRAMが32GBのRTX 5090の1枚で動くとモデルカードにあります。
  • 動かし方は、Transformers、vLLM、llama.cpp、MLXの4つです。vLLMとllama.cppは、KRAFTONが用意したものからインストールします。
  • GGUF、MLX、NVFP4のHugging Faceのリポジトリは申請制で、承認は自動です。本体のリポジトリは、2026年10月25日の時点で申請なしで使えます。
  • previewのバージョンなので、正式なバージョンまでに仕様や結果が変わることがあります。
  • 2026年10月25日8時49分(日本時間)時点のモデルカードの内容です。

Raon-1 mini previewとは

KRAFTON AIが一から設計して学習した、MoE(Mixture-of-Experts)のモデルです。モデルカードでは、韓国語の会話とエージェントの作業が得意だとしています。

本体のモデルカードによると、学習した言語は、韓国語、英語、日本語、中国語、スペイン語、フランス語、タイ語です。モデルカードには、韓国語が強く、英語もしっかり使えるとあります。

項目 内容
パラメーターの総数 288億(28.8B)
1トークンで使うパラメーター 43億(4.3B)
層の数 25層(RDAが18層、Gated MLAが7層)
エキスパート 128個のうち6個と、共有の1個が動く
コンテキストの長さ 262,144トークン
ライセンス Apache License 2.0

KVキャッシュを持つのは7層のMLAだけで、大きさはBF16で1トークンあたり約8KiBです。残りの18層は、大きさが変わらない状態を持つ層です。

考える過程を出す思考モードを前提に作られていて、モデルカードでは思考モードを切ることはすすめていません。ツールの呼び出しにも対応していて、Hermes Agent、Pi、OpenCodeで使えるとしています。OpenCodeで使える手元向けのモデルには、ほかにRecursive Flintもあります。

商用で使えるか

使えます。このリポジトリで配っているモデルの重み、設定ファイル、そのほかの部品はApache License 2.0です。このライセンスに従えば、商用の目的も含めて、ダウンロード、利用、改変、再配布ができます。

ただし、Apache License 2.0が及ばないものもあります。モデルカードは、KRAFTONの学習データ、学習の方法、配っていないソフトウェア、ホスティングしているAPI、プレイグラウンドなどを挙げています。

ホスティングしているAPIとプレイグラウンド(「RAON Service」)は、別の利用規約に従います。この規約は使い始める前に示され、使える範囲、利用の停止や終了、KRAFTONが将来料金をとる権利などを定めています。

手元で動かしてサービスに組み込むときはApache License 2.0を、KRAFTONのAPIやプレイグラウンドを使うときは別の規約を、それぞれ確かめます。

どれくらいのPCで動くか

モデルカードが動かし方を示している環境は、次のとおりです。

環境 使うモデルと方法
RTX 5090(32GB) NVFP4のモデルをvLLMで動かす。CUDA Toolkit 13が必要
VRAMが32GBのGPU MXFP8のモデルをTransformersで動かす。CPUへのオフロードを使う
DGX Spark NVFP4のモデルを専用のコンテナーで動かす
Apple siliconのMac MLXのモデルを動かす
llama.cpp KRAFTONのブランチをビルドし、GGUFのファイルを動かす

vLLMでの動作はbetaの扱いで、KRAFTONが確かめた環境はNVIDIA B300です。RTX 5090向けの設定では、コンテキストの長さの上限を32,768トークンにしています。vLLMとTransformersの手順は、本体のモデルカードにあります。

llama.cpp向けの量子化したモデルのGGUFのファイルは、次の5つです。大きさはHugging Faceのファイルの一覧に出ている値です。Q6_K以下は、imatrixを使って量子化しています。

量子化 ファイルの大きさ
IQ4_XS 16.1GB
Q4_K_M 19.7GB
Q5_K_M 22.2GB
Q6_K 25.8GB
Q8_0 30.7GB

動かすのにメモリーがどれだけ要るかは、モデルカードには書かれていません。GPUで動かすときに要るメモリーの目安が公式に出ている、ほかの手元向けのモデルには、Muse Glimmer 30BやNemotron 3.5 Boltがあります。

GGUFやMLXを使う前に、アクセスを申請する

GGUF、MLX、NVFP4のHugging Faceのリポジトリは申請制で、承認は自動です。本体のリポジトリは、2026年10月25日の時点で申請なしで使えます。モデルカードでは、1回の申請ですべてのリポジトリが使えるとしています。

申請では、名前、所属、役職、国、使い道(研究、教育、商用、個人、その他)を入れます。そして、Apache License 2.0に従って使うことに同意します。

申請したら、次のコマンドでHugging Faceにログインします。このあとのllama.cppとMLXの手順では、この申請とログインが要ります。

pip install -U huggingface_hub
hf auth login

llama.cppで動かす

llama.cppの本家はまだ対応していないので、KRAFTONのブランチからビルドします。Windowsでのビルドは、llama.cppのビルドガイドを見ます。

git clone -b raon-1-mini-preview \
    https://github.com/krafton-ai/llama.cpp
cd llama.cpp

# Apple siliconでは -DGGML_CUDA=ON を外す
cmake -B build -DGGML_CUDA=ON
cmake --build build --config Release -j

次のコマンドで、ターミナルでのチャットが始まります。モデルは自動でダウンロードされます。

./build/bin/llama-cli \
    -hf KRAFTON/Raon-1-mini-preview-gguf:Q4_K_M \
    --ctx-size 262144 \
    --n-predict 32768 \
    --temp 1.0 \
    --top-p 0.95 \
    --top-k 20 \
    --min-p 0.0 \
    --repeat-penalty 1.0 \
    --frequency-penalty 0.0 \
    --presence-penalty 1.5 \
    --reasoning on \
    --chat-template-kwargs '{
      "enable_thinking": true,
      "truncate_history_thinking": false
    }'

llama-serverを使うと、OpenAI互換のAPIのサーバーとしても動かせます。

モデルカードがすすめる設定は、temperatureが1.0、top_pが0.95、top_kが20です。presence_penaltyは、コーディングと数学では0に、それ以外では1.5にします。上のコマンドは1.5です。

Macで動かす(MLX)

Apple siliconのMacでは、MLX向けのモデル(KRAFTON/Raon-1-mini-preview-mlx)を使います。Pythonは3.11以上で、次のようにインストールします。

python3 -m venv .venv
source .venv/bin/activate

python -m pip install \
    "mlx==0.32.4" \
    "mlx-lm==0.32.2" \
    "transformers==5.20.1"

モデルカードには、Pythonから動かす例と、mlx_lm serverでOpenAI互換のAPIのサーバーとして動かす例が載っています。

試すだけならプレイグラウンド

手元で準備せずに試すなら、Raon-1 miniのプレイグラウンドがあります。期間限定で無料です。プレイグラウンドはApache License 2.0ではなく、別の規約に従います。

公式の情報

よかったらシェアしてね!
  • URLをコピーしました!
  • URLをコピーしました!

この記事を書いた人

社内エンジニアとして、SREとセキュリティの仕事をしています。サーバーの構築や運用、クラウド環境の設計にも関わってきました。趣味はゲームと漫画・アニメ。

コメント

コメントする

目次