CONTENT
ここから
この章の目標
この章では、LM Studioを使ってLLMを選び、ダウンロードします。LLMは、AIの頭脳です。Hermes AgentやNext.jsアプリは、LLMに質問を送り、LLMから返ってきた回答を使います。
今回の授業では、LM StudioからLLMをダウンロードして使います。
LLMとは何か
LLMは、Large Language Modelの略です。日本語では、大規模言語モデルと呼ばれます。簡単に言うと、文章を理解して、返答を作るAIの頭脳です。
今回の構成では、次のように考えます。
| 名前 | 役割 |
|---|---|
| Next.js | 画面とシステムを作る |
| Hermes Agent | AIエージェントとして作業を進める |
| LM Studio | ローカルPCでLLMを動かす |
| LLM | 実際に文章を考える頭脳 |
LM StudioでLLMを選ぶ理由
授業では、OllamaではなくLM Studioを使います。
理由はシンプルです。
| 理由 | 内容 |
|---|---|
| 画面で操作できる | 初心者でも分かりやすい |
| モデルを探しやすい | 検索してダウンロードできる |
| 動作確認しやすい | チャット画面で試せる |
| Next.jsとつなげやすい | OpenAI互換APIとして使える |
Ollamaは、並列処理や実務運用に向いています。
一方で、授業やテストではLM Studioの方が扱いやすいです。
PCに合うLLMを選ぶ
LLMは、大きければ必ず良いわけではありません。大きいモデルは賢い場合がありますが、その分PCが重くなります。授業では、自分のPCで無理なく動くモデルを選びます。
目安は次の通りです。
| PCのメモリ | 最初に選ぶモデル |
|---|---|
| 8GB | 1B〜3B |
| 16GB | 3B〜7B |
| 32GB | 7B〜14B |
| 64GB以上 | 14B以上 |
最初は、3B〜7Bくらいのモデルがおすすめです。
動作が軽く、授業中に待ち時間が長くなりにくいからです。
モデル名の見方
LM Studioでモデルを探すと、名前にいろいろな数字や文字が出てきます。
よく見る部分だけ覚えます。
| 表記 | 意味 |
|---|---|
| 3B / 7B / 14B | モデルの大きさ |
| Instruct | 指示に従う会話向けモデル |
| Coder / Code | コード生成に向いたモデル |
| GGUF | ローカルLLMでよく使われる形式 |
| Q4 / Q5 / Q8 | 軽量化の種類 |
初心者は、まず Instruct と書かれたモデルを選びます。
Next.jsのコード補助に使いたい場合は、Coder や Code と書かれたモデルも候補になります。
授業でおすすめの選び方
この授業では、次の順番で選びます。
| 優先順位 | 選び方 |
|---|---|
| 1 | 自分のPCで動くサイズを選ぶ |
| 2 | Instructモデルを選ぶ |
| 3 | できれば3B〜7Bから始める |
| 4 | Next.js用ならCoder系も試す |
| 5 | 重ければ小さいモデルに戻す |
最初から一番大きいモデルを選ばないでください。
まず動かす。
次に比べる。
最後に自分に合うものを選ぶ。
この順番が安全です。
LM StudioでLLMをダウンロードする
LM Studioを開きます。
左側のメニューから、モデル検索の画面を開きます。
検索欄に、使いたいモデル名を入力します。
例。
gemma
qwen
llama
coder
検索結果から、自分のPCに合いそうなモデルを選びます。
選んだら、Downloadを押します。
ダウンロードには時間がかかることがあります。
モデルによっては数GB以上になるため、Wi-Fi環境や空き容量も確認してください。
LM Studioでモデルを読み込む
ダウンロードが終わったら、モデルを読み込みます。
手順は次の通りです。
| 手順 | 内容 |
|---|---|
| 1 | LM Studioを開く |
| 2 | ダウンロード済みモデルを選ぶ |
| 3 | Loadを押す |
| 4 | チャット画面で質問する |
| 5 | 返答が返るか確認する |
最初に試す質問は、短くて構いません。
あなたは何ができますか？
返答が返ってくれば、モデルは動いています。
Next.jsで使うためにLocal Serverを起動する
Next.jsからLM StudioのLLMを使うには、Local Serverを起動します。
手順は次の通りです。
| 手順 | 内容 |
|---|---|
| 1 | LM Studioを開く |
| 2 | Local Serverを開く |
| 3 | 使うモデルを選ぶ |
| 4 | Start Serverを押す |
| 5 | URLを確認する |
授業で使うURLは、基本的に次です。
http://localhost:1234/v1
localhost は、自分のPC自身を表します。
Next.jsアプリは、このURLにリクエストを送って、ローカルLLMの回答を受け取ります。
.env.localに書く内容
Next.jsで使うために、接続先を .env.local に書きます。
LM_STUDIO_BASE_URL=http://localhost:1234/v1
LM_STUDIO_MODEL=ここにモデル名を書く
モデル名は、LM Studioで読み込んでいるモデル名に合わせます。
例。
LM_STUDIO_BASE_URL=http://localhost:1234/v1
LM_STUDIO_MODEL=gemma-3-4b-it
実際のモデル名は、LM Studioの画面で確認してください。
よくある失敗
| 失敗 | 原因 | 対応 |
|---|---|---|
| ダウンロードが遅い | モデルサイズが大きい | 小さいモデルにする |
| PCが重い | モデルが大きすぎる | 3B〜7Bに下げる |
| 回答が返らない | モデルをLoadしていない | LM StudioでLoadする |
| Next.jsからつながらない | Local Serverが止まっている | Start Serverを押す |
| モデル名エラー | .env.local の名前が違う | LM Studioのモデル名を確認する |
ミニ課題
LM StudioでLLMを1つ選んで、ダウンロードしてください。
次の内容をメモします。
選んだモデル名：
モデルの大きさ：
自分のPCのメモリ：
選んだ理由：
動作は軽いか、重いか：
Next.jsで使えそうか：
次に、LM StudioでモデルをLoadしてください。
最後に、次の質問を入力して、返答が返るか確認してください。
Next.jsを初めて学ぶ人に向けて、Next.jsとは何かを短く説明してください。
この章のまとめ
この章では、LM StudioからLLMを選び、ダウンロードしました。
LLMはAIの頭脳です。
Next.jsやHermes Agentは、LLMの回答を使って動きます。
授業では、まずLM Studioで軽めのLLMを選びます。
3B〜7Bくらいから始めると、初心者でも試しやすいです。
モデルをダウンロードしたら、Loadします。
Next.jsから使う場合は、Local Serverを起動します。
次の章では、Next.jsからLM Studioに接続し、ローカルLLMを使った小さなAIシステムを作ります。