ローカルLLMを動かしてみた(GPUなしCPUのみ)Gemma3 4B
AMD Ryzen3 3200G 3.6GHz
RAM DDR4 2600 (2400のものが16GB,2666のものが32GBで2400の方を2666HzにOC)
GPUなし
1TのSSD
Copilot君に質問をなげまっくて動くようにした。その後、これまでの手順をと排出されたのが以下。参考に。
🧱 ステップ①:WSL(Windows Subsystem for Linux)の導入
✅ 手順概要
- PowerShell(管理者)で以下を実行
- Ubuntu(推奨)を選択して初期セットアップ
- WSL2に切り替え(必要なら)
wsl --install
wsl --set-version Ubuntu-22.04 2
🧰 ステップ②:llama.cpp のビルド(CMake方式)
✅ 必要パッケージのインストール
sudo apt update
sudo apt install build-essential cmake git
そもそもルートではいれば、sudoは無論いらない。
✅ llama.cpp の取得とビルド
git clone https://github.com/ggerganov/llama.cpp.git cd llama.cpp cmake -B build cmake --build build --config Release -j$(nproc)
→ 実行ファイルは build/bin/llama-run
, llama-server
などに生成される
📦 ステップ③:Gemma GGUFモデルの取得と配置
✅ モデルのダウンロード(UnslothやGitogati版)
huggingfaceにログインできるようにしておくことと、
wget https://huggingface.co/gitogati/gemma-3-4b-it-Q4_K_M-GGUF/resolve/main/gemma-3-4b-it-q4_k_m.gguf \ -O ~/models/gemma/gemma-4b-it-q4_k_m.gguf
→ 保存先は ~/models/gemma/
など、任意のディレクトリでOK
🧪 ステップ④:CLI(Bush)で推論確認
./build/bin/llama-run ~/models/gemma/gemma-4b-it-q4_k_m.gguf "あたなは誰ですか?"
→ 応答が返れば、モデルロードと推論は成功
~/models/gemma/llama.cppの階層に入ってから実行
🌐 ステップ⑤:WebUIで操作するためのサーバー起動
✅ llama-server の起動
./build/bin/llama-server \
--model ~/models/gemma/gemma-4b-it-q4_k_m.gguf \
--port 8080 \
--threads 4 \
--ctx-size 2048
→ http://localhost:8080
に OpenAI互換API が立ち上がる
Q: 肺炎球菌による肺炎の治療に第一選択として用いられる抗菌薬はどれか。
選択肢:
- セフェム系抗菌薬
- マクロライド系抗菌薬
- ニューキノロン系抗菌薬
- ペニシリン系抗菌薬
A:
正解は ペニシリン系抗菌薬 です。
肺炎球菌による肺炎の治療において、ペニシリン系抗菌薬(特にベンザチニペンのような広範囲スペクトルのペニシリン)が第一選択として用いられます。その理由は以下の通りです。
- 肺炎球菌に対する高い有効性: 肺炎球菌はペニシリン系抗菌薬に対して高い感受性を示すため、治療効果が高いです。
- 迅速な効果発現: 他の抗菌薬と比較して、比較的早く効果が現れる傾向があります。
他の選択肢について:
- セフェム系抗菌薬: 肺炎球菌に対する有効性はペニシリン系抗菌薬に劣ります。
おお!!正解してくるではないか?
Copilotに答えを聞いた場合は以下
A: ペニシリン系抗菌薬
🦠 肺炎球菌(Streptococcus pneumoniae)による肺炎の治療では、原因菌が特定されている場合、**ペニシリン系抗菌薬(例:アモキシシリン、アンピシリン)**が第一選択となります。特にペニシリン感受性が確認されている場合は、狭域スペクトラムで副作用も少なく、耐性菌の選択圧も低いため理想的です。
ただし、ペニシリン耐性肺炎球菌(PRSP)が疑われる場合や重症例では、セフェム系(例:セフトリアキソン)やカルバペネム系への切り替えも検討されます。
🔍補足:
- マクロライド系は非定型肺炎(マイコプラズマなど)に有効ですが、肺炎球菌には耐性が多く第一選択ではありません。
- ニューキノロン系は広域ですが、耐性リスクや副作用の観点から第一選択にはなりにくいです。
つまり、選択肢の中では「ペニシリン系抗菌薬」が最も適切です。
Q: 高血圧の第一選択薬はどれか 選択肢:
A.利尿薬
B.β遮断薬
C.Ca拮抗薬
D.ACE阻害薬
A:
正解は D. ACE阻害薬 です。
現在、高血圧の第一選択薬としてACE阻害薬が最も推奨されています。ACE阻害薬は、血圧を下げるだけでなく、心血管疾患のリスクを軽減する効果が期待できるため、長期的な治療において優位性があります。
他の選択肢は、ACE阻害薬以外の選択肢として、または特定の状況下での第二選択薬として用いられます。
残念ながらこれは不正解。Copilotの答えは
A: C. Ca拮抗薬
🩺 日本高血圧学会の最新ガイドライン(JSH2025)では、Ca拮抗薬・ACE阻害薬・ARB・β遮断薬・利尿薬の5種類すべてが「第一選択薬」として同列に扱われています。ただし、日本では塩分摂取量が多いため、Ca拮抗薬が特に好まれる傾向があります。
つまり、どれも正解になり得ますが、臨床現場で最もよく使われるのは Ca拮抗薬 です。選択肢の中ではそれが最も妥当な答えになります。
コメント
コメントを投稿