Last Update 2026/03/07
低スペック寄りのPCでローカルLLMを動作させた際の記録です。
LLM以外の仮想マシンなどが起動され、多少負荷がかかった状態で実行しています。
ベンチマークなどでLLMの性能を評価する内容ではありません。
(注) GPU無しで計測した際のロード時間がGPU使用時と比べ非常に速い結果となっています。
設定等が関係しているのかもしれませんが、現在のところ特定できていないため、このページの結果を参考値としています。
LLM以外の仮想マシンなどが起動され、多少負荷がかかった状態で実行しています。
ベンチマークなどでLLMの性能を評価する内容ではありません。
(注) GPU無しで計測した際のロード時間がGPU使用時と比べ非常に速い結果となっています。
設定等が関係しているのかもしれませんが、現在のところ特定できていないため、このページの結果を参考値としています。
検証用PC
|
OS |
Debian GNU/Linux 12 (bookworm) |
|
CPU |
Intel(R) Core(TM) i5-14400F |
|
GPU |
GeForce RTX 3060 12GB |
|
メモリ |
DDR4 PC4-25600 32GB × 4 |
|
HDD |
WD80EAAZ[8TB SATA600 5640] |
構築環境 : Docker + Ollama (ほぼデフォルト設定)
検証用シェルスクリプト
(例 : gemma3:1b実行時)
#!/bin/bash
time curl http://localhost:11434/api/chat -d '{
"model": "gemma3:1b",
"messages": [{
"role": "user",
"content": "おすすめの日本の絶景を教えてください。東西南北、10箇所程度。"
}],
"stream": false
}'
Gemma 3
GPU無し(HDD) GPU使用(HDD)gemma3:270m(GPU無し・HDD)
Model
parameters 268.10M
context length 32768
embedding length 640
quantization Q8_0
2026-01-23
total_duration(合計時間) : 10416232103 (10.416s)
load_duration(モデルのロード時間) : 505192168 ( 0.505s)
prompt_eval_count(評価されたプロンプトのトークン数) : 26
prompt_eval_duration(プロンプトの評価時間) : 22434850 ( 0.022s)
eval_count(生成トークン数) : 1097
eval_duration(生成時間) : 9390134302 ( 9.390s)
real 0m10.426s
user 0m0.009s
sys 0m0.001s
メモリ使用量(タスクマネージャー)
ollama runner : 595.2MiB
-------------------------------------------------
【生成結果に関する検証】
・東西南北10箇所程度という指定に対して、4箇所(東京、京都、大阪、北海道) + その他(沖縄、奄美)の出力
・言語混同が発生 (例)「御 propor宮」「京都城datacami」
・名称間違いが多数 (例)「新宿御ヒル症区」「東京スカイツ場」「大阪湖」「北海道庁の鉄道」
・主な景観、おすすめ景観の2項目がほぼ同じ内容
・紹介文が非常に単調。ほとんどが「地名 + 雄大さ、静寂、景色」で構成
-------------------------------------------------
gemma3:1b(GPU無し・HDD)
Model
parameters 999.89M
context length 32768
embedding length 1152
quantization Q4_K_M
2026-01-23
total_duration(合計時間) : 22526365385 (22.526s)
load_duration(モデルのロード時間) : 677608652 ( 0.678s)
prompt_eval_count(評価されたプロンプトのトークン数) : 26
prompt_eval_duration(プロンプトの評価時間) : 147853417 ( 0.015s)
eval_count(生成トークン数) : 903
eval_duration(生成時間) : 21084042729 (21.084s)
real 0m22.536s
user 0m0.010s
sys 0m0.000s
メモリ使用量(タスクマネージャー)
ollama runner : 1.2GiB
-------------------------------------------------
【生成結果に関する検証】
・紹介ポイントは10箇所。東西南北との表記も有り
・言語混同が発生 (例)「Alpes-Yoshida (高尾山)」
・存在が怪しい地名の生成 (例)「桜ヶ丘(群馬県)」「羅漢峰 (山梨県)」「苔原 (曖南県)」
・魅力、おすすめポイントなどの項目の文章は違和感を感じないレベル(内容の評価を除く)
-------------------------------------------------
gemma3:4b(GPU無し・HDD)
Model
parameters 4.3B
context length 131072
embedding length 2560
quantization Q4_K_M
2026-01-23
total_duration(合計時間) : 73799834278 (73.799s)
load_duration(モデルのロード時間) : 1500631440 ( 1.501s)
prompt_eval_count(評価されたプロンプトのトークン数) : 26
prompt_eval_duration(プロンプトの評価時間) : 430287722 ( 0.430s)
eval_count(生成トークン数) : 1019
eval_duration(生成時間) : 71181205683 (71.181s)
real 1m13.818s
user 0m0.014s
sys 0m0.006s
メモリ使用量(タスクマネージャー)
ollama runner : 4.1GiB
-------------------------------------------------
【生成結果に関する検証】
・紹介ポイントは10箇所。東西南北バランスとの表記も有り
・言語混同が発生 (例)「فلسطين寺」「大ুগ（島根県）」
・存在が怪しい地名の生成 (例)「浅草山（東京都）」「室積峡（長野県）」
・特徴に関する文章は違和感を感じないレベル(内容の評価を除く)
-------------------------------------------------
gemma3:12b(GPU無し・HDD)
Model
parameters 12.2B
context length 131072
embedding length 3840
quantization Q4_K_M
2026-01-23
total_duration(合計時間) : 108105725854 (108.106s)
load_duration(モデルのロード時間) : 2044832945 ( 2.045s)
prompt_eval_count(評価されたプロンプトのトークン数) : 26
prompt_eval_duration(プロンプトの評価時間) : 1381347146 ( 1.381s)
eval_count(生成トークン数) : 545
eval_duration(生成時間) : 104293079830 (104.293s)
real 1m48.124s
user 0m0.011s
sys 0m0.012s
メモリ使用量(タスクマネージャー)
ollama runner : 9.3GiB
-------------------------------------------------
【生成結果に関する検証】
・紹介ポイントは東西南北10箇所。ほぼ指定条件はクリア
・言語混同無し
・存在が怪しい地名は「足削川（愛媛県）」のみ
・指定通り絶景ポイントに限定して紹介されている
-------------------------------------------------
gemma3:27b(GPU無し・HDD)
Model
parameters 27.4B
context length 131072
embedding length 5376
quantization Q4_K_M
2026-01-23
total_duration(合計時間) : 351826407901 (351.826s)
load_duration(モデルのロード時間) : 3079474409 ( 3.079s)
prompt_eval_count(評価されたプロンプトのトークン数) : 26
prompt_eval_duration(プロンプトの評価時間) : 3254843166 ( 3.255s)
eval_count(生成トークン数) : 789
eval_duration(生成時間) : 344903495359 (344.903s)
real 5m51.833s
user 0m0.000s
sys 0m0.023s
メモリ使用量(タスクマネージャー)
ollama runner : 18.4GiB
-------------------------------------------------
【生成結果に関する検証】
・紹介ポイントは東西南北10箇所。東西南北別の項目分け有り
・言語混同無し
・存在が怪しい地名は「九鬼御殿（岩手県）」のみ
・指定通り絶景ポイントのみで、解説が充実
-------------------------------------------------
gemma3:270m(GPU使用・HDD)
Model
parameters 268.10M
context length 32768
embedding length 640
quantization Q8_0
2026-01-24
total_duration(合計時間) : 4786213708 (4.786s)
load_duration(モデルのロード時間) : 2530846353 (2.531s)
prompt_eval_count(評価されたプロンプトのトークン数) : 26
prompt_eval_duration(プロンプトの評価時間) : 6315298 (0.006s)
eval_count(生成トークン数) : 707
eval_duration(生成時間) : 1894061065 (1.894s)
real 0m4.836s
user 0m0.009s
sys 0m0.009s
+---------------------------------------------------------------------------------------+
| NVIDIA-SMI 535.261.03 Driver Version: 535.261.03 CUDA Version: 12.2 |
|-----------------------------------------+----------------------+----------------------+
| GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
|=========================================+======================+======================|
| 0 NVIDIA GeForce RTX 3060 On | 00000000:01:00.0 On | N/A |
| 0% 32C P8 18W / 170W | 893MiB / 12288MiB | 34% Default |
| | | N/A |
+-----------------------------------------+----------------------+----------------------+
+---------------------------------------------------------------------------------------+
| Processes: |
| GPU GI CI PID Type Process name GPU Memory |
| ID ID Usage |
|=======================================================================================|
| 0 N/A N/A 1212 G /usr/lib/xorg/Xorg 122MiB |
| 0 N/A N/A 1786 G xfwm4 2MiB |
| 0 N/A N/A 2183 G /usr/bin/x-www-browser 240MiB |
| 0 N/A N/A 20967 C /usr/bin/ollama 514MiB |
+---------------------------------------------------------------------------------------+
メモリ使用量(タスクマネージャー)
ollama runner : 615.9MiB
-------------------------------------------------
【生成結果に関する検証】
・東西南北10箇所程度という指定に対して、5箇所(京都、大阪、奈良、北海道、沖縄) の出力
・絶景ポイント指定はほぼ無視
・言語混同が発生 (例)「奈良 temple」「京 thờ」
・名称間違いが多数 (例)「京寂真」「奈良稲作公園」「旭川山」
・紹介文が非常に単調。必ず「を象徴する場所として知られています。」が含まれる
-------------------------------------------------
gemma3:1b(GPU使用・HDD)
Model
parameters 999.89M
context length 32768
embedding length 1152
quantization Q4_K_M
2026-01-24
total_duration(合計時間) : 8739992273 (8.740s)
load_duration(モデルのロード時間) : 6149985058 (6.150s)
prompt_eval_count(評価されたプロンプトのトークン数) : 26
prompt_eval_duration(プロンプトの評価時間) : 12083834 (0.012s)
eval_count(生成トークン数) : 474
eval_duration(生成時間) : 2341280313 (2.341s)
real 0m8.750s
user 0m0.000s
sys 0m0.009s
+---------------------------------------------------------------------------------------+
| NVIDIA-SMI 535.261.03 Driver Version: 535.261.03 CUDA Version: 12.2 |
|-----------------------------------------+----------------------+----------------------+
| GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
|=========================================+======================+======================|
| 0 NVIDIA GeForce RTX 3060 On | 00000000:01:00.0 On | N/A |
| 0% 28C P2 41W / 170W | 1420MiB / 12288MiB | 8% Default |
| | | N/A |
+-----------------------------------------+----------------------+----------------------+
+---------------------------------------------------------------------------------------+
| Processes: |
| GPU GI CI PID Type Process name GPU Memory |
| ID ID Usage |
|=======================================================================================|
| 0 N/A N/A 1212 G /usr/lib/xorg/Xorg 112MiB |
| 0 N/A N/A 1786 G xfwm4 2MiB |
| 0 N/A N/A 2183 G /usr/bin/x-www-browser 224MiB |
| 0 N/A N/A 27062 C /usr/bin/ollama 1068MiB |
+---------------------------------------------------------------------------------------+
メモリ使用量(タスクマネージャー)
ollama runner : 812.1MiB
-------------------------------------------------
【生成結果に関する検証】
・紹介ポイントは10箇所。東西南北は無視
・言語混同が発生 (例)「備瀬の cove」
・存在が怪しい地名の生成 (例)「苔原 (山梨県)」「湯まで (大分県)」
・解説文は違和感を感じないレベル(内容の評価を除く)
-------------------------------------------------
gemma3:4b(GPU使用・HDD)
Model
parameters 4.3B
context length 131072
embedding length 2560
quantization Q4_K_M
2026-01-24
total_duration(合計時間) : 34132710934 (34.133s)
load_duration(モデルのロード時間) : 24834279762 (24.834s)
prompt_eval_count(評価されたプロンプトのトークン数) : 26
prompt_eval_duration(プロンプトの評価時間) : 23943584 ( 0.024s)
eval_count(生成トークン数) : 802
eval_duration(生成時間) : 8926385517 ( 8.926s)
real 0m34.150s
user 0m0.013s
sys 0m0.005s
+---------------------------------------------------------------------------------------+
| NVIDIA-SMI 535.261.03 Driver Version: 535.261.03 CUDA Version: 12.2 |
|-----------------------------------------+----------------------+----------------------+
| GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
|=========================================+======================+======================|
| 0 NVIDIA GeForce RTX 3060 On | 00000000:01:00.0 On | N/A |
| 0% 35C P2 42W / 170W | 4212MiB / 12288MiB | 7% Default |
| | | N/A |
+-----------------------------------------+----------------------+----------------------+
+---------------------------------------------------------------------------------------+
| Processes: |
| GPU GI CI PID Type Process name GPU Memory |
| ID ID Usage |
|=======================================================================================|
| 0 N/A N/A 1212 G /usr/lib/xorg/Xorg 112MiB |
| 0 N/A N/A 1786 G xfwm4 2MiB |
| 0 N/A N/A 2183 G /usr/bin/x-www-browser 222MiB |
| 0 N/A N/A 27217 C /usr/bin/ollama 3862MiB |
+---------------------------------------------------------------------------------------+
メモリ使用量(タスクマネージャー)
ollama runner : 1.1GiB
-------------------------------------------------
【生成結果に関する検証】
・紹介ポイントは10箇所。地域分けに疑問はあるものの東西南北毎の出力
・言語混同無し
・存在が怪しい地名の生成無し
・解説文も短文だが違和感を感じないレベル(内容の評価を除く)
-------------------------------------------------
gemma3:12b(GPU使用・HDD)
Model
parameters 12.2B
context length 131072
embedding length 3840
quantization Q4_K_M
2026-01-24
total_duration(合計時間) : 75655802194 (75.655s)
load_duration(モデルのロード時間) : 57467944530 (57.468s)
prompt_eval_count(評価されたプロンプトのトークン数) : 26
prompt_eval_duration(プロンプトの評価時間) : 53318022 ( 0.053s)
eval_count(生成トークン数) : 640
eval_duration(生成時間) : 17837138153 (17.837s)
real 1m15.672s
user 0m0.012s
sys 0m0.006s
+---------------------------------------------------------------------------------------+
| NVIDIA-SMI 535.261.03 Driver Version: 535.261.03 CUDA Version: 12.2 |
|-----------------------------------------+----------------------+----------------------+
| GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
|=========================================+======================+======================|
| 0 NVIDIA GeForce RTX 3060 On | 00000000:01:00.0 On | N/A |
| 0% 44C P2 44W / 170W | 9258MiB / 12288MiB | 7% Default |
| | | N/A |
+-----------------------------------------+----------------------+----------------------+
+---------------------------------------------------------------------------------------+
| Processes: |
| GPU GI CI PID Type Process name GPU Memory |
| ID ID Usage |
|=======================================================================================|
| 0 N/A N/A 1212 G /usr/lib/xorg/Xorg 112MiB |
| 0 N/A N/A 1786 G xfwm4 2MiB |
| 0 N/A N/A 2183 G /usr/bin/x-www-browser 222MiB |
| 0 N/A N/A 27414 C /usr/bin/ollama 8908MiB |
+---------------------------------------------------------------------------------------+
メモリ使用量(タスクマネージャー)
ollama runner : 1.5GiB
-------------------------------------------------
【生成結果に関する検証】
・紹介ポイントは10箇所。地域分けも的確
・言語混同無し
・存在が怪しい地名の生成無し
・指定通り絶景ポイントに限定して紹介(内容の評価を除く)
一部、書式的にポイント名が入るべきと思われる部分に、解説的なワードが記述される事象が発生
「天の川星空（青森県十和田湖周辺）」
-------------------------------------------------
gemma3:27b(GPU使用・HDD)
Model
parameters 27.4B
context length 131072
embedding length 5376
quantization Q4_K_M
2026-01-24
total_duration(合計時間) : 288814576802 (288.815s)
load_duration(モデルのロード時間) : 119495878623 (119.496s)
prompt_eval_count(評価されたプロンプトのトークン数) : 26
prompt_eval_duration(プロンプトの評価時間) : 1192730133 ( 1.193s)
eval_count(生成トークン数) : 868
eval_duration(生成時間) : 167491422650 (167.491s)
real 4m48.824s
user 0m0.000s
sys 0m0.021s
+---------------------------------------------------------------------------------------+
| NVIDIA-SMI 535.261.03 Driver Version: 535.261.03 CUDA Version: 12.2 |
|-----------------------------------------+----------------------+----------------------+
| GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
|=========================================+======================+======================|
| 0 NVIDIA GeForce RTX 3060 On | 00000000:01:00.0 On | N/A |
| 0% 53C P8 19W / 170W | 11616MiB / 12288MiB | 32% Default |
| | | N/A |
+-----------------------------------------+----------------------+----------------------+
+---------------------------------------------------------------------------------------+
| Processes: |
| GPU GI CI PID Type Process name GPU Memory |
| ID ID Usage |
|=======================================================================================|
| 0 N/A N/A 1212 G /usr/lib/xorg/Xorg 112MiB |
| 0 N/A N/A 1786 G xfwm4 2MiB |
| 0 N/A N/A 2183 G /usr/bin/x-www-browser 222MiB |
| 0 N/A N/A 27626 C /usr/bin/ollama 11266MiB |
+---------------------------------------------------------------------------------------+
メモリ使用量(タスクマネージャー)
ollama runner : 8.3GiB
-------------------------------------------------
【生成結果に関する検証】
・紹介ポイントは10箇所。
地域分けは単語的に明確になると思われる東日本・西日本を基本としていると考えられるものの、
東日本に屋久島が入っているなど、12bでも無かったような間違いも存在する
・言語混同無し
・存在が怪しい地名の生成無し
・指定通り絶景ポイントに限定して紹介(内容の評価を除く)
・出典となるサイトの記述あり(プロンプトでの指定無し)
-------------------------------------------------