Last Update 2026/01/30
低スペック寄りのPCでローカルLLMを動作させた際の記録です。
LLM以外の仮想マシンなどが起動され、多少負荷がかかった状態で実行しています。
ベンチマークなどでLLMの性能を評価する内容ではありません。
(注) GPU無しで計測した際のロード時間がGPU使用時と比べ非常に速い結果となっています。
設定等が関係しているのかもしれませんが、現在のところ特定できていないため、このページの結果を参考値としています。
LLM以外の仮想マシンなどが起動され、多少負荷がかかった状態で実行しています。
ベンチマークなどでLLMの性能を評価する内容ではありません。
(注) GPU無しで計測した際のロード時間がGPU使用時と比べ非常に速い結果となっています。
設定等が関係しているのかもしれませんが、現在のところ特定できていないため、このページの結果を参考値としています。
検証用PC
|
OS |
Debian GNU/Linux 12 (bookworm) |
|
CPU |
Intel(R) Core(TM) i5-14400F |
|
GPU |
GeForce RTX 3060 12GB |
|
メモリ |
DDR4 PC4-25600 32GB × 4 |
|
HDD |
WD80EAAZ[8TB SATA600 5640] |
構築環境 : Docker + Ollama (ほぼデフォルト設定)
検証用シェルスクリプト
(例 : gemma3:1b実行時)
#!/bin/bash
time curl http://localhost:11434/api/chat -d '{
"model": "gemma3:1b",
"messages": [{
"role": "user",
"content": "おすすめの日本の絶景を教えてください。東西南北、10箇所程度。"
}],
"stream": false
}'
Gemma 3
GPU無し(HDD) GPU使用(HDD)gemma3:270m(GPU無し・HDD)
2026-01-23
total_duration(合計時間) : 10416232103 (10.416s)
load_duration(モデルのロード時間) : 505192168 ( 0.505s)
prompt_eval_count(評価されたプロンプトのトークン数) : 26
prompt_eval_duration(プロンプトの評価時間) : 22434850 ( 0.022s)
eval_count(生成トークン数) : 1097
eval_duration(生成時間) : 9390134302 ( 9.390s)
real 0m10.426s
user 0m0.009s
sys 0m0.001s
メモリ使用量(タスクマネージャー)
ollama runner : 595.2MiB
gemma3:1b(GPU無し・HDD)
2026-01-23
total_duration(合計時間) : 22526365385 (22.526s)
load_duration(モデルのロード時間) : 677608652 ( 0.678s)
prompt_eval_count(評価されたプロンプトのトークン数) : 26
prompt_eval_duration(プロンプトの評価時間) : 147853417 ( 0.015s)
eval_count(生成トークン数) : 903
eval_duration(生成時間) : 21084042729 (21.084s)
real 0m22.536s
user 0m0.010s
sys 0m0.000s
メモリ使用量(タスクマネージャー)
ollama runner : 1.2GiB
gemma3:4b(GPU無し・HDD)
2026-01-23
total_duration(合計時間) : 73799834278 (73.799s)
load_duration(モデルのロード時間) : 1500631440 ( 1.501s)
prompt_eval_count(評価されたプロンプトのトークン数) : 26
prompt_eval_duration(プロンプトの評価時間) : 430287722 ( 0.430s)
eval_count(生成トークン数) : 1019
eval_duration(生成時間) : 71181205683 (71.181s)
real 1m13.818s
user 0m0.014s
sys 0m0.006s
メモリ使用量(タスクマネージャー)
ollama runner : 4.1GiB
gemma3:12b(GPU無し・HDD)
2026-01-23
total_duration(合計時間) : 108105725854 (108.106s)
load_duration(モデルのロード時間) : 2044832945 ( 2.045s)
prompt_eval_count(評価されたプロンプトのトークン数) : 26
prompt_eval_duration(プロンプトの評価時間) : 1381347146 ( 1.381s)
eval_count(生成トークン数) : 545
eval_duration(生成時間) : 104293079830 (104.293s)
real 1m48.124s
user 0m0.011s
sys 0m0.012s
メモリ使用量(タスクマネージャー)
ollama runner : 9.3GiB
gemma3:27b(GPU無し・HDD)
2026-01-23
total_duration(合計時間) : 351826407901 (351.826s)
load_duration(モデルのロード時間) : 3079474409 ( 3.079s)
prompt_eval_count(評価されたプロンプトのトークン数) : 26
prompt_eval_duration(プロンプトの評価時間) : 3254843166 ( 3.255s)
eval_count(生成トークン数) : 789
eval_duration(生成時間) : 344903495359 (344.903s)
real 5m51.833s
user 0m0.000s
sys 0m0.023s
メモリ使用量(タスクマネージャー)
ollama runner : 18.4GiB
gemma3:270m(GPU使用・HDD)
2026-01-24
total_duration(合計時間) : 4786213708 (4.786s)
load_duration(モデルのロード時間) : 2530846353 (2.531s)
prompt_eval_count(評価されたプロンプトのトークン数) : 26
prompt_eval_duration(プロンプトの評価時間) : 6315298 (0.006s)
eval_count(生成トークン数) : 707
eval_duration(生成時間) : 1894061065 (1.894s)
real 0m4.836s
user 0m0.009s
sys 0m0.009s
+---------------------------------------------------------------------------------------+
| NVIDIA-SMI 535.261.03 Driver Version: 535.261.03 CUDA Version: 12.2 |
|-----------------------------------------+----------------------+----------------------+
| GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
|=========================================+======================+======================|
| 0 NVIDIA GeForce RTX 3060 On | 00000000:01:00.0 On | N/A |
| 0% 32C P8 18W / 170W | 893MiB / 12288MiB | 34% Default |
| | | N/A |
+-----------------------------------------+----------------------+----------------------+
+---------------------------------------------------------------------------------------+
| Processes: |
| GPU GI CI PID Type Process name GPU Memory |
| ID ID Usage |
|=======================================================================================|
| 0 N/A N/A 1212 G /usr/lib/xorg/Xorg 122MiB |
| 0 N/A N/A 1786 G xfwm4 2MiB |
| 0 N/A N/A 2183 G /usr/bin/x-www-browser 240MiB |
| 0 N/A N/A 20967 C /usr/bin/ollama 514MiB |
+---------------------------------------------------------------------------------------+
メモリ使用量(タスクマネージャー)
ollama runner : 615.9MiB
gemma3:1b(GPU使用・HDD)
2026-01-24
total_duration(合計時間) : 8739992273 (8.740s)
load_duration(モデルのロード時間) : 6149985058 (6.150s)
prompt_eval_count(評価されたプロンプトのトークン数) : 26
prompt_eval_duration(プロンプトの評価時間) : 12083834 (0.012s)
eval_count(生成トークン数) : 474
eval_duration(生成時間) : 2341280313 (2.341s)
real 0m8.750s
user 0m0.000s
sys 0m0.009s
+---------------------------------------------------------------------------------------+
| NVIDIA-SMI 535.261.03 Driver Version: 535.261.03 CUDA Version: 12.2 |
|-----------------------------------------+----------------------+----------------------+
| GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
|=========================================+======================+======================|
| 0 NVIDIA GeForce RTX 3060 On | 00000000:01:00.0 On | N/A |
| 0% 28C P2 41W / 170W | 1420MiB / 12288MiB | 8% Default |
| | | N/A |
+-----------------------------------------+----------------------+----------------------+
+---------------------------------------------------------------------------------------+
| Processes: |
| GPU GI CI PID Type Process name GPU Memory |
| ID ID Usage |
|=======================================================================================|
| 0 N/A N/A 1212 G /usr/lib/xorg/Xorg 112MiB |
| 0 N/A N/A 1786 G xfwm4 2MiB |
| 0 N/A N/A 2183 G /usr/bin/x-www-browser 224MiB |
| 0 N/A N/A 27062 C /usr/bin/ollama 1068MiB |
+---------------------------------------------------------------------------------------+
メモリ使用量(タスクマネージャー)
ollama runner : 812.1MiB
gemma3:4b(GPU使用・HDD)
2026-01-24
total_duration(合計時間) : 34132710934 (34.133s)
load_duration(モデルのロード時間) : 24834279762 (24.834s)
prompt_eval_count(評価されたプロンプトのトークン数) : 26
prompt_eval_duration(プロンプトの評価時間) : 23943584 ( 0.024s)
eval_count(生成トークン数) : 802
eval_duration(生成時間) : 8926385517 ( 8.926s)
real 0m34.150s
user 0m0.013s
sys 0m0.005s
+---------------------------------------------------------------------------------------+
| NVIDIA-SMI 535.261.03 Driver Version: 535.261.03 CUDA Version: 12.2 |
|-----------------------------------------+----------------------+----------------------+
| GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
|=========================================+======================+======================|
| 0 NVIDIA GeForce RTX 3060 On | 00000000:01:00.0 On | N/A |
| 0% 35C P2 42W / 170W | 4212MiB / 12288MiB | 7% Default |
| | | N/A |
+-----------------------------------------+----------------------+----------------------+
+---------------------------------------------------------------------------------------+
| Processes: |
| GPU GI CI PID Type Process name GPU Memory |
| ID ID Usage |
|=======================================================================================|
| 0 N/A N/A 1212 G /usr/lib/xorg/Xorg 112MiB |
| 0 N/A N/A 1786 G xfwm4 2MiB |
| 0 N/A N/A 2183 G /usr/bin/x-www-browser 222MiB |
| 0 N/A N/A 27217 C /usr/bin/ollama 3862MiB |
+---------------------------------------------------------------------------------------+
メモリ使用量(タスクマネージャー)
ollama runner : 1.1GiB
gemma3:12b(GPU使用・HDD)
2026-01-24
total_duration(合計時間) : 75655802194 (75.655s)
load_duration(モデルのロード時間) : 57467944530 (57.468s)
prompt_eval_count(評価されたプロンプトのトークン数) : 26
prompt_eval_duration(プロンプトの評価時間) : 53318022 ( 0.053s)
eval_count(生成トークン数) : 640
eval_duration(生成時間) : 17837138153 (17.837s)
real 1m15.672s
user 0m0.012s
sys 0m0.006s
+---------------------------------------------------------------------------------------+
| NVIDIA-SMI 535.261.03 Driver Version: 535.261.03 CUDA Version: 12.2 |
|-----------------------------------------+----------------------+----------------------+
| GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
|=========================================+======================+======================|
| 0 NVIDIA GeForce RTX 3060 On | 00000000:01:00.0 On | N/A |
| 0% 44C P2 44W / 170W | 9258MiB / 12288MiB | 7% Default |
| | | N/A |
+-----------------------------------------+----------------------+----------------------+
+---------------------------------------------------------------------------------------+
| Processes: |
| GPU GI CI PID Type Process name GPU Memory |
| ID ID Usage |
|=======================================================================================|
| 0 N/A N/A 1212 G /usr/lib/xorg/Xorg 112MiB |
| 0 N/A N/A 1786 G xfwm4 2MiB |
| 0 N/A N/A 2183 G /usr/bin/x-www-browser 222MiB |
| 0 N/A N/A 27414 C /usr/bin/ollama 8908MiB |
+---------------------------------------------------------------------------------------+
メモリ使用量(タスクマネージャー)
ollama runner : 1.5GiB
gemma3:27b(GPU使用・HDD)
2026-01-24
total_duration(合計時間) : 288814576802 (288.815s)
load_duration(モデルのロード時間) : 119495878623 (119.496s)
prompt_eval_count(評価されたプロンプトのトークン数) : 26
prompt_eval_duration(プロンプトの評価時間) : 1192730133 ( 1.193s)
eval_count(生成トークン数) : 868
eval_duration(生成時間) : 167491422650 (167.491s)
real 4m48.824s
user 0m0.000s
sys 0m0.021s
+---------------------------------------------------------------------------------------+
| NVIDIA-SMI 535.261.03 Driver Version: 535.261.03 CUDA Version: 12.2 |
|-----------------------------------------+----------------------+----------------------+
| GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
|=========================================+======================+======================|
| 0 NVIDIA GeForce RTX 3060 On | 00000000:01:00.0 On | N/A |
| 0% 53C P8 19W / 170W | 11616MiB / 12288MiB | 32% Default |
| | | N/A |
+-----------------------------------------+----------------------+----------------------+
+---------------------------------------------------------------------------------------+
| Processes: |
| GPU GI CI PID Type Process name GPU Memory |
| ID ID Usage |
|=======================================================================================|
| 0 N/A N/A 1212 G /usr/lib/xorg/Xorg 112MiB |
| 0 N/A N/A 1786 G xfwm4 2MiB |
| 0 N/A N/A 2183 G /usr/bin/x-www-browser 222MiB |
| 0 N/A N/A 27626 C /usr/bin/ollama 11266MiB |
+---------------------------------------------------------------------------------------+
メモリ使用量(タスクマネージャー)
ollama runner : 8.3GiB