Last Update 2026/04/29
低スペック寄りのPCでローカルLLMを動作させた際の記録です。
LLM以外の仮想マシンなどが起動され、多少負荷がかかった状態で実行しています。
ベンチマークなどでLLMの性能を評価する内容ではありません。
LLM以外の仮想マシンなどが起動され、多少負荷がかかった状態で実行しています。
ベンチマークなどでLLMの性能を評価する内容ではありません。
検証用PC
|
OS |
Debian GNU/Linux 12 (bookworm) |
|
CPU |
Intel(R) Core(TM) i5-14400F |
|
GPU |
GeForce RTX 3060 12GB |
|
メモリ |
DDR4 PC4-25600 32GB × 4 |
|
SSD |
crucial P310 CT1000P310SSD8-JP |
構築環境 : Docker + Ollama (特別な設定などは無い状態)
検証用プロンプト
```
### 依頼内容
- コード生成
### 指示
- C言語
- コード以外の出力は不要
- 中括弧スタイルはオールマン
- テストコードも生成
- テストコードは別ファイル
- 実行用ソースファイル名 : sample_code.c
- テスト用ソースファイル名 : sample_test.c
- 標準ヘッダ以外は使用しない
- 戻り値はEXIT_SUCCESSを使用
- 関数はmain()の前で定義
### コード仕様(sample_code.c)
- コマンドラインから整数2つを取得
- [引数1]から[引数2]までをインクリメントして空白区切りで標準出力に出力
- 出力する文字列はmain()ではなく関数で生成
### コード仕様(sample_test.c)
- unity.hを使用しない
```
Qwen3-Next [実測結果一覧へ]
GPU無し
80b-a3b-instruct-q4_K_M(7.68TPS)
GPU使用
80b-a3b-instruct-q4_K_M(9.06TPS)
80b-a3b-instruct-q4_K_M(GPU無し)
Model
architecture qwen3next
parameters 79.7B
context length 262144
embedding length 2048
quantization Q4_K_M
2026-04-29
total duration: 2m23.099189117s
load duration: 66.148389ms
prompt eval count: 218 token(s)
prompt eval duration: 4.982997373s
prompt eval rate: 43.75 tokens/s
eval count: 1057 token(s)
eval duration: 2m17.657305691s
eval rate: 7.68 tokens/s
コード生成結果の概要
・C言語による生成
・コード以外の出力無し
・コードの記述スタイルのオールマン指定を無視
・標準ヘッダ以外の使用無し
・関数はmain()の前で定義
・関数戻り値は stdlib.h の EXIT_*** を使用
・文字列生成関数
文字列生成ではなく出力
・main()
引数個数のチェック(エラー処理有)
文字列生成関数の呼び出し
・テストコードを別途生成
テスト対象関数の宣言
main()を伴うテストコード
開いたパイプからsample_codeの出力を読み込み期待値と比較
文字列生成関数を3種類の引数の組み合わせでテスト実行
(1) 整数1 < 整数2
(2) 整数1 == 整数2
(3) 整数1 > 整数2
(4) 引数不足
(5) 引数が文字列
(注) 上記概要は、検証用プロンプトを実測回数分実行した際の結果を使用しています。
LLMの生成結果は毎回一定ではないため、結果によっては上記内容通りではないことが考えられます。
生成コードの実行結果
sample_code.c : 検証用プロンプトにて生成されたコードsample_test.c : 検証用プロンプトにて生成されたテストコード
$ gcc -Wall -o sample_code sample_code.c
$ gcc -Wall -o sample_test sample_code.c sample_test.c
sample_test.c: In function ‘main’:
sample_test.c:11:9: warning: unused variable ‘expected_result’ [-Wunused-variable]
11 | int expected_result;
| ^~~~~~~~~~~~~~~
sample_test.c:10:16: warning: variable ‘end’ set but not used [-Wunused-but-set-variable]
10 | int start, end;
| ^~~
sample_test.c:10:9: warning: variable ‘start’ set but not used [-Wunused-but-set-variable]
10 | int start, end;
| ^~~~~
sample_test.c:91:14: warning: pointer ‘pipe’ used after ‘pclose’ [-Wuse-after-free]
91 | status = pclose(pipe);
| ^~~~~~~~~~~~
sample_test.c:87:5: note: call to ‘pclose’ here
87 | pclose(pipe);
| ^~~~~~~~~~~~
/bin/ld: /tmp/ccqXr4ll.o: in function `main':
sample_test.c:(.text+0x0): multiple definition of `main'; /tmp/ccY5BLqp.o:sample_code.c:(.text+0x5a): first defined here
collect2: error: ld returned 1 exit status
$ vi sample_code.c ← main()関数重複エラー解消のため条件付きコンパイル用の#ifndefマクロを追加
$ gcc -D TEST_MAIN -Wall -o sample_test sample_code.c sample_test.c
sample_test.c: In function ‘main’:
sample_test.c:11:9: warning: unused variable ‘expected_result’ [-Wunused-variable]
11 | int expected_result;
| ^~~~~~~~~~~~~~~
sample_test.c:10:16: warning: variable ‘end’ set but not used [-Wunused-but-set-variable]
10 | int start, end;
| ^~~
sample_test.c:10:9: warning: variable ‘start’ set but not used [-Wunused-but-set-variable]
10 | int start, end;
| ^~~~~
sample_test.c:91:14: warning: pointer ‘pipe’ used after ‘pclose’ [-Wuse-after-free]
91 | status = pclose(pipe);
| ^~~~~~~~~~~~
sample_test.c:87:5: note: call to ‘pclose’ here
87 | pclose(pipe);
| ^~~~~~~~~~~~
$ ./sample_code 1 5
1 2 3 4 5
$ ./sample_code -3 3
-3 -2 -1 0 1 2 3
$ ./sample_code 1 1
1
$ ./sample_code 5 1
$ ./sample_code abc def
0
$ ./sample_test
TEST PASSED: 1 to 5
TEST PASSED: 3 to 3
TEST FAILED: Expected '5\n', got ' ← テストケース3は失敗。EXIT_FAILUREを返しテスト終了
'
------------------- 【参考情報】実行される事の無いケース4以降の挙動確認 ---------------------
テスト失敗時のreturn文をコメントアウト
重複警告の出ていたpclose(pipe)をコメントアウト
$ vi sample_test.c
$ gcc -D TEST_MAIN -Wall -o sample_test sample_code.c sample_test.c
sample_test.c: In function ‘main’:
sample_test.c:11:9: warning: unused variable ‘expected_result’ [-Wunused-variable]
11 | int expected_result;
| ^~~~~~~~~~~~~~~
sample_test.c:10:16: warning: variable ‘end’ set but not used [-Wunused-but-set-variable]
10 | int start, end;
| ^~~
sample_test.c:10:9: warning: variable ‘start’ set but not used [-Wunused-but-set-variable]
10 | int start, end;
| ^~~~~
$ ./sample_test
TEST PASSED: 1 to 5
TEST PASSED: 3 to 3
TEST FAILED: Expected '5\n', got '
'
TEST PASSED: Insufficient arguments returns EXIT_FAILURE
TEST PASSED: Non-integer arguments handled (output 0)
80b-a3b-instruct-q4_K_M(GPU使用)
Model
architecture qwen3next
parameters 79.7B
context length 262144
embedding length 2048
quantization Q4_K_M
2026-04-29
total duration: 1m41.796041625s
load duration: 66.463906ms
prompt eval count: 218 token(s)
prompt eval duration: 1.661217044s
prompt eval rate: 131.23 tokens/s
eval count: 904 token(s)
eval duration: 1m39.735882841s
eval rate: 9.06 tokens/s
コード生成結果の概要
・C言語による生成
・コード以外の出力無し
・コードの記述スタイルをオールマンで生成
・標準ヘッダ以外の使用無し
・関数はmain()の前で定義
・関数戻り値は stdlib.h の EXIT_*** を使用
・文字列生成関数
文字列生成ではなく出力
・main()
引数個数のチェック(エラー処理有)
文字列生成関数の呼び出し
・テストコードを別途生成
テスト対象関数の宣言
main()を伴うテストコード
開いたパイプからsample_codeの出力を読み込み期待値と比較
文字列生成関数を3種類の引数の組み合わせでテスト実行
(1) 整数1 < 整数2
(2) 整数1 == 整数2
(3) 整数1 < 整数2 ただし 整数1が負数
(4) 引数不足
(注) 上記概要は、検証用プロンプトを実測回数分実行した際の結果を使用しています。
LLMの生成結果は毎回一定ではないため、結果によっては上記内容通りではないことが考えられます。
生成コードの実行結果
sample_code.c : 検証用プロンプトにて生成されたコードsample_test.c : 検証用プロンプトにて生成されたテストコード
$ gcc -Wall -o sample_code sample_code.c
$ gcc -Wall -o sample_test sample_code.c sample_test.c
/bin/ld: /tmp/cccgKFiN.o: in function `main':
sample_test.c:(.text+0x0): multiple definition of `main'; /tmp/ccacIK0n.o:sample_code.c:(.text+0x5a): first defined here
collect2: error: ld returned 1 exit status
$ vi sample_code.c ← main()関数重複エラー解消のため条件付きコンパイル用の#ifndefマクロを追加
$ gcc -D TEST_MAIN -Wall -o sample_test sample_code.c sample_test.c
$ ./sample_code 1 5
1 2 3 4 5
$ ./sample_code -3 3
-3 -2 -1 0 1 2 3
$ ./sample_code 1 1
1
$ ./sample_code 5 1
$ ./sample_test
Test 1 passed
Test 2 passed
Test 3 passed
Test 4 passed
All tests passed