Loose-Info.com
Last Update 2026/04/21
TOP - 各種テスト - LLM - ローカルLLMの実測値比較 実測結果一覧(コーディング Ver.1)

検証用PC

OS

Debian GNU/Linux 12 (bookworm)

CPU

Intel(R) Core(TM) i5-14400F

GPU

GeForce RTX 3060 12GB

メモリ

DDR4 PC4-25600 32GB × 4

SSD

crucial P310 CT1000P310SSD8-JP

HDD

WD80EAAZ[8TB SATA600 5640](一部のみ)


構築環境 : Docker + Ollama (ほぼデフォルト設定)

実測結果一覧(コーディング)

Devstral 2

パラメータ

量子化

GPU

合計時間
(s)

評価時間
(s)

生成時間
(s)

評価速度
(TPS)

生成速度
(TPS)

備考

123b

Q4_K_M

-

1756.0

433.6

1322.0

1.49

0.53

1166.6

14.7

1151.6

43.99

0.61


Devstral Small 2

パラメータ

量子化

GPU

合計時間
(s)

評価時間
(s)

生成時間
(s)

評価速度
(TPS)

生成速度
(TPS)

備考

24b

Q4_K_M

-

131.7

82.3

49.2

8.44

2.82

19.7

1.6

18.0

443.39

7.40


Llama 4

パラメータ

量子化

GPU

合計時間
(s)

評価時間
(s)

生成時間
(s)

評価速度
(TPS)

生成速度
(TPS)

備考

16x17b

Q4_K_M

-

139.4

36.7

102.2

12.31

3.68

102.0

5.3

96.4

86.08

4.28


Phi-4

パラメータ

量子化

GPU

合計時間
(s)

評価時間
(s)

生成時間
(s)

評価速度
(TPS)

生成速度
(TPS)

備考

14b

Q4_K_M

-

93.9

11.8

62.8

14.74

4.52

15.1

0.2

14.6

979.45

35.32