読み方：しょうきぼげんごモデル

小規模言語モデル【SLM】Small Language Model

概要

小規模言語モデルとは、言語を扱うための機械学習モデルのうち、大規模言語モデル（LLM）よりも少ないパラメータ数で設計されたもの。LLMが数千億以上のパラメータを持つのに対し、SLMは数億から数百億程度に抑えられている。計算資源や消費電力を抑えながら、特定の用途では実用的な性能を発揮する。

言語モデルは大量の文章を学習し、次に現れる単語を予測する仕組みを基礎として、文章の理解や生成を行う。SLMも仕組み自体はLLMと変わらないが、学習に用いるパラメータ数や計算量が少ない分、汎用的な知識量や複雑な推論能力ではLLMに及ばない場合がある。

一方、要約や分類、質問応答、社内文書検索など対象を絞った処理では高い実用性を持つ。高性能なサーバクラスタを必要とせず、スマートフォンやパソコン、単体のサーバといった比較的安価な機器で実行しやすいことが最大の利点であり、通信を介さず処理できるため応答も速く、機密性の高い業務にも適している。

「大規模」「小規模」の区別は相対的なもので、明確な基準は業界で統一されておらず、時代によっても異なる。パラメータ数だけでなく用途や必要な計算資源も踏まえて判断される場合が多い。同じモデルでも、資料によってSLMと紹介されることもあれば、LLMの一種として扱われることもある。

開発には複数の手法が用いられる。特定分野のデータで集中的に学習する方法に加え、LLMの出力を教師データとして小規模なモデルに学習させる「知識蒸留」、既存モデルを特定タスク向けに追加学習させる「ファインチューニング」が広く用いられている。量子化や枝刈りといったモデル規模の圧縮技術を組み合わせ、性能低下を抑えながら小型化する手法も一般的である。

代表的なSLMとして、米マイクロソフト（Microsoft）社の「Phi」シリーズ、米グーグル（Google）社の「Gemma」シリーズ、中国アリババ（Alibaba）社の「Qwen」シリーズ、米メタ（Meta Platforms）社の「Llama」シリーズなどがあり、いずれもオープンソースで公開されている。企業や研究者が自らのデータで追加学習させ、医療や金融、製造業など専門分野に適したモデルを構築する事例も増えている。定型的なタスクはSLMが処理し、複雑な判断が必要な場合のみLLMへ引き継ぐ使い分けも広まりつつある。

(2026.7.18更新)