SLMと知識グラフ：実用的なAIへの鍵

ここ最近、LLM（大規模言語モデル）の進展が注目を集め、ほぼ毎週新たな突破口が報じられています。これらのモデルは、トレーニングコストが低く、より賢くなっているため、ではなぜその小さな兄弟であるSLM（小規模言語モデル）に注目する必要があるのでしょうか。

実用的なAIを提供しようとする開発チームにとって、重要なのは「焦点」と「適応性」です。LLMは汎用的でドメイン特化型でないタスクに適している一方、AIがビジネスの文脈で本当に役立つためには、SLM、あるいはSLM同士が連携してLLMをサポートする形が賢明な選択となることが多いのです。

その理由は、トップレベルの推論エンジンが示すように、汎用AIを特定のタスクや数値計算に使うのは過剰であり、リスクを伴うことがあるからです。例えば、DeepSeek R1は6710億のパラメーターを持つ「エキスパートの混合」構成を使用していますが、1回のクエリにおいてアクティブ化されるパラメーターは最大でも370億にとどまります。