小型言語モデル（SLM）とは？生成AIのコスト・速度・機密性を改善する企業活用ガイド

生成AIの利用部門や処理件数が増えるにつれ、API費用の増加、応答の遅延、機密データの扱いが課題になりやすくなります。高性能な大規模言語モデル（LLM）をすべての処理に利用する構成が、必ずしも最適とは限りません。

そこで注目されているのが、小型言語モデル（SLM：Small Language Model）です。定型的な分類や要約、社内FAQ、端末上での処理などをSLMに任せ、複雑な推論だけをLLMへ振り分ければ、品質を維持しながらコストや応答速度を改善できる可能性があります

本記事では、2026年の市場動向を踏まえ、SLMとLLMの違い、企業で活用しやすい業務、導入手順、失敗を防ぐ評価ポイントを統合型AIサービスを提供するSELF株式会社独自の視点で解説します。

◇小型言語モデルが企業AIで注目される背景

◆AI活用の拡大でコストとガバナンスが課題に

生成AIは、個人の文章作成支援から、顧客対応、社内ナレッジ検索、AIエージェントによる業務自動化へと利用範囲が広がっています。処理件数が増えるほど、モデルの利用料金だけでなく、待ち時間、監視、ログ保存、障害対応を含む運用負荷も大きくなります。

弊社（SELF株式会社）にお問い合わせいただくお客様からも、効率化したい業務量に対する運用コスト、パフォーマンス、セキュリティ要件との適合性を気にされる声が多く聞かれます。

◆小型モデルの性能と選択肢が拡大

2026年4月にIBMが発表したSLM「Granite 4.1」には、3B、8B、30Bのモデルが用意されています。IBMは、企業業務では性能だけでなく、トークンコストや速度も重要であり、指示への対応やツール呼び出しなど、特定用途では小型モデルを選ぶ合理性があると説明しています。
出典：IBM Researchの発表

また、MicrosoftのPhi-4-Miniは38億パラメーターで、性能は同規模のオープンモデルを上回り、一部の数学・コード領域ではより大きなモデルに匹敵する結果が報告されています。
出典：Microsoft Researchの技術報告

この動向からも、モデル選定は「最も大きなモデル」から「対象業務を満たす最小限のモデル」へ移りつつあると考えられます。

SLMを含む言語モデルの多様化が進む今、重要なのは「LLMをSLMへ置き換えること」ではありません。業務の難易度に対して過剰なモデルを使っていないかを見直すことです。

※3B＝30億パラメータ

◇小型言語モデル（SLM）とは

SLMは、文章の理解、分類、要約、生成などを行える、比較的小規模な言語モデルです。LLMより必要なメモリーや計算資源が少なく、社内環境、端末、エッジデバイスなどにも配置しやすい特徴があります。
出典：IBMによるSLMの解説

ただし、SLMを何パラメーター以下とするかについて、厳密な基準はありません。パラメーター数だけではなく、必要な計算資源、対象業務、配置場所（クラウド、オンプレミス、ローカル環境など）との相対的な関係から判断する必要があります。

比較項目	SLM	LLM
得意な処理	分類、抽出、要約、定型回答	複雑な推論、企画、自由度の高い生成
応答速度	速くしやすい	モデルや処理内容により変動
運用コスト	処理量が多い業務で抑えやすい	高性能モデルほど高くなりやすい
配置場所	クラウド、オンプレミス、ローカル環境	主にクラウド。オンプレミス環境に配置可能なモデルもある
汎用性	対象業務を絞るほど活用しやすい	幅広い未知の依頼に対応しやすい

また、モデルの大きさだけで品質は決まりません。業務データ、RAG、指示文、出力形式、評価データを含むシステム全体で評価することが重要です。

◇主要なSLM・軽量言語モデル一覧

SLMは、モデルごとに日本語性能、実行環境、ライセンス、得意な処理が異なります。日本企業が導入候補を選ぶ際は、パラメーター数だけでなく、クラウドサービスとして利用するのか、自社環境へ配置するのかも確認する必要があります。

代表的な候補を整理すると、次のようになります。

モデル	主な特徴	主な導入方法	向いている用途
Microsoft Phi-4-mini	38億パラメーター。日本語を含む多言語に対応し、長文処理やテキスト生成に利用可能	Microsoft Foundry、Hugging Face、ローカル環境	文書分類、要約、社内アシスタント、コード支援
Google Gemma 3／Gemma 3n	1B、4Bなど複数サイズを選択可能。Gemma 3nは画像・音声を含むオンデバイス処理に対応	Vertex AI、Google AI Edge、Hugging Face、ローカル環境	画像付き文書の確認、現場端末、社内検索、マルチモーダル処理
IBM Granite 4.1	3B、8B、30Bを用意。指示追従、ツール呼び出し、RAGなど企業業務を重視	watsonx、Hugging Face、Ollama、vLLM、社内環境	RAG、業務自動化、文書処理、AIエージェント
Mistral AI Ministral 3	3B、8B、14Bを用意。多言語・画像理解・推論に対応し、Apache 2.0で公開	Mistral API、Hugging Face、ローカル環境	多言語対応、画像分析、エッジAI、業務アシスタント
NTT tsuzumi 2	日本語ビジネス文書の理解を重視。1GPUで動作し、オンプレミスやプライベートクラウドに対応	NTTグループの法人向けサービス、オンプレミス環境	機密文書、社内規程、図表付き日本語文書、行政・国内業務
Preferred Networks PLaMo Lite	国内開発のエッジデバイス向け小規模言語モデル	PFN・関連サービスを通じた導入	製造設備、自動車、端末上の日本語処理

▪️Microsoft Phi-4-mini

Phi-4-miniは、Microsoftが提供する38億パラメーターのSLMです。日本語を含む複数言語に対応しており、クラウドとローカルの両方で検証しやすい候補です。Microsoft製品やAzureを利用している企業は、既存の認証・監視基盤と組み合わせやすいモデルです。
出典：Microsoft Foundryのモデル情報

ただし、対応言語に日本語が含まれていても、自社特有の製品名、社内用語、敬語表現まで十分に扱えるとは限りません。実際の想定質問や社内資料を使った評価が必要です。

▪️Google Gemma 3／Gemma 3n

Gemma 3は、1B、4B、12B、27Bから用途に合うサイズを選べるオープンウェイトモデルです。140以上の言語、構造化出力、ファンクションコールに対応し、4B以上では画像入力も扱えます。
出典：Google Developers Blog

端末上での画像、音声、動画、テキスト処理を想定した設計であり、工場や店舗、保守現場など、低遅延や通信環境の制約がある業務に向いています。

Vertex AI Model Gardenからデプロイできるため、Google Cloudを利用している企業はマネージド環境から検証を始められます。

▪️IBM Granite 4.1

Granite 4.1は、企業向けの指示追従、ツール呼び出し、文書理解を重視したモデル群です。3B、8B、30Bの言語モデルに加え、文書画像、音声、埋め込み、ガードレール用モデルも提供されています。

Apache 2.0ライセンスで公開され、watsonx、Hugging Face、Ollama、vLLM、llama.cppなどを通じてクラウドとローカルの両方へ配置できます。
出典：IBM Researchの発表

RAG、AIエージェント、業務システムとのツール連携を、複数の小型モデルで構成したい企業に適しています。

▪️Mistral AI Ministral 3

Ministral 3は、3B、8B、14Bの3サイズで提供されるSLMです。各サイズにBase、Instruct、Reasoningがあり、画像理解と40以上の言語に対応しています。

Apache 2.0ライセンスで公開され、Mistral APIのほか、Hugging Faceなどを通じたセルフホストも可能です。
出典：Mistral AIの発表

多言語での問い合わせ対応や画像を含む業務を、小型モデルで処理したい企業に適しています。

▪️NTT tsuzumi 2

tsuzumi 2はNTTが「軽量なLLM」として提供する国内開発モデルです。厳密にはSLMという名称で提供されていませんが、1GPUで動作し、オンプレミスやプライベートクラウドへ配置できることから、SLMと同じ導入候補として比較できます。機微情報を含む社内文書、規程、報告書を外部の生成AI APIへ送信しにくい企業にとって有力な候補です。
出典：NTTの発表

オープンウェイトモデルのように自社で自由に取得する形とは異なるため、導入時は提供範囲、料金、サポート、個別チューニングの条件の確認が必要です。

▪️Preferred Networks PLaMo Lite

PLaMo Liteは、Preferred Networksが提供するエッジデバイス向けの小規模言語モデルです。自動車、製造設備、専用端末など、クラウドへ常時接続せずに日本語処理を行いたいケースが主な検討対象になります。
出典：Preferred Networksの発表

PLaMo Liteは公開されている詳細仕様が限られるため、導入時点のモデルサイズ、対応ハードウェア、商用条件を個別に確認する必要があります。

◆ API型の小型・高効率モデルも選択肢になる

SLMに近い役割を担うモデルには、パラメーター数が公開されたオープンウェイトモデルだけでなく、クラウドAPIで提供される小型・高効率モデルもあります。

OpenAIのGPT-5.4 miniは、高速性と処理効率を重視したsmall modelとして提供されています。コーディング、画像理解、ツール利用、サブエージェントなどに対応し、大量の処理をクラウドAPIで実行したい企業に向いています。

また、GPT-5.6 Lunaは、GPT-5.6シリーズで最も高速かつ低価格なモデルです。公式情報では、以前のGPT-5シリーズにおけるnanoモデル層におおむね相当し、分類、文書分析、顧客対応の振り分け、AIエージェント内の反復処理など、高頻度の業務を想定しています。

◇ LLM・SLM選定では配置方式も重要

言語モデルの選定にはパラメータサイズやコストの観点も重要ですが、そのほかに大きな分岐点となり得るのが「配置場所」です。

配置方式	メリット	デメリット
クラウド型	導入が速い。高性能モデルを使いやすく、GPUの保守も不要	外部へのデータ送信、従量課金、ベンダー依存への確認が必要
オンプレミス・ローカル型	機密データを社内に閉じやすく、オフライン利用や個別調整も可能	GPUなどの初期投資と、監視・更新・セキュリティを担う体制が必要

クラウド型は、早期導入や処理量の変動が大きい業務に向いています。オンプレミス・ローカル型は、機密文書、設計情報、個人情報を扱う業務や、工場・店舗など通信環境に制約がある現場で検討しやすい方式です。

したがって、モデル選定は次の順番で進めると整理しやすくなります。

1. データのクラウド送信の可否
2. 必要な品質・速度・処理量を定義する
3. 条件を満たす配置方式とモデルを選ぶ

データをクラウドに送信することが可能なのであれば、SLM並みのパラメータ数でAPI経由で手軽に利用できるGPT-5.6 Lunaなどのモデルが有力な候補です。

一方で、業務リスクなどの観点からクラウドにデータを送信したくないのであれば、オンプレミス・ローカル環境で動作するSLMが選択肢となります。

また実務では、定型処理や機密データの加工をローカルSLMで行い、複雑な推論だけをクラウド上の高性能LLMへ渡すハイブリッド構成も有効です。

◇企業でSLMを活用しやすい5つの業務

1．問い合わせの分類と一次回答

カスタマーサポートや社内ヘルプデスクでは、問い合わせ分類、FAQ候補の検索、回答案の生成など、形式が比較的安定した処理が大量に発生します。

定型質問はSLMで回答し、契約判断、苦情、例外対応、感情的な配慮が必要な問い合わせはLLMまたは担当者へ引き継ぐ構成が考えられます。

2．社内文書の要約・分類・情報抽出

議事録の要約、文書へのタグ付け、申請書からの項目抽出、社内規程の分類は、正解形式を定義しやすい業務です。大量処理が必要な場合は、SLMの速度とコスト面の利点が生きやすくなります。

ただし、要約に重要事項の欠落がないか、抽出項目が正しいかを、業務別の評価データで確認する必要があります。

3．営業・マーケティングデータの整理

商談メモからの項目抽出、顧客の関心分類、アンケートの感情分析、コンテンツへのタグ付けなどにもSLMを利用できます。

一方、提案書の構成や顧客別の戦略立案など、複数情報を組み合わせる業務はLLMのほうが適する場合があります。

4．バックオフィスの定型処理

経理、人事、総務、購買では、申請内容の分類、不足項目の検出、定型メールの下書き、社内ルールに基づく案内などが候補になります。

支払い、採用、不利益処分など重要な判断を伴う処理は自動確定させず、人の承認を設けることが欠かせません。

5．通信環境が限られる現場業務

Googleは、オンデバイスSLMとRAG、ファンクションコールを組み合わせ、通信できない現場で部品の画像を確認したり、音声で在庫を更新したりする利用例を示しています。
出典：Google Developers Blog

工場、倉庫、店舗、保守現場などでは、低遅延やオフライン対応がSLMを検討する理由になります。

◇SLMが向かない可能性がある業務

SLMは万能ではありません。次のような業務では、LLMまたは人による対応を優先すべき場合があります。

• 前提条件が毎回大きく変わる企画・戦略立案
• 複数の長文資料を横断する複雑な推論
• 未知の質問に対する幅広い知識が必要な業務
• 法務、財務、人事など重大な判断につながる処理
• 表現の品質や創造性が重視されるコンテンツ制作

また、安全性についても過度な信頼は避けるべきです。小型モデルにもLLM同様に、誤回答、偏り、プロンプトインジェクションなどのリスクはあります。社内や端末に配置することでクラウド上のモデルよりも機密性は高まりますが、これらのリスクを完全に回避できるわけではありません。

◇SLMとLLMを使い分ける企業向け導入手順

ステップ1．処理量が多く、正解を定義できる業務を選ぶ

問い合わせ分類、項目抽出、定型要約など、入力と期待する出力を明確にできる業務から始めます。発生件数、現在の処理時間、誤りが起きた場合の影響も記録します。

ステップ2．LLMを基準に品質を測る

最初からSLMだけを評価するのではなく、同じテストデータをSLM、LLM、現在の人手処理に与えます。正答率だけでなく、応答時間、1件当たりの費用、修正時間を比較します。

ステップ3．RAGや業務ルールで不足知識を補う

社内FAQや商品情報など、更新される知識をすべてモデルに記憶させる必要はありません。RAGで必要な文書を検索し、その範囲内で回答させれば、小型モデルでも対象業務に必要な情報を渡せます。

ステップ4．難しい依頼をLLMへ振り分ける

入力の長さ、質問の種類、検索結果の信頼度、モデルの確信度などを基準に、SLMで処理するかLLMへ送るかを決めます。

SLMが回答できなかった場合のフォールバック先を用意することで、コスト削減を理由に品質を下げる事態を防げます。

ステップ5．権限とデータ経路を設計する

ローカル配置、プライベートクラウド、外部APIのどこで処理するかを明確にします。入力してよい情報、保存するログ、外部送信の可否、モデルが呼び出せるツールを業務ごとに制限します。

ステップ6．品質・コスト・速度を継続評価する

運用開始後は、次の指標を組み合わせて確認します。

• 業務品質：正答率、抽出精度、修正率、有人引き継ぎ率
• 利用価値：処理時間、完了件数、利用継続率
• コスト：1件当たりの推論費用、インフラ費用、監視工数
• 安全性：不適切回答、権限外アクセス、重大な誤処理
• 性能：応答時間、タイムアウト率、LLMへの振り分け率

SLMの回答品質が不足する場合は、すぐにモデルを大きくするのではなく、検索対象、指示文、出力形式、評価データに問題がないかも確認します。

◇適切なモデルサイズを見極めるには

上記のように業務に適した言語モデルを選定するためには、複数のステップが必要です。これをモデルを切り替えながらひとつひとつ検証するには、大変な時間と労力が必要です。

まず、自社がAIを活用しようとしている分野に適したモデルサイズを選定する目的ならば、ひとつのサービスで規模の異なる複数モデルを利用できるサービスを利用することをおすすめします。

たとえば、弊社の提供するSELFBOTは、GPT-5.6 Solといった最新のフラッグシップモデルから、GPT-5.6 LunaやGPT-5.4 miniといったSLMに匹敵するサイズの軽量モデルまで、任意に選択して利用することができます。

モデルの切り替えは提供される管理画面で、数回のクリックだけで完了します。これにより、モデルを変更しながら業務に適したモデルサイズを見極める検証作業を効率的に行うことが可能です。

◇自社の業務に合わせたモデル選定を

小型言語モデルは、生成AIのコスト、応答速度、配置場所を見直す有力な選択肢です。特に、処理量が多く、入出力を定義しやすい分類、抽出、要約、定型回答で活用しやすいと考えられます。

一方、複雑な推論や重要な判断までSLMへ任せる必要はありません。定型処理はSLM、複雑な処理はLLM、重大な判断は人へ振り分ける構成が現実的です。

企業が目指すべきなのは、SLMへの全面移行ではなく、品質・コスト・速度・リスクを業務単位で測り、適切なモデルへ処理を振り分けられるAI運用基盤です。

生成AIやAIチャットボットの運用コスト、回答速度、社内データとの連携に課題を感じている場合は、まず現在の問い合わせや処理ログを分類し、SLMへ移せる定型業務を洗い出してみましょう。

SELFBOTを含む法人向けAIサービスを検討する際は、RAGの検索精度、モデル選択の柔軟性、有人連携、運用後の評価方法を確認し、自社業務のテストデータを使った比較検証から始めることが重要です。