1. はじめに

前回の記事では、RAG（検索拡張生成：Retrieval-Augmented Generation）の基本構造と、「ベクトル検索」「埋め込み」「プロンプト設計」という3つの技術要素を解説しました。

今回はその中でも、「プロンプト設計」の中核であり、RAG全体の出力品質を左右するシステムプロンプトについて掘り下げます。

RAGの検索と生成の橋渡し役として、システムプロンプトがどのように機能するのかを見ていきましょう。

2. RAGの中でのシステムプロンプトの位置づけ

RAGは主に以下の3ステップで動作します。

1. 検索（Retrieval）

   質問に関連する情報をナレッジベース（例：ベクトルDB）から探す

2. 拡張（Augmentation）

   見つけた情報をLLM（大規模言語モデル）への入力に「追加」して、回答生成を補強する

3. 生成（Generation）

   LLMが検索結果＋質問をもとに自然な文章で回答を生成する

この3つの工程のうち、システムプロンプトが直接関わるのは「生成（Generation）」です。「検索」で得られた情報をどのように提示し、「生成」でどのような文体・制約で出力するかを統制する役割を果たしています。

3. システムプロンプトの基本構造

システムプロンプトは、モデルに「どのような姿勢・方針で回答すべきか」を指示する文です。ChatGPTのような対話型AIでは、ユーザーの入力（user）よりも前に、開発者側が定義します。

例：

あなたは社内ナレッジ検索AIです。

以下に示すコンテキスト情報のみを根拠に、ユーザーの質問に正確に回答してください。

回答に確信が持てない場合は、「情報が見つかりません」と答えてください。

このように明示することで、モデルが「曖昧な推測」や「創作的な補完」を避け、検索結果に基づく回答を一貫して生成できるようになります。

4. RAGにおけるシステムプロンプトの具体的な役割

RAG環境でのシステムプロンプトは、単なる初期設定文ではなく、「検索で得た情報をどのように使って回答するか」を規定する機能を持ちます。
具体的な役割は以下の通りです。

特にRAG構成では、「検索結果をそのまま貼り付けるだけ」ではなく、どのようなルールで生成を行うかを設計することが品質の分かれ目です。

5. 良いシステムプロンプトの条件と例

RAGの精度を高めるためのシステムプロンプトには、次のような特徴があります。

良いプロンプトの特徴

• 情報源を明示し、根拠を限定する

• 回答のフォーマットを指定する（例：要約・箇条書きなど）

• 不明点を曖昧にせず、「わからない」と明示するルールを持つ

良い例と悪い例

良い例：

あなたは企業ナレッジベースAIです。

以下の社内マニュアルの内容のみを参照して回答してください。

根拠が不十分な場合は「情報が見つかりません」と回答してください。

悪い例：

この質問に答えてください。

（曖昧な指示により、LLMが想像で回答を補う可能性が高い）

このように、「制約のある自由」を与えることで、RAGの出力精度が飛躍的に向上します。

6. 実践例：企業ナレッジ活用におけるシステムプロンプト設計

システムプロンプト設計の重要性は、実際の業務ナレッジ検索AIにおいて特に顕著です。たとえば、社内マニュアルやFAQなどのデータをRAG構成で運用する場合、検索精度だけでなく「回答の方針」が明確であることが求められます。そのため多くの企業では、次のようなシステムプロンプトが採用されています。

「以下の社内ナレッジ情報のみを根拠に回答を作成してください。根拠がない場合は『情報が見つかりません』と回答してください。」

このように、検索と生成の間をつなぐ“制御レイヤー”としてシステムプロンプトを設計することで、LLMが推測ではなく根拠に基づいた回答を返すようになります。

Onboarding Sync-AIのご紹介

この記事を読んでシステムプロンプトの重要性は理解いただけたかと思います。しかし多くの場合、システムプロンプトは開発者側が定義します。そのため、ユーザーのニーズに合わせてすぐに改修を行うことが難しい場合が散見されます。

一方、Onboarding Sync-AIでは、管理画面上でシステムプロンプトを設定できるようになっており、非エンジニアでも簡単にシステムプロンプトを編集することが可能です。これによりユーザーの声を反映させる改修がいつでも可能になり、UX向上に大きく寄与します。

また、チャットごとにシステムプロンプトを設定することができ、シーンやページなどごとにAIの働きを制御することが可能です。何度でも編集することもできるので、ユーザーに対してより価値があるプロンプトを試しやすくなります。

詳細についてはこちら

7. まとめ：RAGの完成度を高める「静かな主役」

RAGを理解するうえで、システムプロンプトは一見地味な存在に見えます。しかし実際には、AIがどの情報を、どのように使って、どのように答えるかを決定づける最重要要素です。「どんな情報を検索するか（Retrieval）」と同じくらい、「どう回答を構築させるか（System Prompt）」を設計することが、RAGの本質的な精度向上につながります。

次回の記事では、このシステムプロンプトをさらに深掘りし、実際にどのような書き方・構成にすれば精度が上がるのかを、具体例やテンプレートを交えて解説します。
RAGを運用現場で活かしたい方は、ぜひ続けてご覧ください。