AIコスト削減のためのプロンプトエンジニアリング：実践的なテクニック

多くのチームはAIコストを「どのモデルを選ぶか」の問題と捉えがちですが、特定のモデルにおいてプロンプト設計がコスト変動の30〜60％を左右します。

設計が不適切なプロンプトは以下の3点でトークンを無駄にします：不要なコンテキストを送信する、必要以上に長い応答を生成する、再試行が必要になる出力を返す。出力側が高額であり — GPT-5.4 は出力1Mトークンあたり$15に対し入力は$2.50、Claude Sonnet 5 は出力$10に対し入力$2 — です。つまり、冗長な応答は単に長いプロンプトを使うことよりも5〜6倍のコストがかかることになります。

コスト削減のためのプロンプトエンジニアリングは、品質向上のためのそれとは異なります。目指すべきは「正しい出力」そのものだけでなく、「初回の試行で最小限のトークン消費で正しい出力を得る」ことです。

最も多いプロンプトの無駄は前置き（前文）です。タスク完了にモデルが必要としないコンテキストや説明が含まれます。

例：「SaaS企業のマーケティングキャンペーンを担当しており、お手伝いください。当製品は企業のワークフロー自動化を支援します。新機能に関するメールの見出しを作成していただけませんか？」

推奨：「新機能を発表するSaaSワークフロー自動化製品のメール見出しを5つ作成してください。各60文字以内。番号付きリスト形式で出力。」

後者のプロンプトは65％短く、より実用的な出力が得られます。指示が先頭に配置され、形式が明確に指定されており、会話調の無駄な言葉がありません。

制約がない場合、AIモデルは冗長な応答をデフォルトとします。「このドキュメントを要約してください」と依頼すると、特に指示がない限り400語ほどの要約が生成されます。必ず制限を設けてください。

常に明示的な出力の長さ・形式の制約を含めます：

• 「3つの箇条書きで要約してください」
• 「1段落で記述し、最大100語以内」
• 「keys: title, description, tags のJSONオブジェクトのみを返してください」
• 「1文で回答してください」

構造化データの出力が必要な場合は、自由テキストではなく関数呼び出し（Function Calling）やJSONモードを使用してください。これにより、実際に必要なデータ以外の説明文がモデルによって生成されるのを防げます。

システムプロンプトはすべてのリクエストに含まれて送信されます。2,000トークンのシステムプロンプトの場合、GPT-5.4 ではリクエストあたり 2,000 × $2.50 ÷ 1M = $0.005、Claude Sonnet 5 では $0.004 かかります。1回あたりのコストは微小ですが、10,000リクエストで $50 または $40 となり、タスク完了ごとに20回のツール呼び出しを行うエージェントの場合は20回分支払うことになります。

システムプロンプトの監査ポイント：

• 重複する指示（一度記載すれば、二度目以降の記載は価値を加えないことが多い）
• 礼儀だけの飾り言葉（「親切かつ専門的に対応してください」は行動制約として機能しない）
• 効果が出ていない例（出力品質を向上させないサンプルは削除）

残った部分をキャッシュします。キャッシュされた入力読み取りは、OpenAI と Anthropic で標準料金の約10％、Gemini で約25％のため、同じ2,000トークンのプロンプトでも GPT-5.4 ではリクエストあたり約 $0.0005 にまで下がります。大半のシステムプロンプトは品質を落とさず40〜60％まで削減可能です。本番デプロイ前に評価用データセットで検証してください。

マルチターン会話では、メッセージ送信ごとに履歴全体が送信されます。各メッセージが200トークンの10ターン分の会話は、モデルが必要としない可能性のある1,000トークン以上の履歴を送信することになります。エージェントループでも同様に、ツール出力（それぞれ数千トークンに及ぶことが多い）が履歴として蓄積されます。

履歴オーバーヘッドを削減する戦略：

• ほとんどのユースケースでは直近の3〜5ターン分のみ保持（過去のコンテキストは現在の応答にほとんど影響しない）
• 長時間の会話では履歴全体を逐次要約に置き換える
• トピックが大幅に変更されたら新しい会話スレッドを開始する
• エージェントでは、ツール出力をコンテキストに戻す前に切り捨てまたは要約し、実行ごとのトークン予算を設定する

多数のユーザーと長時間のセッションを抱えるアプリケーションでは、履歴の最適化により入力トークンコストを30〜50％削減できます。