RAG（検索拡張生成）

くわしく

RAGはRetrieval-Augmented Generationの略で、2020年の論文（Lewisほか）で提案された手法がもとになっています。AI事業者ガイドラインの別添は、この論文の定義を引いて、事前学習済みのモデルに「検索ベースの記憶」を組み合わせた言語生成モデルと紹介しています。

たとえるなら、記憶だけで答える人に、答える前に資料棚を調べてもらう方式です。別添は、企業で社内文書やデータベースを検索して回答精度を高める使い方や、Webをリアルタイムに検索して最新の情報で答える使い方を挙げています。効果としては、ハルシネーションの抑制、参照元の明示による透明性の向上、再学習なしでデータを足せることによるコスト低減が期待されています。

一方、ガイドラインは、RAGを使うと回答が似通っていく（収束する）可能性が高く、多様性・独創性が必要な業務には適さない場合があるとも記しています。文化庁の「AIと著作権に関する考え方」も、RAGを個別の論点として取り上げています。

クリエイターにとってのポイント

• 入口（情報漏洩）：RAGでは、検索対象として社内文書や取引先の資料などをAIに読み込ませることになります。どの資料を検索対象に入れるかが、入力する情報の線引きと直結します。
• 出口（著作権）：文化庁の資料は、RAGのための著作物の複製について、出力時に元の著作物の創作的表現を出力させる目的がある場合は著作権法第30条の4が適用されないと整理しています。そのうえで、第47条の5による利用は「軽微利用」に限られ、それを超える場合は原則として権利者の許諾が必要と考えられる、としています。
• AI事業者ガイドラインは、RAGを使う場合、検索・参照するデータの最新性・信頼性の確保に留意するよう求めています。
• OWASPは、RAGを使ってもプロンプトインジェクションを完全には防げないとしています。

具体的な場面の例

• 制作会社が、過去の企画書や議事録をまとめてAIに検索させ、新しい提案書の下書きを作る仕組みを導入する場面。検索対象に他社から預かった資料が含まれていないか、出力に既存記事の文章がそのまま長く含まれていないかが、確認ポイントになります。