学習データ

くわしく

AI事業者ガイドラインは、学習を「データを用いてAIモデルのパラメータを決定または改善するプロセス」と定義しています。学習に使うデータは、モデルを作る「訓練データ」、調整に使う「検証データ」、性能を測る「テストデータ」に分けられます。

たとえるなら、学習データはAIにとっての教科書や練習問題です。教科書が偏っていれば、身につく知識も偏ります。ガイドラインの別添は、学習データに特定の属性が過剰に含まれると出力に偏りが生じることがあると説明しています。

生成AIの学習には大量のデータが使われ、Web上の文章や画像が集められることもあります。ガイドラインは「適正学習」として、データの正確性や透明性の確保、法的枠組みの遵守に加え、権利侵害複製物などの違法なコンテンツを学習データに含めないよう留意することを挙げています。NISTは、多くの開発者が具体的な学習データの出どころを公開しておらず、利用者が個人情報が学習されたかどうかを知りにくいと指摘しています。

クリエイターにとってのポイント

• 出口（著作権）：日本では、著作権法第30条の4が、著作物に表現された思想・感情を享受することを目的としない「情報解析」などの利用について権利を制限しています。文化庁の資料は、享受目的が併存する場合は同条が適用されないなど、AI学習との関係を整理しています。
• 出口（依拠性）：文化庁の資料は、AI利用者が既存の著作物を知らなくても、そのAIが当該著作物を学習していた場合、類似した生成物について通常は依拠性があったと推認されうる、と整理しています。
• 入口（情報漏洩）：個人情報保護委員会は、生成AIサービスに入力した個人情報が機械学習に利用されることがあると注意喚起しています。入力が新たな学習データになりうるかは、各サービスの規約で確認する事項です。
• NISTは、学習データに含まれる情報をモデルがそのまま出力する「データの記憶」の問題を挙げています。

具体的な場面の例

• 写真家が、自分のWebサイトに掲載した作品がAIの学習に使われているかを気にする場面。文化庁の資料は、robots.txtなどでAI学習用クローラーのアクセスを制限する技術的措置を、権利者の判断で自由に行えると整理しています。