AIエージェント

くわしく

AI事業者ガイドライン（第1.2版）は、AIエージェントを「特定の目標を達成するために、環境を感知し自律的に行動するAIシステム」と定義しています。ここでの「自律」は高度なものに限らず、ある程度の自律性を持つものも含むとされています。Googleの用語集も、利用者の代わりに行動を計画・実行するソフトウェアと説明しています。

チャット型AIが「質問に答える相談相手」だとすると、AIエージェントは「用事を任せられる代理人」に近い存在です。同ガイドラインの別添は、複数のシステムやアプリと連携し、状況に応じた判断をしながら、人手に頼っていた調整や分析を自動化できる点を利点として挙げています。

一方で別添は、自律的な動作の中で、人間が意図しない商品の注文やファイル削除などを行う可能性があるとも指摘しています。また、入力経路や外部連携が増えるため攻撃を受けうる範囲が広がり、悪意あるプロンプト攻撃のリスクが高まることが懸念されるとしています。

クリエイターにとってのポイント

• 入口（情報漏洩）：エージェントはメール・ファイル・Webページなど多くの情報を読み込みます。AI事業者ガイドラインの別添は、外部連携が増えることでデータ汚染や悪意あるプロンプト攻撃のリスクが高まると懸念しています。
• 出口（外への送信・公開）：別添は、意図しない注文やファイル削除などの可能性を挙げています。OWASPは、影響の大きい操作の前に人の承認を必須にすること、与える権限や機能を必要最小限にすることを対策として挙げています。
• AI事業者ガイドラインは、AI利用者が提供者の定めた利用上の留意点を守り、想定された範囲内で使うことを求めています。

具体的な場面の例

• 個人で活動する動画クリエイターが、AIエージェントにメール対応とSNSの予約投稿を任せる場面。エージェントがどのアカウントや受信箱にアクセスでき、投稿や送信の前に本人の確認が入る設定になっているかが、確認ポイントになります。