攻撃手法の分類「MITRE ATT&CK」v20、プロンプトインジェクションなどAI関連の手法を追加
サイバー攻撃の手法を分類した知識ベース「MITRE ATT&CK」の v20 が10月13日に公開されました。プロンプトインジェクションや、AIを使ったデータの持ち出しなど、AIに関わる攻撃手法が新しく加わっています。
公表された内容の概要
MITRE ATT&CK は、米国の非営利組織 MITRE が公開している、サイバー攻撃の手法を分類・整理した知識ベースです。セキュリティの担当者が、攻撃の手口を共通の名前と番号で記録・共有するために使われています。
公式のリリースノートによると、10月13日に公開された v20 では「AIに焦点を当てた、またはAIを使った手法」が追加されました。新しく加わった主な手法は次のとおりです。
- Direct Prompt Injection（T1699）：AIに直接、悪意のある指示を入力する手法
- Indirect Prompt Injection（T1698）：AIが読み込む外部の文章などに、悪意のある指示を仕込む手法
- AI-Enabled Exfiltration（T1700）：AIを介してデータを外部へ持ち出す手法
- AI Result Poisoning（T1608.007）：AIの出力結果を汚染する手法
- Anti-Automation Evasion（T1696）：CAPTCHA（ロボットでないことの確認）の自動突破・回避
クリエイターに関係する点
AIツールに資料や外部のWebページを読み込ませて作業する場面では、その中に仕込まれた指示でAIの動作が変えられる「間接プロンプトインジェクション」が、攻撃手法の1つとして整理されたことになります。AIに機密情報やクライアントの資料を入力して使う人にとって、AI経由でのデータの持ち出しが分類に加わった点も関係します。