Anthropic、AIモデルの停止条件を定める法案の草案を米議会に提示と報道

Politicoの報道を伝えたInteresting Engineeringの記事（10月16日）をもとにまとめます。

報じられている内容

Politicoが入手した非公開の草案の内容として、次の点が伝えられています。

• 停止できる条件：10億ドルを超える損害、または50人を超える死者・重傷者につながる差し迫ったおそれがある場合に限り、政府はモデルの公開や利用を止められる
• 対象となる場面：生物兵器の作成、モデルの管理外への流出、サイバー攻撃の3つに限るとされる
• 停止の手続き：商務省がワシントンD.C.の連邦地裁に求め、裁判所の命令で停止する。ほかの連邦機関が独自に開発を止めることはできないとされる
• 開発企業の義務：安全対策の枠組みを作ること、透明性の報告書を公表すること、重大な事故を報告することなどが含まれる。商務省に登録した第三者の評価者が、義務を守っているかを評価する仕組みも盛り込まれているとされる

Interesting Engineeringは、Anthropicの広報担当者が草案の方針を支持する趣旨のコメントを出したと伝えています。Forbes JAPANに掲載されたコラムは、AIの緊急停止を「誰が、どのような条件で決めるのか」をめぐって論争が起きていると紹介しています。

クリエイターに関係する点

米国で、最先端のAIモデルを提供する企業にどのような安全対策を求め、どんな場合に提供を止められるようにするかをめぐる議論の1つです。草案は報道で伝えられた段階のもので、法律として成立したものではありません。