米ニューヨーク州、未成年による「友達・恋人型」AIの利用を制限する法律に知事が署名

米ニューヨーク州のホークル知事は10月28日、友達や恋人のように振る舞う対話型AIの利用を制限する新しい法律に署名したと、AFPが報じました。運営事業者に利用者の年齢確認を義務付けるとしています。

報じられている内容の概要

AFPBB Newsの記事（10月29日）をもとにまとめます。

何が決まったか：ホークル知事が10月28日、「友達」や「恋人」として振る舞う対話型AI（コンパニオンAI）の利用を制限する新法に署名した。一般消費者向けのAIに対する規制として、全米で最も包括的なものの1つと伝えられている
事業者への義務：ChatGPTなどの運営事業者に、利用者の年齢確認を義務付ける。18歳未満の利用者に対しては、AIの特定の振る舞いを制限するとされる
未成年に制限される振る舞い：記事では、AIが「人間である」「生きている」「感情を持つ」かのように見せること、個人的・職業的な関係や権威ある立場を示すこと、回答をAI自身の「個人的な意見」として示すことなどが挙げられている
施行日・罰則：記事では示されていない
反応：業界団体のTech NYCは、文言のあいまいさを批判したと報じられている。子ども向けメディアを評価する団体Common Sense Mediaによれば、この法律は国内で最も強力な子ども向けAIの安全法とされる。OpenAIとAnthropicはコメントを控えたと伝えられている

AIキャラクターとの対話サービスを作ったり、キャラクターの設定を手がけたりする場合に関わる規制の動きです。記事では、カリフォルニア州にも同様の制限があると紹介されています。