韓国でAI音声の捏造などの疑いで送致　俳優キム・スヒョンさんをめぐる名誉毀損事件

俳優キム・スヒョンさんについて虚偽の事実を広めた疑いで、故キム・セロンさんの母親らが検察に送致されたと、韓国のNewsenの記事を配信したKstyleが報じています。捜査機関が確認した捏造資料には、生成AIで作った音声が含まれていたとされています。

報じられている内容の概要

Kstyle（10月26日）の記事をもとにまとめます。いずれも捜査段階の疑いで、裁判で確定した事実ではありません。

何があったか：俳優キム・スヒョンさんについて虚偽の事実を広めた疑いなどで、故キム・セロンさんの母親らが検察に送致された。故人の父親は不起訴処分になったとされる
適用された容疑：情報通信網法違反（虚偽事実の摘示による名誉毀損）、性暴力犯罪処罰特例法の違反（撮影物の頒布）、強要未遂など。ほかに弁護士やYouTubeチャンネルの運営者も、それぞれ名誉毀損などの疑いで送致されたと報じられている
AIに関わる点：捜査機関が確認した虚偽・捏造資料として、メッセージアプリ「カカオトーク」のやりとりの偽造・変造と、AI音声の捏造が挙げられている。記事は「生成AIを用いて故人の声を操作・流布した疑い」と伝えている

生成AIで作った実在の人物の声が、捏造された証拠として出回ったとされる事例です。声を生成するAIの使い方をめぐって、捜査機関が具体的に問題にした例として報じられています。