12月23日、近年の人工知能（AI）技術の急速な発展は社会に多くの利便性をもたらす一方で、セキュリティリスクも伴っていることが報じられました。特にディープフェイク技術は、非常にリアルでありながら本物らしくない動画や画像を生成する能力を有しており、既に一連の社会問題を引き起こしており、大きな脅威となっています。

CCTVニュースによると、AIを悪用してディープフェイクを作成し、有名人になりすます事例が今年相次いでいる。例えば、つい最近も犯罪者がAI技術を駆使し、張文紅医師の顔と声を偽造してライブ配信ECサイトに掲載し、プロテインバー1,200本以上を販売した。

さらに、有名人のアンディ・ラウとレイ・ジュンもAI偽造の標的となりました。アンディ・ラウの声が悪意を持ってショートビデオのトラフィック増加に利用されたため、彼の映画会社は複数の声明を発表し、世間への警告を発しています。

専門家は、現在のAI技術はディープラーニングを用いて、時には写真と音声サンプルだけで他人の顔と声を簡単に複製できると指摘しています。しかし、この技術にも欠陥がないわけではありません。例えば、偽動画は通常ライブ配信されておらず、顔の輪郭や背景のブレンドといった細部に欠陥があります。視聴者は、特にリップシンクや音声の正確さを注意深く観察することで、これらの欠陥に気付くことができます。

専門家によると、他人の画像や音声を無断で使用することは著作権侵害に当たる。民法およびサイバーセキュリティ法に基づき、発行者は損害賠償や刑事責任を含む罰則を受ける可能性がある。一方、有名人を装って商品を販売するAIに騙された消費者は、消費者権利保護法に基づき、購入価格の3倍に加え、返金を請求できる。

専門家らはまた、ショート動画プラットフォームに対し、主たる責任を負い、違法コンテンツを速やかに削除し、信用管理とパブリッシャーに対する懲罰措置を実施するよう求めた。（元陽）