2月17日、2024年10月にショート動画プラットフォーム上で小米（シャオミ）CEOの雷軍（レイ・ジュン）氏がナレーションを担当した動画が大量に登場し、さまざまなナレーションの模倣やパロディが次々と登場したと報じられた。

実際、これらのビデオの音声はレイ・ジュン本人のものではなく、AIによるナレーションです。

起業家の雷軍氏を嘲笑したり、張文紅博士のAI生成音声・動画クリップを作成して自社製品を宣伝したり、AIを使って詐欺目的でディープフェイク動画を作成する犯罪者もいる。

過去1年間で、AIディープシンセシスを使用して作成されたオーディオおよびビデオコンテンツの著作権侵害が激化しました。

最近、CCTVニュースはAIが生成した有名人の音声およびビデオ録画の混乱を暴露した。

以前、一部のネットユーザーがAIで生成したアンディ・ラウの声を使ってトラフィックを獲得していました。アンディ・ラウの映画会社は緊急声明を発表し、ネットユーザーに対し、アンディ・ラウの声を偽造するAI音声合成技術詐欺に陥らないよう注意を促しました。

CCTVの報道によると、AIによる深層音声合成と動画合成はそれほど難しくないことが判明しました。実際、一部のショッピングプラットフォームでは、AI深層合成技術が多くのオンラインストアの収益化ツールとして活用されています。わずか数十元で、AIが生成した有名人の音声と動画をカスタマイズできます。

専門家によると、関連法規では他人の情報を許可なく作成・公開することは禁止されていると明確に規定されているという。

AIを活用し、ディープシンセシスで著名人の動画を作成する依頼を受けるオンラインストアは著作権侵害にあたり、相応の法的責任を負うべきである。

さらに、著名人だけでなく、一般人やアニメキャラクターであっても、本人や著作権者の許可なくAIを用いて音声や動画が作成された場合には著作権侵害に該当し、法的責任を負うことになる。（SEVENTEEN）