12月16日、AI技術の急速な発展が多くの利便性をもたらした一方で、新たな詐欺の手口も生み出しているというニュースが報じられました。最近のメディア報道では、AI技術が著名人になりすまし、不適切なオンラインマーケティングに利用されている事例が取り上げられています。

この現象を受けて、WeChat Coral Security公式アカウントは「マーケティングやプロモーションのために有名人になりすますAIの利用に対抗するためのお知らせ」と題する告知を出した。

発表によると、WeChatは安全で健全かつ環境に優しいプラットフォームエコシステムの構築に注力しています。ユーザーの権利を保護し、消費者が騙されることを防ぐため、ユーザーからの報告と定期的な検査に基づき、AIを用いて著名人になりすまし、不適切なマーケティングや悪質なトラフィック生成を行うといった違反行為を迅速かつ厳格に取り締まり、これらの問題に対処するための特別キャンペーンを開始しました。これまでに、合計532件のコンテンツが対処され、209件のアカウントが閉鎖されました。代表的な事例は以下の通りです。

WeChatは今後、「AIを用いて著名人を装い、マーケティングやプロモーションを行う」といった違反行為への取り締まりを強化し、技術ガバナンス能力をさらに向上させ、健全なエコシステムを維持していきます。同時に、ユーザーの皆様には、法令およびプラットフォームのルールを意識的に遵守していただくよう促しています。AI生成コンテンツを利用した違法コンテンツの作成に関しては、ネットユーザーの皆様からの更なる情報提供を歓迎し、共にクリーンで秩序あるオンライン環境を構築していきます。（于鋒）