1月10日、Fast Technologyは、チベット自治区シガツェ市ディンリ県で発生した地震が全国の人々の心を揺さぶっていると報じた。しかし、この悲痛な時期に、一部の悪意ある人物がAI技術を利用してデマを拡散し、注目を集めようとしている。

本日、Douyinのセキュリティセンターは、「災害時におけるAI生成コンテンツの不適切な使用」問題への対処に関する発表を発表しました。

発表によると、チベット自治区で最近発生した地震災害を受け、 AI技術を不適切に利用して災害シナリオをオンライン上で生成する事例が複数発生し、災害救援活動に支障をきたしている。プラットフォームは、地震に関する23,652件の虚偽情報に対して厳正な措置を講じ、関連する説明を発表した。

Douyinは、一部のユーザーがAI生成の災害画像を投稿する際に、それを「祝福を祈る」目的の「芸術作品」とみなしており、主観的に「噂を広める」意図はなかったことを発見した。

ここでDouyinは、AI生成コンテンツは現実とフィクションの境界を容易に曖昧にする可能性があることを改めて強調しています。クリエイター、ストリーマー、ユーザー、マーチャント、広告主、そしてプラットフォームエコシステムのその他の参加者は、Douyinで生成型AI技術を適用する際に、以下のガイドラインを遵守する必要があります。

1. パブリッシャーは、特に混同しやすいシナリオにおいて、他のユーザーが仮想と現実を区別できるように、AI 生成コンテンツに明確なラベルを付ける必要があります。

2. コンテンツがどのように生成されたかに関係なく、パブリッシャーは AI によって生成されたコンテンツの結果に対して責任を負います。

3. 仮想ユーザーはプラットフォームに登録する必要があり、仮想ユーザーテクノロジーのユーザーは実名認証を受ける必要があります。

4. 生成型人工知能技術を用いた著作権侵害コンテンツの作成および公開は禁止されており、肖像権および知的財産権の侵害を含みますが、これに限定されません。違反行為はプラットフォームによって厳重に処罰されます。

5. 生成型人工知能技術を用いて、常識に反するコンテンツ、詐欺的なコンテンツ、または噂を広めるコンテンツを作成または公開することは禁止されています。発見された場合、プラットフォームは厳格な罰則を課します。

Douyinは2023年と2024年に「AI生成コンテンツに関するプラットフォーム規範と業界イニシアチブ」と「AI生成仮想キャラクターの不適切使用のガバナンスに関するお知らせ」を相次いで発表し、低品質の創作にAI生成仮想キャラクターを使用することを奨励せず、科学的常識に反する、詐欺的、または風説を流布するコンテンツを公開するためにAI生成仮想キャラクターを違法に使用した場合、厳しく処罰すると明確にしました。

最近、「シガツェ地震」などのキーワードとともに、「瓦礫に埋もれた小さな男の子」の写真がインターネット上で拡散していることがわかった。中でも、「帽子をかぶった小さな男の子が瓦礫の下に閉じ込められている」写真は複数のアカウントに投稿され、多くのリポスト、コメント、いいねを獲得している。

しかし、この画像は実際の地震の光景ではなく、AIによって生成されたものです。この画像は2024年11月18日に初めて公開されましたが、投稿者は地震との関連性を示唆しておらず、AIによって生成されたものであると述べています。

メディアの報道によると、調査の結果、青海省のネットユーザーが注目を集めようとして、「埋葬された少年の写真」とシガツェ地震に関する情報を断片的に集めて偽りの表現をし、大衆に混乱と誤解を与え、噂を広めたことが明らかになった。

現在、関係者は法律に基づき地元公安当局により行政拘留されている。