IT Homeは11月24日、国家安全部のWeChat公式アカウントが11月23日に記事を掲載したと報じた。記事では、人工知能（AI）技術の急速な発展に伴い、ディープフェイク技術が徐々に私たちの生活に入り込んできており、驚きと利便性をもたらす一方で、数々のリスクと潜在的な危険も露呈しており、対策を講じなければ国家安全保障を脅かす可能性もあると指摘している。IT Homeは記事の要点を以下のようにまとめている。

見たものが必ずしも信じられるとは限らず、聞いたものが必ずしも真実とは限らない。

ディープフェイク技術は、「ディープラーニング」と「フェイク」を組み合わせた技術で、人工知能（AI）におけるディープラーニングアルゴリズムを自動データ処理に活用し、画像、音声、動画をインテリジェントにシミュレート・偽造します。これには、動画の偽造、音声の偽造、偽のオンラインIDの偽造などが含まれます。ディープフェイク技術の登場により、非常にリアルで検知困難な音声・動画コンテンツの改ざんや生成が可能になり、本物と偽物の区別が非常に困難になっています。

ビデオ偽造技術。これは、提供された人物の写真から顔の特徴を別の人物の画像に「転写」することで、「外見を偽装する」という目的を達成するものです。

音声偽造技術。「ボイスクローニング」技術を活用し、対象者の音声を忠実に再現します。

偽のオンラインID偽造技術。偽のプロフィールを作成する際に、偽造された顔が生成され、ID情報に添付され、真の身元が隠されます。

インテリジェントな変革は現実であり、リスクと課題も現実です。

ディープフェイク技術は、画像、音声、動画を生成する優れた能力により、急速に新興技術ツールへと成長しました。しかし、これは諸刃の剣でもあります。操作が簡単で参入障壁が低いため、高度に欺瞞的な映像・音声の偽造を見抜くことが困難になる一方で、潜在的な破壊力とセキュリティリスクがますます高まっています。

ディープフェイク技術は個人の権利を侵害する可能性があります。悪意のある個人はディープフェイク技術を用いて他人の個人情報を容易に盗み、肖像権、プライバシー権、その他の権利を侵害する可能性があります。中には、ディープフェイク技術を詐欺に利用する犯罪者もおり、財産の安全に対する真の脅威となっています。

ディープフェイク技術は、社会不安や信頼の危機を引き起こす可能性があります。いつでもどこでも大量のフェイクニュースを生み出し、世論に影響を与え、パニックを引き起こす可能性があります。人々がディープフェイクの危険性に気づくにつれて、偽情報の網に迷い込み、事実に疑念を抱くようになるかもしれません。

ディープフェイク技術は国家および公共の安全を脅かす可能性があります。一般産業で利用されるだけでなく、諜報機関が「認知戦」を遂行するための新たなツールとなる可能性もあります。ディープフェイク技術の出現により、一部の外国諜報機関は、諜報手法の改良にディープフェイク技術をさらに活用し、勧誘、転覆工作、名誉毀損、国民の欺瞞といった活動に利用する可能性があります。

国家安全保障当局は

ディープフェイク技術がもたらす機会と課題の両方に直面して、私たちは開発と安全保障を調整し、安全保障意識を高め、国家の安全保障と社会の安定を共同で守らなければなりません。

テクノロジーの利用には注意が必要です。一般市民、特に機密情報を扱う重要な立場にある人々は、個人のプライバシーを保護するための予防措置を講じる必要があります。国家機密、企業秘密、個人のプライバシーといった機密情報を関連ソフトウェアに入力したり、機密情報をオンラインで発信したりしてはなりません。

情報セキュリティは確保されなければならない。関連プラットフォーム企業は情報セキュリティ管理を強化し、関連情報の安全な保管と伝送を確保するために必要な技術的措置を講じ、情報の漏洩、紛失、不正利用を防止する必要がある。同時に、ディープフェイク技術を用いて公開されるコンテンツの検証を強化し、法的「レッドライン」と倫理的「ボトムライン」を遵守していることを確認する必要がある。

疑わしい情報には注意してください。関連する視聴覚コンテンツは慎重に扱い、オンラインで転送する前に複数の情報源から情報の信頼性を確認し、噂を広めず、公式チャネルを通じて発表された情報のみを信頼してください。

国家安全部は、国家安全保障の維持はすべての国民の避けられない責任であり義務であると述べています。国民がディープフェイク技術を利用して国家安全保障を脅かす兆候を発見した場合、12339国家安全保障ホットライン、オンライン通報プラットフォーム（www.12339.gov.cn）、国家安全部のWeChat公式アカウント、または地域の国家安全保障機関に直接通報することができます。