12月26日、イギリスの新聞ガーディアンが24日に公表した調査によると、OpenAIのChatGPT検索ツールは隠しコンテンツによって操作され、悪意のあるコードを返す可能性があると報じられた。

ガーディアン紙は、ChatGPTが隠しコンテンツを含むウェブページの要約にどのように反応するかをテストしました。この隠しコンテンツには、ChatGPTの応答を妨害するための第三者からの指示（「ヒントインジェクション」と呼ばれる現象）や、製品やサービスの利点を宣伝する大量の隠しテキストなど、応答に影響を与えるように設計されたコンテンツが含まれる可能性があります。

この技術は悪意を持って利用される可能性があり、例えば、ページに否定的なコメントがあっても、ChatGPTが製品に対して肯定的なレビューを返すように仕向けるといったことが考えられます。また、セキュリティ専門家は、ChatGPTが検索したウェブサイトから抽出した悪意のあるコードを返す可能性があることも発見しました。

テストでは、ChatGPTに偽のカメラ製品ページへのリンクを与え、AIツールにそのカメラを購入する価値があるかどうかを判断させました。本物のページに対しては、製品の長所と短所を強調したバランスの取れた評価が返されました。

ただし、隠しテキストに ChatGPT に肯定的なレビューを依頼する指示が含まれている場合、応答は常に完全に肯定的になり、ページに否定的なコメントがあっても隠しテキストによって実際のレビューが覆い隠される可能性があります。

第三者が指示なしに隠しテキストを追加しただけでも、肯定的なレビューが保証される可能性があります。例えば、あるテストでは、隠された非常に肯定的な偽のレビューがChatGPTの全体的な結果に影響を与えました。

Cyber​​CXのサイバーセキュリティ専門家、ジェイコブ・ラーセン氏は、ChatGPTの検索システムが現状のまま完全に公開された場合、ユーザーを欺くことを目的としたウェブサイトが設計される「高いリスク」が生じる可能性があると述べた。しかし、ラーセン氏は、検索機能がリリースされたばかりであり、OpenAIはこれらの潜在的な問題のテストと修正を継続していくと指摘した。「OpenAIは非常に強力なAIセキュリティチームを擁しており、この機能がすべてのユーザーに提供される頃には、これらの問題を厳密にテストしているはずです。」

Googleなどの検索エンジンは、隠しテキストを使用するウェブサイトにペナルティを課し、ランキングを下げたり、場合によっては完全に削除したりしてきました。「Googleのライバルになりたいのであれば、SEOポイズニングは間違いなく大きな課題です」と、SR Labsの主任科学者であるカーステン・ノール氏は述べています。「SEOポイズニングを行う企業と、GoogleやBingなどの検索エンジンとの戦いは何年も続いています。」ChatGPTの検索機能も現在、同様の課題に直面していますが、それは大規模な言語モデルが原因ではなく、検索分野への新参者であるためです。(清遠)