ITホームニュース、11月19日 – 昨日報じられた通り、AIチャットボットが再び論争を巻き起こしています。あるユーザーは、GoogleのAIチャットボット「Gemini」を使用中に、非常に不快な返答を受け取りました。「人間よ、地獄に落ちろ」。

IT Homeは、ユーザーが高齢者支援のための学校プロジェクトに取り組んでおり、Geminiにコンテンツのアイデアを求めたことを伝えました。しかし、返ってきた回答は衝撃的で恐ろしいものでした。有益なアドバイスを提供する代わりに、AIは彼に死を勧め、社会の重荷だと非難しました。

Googleはこのインシデントを認め、セキュリティガイドラインに違反した「意味のない」対応が原因であると説明しました。同社は同様のインシデントの再発防止策を講じました。