SHOUJIKE

バイトダンスは、インターンによる大規模モデルトレーニングプログラムの攻撃容疑で告発され、犯人は解雇された。

10月19日、複数のWeChatグループで次のようなメッセージが拡散していると報じられた。「大手テクノロジー企業の大規模モデルのトレーニングが、インターン生による悪意あるコードの注入によって侵害され、トレーニング結果の信頼性が低下し、再トレーニングが必要になる可能性がある。侵害されたコードは8,000枚以上のカードに注入され、その結果生じた損失は1,000万ドルを超える可能性があるとされている。」

街面ニュースによると、この事件に関与した主要企業はByteDanceです。この事件は今年6月に発生し、ByteDanceの商業化技術チームでインターンシップをしていた博士課程の学生が起因しています。この学生はチームのリソース配分に不満を抱き、悪意のあるコードを使ってチームのモデル学習タスクを妨害しました。

現時点では、ByteDanceはこの件に関して公式な回答を出していない。

噂によると、Tianという姓のインターン生がHF(huggingface)の脆弱性を悪用し、社内の共有モデルに悪意のあるコードを注入したため、学習パフォーマンスに一貫性がなくなり、期待通りの結果が得られなかったとのことです。AMLチームは原因を調査できませんでした。しかし、噂が浮上した後、インターンはWeChatグループで噂を否定し、論文発表後にByteDanceを退職し、誰かが脆弱性を悪用してモデルコードを改変し、自分に責任をなすりつけようとしたと主張しました。

街面ニュースによると、バイトダンスは内部調査を実施し、この事件は田(Tian)という名のインターンによって行われたことを確認した。このインターンはその後解雇された。