|
10月19日、複数のWeChatグループで次のようなメッセージが拡散していると報じられた。「大手テクノロジー企業の大規模モデルのトレーニングが、インターン生による悪意あるコードの注入によって侵害され、トレーニング結果の信頼性が低下し、再トレーニングが必要になる可能性がある。侵害されたコードは8,000枚以上のカードに注入され、その結果生じた損失は1,000万ドルを超える可能性があるとされている。」 街面ニュースによると、この事件に関与した主要企業はByteDanceです。この事件は今年6月に発生し、ByteDanceの商業化技術チームでインターンシップをしていた博士課程の学生が起因しています。この学生はチームのリソース配分に不満を抱き、悪意のあるコードを使ってチームのモデル学習タスクを妨害しました。 現時点では、ByteDanceはこの件に関して公式な回答を出していない。 噂によると、Tianという姓のインターン生がHF(huggingface)の脆弱性を悪用し、社内の共有モデルに悪意のあるコードを注入したため、学習パフォーマンスに一貫性がなくなり、期待通りの結果が得られなかったとのことです。AMLチームは原因を調査できませんでした。しかし、噂が浮上した後、インターンはWeChatグループで噂を否定し、論文発表後にByteDanceを退職し、誰かが脆弱性を悪用してモデルコードを改変し、自分に責任をなすりつけようとしたと主張しました。 街面ニュースによると、バイトダンスは内部調査を実施し、この事件は田(Tian)という名のインターンによって行われたことを確認した。このインターンはその後解雇された。 |
バイトダンスは、インターンによる大規模モデルトレーニングプログラムの攻撃容疑で告発され、犯人は解雇された。
関連するおすすめ記事
-
クアルコムとアームが法廷へ:チップライセンス紛争が激化
-
Zhiji AutoはMomentaと提携し、「ワンステージ、エンドツーエンドの直感的なインテリジェント運転モデル」を共同で開発した。
-
カリフォルニア州の火力発電所で火災が発生し、避難が引き起こされたが、マスク氏はテスラのメガパックエネルギー貯蔵システムは正常に機能していると明らかにした。
-
ミンチー・クオ氏は、iPhone SE 4 が今年 2,000 万台近く出荷されると予測しています。
-
テスラ サイバートラックの所有者の報告: 納車後 3 日以内にオイル漏れの問題が発生し、修理には 1 か月かかる見込み。
-
Apple の Web サイトにまたしても失態がありました。「iPhone」が「iPone」と誤って記載されています。