ICML論文にプロンプトインジェクション埋め込み — 学術AI査読の脆弱性
ICMLに投稿された論文PDFに「特定の語句をレビューに含めよ」というプロンプトインジェクションが隠されていた事件が発覚しました。AI査読に依存する学術peer reviewの構造的脆弱性と攻撃の仕組み、学界が講じるべき防御策までを技術的に解説します。
タグ
1件の記事
ICMLに投稿された論文PDFに「特定の語句をレビューに含めよ」というプロンプトインジェクションが隠されていた事件が発覚しました。AI査読に依存する学術peer reviewの構造的脆弱性と攻撃の仕組み、学界が講じるべき防御策までを技術的に解説します。