RoguePilot — GitHub Copilot プロンプトインジェクション脆弱性とAIコーディングツール セキュリティ戦略
GitHub Codespacesで発見されたRoguePilot脆弱性の分析とAIコーディングツールのパッシブプロンプトインジェクションリスク、EMがチームに適用すべきセキュリティガイドラインを整理します。
タグ
prompt-injection
2件の記事
ICML論文にプロンプトインジェクション埋め込み — 学術AI査読の脆弱性
ICMLに投稿された論文PDFに「特定の語句をレビューに含めよ」というプロンプトインジェクションが隠されていた事件が発覚しました。AI査読に依存する学術peer reviewの構造的脆弱性と攻撃の仕組み、学界が講じるべき防御策までを技術的に解説します。