RoguePilot — GitHub Copilot 프롬프트 인젝션 취약점과 AI 코딩 도구 보안 전략
GitHub Codespaces에서 발견된 RoguePilot 취약점 분석과 AI 코딩 도구의 패시브 프롬프트 인젝션 위험, EM이 팀에 적용해야 할 보안 가이드라인을 정리합니다.
태그
prompt-injection
2개 글
ICML 논문에 프롬프트 인젝션 삽입 — 학술 AI 심사의 취약성
ICML에 제출된 논문 PDF에 "특정 문구를 리뷰에 포함하라"는 프롬프트 인젝션이 숨겨진 사건이 발각됐습니다. AI 심사에 의존하는 학술 peer review의 구조적 취약성과 공격 원리, 실제 위험 시나리오, 그리고 학계가 마련해야 할 방어책까지 기술적으로 해설합니다.