외부 문서를 읽고 도구를 실행하는 AI 에이전트의 프롬프트 인젝션, 권한 제한, 격리와 검증을 다룬 자료입니다.
에이전트의 위협과 권한 설계
-
AI Agent Security Cheat Sheet — OWASP · 영문
에이전트의 도구·메모리·신뢰 경계와 권한 통제, 보안 테스트 기준을 정리합니다.
-
Excessive Agency — OWASP GenAI · 영문
과도한 기능·권한·자율성이 잘못된 모델 출력의 피해를 키우는 사례와 완화책을 설명합니다.
-
MCP Security Cheat Sheet — OWASP · 영문
MCP 도구와 서버가 만드는 공격 표면, 도구 설명 조작과 인증·권한 경계를 다룹니다.
프롬프트 인젝션과 다층 방어
-
LLM Prompt Injection Prevention Cheat Sheet — OWASP · 영문
직접·간접 프롬프트 인젝션과 입력·출력 검사, 지시와 데이터 분리 등의 방어 방법을 정리합니다.
-
프롬프트 쉴드 — Microsoft Learn · 한국어
사용자 프롬프트와 외부 문서에 포함된 공격을 감지하는 기능과 한계를 설명합니다.
-
간접 프롬프트 삽입 공격으로부터 방어 — Microsoft Learn · 한국어
외부 콘텐츠의 신뢰 경계를 구분하고 여러 방어 계층을 조합하는 설계 방법을 안내합니다.
-
Microsoft Copilot 프롬프트 심층 방어 — Microsoft Learn · 한국어
프롬프트 처리 단계별 보호와 외부 콘텐츠에 포함된 악의적 지시에 대응하는 구조를 설명합니다.
격리와 구현 자료
-
Security Best Practices — Model Context Protocol · 영문
MCP 인증과 연결에서 발생할 수 있는 보안 위험과 구현 시 준수할 방어 원칙을 정리합니다.
-
Mitigating the risk of prompt injections in browser use — Anthropic · 영문
브라우저를 사용하는 에이전트의 프롬프트 인젝션 방어와 평가 방법, 남은 한계를 다룹니다.
-
How we contain Claude across products — Anthropic · 영문
도구 실행과 네트워크 접근을 제한하고 에이전트를 격리하는 방어 구조를 설명합니다.
강연·영상
- IBM Technology · What Is a Prompt Injection Attack? · 영문 영상
- IBM Technology · Securing AI Agents: How to Prevent Hidden Prompt Injection Attacks · 영문 영상