# AI 에이전트와 프롬프트 인젝션 보안

[원문](https://www.linkymeadow.com/w/bf45e6/)

마지막 수정: 2026-10-05 19:50 (KST)

외부 문서를 읽고 도구를 실행하는 AI 에이전트의 프롬프트 인젝션, 권한 제한, 격리와 검증을 다룬 자료입니다.

## 에이전트의 위협과 권한 설계

- [AI Agent Security Cheat Sheet — OWASP](https://cheatsheetseries.owasp.org/cheatsheets/AI_Agent_Security_Cheat_Sheet.html) · 영문

  에이전트의 도구·메모리·신뢰 경계와 권한 통제, 보안 테스트 기준을 정리합니다.
- [Excessive Agency — OWASP GenAI](https://genai.owasp.org/llmrisk/llm062025-excessive-agency/) · 영문

  과도한 기능·권한·자율성이 잘못된 모델 출력의 피해를 키우는 사례와 완화책을 설명합니다.
- [MCP Security Cheat Sheet — OWASP](https://cheatsheetseries.owasp.org/cheatsheets/MCP_Security_Cheat_Sheet.html) · 영문

  MCP 도구와 서버가 만드는 공격 표면, 도구 설명 조작과 인증·권한 경계를 다룹니다.

## 프롬프트 인젝션과 다층 방어

- [LLM Prompt Injection Prevention Cheat Sheet — OWASP](https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html) · 영문

  직접·간접 프롬프트 인젝션과 입력·출력 검사, 지시와 데이터 분리 등의 방어 방법을 정리합니다.
- [프롬프트 쉴드 — Microsoft Learn](https://learn.microsoft.com/ko-kr/azure/ai-services/content-safety/concepts/jailbreak-detection) · 한국어

  사용자 프롬프트와 외부 문서에 포함된 공격을 감지하는 기능과 한계를 설명합니다.
- [간접 프롬프트 삽입 공격으로부터 방어 — Microsoft Learn](https://learn.microsoft.com/ko-kr/security/zero-trust/sfi/defend-indirect-prompt-injection) · 한국어

  외부 콘텐츠의 신뢰 경계를 구분하고 여러 방어 계층을 조합하는 설계 방법을 안내합니다.
- [Microsoft Copilot 프롬프트 심층 방어 — Microsoft Learn](https://learn.microsoft.com/ko-kr/microsoft-365/copilot/copilot-prompt-defense-in-depth) · 한국어

  프롬프트 처리 단계별 보호와 외부 콘텐츠에 포함된 악의적 지시에 대응하는 구조를 설명합니다.

## 격리와 구현 자료

- [Security Best Practices — Model Context Protocol](https://modelcontextprotocol.io/docs/2026-07-28/tutorials/security/security_best_practices) · 영문

  MCP 인증과 연결에서 발생할 수 있는 보안 위험과 구현 시 준수할 방어 원칙을 정리합니다.
- [Mitigating the risk of prompt injections in browser use — Anthropic](https://www.anthropic.com/research/prompt-injection-defenses) · 영문

  브라우저를 사용하는 에이전트의 프롬프트 인젝션 방어와 평가 방법, 남은 한계를 다룹니다.
- [How we contain Claude across products — Anthropic](https://www.anthropic.com/engineering/how-we-contain-claude) · 영문

  도구 실행과 네트워크 접근을 제한하고 에이전트를 격리하는 방어 구조를 설명합니다.

## 강연·영상

- [IBM Technology · What Is a Prompt Injection Attack?](https://www.youtube.com/watch?v=jrHRe9lSqqA) · 영문 영상
- [IBM Technology · Securing AI Agents: How to Prevent Hidden Prompt Injection Attacks](https://www.youtube.com/watch?v=5ZA1lTxTH3c) · 영문 영상

## 연관 문서

- [AI·에이전트](https://www.linkymeadow.com/w/dd12dc/)
- [접근 제어 모델과 권한 설계 원칙](https://www.linkymeadow.com/w/c39c1a/)
- [외부 URL 검증과 SSRF 방어](https://www.linkymeadow.com/w/26375c/)
- [API 키·토큰과 비밀정보 관리](https://www.linkymeadow.com/w/2ede4e/)