클라우드 나침반

영업팀 신입사원이 사내 AI 어시스턴트에 "올해 연봉 인상 가이드라인이 뭐예요?"라고 물었더니, 본인은 열람 권한이 없는 인사팀 내부 문서의 내용이 친절하게 인용되어 돌아왔다. 출처 링크는 막혀 있지만, 응답 본문에 핵심 내용이 그대로 박혀 있다. 보안팀에 문의하니 "AI는 그 문서에 접근하지 않았어야 한다"는 답이 돌아온다. 그러나 모델은 이미 답했다. 이미 본 것이다.이 사고는 추상적인 가정이 아니다. RAG(Retrieval-Augmented Generation)를 도입한 사내 챗봇과 AI 어시스턴트에서 가장 흔히 발생하는 권한 경계 붕괴 패턴이다. 검색 단계에서 사용자 권한을 강제하지 않으면, 모델 응답이 곧 권한 우회 경로가 된다. 이 글은 RAG 권한 경계가 무너지는 구조와, 운영자가 어떤 지..

"우리 에이전트는 Prompt Injection 방어가 되어 있나요?" AI Agent 보안 회의에서 가장 먼저 나오는 질문이다. 좋은 질문이지만, 순서가 틀렸다. 공격자가 프롬프트를 조작해 에이전트를 속이는 데 성공했다고 해도, 그 에이전트가 할 수 있는 일이 읽기 전용 조회뿐이라면 피해는 제한적이다. 반대로 프롬프트 방어가 완벽해도 에이전트가 프로덕션 DB에 쓰기 권한을 들고 있고 호출 기록이 어디에도 남지 않는다면, 그 시스템은 이미 위험하다.요약Prompt Injection은 AI Agent 보안의 입구일 뿐 전부가 아니다. 공격이 성공한 뒤 실제 피해 규모를 결정하는 것은 에이전트가 가진 도구 권한, 신원 설계, 데이터 경계, 그리고 감사 로그다. 2025년 12월 공개된 OWASP Top 10..