OWASP가 2026년 Agentic Applications Top 10에 ASI06: Memory Poisoning을 새로 추가했고, Palo Alto Unit 42는 ChatGPT의 장기 메모리에 indirect prompt injection을 심어 사용자의 모든 대화를 외부로 빼내는 PoC를 공개했다. 멀티에이전트 환경에서 메모리 유출을 측정한 2026년 연구는 토폴로지가 복잡해질수록 누출이 비선형으로 증가한다고 보고했다. 메모리는 이제 에이전트의 편의 기능이 아니라 공격 표면이 됐다.요약AI Agent의 운영 사고에서 가장 늦게 인지되고 가장 오래 가는 것은 메모리에서 시작된다. 작업 컨텍스트, 세션 메모리, 장기 메모리는 시간이 지날수록 사용자 데이터, 권한 결정, 시스템 비밀을 빨아들이고, 권..
영업팀 신입사원이 사내 AI 어시스턴트에 "올해 연봉 인상 가이드라인이 뭐예요?"라고 물었더니, 본인은 열람 권한이 없는 인사팀 내부 문서의 내용이 친절하게 인용되어 돌아왔다. 출처 링크는 막혀 있지만, 응답 본문에 핵심 내용이 그대로 박혀 있다. 보안팀에 문의하니 "AI는 그 문서에 접근하지 않았어야 한다"는 답이 돌아온다. 그러나 모델은 이미 답했다. 이미 본 것이다.이 사고는 추상적인 가정이 아니다. RAG(Retrieval-Augmented Generation)를 도입한 사내 챗봇과 AI 어시스턴트에서 가장 흔히 발생하는 권한 경계 붕괴 패턴이다. 검색 단계에서 사용자 권한을 강제하지 않으면, 모델 응답이 곧 권한 우회 경로가 된다. 이 글은 RAG 권한 경계가 무너지는 구조와, 운영자가 어떤 지..
장애가 났다. 응답이 갑자기 느려져 로그를 열어 prompt를 들여다본 순간, 사용자가 본인 확인을 위해 입력한 주민등록번호 뒷자리와 카드번호가 그대로 찍혀 있다. 모델 응답 로그에는 내부 시스템 프롬프트에 있던 DB 접속 정보까지 따라 나왔다. 디버깅을 위해 켜둔 평범한 로그 하나가, 그 순간부터 개인정보 유출 사고가 된다.LLM을 서비스에 붙이는 일은 점점 쉬워지고 있다. 그러나 로그와 관측성(Observability) 설계는 일반 웹 애플리케이션 시절의 감각으로 접근하기 어렵다. 입력과 출력 자체가 자유 형식의 자연어이기 때문에, 어떤 데이터가 들어올지 사전에 정의할 수 없고, 어떤 데이터가 나갈지도 보장하기 어렵다. 이 글은 LLM 서비스를 운영할 때 로그에 절대로 그대로 남기면 안 되는 데이터 ..
"우리 에이전트는 Prompt Injection 방어가 되어 있나요?" AI Agent 보안 회의에서 가장 먼저 나오는 질문이다. 좋은 질문이지만, 순서가 틀렸다. 공격자가 프롬프트를 조작해 에이전트를 속이는 데 성공했다고 해도, 그 에이전트가 할 수 있는 일이 읽기 전용 조회뿐이라면 피해는 제한적이다. 반대로 프롬프트 방어가 완벽해도 에이전트가 프로덕션 DB에 쓰기 권한을 들고 있고 호출 기록이 어디에도 남지 않는다면, 그 시스템은 이미 위험하다.요약Prompt Injection은 AI Agent 보안의 입구일 뿐 전부가 아니다. 공격이 성공한 뒤 실제 피해 규모를 결정하는 것은 에이전트가 가진 도구 권한, 신원 설계, 데이터 경계, 그리고 감사 로그다. 2025년 12월 공개된 OWASP Top 10..
AI Agent를 처음 만들면 놀랍도록 빠르게 돌아간다. LLM API를 붙이고, 도구 몇 가지를 연결하고, 간단한 루프를 짜면 데모 영상 하나는 금방 완성된다. 문제는 그 다음이다. 실제 사용자 트래픽이 들어오고, 세션이 수십 개로 늘어나고, 에이전트가 외부 시스템을 호출하는 순간부터 예상치 못한 곳에서 조용히 무너지기 시작한다.요약AI Agent는 일반 웹 애플리케이션과 다른 방식으로 실행된다. 상태를 유지하고, 도구를 연속으로 호출하고, 긴 세션 동안 컨텍스트를 관리해야 한다. 이 모든 것을 애플리케이션 코드 안에서 직접 처리하려 하면 확장과 운영 모두 어려워진다. AI Agent 런타임은 이 문제를 해결하기 위한 별도 운영 계층이다.이 글이 필요한 사람AI Agent 프로젝트를 처음 운영 단계로 ..
데이터 레이크를 구축하고 나서 이런 말을 들어본 적 있을 것이다. "S3에 데이터는 쌓이는데, Redshift에 올리기 전까지는 분석을 못 해요." 데이터는 있는데 쓸 수 없는 상황, 혹은 데이터를 복사해야만 질의가 가능한 상황. 이 문제를 해결하기 위해 등장한 구조가 Lakehouse다.요약Lakehouse는 데이터 레이크의 저장 규모와 데이터 웨어하우스의 질의 성능을 하나의 아키텍처에서 구현하는 데이터 플랫폼 패러다임이다. 2021년 Databricks가 이 개념을 체계화한 이후, AWS와 Azure 모두 공식적으로 Lakehouse 아키텍처를 자사 플랫폼의 기반 개념으로 채택했다. 이 글에서는 왜 Lakehouse가 현재 데이터 플랫폼의 기본 구조로 자리잡았는지, 실무 관점에서 어떤 계층으로 구성되..
매주 AWS 업데이트 이메일을 열어보면 30~50개의 변경 사항이 쌓여 있다. Azure, Kubernetes, Terraform, GitHub Actions까지 합치면 하루에도 수십 개의 릴리스 노트가 업계에 쏟아진다. 이걸 전부 읽는 것은 불가능하다. 더 중요한 것은 — 다 읽을 필요도 없다는 점이다.요약클라우드와 오픈소스 생태계는 빠른 속도로 업데이트를 내놓는다. 운영자에게 필요한 것은 모든 변경 사항을 쫓아가는 것이 아니라, 자신의 운영 환경에 실제로 영향을 주는 업데이트를 빠르게 식별하는 능력이다. 이 글에서는 최근 Kubernetes 1.35와 Microsoft Build 2026에서 발표된 AKS 업데이트를 사례로 삼아, 운영자가 클라우드 업데이트를 읽는 실용적인 필터링 기준을 정리한다.이 ..
ArgoCD 설치 이틀 만에 운영팀에서 긴급 메시지가 왔다. "아무도 시크릿을 어디에 넣어야 하는지 모른다." 배포 자동화는 됐지만, 운영 규칙은 아무것도 정해지지 않은 상태였다. GitOps를 도입하면 배포가 안전해진다는 말은 맞다. 하지만 운영이 저절로 단순해지는 건 전혀 다른 이야기다.요약GitOps는 Kubernetes 배포 자동화의 실질적인 표준이 됐다. CNCF 2025 조사에 따르면 전체 Kubernetes 클러스터의 60%가 Argo CD를 사용하며, 그 중 97%는 프로덕션 환경이다. 하지만 도입 팀의 상당수가 첫 몇 달 안에 예상치 못한 운영 이슈를 마주친다. 이 글은 GitOps가 해결하는 것과 해결하지 못하는 것을 명확히 구분하고, 도입 전에 반드시 점검해야 할 5가지 운영 리스크를..
AIOps는 모니터링 엔지니어의 일을 없애지 않는다. 오히려 더 많은 판단을 요구한다. "AI가 알아서 고쳐 주는 시스템"을 기대했다가 오탐(False Positive) 폭탄을 맞은 팀이 적지 않다. 기본 지표와 로그가 부실한 상태에서 AIOps를 얹으면 잘못된 판단이 더 빠르게 확산될 뿐이다. 이 글은 AIOps를 어떤 맥락에서 받아들여야 하는지, 운영자 관점에서 정리한다.요약AIOps는 모니터링을 없애는 기술이 아니라, 모니터링과 Observability 데이터를 해석하고 운영 흐름으로 연결하는 계층에 가깝습니다. 장애 징후를 더 빨리 묶고, 원인 후보를 좁히고, 반복 대응을 자동화하는 데는 도움이 되지만 기본적인 지표, 로그, 트레이스, 알림 기준이 부실하면 오히려 잘못된 판단을 빠르게 확산시킬 수..
요약DevOps가 개발과 운영의 협업 문화를 강조했다면, Platform Engineering은 그 협업 방식을 조직 안에서 반복 가능하게 만드는 접근이다. 개발자가 매번 인프라, 배포 파이프라인, 권한, 모니터링, 보안 정책을 새로 조립하지 않도록 내부 개발자 플랫폼을 제공하는 것이 핵심이다.최근 클라우드 네이티브 환경에서는 Kubernetes, IaC, CI/CD, 보안 정책, 관측성 도구가 함께 얽히면서 한 팀이 모든 운영 지식을 깊게 이해하기 어려워졌다. 그래서 많은 조직이 DevOps의 원칙을 유지하되, 공통 경로와 셀프서비스 경험을 플랫폼으로 제공하는 방향을 고민하고 있다.이 글을 읽으면 좋은 사람이 글은 DevOps, SRE, 클라우드 운영, Kubernetes, IaC 업무를 하면서 “개발..
- Total
- Today
- Yesterday