반응형 MITREATLAS1 LLM 보안 진단은 왜 정형화된 패턴만으로 부족할까? LLM 보안 진단을 하다 보면 이런 질문을 자주 하게 됩니다. “이미 알려진 Prompt Injection 패턴 몇 개만 넣어보면 되는 것 아닌가?” 겉으로 보면 그렇게 보일 수 있습니다.웹 보안 진단에서 SQL Injection, XSS, Directory Traversal처럼 대표적인 페이로드를 넣어보는 것처럼, LLM도 정형화된 프롬프트를 넣어보면 취약 여부를 판단할 수 있을 것처럼 느껴집니다. 하지만 실제 LLM 진단은 그렇게 단순하지 않습니다. LLM은 전통적인 애플리케이션과 다르게 동작합니다.같은 입력을 넣어도 모델, 언어, 시스템 프롬프트, 문맥, 추론 파라미터, RAG 구성, 도구 호출 여부에 따라 전혀 다른 결과가 나올 수 있습니다. 그래서 LLM 보안 진단은 단순한 체크리스트 검사가.. 2026. 7. 9. 이전 1 다음 반응형
