반응형 OWASPLLMTop101 LLM 보안의 큰 그림: 프롬프트가 아니라 신뢰 경계를 보라 LLM 보안은 단순히 “이상한 답변을 막는 기술”이 아닙니다.핵심은 모델, 프롬프트, 컨텍스트, 도구, 출력이 연결되는 흐름에서 무엇을 신뢰하고 있는지 확인하는 일입니다.Prompt Injection은 그 흐름 안에서 신뢰 경계가 무너질 때 어떤 일이 벌어지는지 보여주는 대표적인 출발점입니다. LLM 보안을 어떤 관점으로 해석할지 정리해봐야 합니다. LLM 애플리케이션을 처음 보면 대부분 “챗봇이 이상한 답변을 했다”, “모델이 말을 안 들었다”, “프롬프트가 뚫렸다” 정도로 이해하기 쉽습니다. 하지만 보안 관점에서는 조금 다르게 봐야 합니다. 문제는 단순히 모델이 이상하게 반응했다는 데 있지 않습니다. 더 중요한 질문은 이것입니다.이 시스템은 무엇을 신뢰된 것으로 취급하고 있었는가?사용자 입력을 신뢰했.. 2026. 7. 2. 이전 1 다음 반응형
