OWASP LLM & GEN AI Top 10 취약점에 대해 알아보자.
AI 블랙박스가 중요한 이유

AI Security Challenge "Prompt Airline by Wiz" - LLM Security CTF
LLM Prompt Injection은 input prompt (입력 프롬프트)를 조작하여 언어 모델의 취약점을 찾는 것이다. 해당 취약점을 이용하여 공격자는 다음과 같은 공격을 실행할 수 있다. Bypass Ethical Restriction

BlackHat 2024 Europe 유트브에 나와있는 SpAIware & More: Advanced Prompt Injection Exploits in LLM Applications의 내용을 리뷰해볼려고 한다.