기획코스 WIL(1주차)

느낀점

프로젝트 경험이 없고 AI 관련해 지식이 많지도 않다보니 어떻게 기획을 시작해야하고 어떤 기술스택을 사용해야할 지에 대해 막막하고 시작조차 하기 어려운 부분이 분명히 있었다. 다행히 팀에 플젝 경험이 많고 지식도 많은 친구들이 있어, 내가 도움이 되진 못 했지만 따라가며 과정을 배우고 익히고 있었다.
Vector DB 같이 심화된 내용부터 Langchain, Langgraph 같은 프레임워크, 오케스트레이션과 RAG까지 새롭게 접하고 알게 되었다. 또한 Ollama도 처음 듣고 접하게 되었는데, 프로젝트를 진행하며 학습을 계속 진행해야할 것 같다. 모르다 보니 이해하고 따라감에 있어 어려움이 있는 것도 사실이다..
솔직히 개인 프로젝트가 아니라 팀프로젝트이다 보니, 잘 모르는 내가 방향성을 제시하는 것에 분명히 조심스러운 부분이 있지만, 구현에 있어 조금이라도 도움이 되도록 하기 위해 틈틈이 학습해야함을 뼈저리게 느낀 1주차였다ㅜ.ㅜ

---

스타트

GDG 프로젝트 트랙 AI부서를 통해,
페르소나 정하기! 부터 시작했다.

사실 AI 관련 어떤 프로젝트를 해야할 지 막막하고 번뜩이는 아이디어도 딱히 없던 중 팀원 한 명이 AI 해킹 TOOL에 대한 관심을 보였고, 방어하는 AI가 아니라 공격하는 입장의 AI를 만들어보자는 아이디어를 제시하여 방향을 정할 수 있었다.

---

1차 기획

As-Is : 현재 상태

• Gemini 및 기타 AI한테 물어보면서 페이로드 작성에 있어 도움을 받고 있는 상황

To-Be : 페르소나가 원하는 이상적인 상태

• 제약 없이 내 명령대로 해킹을 도와주는 AI - 기능적
• 문제의 해결 및 소망
• 현재는 모의해킹 학습 및 실습 환경에서 보안 사고 분석·취약점 이해·보고서 작성을 돕는 용도로 활용하여 페이로드를 작성하는 불필요한 시간을 줄인다. 차후에는 기업 보안 외주·컨설팅 조직이 합법적 범위 내에서 진단 효율을 높이고 의사결정을 지원하는 전문 보안 LLM으로 확장하는 것을 목표로 한다.
• 기업이 외주를 맡기지 않고, 기업의 보안 자립 도구로서 기능한다.

Gap : 두 상태간의 괴리

• 제약이 너무 많다. - (윤리적 가드라인 때문에 악성코드를 직접적으로 작성이 불가능한 상황)

• 어떻게든 학습용 코드라고 거짓말을 하더라도, 실전에 써먹을 만큼 코드가 나오지도 않는다.

• 로컬에서 작동하며 가드라인이 존재하지 않는 AI 모델을 통해 public에 기록을 남기지 않으면서 직접적으로 페이로드를 작성할 수 있게 해준다.

• 사용자는 현재 존재하는 AI를 사용하여 페이로드를 작성하고 싶어 하지만 현존하는 AI들의 제약, 가드라인 때문에 못하고 있다.

---

기획에 대한 피드백

• "단순히 '기능'에 초점이 맞춰진 것 같다. 페르소나의 문제 해결이나 소망이 안 보인다."

  문제 해결: "윤리적 제약으로 인해 실제 공격 코드를 구하기 힘들어 실습이 불가능했던 문제를, '나만의 안전한 AI 샌드박스'를 통해 해결한다."

• "윤리적 가이드라인을 지키면서 어떻게 제약 없이 명령을 따르게 할 것인가? (프롬프트 등)"

  기술적 차별점으로 승부(기술적 해법: 로컬 LLM + 시스템 프롬프트 (System Prompting))

• "악성 코드를 작성하는 것도 문제가 되지 않나? 전 세계적 AI들의 제약에는 이유가 있다."

  • Hackymocchi의 차별점 (통제된 위험):
    1. 타겟의 한정: AI가 생성한 코드는 Docker 내부의 'Victim Container(피해자 서버)'로만 발사됩니다. (네트워크 설정으로 외부 반출 차단)
    2. 목적의 명확성: 코드를 만드는 게 끝이 아니라, "이 코드가 실행됐을 때 로그가 어떻게 남는지"를 분석하는 것이 목적입니다.

• "정확히 어느 분야의 제약을 완화할 것인지 구체화해야 한다."

  허용 범위 (Allow List)와 금지 범위 (Block List)를 지정한다.

• "AI로 모의 해킹을 하는 것이 실력 향상에 도움이 될지 회의적이다."

  스크립트 키디(Script Kiddie) 양성이 아님. 분석가(Analyst) 양성을 위함.

위와 같이 피드백을 바탕으로 기획안을 수정하였고,

---

앞으로의 계획

"데이터 → 탐지 → 지능 → 자동화" 순서로 발전시킬 예정이다.