융합 동아리

동아리 목적

temp0.7은 생성형 AI를 단순히 결과물 생성 도구로 소비하는 것이 아니라,
AI 모델의 작동 원리, 프롬프트 설계, 데이터 처리 방식, 모델의 한계와 편향을 이해하고
이를 실제 문제 해결에 적절히 활용하는 방법을 탐구하는 융합 학술 동아리이다.

본 동아리는 금융 데이터 분석, 경량 LLM 실험, 머신러닝 모델 학습, 웹 서비스 연동 프로젝트를 통해
생성형 AI를 똑똑하게 사용하는 역량을 기르는 것을 목표로 한다.

융합 동아리 목표

로컬 경량 LLM 모델을 직접 학습/파인튜닝하고, 머신러닝 실험 환경을 확보한 뒤, 학습된 모델을 웹 서비스와 API 형태로 연동하는 것

플랫폼 비교

후보	잘 맞는 목적	장점	단점
Hugging Face	경량 LLM 탐색, 파인튜닝, 모델 배포, API 연동	오픈소스 LLM 모델이 가장 많고 Qwen, Llama, Gemma, Phi 등을 바로 비교할 수 있다. 학습한 모델을 업로드하고 API 엔드포인트로 배포하기 쉽다.	GPU 학습 환경 자체는 GCP, AWS, Azure보다 제한적일 수 있어 큰 학습에는 외부 GPU 환경이 필요할 수 있다.
GCP	Vertex AI 기반 학습, GPU 실험, Cloud Run 배포	Colab/Jupyter 환경에 익숙하면 접근하기 쉽다. Vertex AI, Cloud Storage, Cloud Run 조합으로 ML 학습부터 배포까지 연결하기 좋다.	결제 계정과 카드 등록 과정이 번거로울 수 있고, 처음에는 서비스 종류가 많아 헷갈릴 수 있다.
Azure	Azure Machine Learning, Azure OpenAI, 모델 배포	VS Code, GitHub와의 연동이 좋고 Azure Machine Learning으로 학습 및 배포 환경을 구성할 수 있다.	오픈소스 LLM을 직접 탐색하고 실험하는 과정은 Hugging Face보다 덜 직관적일 수 있다.
AWS	SageMaker, S3, Bedrock, 모델 배포	ML 학습과 배포 실무 파이프라인에 강하다. SageMaker, S3, Bedrock 등을 활용해 학습, 저장, API 연동을 구성할 수 있다.	처음 배우기에는 가장 복잡하고 SageMaker 비용 구조도 이해하기 어려울 수 있다.
RunPod	저렴한 GPU 학습	GPU를 비교적 저렴하게 빌려 LLM 학습이나 실험을 진행하기 좋다.	모델 저장, 배포, 서비스 관리까지 직접 구성해야 하므로 초보자에게는 운영 부담이 있다.

Hugging Face 고려할 만한 모델

모델	크기	장점	단점	추천 용도
Qwen3-0.6B	0.6B	매우 가벼워 로컬 테스트가 쉽고 빠르게 실험할 수 있다.	모델 크기가 작아 복잡한 응답이나 추론 성능은 제한적이다.	첫 실습, 모델 구조 이해
Qwen3-1.7B	1.7B	가볍지만 기본 성능이 괜찮아 동아리 실습용으로 적당하다.	고난도 추론이나 긴 문맥 처리에는 한계가 있을 수 있다.	로컬 파인튜닝, 챗봇 실습
Qwen3-4B	4B	성능과 실습 난이도의 균형이 좋고 실제 서비스 프로토타입에 활용하기 좋다.	1B급 모델보다 GPU 메모리 요구량이 높다.	웹 서비스 연동, API 배포
Llama-3.2-1B	1B	Meta 계열 대표 경량 모델로 자료가 많고 학습용으로 적합하다.	특정 태스크나 한국어 성능은 추가 튜닝이 필요할 수 있다.	LLM 구조 학습
Llama-3.2-3B	3B	챗봇, 질의응답 등 실제 서비스 실험에 적당한 크기다.	더 작은 모델보다 실행 비용과 학습 부담이 커진다.	챗봇, 질의응답 서비스
Gemma 3 1B	1B	Google 계열 경량 모델로 비교 실험에 활용하기 좋다.	사용 전 라이선스와 사용 조건을 확인해야 한다.	모델 비교 실험
Gemma 3 4B	4B	경량 모델 중 성능 기대치가 높고 다양한 실험에 활용할 수 있다.	로컬 GPU 환경이 없으면 학습과 추론이 부담될 수 있다.	성능 비교, 서비스 실험
Phi-4-mini	3.8B	추론, 교육형 태스크, 문제풀이형 서비스에 강점이 있다.	범용 챗봇 용도로는 다른 모델과 성능 비교가 필요하다.	학습 도우미, 문제풀이

Azure에서 쓸 수 있는 모델/서비스 구분

구분	설명	목적과의 관련성
Azure Machine Learning	머신러닝 학습, 실험 관리, 모델 등록, 엔드포인트 배포를 하는 Azure의 ML 플랫폼	머신러닝 환경 확보와 학습 모델 배포에 적합
Azure AI Foundry Model Catalog	Microsoft, Meta, Mistral, Hugging Face 등 여러 모델을 탐색하고 배포할 수 있는 모델 카탈로그	오픈소스/상용 모델을 API 형태로 배포할 때 유용
Azure OpenAI Service	GPT 계열 모델을 Azure 환경에서 API로 호출하는 서비스	직접 학습보다는 상용 LLM API 연동 실험에 적합
Azure Container Apps	FastAPI 같은 모델 서버를 컨테이너로 배포하는 서비스	직접 학습한 모델을 웹 서비스와 연결할 때 적합
Azure Blob Storage	데이터셋, 학습 결과, 모델 파일 저장소	학습 데이터와 모델 파일 저장에 필요

Azure에서 고려할 만한 모델

모델	크기	장점	단점	추천 용도
Phi-4-mini	3.8B	Microsoft의 경량 모델로 Azure AI Foundry와 잘 맞고, 추론/교육형 태스크에 강점이 있다.	범용 챗봇 성능은 Qwen, Llama 계열과 비교가 필요하다.	학습 도우미, 문제풀이, 추론형 서비스
Phi-4	14B	Phi 계열 중 성능이 높고 복잡한 추론 태스크에 적합하다.	로컬 경량 학습 목적에는 다소 무겁다.	고성능 추론 실험, 비교 모델
Llama 3.2 1B	1B	가볍고 로컬 실험에 적합하며 Azure AI Foundry/Hugging Face 흐름 모두에서 다루기 좋다.	성능은 제한적이다.	첫 로컬 LLM 실습
Llama 3.2 3B	3B	챗봇과 질의응답 프로토타입에 적당한 크기다.	1B 모델보다 학습 및 추론 비용이 증가한다.	웹 서비스 프로토타입
Mistral / Ministral 계열	3B급 이상	추론 성능과 실사용성이 좋은 편이며 Azure AI Foundry에서 선택 가능하다.	모델별 라이선스와 배포 조건 확인이 필요하다.	API 배포, 성능 비교
Hugging Face 모델	다양함	Azure AI Foundry와 Azure ML에서 Hugging Face 모델을 배포할 수 있다.	모든 모델이 같은 방식으로 쉽게 배포되는 것은 아니므로 지원 여부 확인이 필요하다.	오픈소스 모델 배포 실험

플랫폼별 비용/크레딧 비교

플랫폼	무료 크레딧/지원	결제 방식	비용 관점 장점	비용 관점 단점
Azure	Azure for Students 기준 $100 크레딧 제공, 12개월 사용 가능, 신용카드 불필요	사용량 기반 과금	학생 인증만으로 시작 가능하고 카드 등록 부담이 적다. Azure Machine Learning, Blob Storage, Container Apps 등을 크레딧으로 실험할 수 있다.	$100은 GPU 학습에는 금방 소진될 수 있다. GPU VM이나 Azure ML Compute를 켜둔 채로 두면 비용이 빠르게 증가한다.
GCP	신규 고객 기준 $300 크레딧 제공, 91일 사용 가능	사용량 기반 과금	크레딧 금액이 가장 크다. Vertex AI, Cloud Storage, Cloud Run, Compute Engine GPU 실험에 활용 가능하다.	신용카드 등록이 필요하다. 91일 제한이 있어 장기 프로젝트에는 불리할 수 있다.
Hugging Face	Inference Providers 무료 사용자는 월 $0.10 크레딧, Pro는 월 $2.00 크레딧	일부 무료 + 사용량 기반 과금	모델 탐색, 다운로드, 로컬 학습, 모델 업로드는 무료로 시작 가능하다. 경량 LLM 실험에 가장 직접적이다.	무료 API 크레딧은 매우 작다. Inference Endpoints는 결제수단 등록과 사용량 과금이 필요하며, Pro/Team 같은 월 구독 요소가 섞일 수 있어 학교 지원 기준과 충돌할 수 있다.
AWS	AWS Educate/학생 프로그램은 학교나 프로그램에 따라 크레딧 조건이 달라질 수 있음	사용량 기반 과금	SageMaker, S3, Bedrock 등으로 실무형 ML 파이프라인을 경험할 수 있다.	초보자에게 복잡하고 GPU/SageMaker 비용 구조가 어렵다. 고정된 학생 크레딧 조건을 먼저 확인해야 한다.
RunPod	일반적으로 별도 학생 크레딧보다는 사용량 기반 GPU 대여 중심	초/시간 단위 GPU 과금	GPU 단가가 대형 클라우드보다 저렴한 편이라 경량 LLM 학습 실험에 유리하다.	학교 지출 증빙이나 안정적인 장기 운영 측면에서는 Azure/GCP보다 불리할 수 있다.
Replicate	일부 무료 실행 후 결제 등록 요구 가능	실행 시간/하드웨어 기반 과금	이미 배포된 모델을 API로 빠르게 실험하기 좋다.	직접 학습 환경 확보보다는 API 테스트에 가까워 주 목적과는 거리가 있다.

ㅁㄴㅇㅁ

품목명	용도
AI 모델 학습용 GPU 그래픽카드	경량 LLM 실행 및 파인튜닝, 금융 데이터 기반 머신러닝 모델 학습 실습
대용량 SSD 저장장치	금융 API 수집 데이터, 학습 데이터셋, 모델 파일 및 실험 결과 저장
머신러닝/LLM 학습 교재	생성형 AI의 원리, 프롬프트 설계, 모델 학습 및 평가 방법 학습
AI 엣지 디바이스 개발 키트	학습된 경량 모델을 실제 장비에서 실행하고 웹 서비스와 연동하는 배포 실습