0. kagent?
kagent is a Kubernetes native framework for building AI agents. Kubernetes is the most popular orchestration platform for running workloads, and kagent makes it easy to build, deploy and manage AI agents in kubernetes.
kagent는 쿠버네티스 환경에서 AI agent를 사용할 수 있게 해주는 오픈소스 도구이다.
그럼 AI agent란 무엇인가?
AI agent란 사람의 개입 없이도 목표 달성을 위해 환경을 인식, 학습, 판단하고 행동하는 자율적인 소프트웨어를 말한다.
AI agent의 특징
-
자율성 : 사용자의 지속적인 개입 없이 독립적으로 작업을 수행
-
목표 지향성 : 특정 목표를 설정하고 이를 달성하기 위한 계획을 수립
-
환경 인식 및 학습 능력 : 주변 환경을 인식, 경험을 통해 성능을 향상
-
도구 활용 능력 : 필요에 따라 외부 도구나 시스템과 상호작용하여 복잡한 작업을 수행
그럼 바로 kagent를 사용해보자.
1. kagent 설치
공식 문서를 참고한다.
https://kagent.dev/docs/introduction/installation
1. OpenAI API Key 발급
기존에 있다면 사용하면 되고, 없다면 새로 발급한다.
🚨 API 발급 후 결제 수단을 등록하지 않으면, 사용할 수 없다. 반드시 결제 수단을 등록한다.🚨
→ ChatGPT 유료버전을 사용하고 있다고 해도 별개이니, 꼭 등록한다.
2. API Key 환경 변수 등록
export OPENAI_API_KEY=your-key
3. kagent CLI 다운로드
curl https://raw.githubusercontent.com/kagent-dev/kagent/refs/heads/main/scripts/get-kagent | bash
4. kagent 실행
kagent접속 성공 시, 아래와 같이 CLI로 접속된다.
Welcome to kagent CLI. Type 'help' to see available commands.
kagent >>
5. kagent 설치
kagent >> install→ 설치에 시간이 꽤 소요될 수 있다.
kagent installed successfully
2. Agent 생성
에이전트를 생성해본다.
1. Dashboard 접속 설정
k get all -n kagent
NAME READY STATUS RESTARTS AGE
pod/kagent-c56999648-xps47 3/3 Running 0 19h
NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE
service/kagent NodePort 10.233.34.205 <none> 80:31836/TCP,8081:31763/TCP,8083:31184/TCP 19h
NAME READY UP-TO-DATE AVAILABLE AGE
deployment.apps/kagent 1/1 1 1 19h
NAME DESIRED CURRENT READY AGE
replicaset.apps/kagent-c56999648 1 1 1 19h→ 정상 설치가 되었다면 3개의 파드가 실행된다.
→ Dashboard 접속을 위해 svc를 NodePort로 수정해주었다. 상황에 맞게 설정하면 된다.
2. Dashboard 접속
→ 성공적으로 접속 되었다.
3. Agent 생성
→ 최신 모델을 선택해주었다.
→ 이름과 설명, 프롬포트를 설정해줄 수 있다. 기본 예제로 그대로 진행한다.
→ 예제에는 2가지 tool이 선택되어 있다. 그대로 진행해 생성해준다.
2. Agent 사용해 보기
간단히 리소스 요청을 해본다.
→ 만든 Agent가 잘 생성된 것을 확인할 수 있다. 선택해 본다.
→ "Can you list all namespaces in the cluster?" 라고 요청한다.
→ 정보를 잘 탐색해서 알려주는 것을 확인할 수 있다.
한국어로도 요청해 보자.
→ 잘 이해하고 탐색한다.
기본적으로 제공되는 다른 Agent도 사용해보자.
→ Helm Agent에게 요청해본다. (오른쪽에 보다시피 Helm에 관련된 Tools가 할당되어 있다.)
→ 마찬가지로, 잘 이해하고 탐색한다.
3. 비용
내 API를 사용하는 것이기 때문에, 비용 걱정이 생길 수 있다. 사용량과 비용을 확인해보자.
→ 19 requests / 52.224K input tokens 로 $0.02가 사용되었다.
→ 가벼운 사용이나 테스트로는 걱정할 필요 없는 것 같다.
→ 모델별 비용, 토큰 당 비용을 잘 찾아보고 계산하면 될 것 같다. (https://platform.openai.com/docs/pricing)
4. 결론
쿠버네티스를 사용하며 관리에도 자동화가 필요하다고 느꼈던 순간이 많았다.
kagent를 잘 활용하면 많은 부분을 자동화하여 관리할 수 있을 것 같다.
요즘 MCP가 핫한 만큼 kagent는 계속해서 성장하지 않을까 생각한다.
아주 기초적인 내용만 실습해 보았고, 계속해서 사용해보려고 한다.
Ollama를 이용해 Local LLM을 배포 후, 이를 연동해서 사용해보려 한다.
추가로 학습할 분들은
(https://www.kagent.dev/docs/getting-started/first-mcp-tool) 부터 시작하면 좋을 것 같다.
