Agentic AI & Microsoft Events

1. 비즈니스 현실: 인프라와 비용 (Infra & Cost)

• API 비용 분석: RAG 기반 전문 상담 챗봇(DAU 1,000명) 운영 시, GPT-5 Pro 사용 시 한 달 약 4,200만 원 소요되나 mini 모델 최적화 시 약 70만 원까지 절감 가능함.
• 오픈소스 모델의 실체: 모델 자체는 무료이나 Azure GPU(A100) 3개 병렬 운영 시 한 달 약 300만 원 이상의 서버비가 발생하여 실제로는 유료 서비스와 비용 차이가 크지 않을 수 있음.

2. AI 에이전트의 정의와 부상

• 에이전트 정의: 라틴어 'agere'에서 유래, 자율적으로 환경을 인식하고 장기간 독립적으로 작업을 수행하는 소프트웨어임.
• 업계 리더들의 전망: 샘 알트만(OpenAI)은 노동 인력 합류를, 사티아 나델라(MS)는 팀원으로서의 역할을, 마크 베니오프(Salesforce)는 인간만으로 구성된 인력 구조의 종말을 예고함.
• 시장 규모: 2025년 기업의 25%, 2027년까지 50%가 에이전트 시범 프로그램을 시작할 것으로 전망됨.
• 산업별 활용: 의료(환자 상호작용 자동화), 리서치(시장 트렌드 모니터링), 영업(잠재 고객 발굴), 개발(코드 리뷰 및 버그 수정) 등 전 분야 확산 중임.

3. 에이전틱 AI 기술 및 제품 트렌드

• 에이전트의 주요 기능: 추론(Reasoning), 계획(Planning), 기억(Memory), 도구 사용(Tool Use)을 통해 멀티모달 정보를 처리하고 비즈니스 프로세스를 실행함.
• 주요 제품군: OpenAI 'Operator', Anthropic 'Computer Use', Google 'Project Mariner', 'Manus AI' 등 자율 작업형 제품 대거 출시됨.
• 에이전틱 워크플로우: 단순히 한 번에 답을 내는 것이 아니라, 리서치-초안 작성-수정-최종본 산출의 반복 과정을 거쳐 이전 세대 모델(GPT-3.5)이 최신 모델(GPT-4)의 성능을 능가하기도 함.
• 디자인 패턴: Reflection(자기 비판), Tool Use(외부 도구 활용), Planning(단계별 계획), Multi-agent collaboration(에이전트 간 협업)이 핵심임.

4. 핵심 연결 표준: MCP 및 NLWeb

• MCP (Model Context Protocol): AI와 외부 세계를 잇는 'USB-C'와 같은 표준 프로토콜로, 커스텀 API 연동의 복잡성을 해결하고 AI에게 '손발'을 달아줌.
• MCP 아키텍처: 호스트(앱), 클라이언트, 서버, 리소스(데이터), 툴(액션)로 구성되어 표준화된 인터페이스로 데이터와 기능을 주고받음.
• NLWeb (Natural Language Web): AI 에이전트 간의 상호작용을 표준화하는 '에이전틱 웹의 HTML'임.
• Open Agentic Web: MS가 제안한 개념으로, AI가 사용자를 대신해 결정을 내리고 작업을 수행하는 새로운 인터넷 환경을 의미함.

5. 업무 자동화 전략

• 자동화의 본질: 반복성, 규칙성, 효율성을 기준으로 사람이 하던 일을 소프트웨어가 대신하여 가치 있는 일에 집중하게 함.
• 역사적 변화: 80년대 PC(문서 자동화) → 90년대 인터넷(정보 공유) → 2010년대 RPA/API(규칙 기반 업무) → 2020년대 하이퍼 자동화(AI 기반 자율 업무)로 진화함.
• AI와 자동화의 결합: AI는 '생각하는 두뇌' 역할을, 자동화는 '실행하는 손발' 역할을 수행하여 더 똑똑하고 유연한 대응이 가능해짐.
• 자동화 기회 평가: 조직 내 기부자 관리, 행정, 홍보 등 각 업무를 반복성/규칙성/데이터 기반 등 6가지 지표로 점수화하여 우선순위를 결정해야 함.

6. 고용 시장과 커리어 생존 전략

• 고용 시장 충격: 스탠포드 연구에 따르면 AI 노출도가 높은 직종에서 초기 경력자(22~25세) 고용이 약 16% 감소함.
• AI 코딩의 현실: Anthropic 엔지니어들은 이미 코드의 100%를 AI로 생성하고 인간은 감독 업무만 수행함.
• 초보자의 한계: 무분별한 AI 사용은 '과신 현상'과 '메타인지 악화'를 불러오며 전체 시스템 아키텍처 설계 능력을 저하시킬 수 있음.
• AWS 사례와 안전장치: AI 코딩 오류로 인한 대규모 장애 발생 후, 주니어의 코드는 반드시 시니어의 승인(Sign-off)을 받는 '통제된 마찰' 도입됨.
• 필수 역량 4대 축: 1. 컴퓨터 과학 기초, 2. AI 협업 역량(검증 및 리뷰), 3. 시스템/아키텍처 사고, 4. 메타인지 및 비판적 검토 태도.

7. Microsoft 2025 주요 발표 (Build & Ignite)

• Microsoft Foundry: 기업용 AI 에이전트 팩토리로 리브랜딩, 모델-에이전트-도구-거버넌스를 통합 관리함.
• Microsoft Agent 365: 에이전트 관리 및 거버넌스를 위한 중앙 제어판 역할.
• 에이전트 모드 도입: Word, Excel, PowerPoint 등 오피스 앱에 자율적으로 작업하는 '에이전트 모드' 추가됨.
• GitHub Copilot: 비동기 코딩 에이전트 도입으로 PR 작성 및 커밋 업데이트를 자율적으로 처리함.
• Windows AI Foundry: PC 로컬 환경에서 LLM을 실행하고 최적화할 수 있는 통합 플랫폼 제공.
• 보안 및 인프라: Purview를 통한 데이터 보호, Defender의 AI 에이전트 위협 방어, 차세대 Cobalt 200 CPU 발표 등.

8. 결론: AI와의 새로운 협업 방식

• Peer Programming: AI를 단순 도구가 아닌 동료(Peer)로 인식하고 업무를 위임하며 기다리는 법을 배워야 함.
• TDD의 부활: AI가 생성한 코드의 신뢰성을 확보하기 위해 테스트 주도 개발(TDD)이 다시 중요해지고 있음.
• 지속적 발전: 에이전틱 웹 환경에서 개인화된 '디지털 직원' 개념이 일상화될 것이며, 조직은 이에 맞춘 보안 및 데이터 연결 전략을 수립해야 함.

AI를 고객에게 사용하도록 제안하는 절차

DELL의 기술영업부 강사님이 강의해주셨다.
목소리도 정말 좋으시고 전달력있으셔서 기술영업부클라스..체감했다.

1. 기업 AI 구축 및 고객 안내 절차 (5단계)

기업이 고객에게 AI 서비스를 제공하거나 내부적으로 구축할 때 따르는 표준 로드맵임.

• 1단계: 전략 수립 (Establish Strategy)
  • 결과물: AI 도입을 위한 구체적인 로드맵 제시.
  • 주요 활동: 엑셀러레이터 워크숍, 자문 서비스, 인력 페르소나 분석 등을 통해 방향성 설정.
• 2단계: 데이터 준비 (Prepare Data)
  • 결과물: 모델 구현을 위한 데이터 수집 및 정제.
  • 주요 활동: 데이터 보안 검토 및 데이터 레이크하우스 구축을 통한 기반 마련.
• 3단계: 플랫폼 구축 (GenAI Platform)
  • 결과물: 실제 AI가 구동될 생성형 AI 플랫폼 완성.
  • 주요 활동: 플랫폼 구현 서비스 및 디지털 어시스턴트 플랫폼 도입.
• 4단계: 모델 배포 및 테스트 (Deploy & Test Model)
  • 결과물: 테스트를 통한 모델 성능 개선.
  • 주요 활동: RAG(검색 증강 생성) 적용, 허깅페이스 포털 연동, 모델 튜닝 서비스 실시.
• 5단계: 운영 및 확장 (Operate & Scale)
  • 결과물: GenAI 운영 효율화 및 규모 확대.
  • 주요 활동: 매니지드 서비스 이용, 교육 및 인증, 채택 및 변화 관리 지원.

자소서 작성 방식

• STAR 기법에 의거하여 작성하자
• 가고싶은 회사에서의 팀, 업무 확인 필수. 그 회사의 바라는 전략 확인
• 필요 역량에 맞춰 자소서 작성하기
• 단순히 사용 스택을 나열하지 말고, 왜 썼는지, 비용은 생각했는지를 녹여내자
• 개발적인 끝맺음 말을 쓰자. 개발했다. 구축했다. 개선했다. 등등

통계

마지막 2시간은 SK Innovation의 강사님이 통계에 대해 강의해주셨다.
다른건 어려운 내용이었고.. 심슨 효과? 가 특이했다.
모든 펭귄을 기준으로 부리가 긴 종일수록 부리 두께는 얇아졌지만,
각 종 별로 통계를 내보니 부리가 길수록 두꺼워졌다는 반대되는 통계치를 낸걸 얘기한다고 한다.

또한 내가 갈 수 있는 분야는 데이터 엔지니어링쪽인걸 느꼈다.
더불어 실제 사용할 앱을 만들라는게 와닿았다.
당연한 얘기인데도 너무 프로젝트라는 생각에만 안주해서 놓친 점이었다.

이메일 등으로 비영리단체와 컨택하여 Pain Point를 파악하는 앱을 만드는 방식도 들었다.