Summary

1. Microsoft : 마이크로소프트는 AI 뿐만 아니라 소프트웨어 생태계를 구축했습니다.
2. Copilot : Copilot은 생산성 뿐만 아니라 개인의 커리어 장벽을 무너뜨렸습니다.
3. Azure Cloud : Azure의 사용자 편의성이 혁신적으로 높아지고 있습니다.

Introduction

김승준 강사님
AI 시대적 흐름을 개괄적으로 설명해주시고, 마이크로소프트 제품군을 기반으로 산업계의 최신 트렌드를 소개합니다.

Code, Concept & Explanation

인공지능 시대 소프트웨어 개발 업무

AI in software engineering at Google (링크)

1. 코드 자동 완성을 통한 AI 지원 코드의 비율이 지속적으로 증가하고 있습니다.

2. 사용자가 기능을 직접 기억해서 활성화해야 하는 실험은 확장에 실패했습니다.

3. AI 기반 제안을 통해 코드 작성자가 점점 리뷰어가 되어가고 있으며, 리뷰 비용과 부가가치 사이의 균형을 찾는 것이 중요합니다.

4. 온라인 A/B실험을 통한 빠른 반복이 중요합니다.

5. 구글의 기능과의 상호작용에서 나오는 고품질 데이터는 모델 품질에 필수적입니다.

2024 Work Trend Index Annual Report (링크)

1. 직원들은 업무에 AI를 활용하기를 원합니다. (기업에서 AI를 적용할 때까지 기다리지 않습니다.)

2. AI는 직원들의 역량을 높이고 경력 천장(the career ceiling)을 부숩니다.

3. AI 파워 유저의 부상과 그들이 만들어나가는 미래

Copilot 연구 : AI 가 업무 일과를 어떻게 재편할 수 있을까?

1. Copilot 사용자는 개별 이메일을 11% 덜 읽고, 이메일과 상호 작용하는데 4% 적은 시간을 보냈습니다. 가장 큰 영향을 받은 고객은 이메일 읽는데 기존 대비 25%에서 45%까지 적은 시간을 보냈습니다.

2. Colpilot 사용으로
   2-1. 일부 기업에서는 회의 소요 시간이 증가했고(효율성 증가)
   2-2. 다른 기업에서는 감소했습니다. (가치 증가)
   2-3. 일부 회의에서는 시간을 줄이는 동시에 회의를 더 가치 있게 만드는 것을 가능하게 했습니다.

3. Copilot 사용자는 Word, Excel, Powerpoint 에서 10% 더 많은 문서를 편집했습니다. 가장 큰 영향을 받은 기업들은 20% 증가했습니다. 절약한 시간 리소스를 고부가가치(정보 생성 및 소비)에 활용합니다.

Microsoft products overview

office 제품군 + Dynamic 365, Visual Studio, TypeScript, Github

Microsoft Build 2024

마이크로소프트 연례 개발자 대회입니다.

Microsoft Ignite 2024

마이크로소프트 이그나이트는 IT 전문가와 기업 고객, 비즈니스 리더 (의사결정자)를 위해 진행됩니다.

1) Microsoft Build 2) Microsoft Ignite
ㅁ 대상 청중 1) 개발자, 소프트웨어 엔지니아 2) IT 전문가, 기업 고객, 비즈니스 의사 결정자
ㅁ 중점 영역 1) 개발 도구, 플랫폼, 애플리케이션 구축 기술 2) 클라우드 컴퓨팅, 생산성, 보안, 비즈니스 어플리케이션

Azure

1. 개인 챗봇을 쉽게 만들 수 있도록 환경을 제공합니다.
   ㄴ 참조 아키텍처와 구현 가이드라인 제공

• RAG 솔루션 : Retrieval-Augmented Generation의 약자로, 정보 검색 기반 생성이라는 뜻
  ㄴ AI가 외부에서 정보를 검색해서 그 정보를 바탕으로 더 좋은 답변을 생성하는 기술

2. Custom generative 모델 미리 보기를 곧 발표할 예정입니다.

• Custom generative 모델 :
  한 가지 문서로 시작합니다.
  최소한의 도움만 주면 AI가 문서의 구조를 알아내냅니다.
  여러 가지 복잡한 형식의 문서를 이해하고 처리할 수 있게 돕습니다.

3. Azure AI Studio는 개발자가 AI를 쉽게 만들고 관리할 수 있도록 합니다.

What is Copilot?

Copilot 은 Microsoft에서 만든 LLM 기반 생산성 향상 도구입니다.

Azure OpenAI 서비스의 주요 진보

1. 최신 플래그십 모델인 GPT-4o를 사용합니다.
2. Fine-tuning GPT-4 : 맞춤 설정이 가능합니다. (고객 서비스, 콘텐츠 생성, 등등)
3. Assistants API : 가상 비서나 챗봇을 더 똑똑하게 할 수 있습니다.
4. Message analysis for WhatsApp

Khan Academy와 Microsoft의 파트너쉽

1. Khanmigo: Khan Academy는 Khanmigo라는 AI 기반 선생님 도우미를 무료로 제공

2. 수학 교육 개선: Khan Academy와 Microsoft는 수학을 더 쉽게 가르칠 수 있는 방법도 함께 연구 중입니다. Phi-3라는 소형언어모델(SLM) 기반 새로운 AI 기술을 사용해서 더 똑똑하고, 저렴하고, 유연한 수학 과외 도구를 만들려고 합니다.

3. 교육 자료 추가: Microsoft와 Khan Academy 협력의 일환으로, Khan Academy의 자료가 Microsoft Teams와 Microsoft Copilot 같은 프로그램에도 추가될 예정입니다.

• Khan Academy : 많은 학생들에게 무료로 교육을 제공하는 온라인 학습 플랫폼

• Multimodal " 여러 가지 형태(모드)를 의미합니다. AI에서 multimodal은 여러 종류의 데이터를 한 번에 처리할 수 있는 AI를 뜻합니다.
  예를 들어, 텍스트(글)만 이해하는 AI가 아니라, 사진, 소리, 동영상, 텍스트 등 여러 가지 종류의 데이터를 모두 처리할 수 있는 AI를 말합니다.
  Phi-3-vision 도 멀티모달모델입니다.

Azure AI Content Safety

1. Custom Categories: 사용자가 자신이 원하는 필터를 직접 만들 수 있습니다.

2. Prompt Shields : AI가 해킹이나 악의적인 명령을 받지 않도록 보호해주는 방패 같은 기능입니다.

3.Groundedness Detection 기초 감지 : AI가 사실이 아닌 내용을 만들어내는 것을 탐지하고, 그런 일이 일어나지 않도록 도와줍니다.

(중략..)

Power Apps는 대규모 앱 구축하도록 업데이트

1. 네이티브 Git 통합
2. 모바일 앱에서 Microsoft Copilot
3. 캔버스 앱
4. Power Apps Studio에서 코드 작업

Windows 개발자를 위한 AI 업데이트

1. Windows Copilot Runtime : 모든 계층에 AI 통합
2. Windows Copilot Library : 40개 이상의 온디바이스 모델에 의해 지원되는 API 세트
3. Pytorch : DirectML의 프레임워크 Pytorch 지원
4. Phi Silica : 첫 번째 소형 언어 모델(SLM)

Challenges & Solutions

Results

What I Learned & Insights

마이크로소프가 전세계 시가 총액 1위 기업인 것은 알았지만,
이렇게 촘촘하게 생태계를 구성해나가는 것은 몰랐습니다.

개인을 대상으로 하는 것이 중심이 아니라
개발자와 기업에 초점이 맞춰져 있다 보니,

빠르게 혁신적으로 변화하는 것 대비
대중들에게는 많이 알려지지 않다고 판단했습니다.

사람들은 OPEN-AI, Cloud, OFFICE 365 중심으로 떠올리지만
실제로는 훨씬 더 많은 영역에서 빠르게 성장하고 있음을 깨달았습니다.

덩치가 크다고 느리거나 안주하지 않는다는 것을 보여주는 이상적인, 모범적인 기업입니다.

Conlusion

마이크로소프는 지금도 1위지만, 앞으로가 더 기대되는 기업입니다.
AI, Copilot 은 직원들에게 변화의 바람을 일으키고 있습니다.
하지만 마이크로소프는 AI 이외에도 다양한 영역에서 거대한 wave를 만들고 있습니다.