웹 AI는 이미 브라우저 안으로 들어왔다

최근 Web AI Summit에서 공통적으로 반복된 메시지는 단순하다.

AI는 더 이상 서버의 전유물이 아니다.
브라우저는 이제 ‘AI 실행 환경’이 되고 있다.

이 글은 Web AI Summit에서 인상 깊었던 4개 세션을 실무 관점에서 요약하고,
웹 개발자·프로덕트 개발자가 어디까지 지금 당장 적용 가능한지에 초점을 맞춰 정리하였다.

---

1️⃣ Transformers.js — 브라우저에서 AI를 “직접” 실행하다

📌 Transformers.js: Building Next-Generation WebAI Applications
👉 [세션 영상 링크]

Hugging Face의 Transformers.js는
AI 모델을 100% 로컬 브라우저 환경에서 실행할 수 있게 해주는 JavaScript 라이브러리다.

핵심 요약

• 서버 없이 브라우저 단독 추론
• WebGPU / WebAssembly / WebNN 활용
• 개인정보, 음성, 영상 데이터를 외부로 보내지 않음
• 모델은 최초 1회 다운로드 후 캐싱

import { pipeline } from "@xenova/transformers";

const classifier = await pipeline("sentiment-analysis");
const result = await classifier("I love transformers.js");

👉 3줄로 AI 기능 구현이 가능하다.

실무적으로 중요한 포인트

• 양자화(4bit / 8bit)로 모델 크기 최대 8배 감소
• ONNX 기반으로 Python → Web 이전 파이프라인 정리
• 챗봇, 음성 인식, TTS, 비전, 임베딩 시각화까지 이미 실사용 사례 다수
• Transformers.js v4 프리뷰 공개 → 성능·지원 모델 추가 확대 예정

정리하면

웹은 AI의 UI가 아니라 실행 플랫폼으로 이동 중이다.

---

2️⃣ WebAssembly · WebGPU · WebNN — 웹 AI의 ‘계산 추상화’

📌 Wasm, WebGPU, & WebNN: How compute abstraction are enabling client side AI
👉 [세션 영상 링크]

Google 세션의 핵심은 모델이 아니라 “어디서 계산하느냐”였다.
이를 Compute Abstractions라는 개념으로 정리했다.

각 기술의 역할

• WebAssembly (WASM)
  • CPU 기반, 안정적
  • SIMD, 멀티스레드 지원
  • 소형 모델, 범용 처리에 적합
• WebGPU
  • GPU 기반 고성능 연산
  • 비전, LLM, 대형 모델에 최적
  • Chromium, Safari, 곧 전체 브라우저 지원
• WebNN
  • OS 레벨 CPU/GPU/NPU 자동 선택
  • 아직 실험 단계

중요한 판단 기준

Built-in AI	Compute Abstraction
간편함	자유도
자동 업데이트	직접 관리
모델 고정	모델 선택 가능
차별화 어려움	차별화 가능

결론

AI가 제품의 경쟁력이라면
내가 모델과 실행 방식을 통제해야 한다.

---

3️⃣ “작게 시작하라” — 작은 AI 모델이 성공 확률을 높인다

📌 It doesn’t need to be a chatbot: Unlocking the product value of smaller AI models
👉 [세션 영상 링크]

AI 프로젝트의 약 80%가 실패한다는 통계는 충격적이지만 현실이다.

실패 원인은 반복된다.

• 너무 큰 LLM
• 과도한 RAG/컨텍스트 통합
• 필요 없는 기능 + 리스크(환각, 비용, 제어 불가)

대안: AI Opportunity Tree

작은 모델로 시작할 수 있는 4가지 방향

1. 인사이트 강화
   • 로그, 리뷰, CS 데이터 분석
2. 마찰 제거
   • 복잡한 UI → 자연어 입력
3. 기능 추가
   • 사용자가 하던 인접 작업 자동화
4. 개인화
   • 행동·취향 기반 UX 개선

👉 좌 → 우로 갈수록 리스크 증가
실무에서는 왼쪽부터 시작하는 게 정답이다.

---

4️⃣ Miravia 사례 — “UX 개선”이 곧 매출이었다

📌 Built-in AI: The next frontier for web experiences presented by Miravia
👉 [세션 영상 링크]

Miravia(Alibaba 유럽 이커머스)의 실제 사례.

문제

• 리뷰 수백 개 → 사용자가 읽지 않음
• 서버 요약은 비용·지연 문제 발생

해결

• Chrome Built-in Summarizer API
• 별점 그룹별 리뷰 요약을 클라이언트에서 즉시 생성

결과

• 전환율 +12.4%
• 전체 매출 +3.3%
• 서버 비용 감소

핵심 전략

1. 디바이스 지원 여부 확인
2. 로딩 중 서버 fallback
3. 준비되면 온디바이스 전환

이 사례의 핵심

AI는 크기보다 UX 마찰 제거에서 가장 큰 효과를 낸다.

---

전체 세션 공통 결론

• 웹 AI는 실험 단계가 아니다
• 대형 LLM이 항상 정답은 아니다
• 작은 모델 + 로컬 실행 + 명확한 UX 개선이 가장 빠른 성공 경로

기술 선택 순서

1. 해결할 문제 정의
2. 실시간성 / 프라이버시 필요 여부
3. 모델 크기·실행 위치 결정
4. 점진적 확장

---

마무리

이제 웹 개발자는
“AI를 호출하는 사람”이 아니라
“AI 실행 환경을 설계하는 사람”이 되고 있다.

다음 단계에서는

내가 만드는 웹/에디터/빌더에
어떤 AI 기능을 로컬로 얹을 수 있을지
구체적으로 분해해보는 것이 중요하다.

---

• 참고: Web AI: Client Side Machine Learning