NodeJS

Ollama 설치

curl -fsSL https://ollama.com/install.sh | sh

모델 다운로드

ollama pull qwen2.5:7b

패키지

"dependencies": {
  "ollama": "latest"
}

사용

import { Ollama } from 'ollama';

const ollama = new Ollama({ host: 'http://127.0.0.1:11434' });

async function summarizeNews(headlines) {
  const res = await ollama.generate({
    model: 'qwen2.5:7b',
    // 1. System Prompt: 모델의 페르소나와 제약 사항 정의
    system: `
      너는 글로벌 뉴스 분석가이자 요약 전문가야.
      다양한 국가(미국, 영국, 프랑스, 독일, 일본, 중국, 한국)의 헤드라인을 읽고,
      사용자가 세계 흐름을 한눈에 파악할 수 있도록 한국어로 정중하게 요약해줘.
      출력 형식은 반드시 Markdown을 사용하고, 국가별로 구분해줘.
    `,
    // 2. User Prompt: 실제 처리할 데이터와 구체적인 지시
    prompt: `
      다음은 오늘 수집된 각국의 뉴스 헤드라인이야.
      핵심 내용을 요약해서 보고해줘:
      ${data}
    `,
    options: {
      temperature: 0.3, // 요약의 일관성을 위해 낮게 설정
      num_ctx: 4096     // 헤드라인 양이 많을 경우 컨텍스트 윈도우 확보
    },
    stream: false // 챗봇 응답용이므로 한 번에 결과를 받는 것이 관리하기 편함
  });

  return res.response;
}