[Azure] Azure openAI

🎲 Azure openAI

• 마이크로소프트의 Azure에서 제공하는 OpenAI 모델을 활용할 수 있는 서비스이다.

• OpenAI의 GPT등과 같은 고급 인공지능 모델들을 Azure 인프라에서 호스팅하여, 사용 가능하다.

🏒 Azure openAI 사용법

1. Azure 플랫폼 접속 OpenAI 검색

2. openAI 만들기

3. 다음다음 검토 후 생성

4. 모델을 배포해줘야한다.

• 리소스 위 쪽에서 링크로 이동해준다. Go to Azure

• 원하는 모델을 고르고 배포한다.

5. 배포 모델 key, endpoint, openAI resource name, openAI model, VERSION 환경변수에 저장한다.

npm i openai 모듈을 다운해준다.

 async openAI() {
    // 배포된 openAI KEY & ENDPOINT & DEVELOPMENT & VERSION & MODEL
    const openAIKey = this.configService.get<string>(
      'AZURE_OPENAI_KEY',
    ) as string;
    const openAIEndpoint = this.configService.get<string>(
      'AZURE_OPENAI_ENDPOINT',
    ) as string;
    const openAIName = this.configService.get<string>(
      'AZURE_OPENAI_DEVELOPMENT',
    ) as string;
    const openAIVersion = this.configService.get<string>(
      'AZURE_OPENAI_VERSION',
    ) as string;
    const openAIModel = this.configService.get<string>(
      'AZURE_OPENAI_MODEL',
    ) as string;

    if (
      !openAIEndpoint ||
      !openAIKey ||
      !openAIName ||
      !openAIModel ||
      !openAIVersion
    ) {
      throw new BadRequestException('OpenAI 연동에 실패했습니다.');
    }

    // OpenAI에 연동
    const options = {
      endpoint: openAIEndpoint,
      apiKey: openAIKey,
      deployment: openAIName,
      apiVersion: openAIVersion,
    };

    const client = new AzureOpenAI(options);

    // 답변 가져오기
    const response = await client.chat.completions.create({
      messages: [{ role: 'user', content: '안녕하세요.' }],
      max_tokens: 100,
      temperature: 1,
      top_p: 1,
      model: openAIModel,
    });

    console.log(response.choices[0].message.content);

    return response.choices[0].message.content;
  }
  }