1. 문제상황

• ERR_SSL_KEY_USAGE_INCOMPATIBLE
• 인증서 오류로 https 접속이 되지 않음

• Chrome에서는 https 인증서가 정상적으로 인증된다.
  - 20240202기준, Chrome에서도 오류가 발생한다.
  

• IE는 Edge로 자동으로 넘어간다.

• 환경 : Windows Server 2019 IIS

2. 예상원인

1. IE에서 Edge로 넘어오면서 생긴 오류
2. Edge 버전이 바뀌면서 생기는 오류
3. 인증서 발행에 오류

3. 원인

Edge 버전이 바뀌면서 발생한 오류로 Edge의 특정 버전에 오류가 발생한 것으로 보인다.

• IIS에서 자체서명인증서로 발행한 인증서를 Edge에서 왜곡된 인증서로 인증해버린다.

• 오류 Edge version : 121.0.2277.83 64-bit
• 20240202 오류상황 추가 : Chrome에서도 인증서 오류로 https 접속이 되지 않음

4. 해결방법-1 (regedit)

• 레지스트리 설정으로 해결하는 방법
• regedit에서 RSAKeyUsageForLocalAnchorsEnabled 추가하는 방법
• Chrome과 Edge 모두에 적용되는 방법

레지스트리의 HKEY_LOCAL_MACHINE\SOFTWARE\Policies\{company}\{browser} 경로로 이동

• 경로가 없을 경우, 경로에 키 생성
• RSAKeyUsageForLocalAnchorsEnabled
• DWORD(32bit) : value = 0

4.1 Chrome

레지스트리의 HKEY_LOCAL_MACHINE\SOFTWARE\Policies\Google\Chrome 경로로 이동

• 경로가 없을 경우, 경로에 키 생성
• RSAKeyUsageForLocalAnchorsEnabled
• DWORD(32bit) : value = 0

• 커맨드 명령어로 레지스트리 등록

reg add "HKEY_LOCAL_MACHINE\SOFTWARE\Policies\Google\Chrome" /v RSAKeyUsageForLocalAnchorsEnabled /t REG_DWORD /d 0x00000000

4.2 Edge

레지스트리의 HKEY_LOCAL_MACHINE\SOFTWARE\Policies\Microsoft\Edge 경로로 이동

• 경로가 없을 경우, 경로에 키 생성
• RSAKeyUsageForLocalAnchorsEnabled
• DWORD(32bit) : value = 0

• 커맨드 명령어로 레지스트리 등록

reg add "HKEY_LOCAL_MACHINE\SOFTWARE\Policies\Microsoft\Edge" /v RSAKeyUsageForLocalAnchorsEnabled /t REG_DWORD /d 0x00000000

5. 해결방법-2 (IIS)

윈도우 서버에서 해결하는 방법

• IIS에서 자체서명인증서를 발행하지 않고, Powershell을 통해 새롭게 자체서명인증서를 발행한 후, IIS에 가져오기한 후 바인딩 처리하여 배포.

• IIS에서 자체서명인증서를 발행하는 과정과 Powershell을 통해 자체서명인증서를 발행하는 과정의 차이점은 -KeyUsage를 지정할 수 있다는 차이점이 있습니다.

저의 경우, -KeyUsage를 지정하니 오류가 발생하여, 지정하지 않고 Powershell로 자체서명인증서만 발행하였는데, 해결이되었습니다.

# Powershell
New-SelfSignedCertificate -FriendlyName A12B34C56 -DnsName A12B34C56 -KeyUsage pswrd1

6. References

1. learn.microsoft.com
2. ingstory blog
3. ms learn