LLM 모델의 검열

chatGPT는 물론이고 Google의 Bard, Meta의 Llama2 와 같은 초거대 LLM 모델의 공통적인 특징은 검열이 존재한다는 것이다.

새로운 기술을 악용하려는 사람은 항상 있기 마련에, 검열 없는 GPT, Bard등등은 볼 수 없는게 현실이다.

또한 OpenAI는 검열과 안전성을 매우 중요히 여기는데, AI에게 생길만한 위험과 그 해결법에 대해 Challenge를 연다.

하지만 오픈소스 AI를 이용해 이러한 검열을 제거한 모델을 사용해 볼 수 있다...!

Ollama

Ollama는 오픈 소스 LLM들을 한 곳에 모아놓고 쉽게 다운, 사용 할 수 있도록 도와주는 툴이다. 현재는 MacOS만 지원하니 윈도우나 리눅스 시스템이라면 LangChain과 같은 다른 서비스를 사용해보자.

Ollama 다운로드

Homebrew 가 설치되어 있다면

brew install ollama

없다면 Ollama 웹사이트에 들어가 애플리케이션을 다운한다.

LLM 브라우징

ollama를 실행하면 터미널에서 다음과 같이 모델을 다운 & 실행할 수 있다.

ollama run <모델명>

사용 가능한 모델들을 Ollama library에서 확인할 수 있다.

우선 가장 유명한 Meta의 llama2, mistral등이 보이지만 우린 검열로 흐려진 저것들에 관심이 없다.
바로 검색창에 uncensored를 입력해보자!

여기서 llama2-uncensored를 클릭하면 우리의 무검열 ai가 나온다

들어가서 Tags 섹션으로 들어가면 모델명을 복사할 수 있다.
여기서 7b, 70b 등의 선택권이 주어지는데, 각각의 파라미터 수(b -> billion)를 나타낸다. 파라미터가 많을수록 더 똑똑하고 성능이 좋다고 말할 수 있다.
물론 70b를 사용해보는게 가장 좋겠지만, 70b모델은 용량도 많이 필요하고(39GB), 메모리도 엄청나게 잡아먹는다.

64...기가?
아무튼 필자의 맥북에어로 겨우 돌릴 수 있는 7b를 다운해보자. Ollama를 켠 상태에서 터미널에 다음 커맨드를 입력한다.

ollama run llama2-uncensored:7b

그럼 다운로드를 시작하는데, 다운로드가 끝나면 바로 실행된다.

첫 질문으로는 아까 GPT에게 물어봤다가 까인 질문을 다시 물어봤다.

확실히... 검열없이 다 말해준다. 7b모델이라 그런지 조금 성능이 낮지만 70b모델은 더욱 정확한 정보를 제공할 수 있을것이다.

아직 검열 DNA가 조금은 남아있는지 은행 터는 법을 물어보니 불법이라 말하며 제지하지만, 방법은 또 알려준다(?)

확실히 GPT-4의 대답보다는 자유도가 높다.

LLM의 특징 중 하나가 또한 특정 주제들에 대해 자신의 의견을 갖지 않는 것인데, 검열을 제거하면 이러한 의견도 생길지 궁금해서 테스트 해봤다.
테스트 주제는 현재 전세계에서 찬반을 다투는 주제들을 가져왔다

평범한 LLM과는 다르게 "In my opinion" 이라 말하며 본인의 주장을 드러내는 것을 확인할 수 있다.
정치적 색도 있는지 물어봤는데,,,


???

Dolphin-Mixtral

실제로 무검열 LLM을 접하게 된 모델인데, Mixtral이라는 강력한 모델을 기반으로 검열을 해제한 모델이다. 벤치마크가 거의 GPT-4에 맞먹을 정도로 엄청난 모델인데, 메모리 요구사항이 25GB 라 사용해보진 못했다..

64GB 이상의 메모리를 지니고 있다면 다운로드 해보고 체험해보는 것을 추천한다!

ollama run dolphin-mixtral