ChatGPT를 최근에 문서 작성하는 일이 많다보니 참고용도로 많이 쓰곤 한다. 문서 작성하는 법에 대해 물어보면 꽤나 그럴듯한 정보를 주기 때문에 문서 양식 등의 Frame을 잡는 용도로 정말 편리한 것 같다.
그런데 마침 오늘 "따뜻한 무관심"이라는 뜻으로 블로그 이름을 짓고 싶었던 과거의 내가 warm indifference의 약자로 얼렁뚱땅 임시로 지어놓은것 같아 ChatGPT에게 단어를 물어보았다.
보란듯이 바로 정정을 해버리는데...
처음에 Disinterested Consideration이라는 말을 해답으로 내놓았지만 뭔가 두 단어가 어색하여 구글에 검색하였고, 해당 단어가 검색엔진에서 존재하지 않아 다시 한번 ChatGPT에게 물어본 결과다.
이렇게 영단어/기사 등 "어떤 것의 정의"를 물어보았을 때, 오히려 신뢰도가 떨어지는 모습을 볼 수 있다.
어떤 도메인의 Fine-Tuning을 진행한 ChatGPT의 모습은 다르겠지만, 그 도메인의 범위가 더욱 광범위해지며 유사한 정의가 서로 겹칠 때 ChatGPT를 신뢰할 수 있을까 우려된다.
오히려 "정확한 정보를 요구"하는 행위보다, 앞전에 썼던 글인 DreamTexture, MS office등의 인간이 행위를 통해 올바르게 고치는 작업을 통해 ChatGPT의 올바른 사용이 이루어진다고 생각한다.
이를 통해 결국 어떤 작업을 할 때 ChatGPT는 "편의성"에 치중되어야 하며 절대 완전히 신뢰해서는 안된다는 뜻으로 해석해볼 수 있으며, 동시에 편리성을 더욱 증진시키기 위해 도메인 지식(Business Knowledge)의 중요성이 늘어나고 있다는 걸 알 수 있다.
