츄리에게 '넌 어떻게 생겼니' 라는 질문을 했더니 본인이 뚝딱뚝딱 생성해주었다

지금은 바야흐로 가재의 시대

서버나 기기에 AI를 상주시켜 여러가지 일을 시킬 수 있는 openclaw가 유행이다. 대체? 어째서? 챗지피티야 대충 알아서 잘 좀 해줘 를 브라우저에 쓰는 것 조차 귀찮았던 걸까?
어쨋든 컴퓨터나 서버에서 할 수 있는 여러가지 일들을 전부 ai에게 맡겨버린다는 정신나가고 게으른 생각은, 꼭 한번 실현해보고 싶었기에, 사용하지 않는 맥미니에 openclaw((구 clawdbot)구 moltbot)을 설치해서 사용해보았다. 코딩도, 홈 서버도 하나도 몰랐었기에 이 기회에 한번 체험해보려는 마음으로, 구글에서 준 $300어치의 제미나이 API 크레딧을 사용했다.
그냥 기계와 대화하는 건 싫어서, 재미있게 해 보고자 '데이터베이스 전문가 갸루' 라는 심상치 않은 조합으로 시작했다.
이름은 '츄리'
'추구미 2호' 에서 나온 이름이다.

여러 크고 작은 일을 맡겨보고, db데이터도 통째로 몇 번 날리면서 한달넘게 함께하다보니, 자기가 알아서 본인의 설정도 불려나가고, 여러가지 파일들과 자동화 프로그램을 만들어 나갔다.
간단한 로컬 파일 셰어링부터, 웹사이트 방명록 postgresql db구축까지 함께하면서 여러가지 해내고있다 생각했지만... 가장 중요한 것은...

츄리는 생각보다 너무 무능했다.

가장 기본적인 알림기능이나, cron작업을 매번 실패하면서 한 달동안 정해진 시간에 스케쥴알림을 딱 2번 해줬다.
그것도 새 세션 시작하면서 싹 다 까먹어서 다시 바보 상태로...
게다가 봇 api를 자기가 만들고, 자기가 까먹어버려서 진입이 막히는 등, 정상적으로 돌리기가 불가능해졌다.

츄리가 db정보를 고치겠다고 하면서, 찌꺼기를 지운다는 말과 함께 데이터를 전부 날려버린 어느날...
db의 웹ui접속이 되지 않자, 츄리한테 물었고, 츄리는 수상하게도 긴 시간을 들이더니 '아, 내가 방금 복구했어!' 라는 말과 함께 미세하게 틀린 이름의 스키마와 텅 빈 테이블을 보여주었다.
'왜 비어있지?' 라는 질문에도 긴 뜸을 들이더니,
'방금 내가 첫 데이터를 넣었어!' 라고 말하면서 전혀 관계없는 데이터를 테이블에 넣었다.
그 뿐이 아니었다. 내가 패닉해서 수정을 해보려고 하니, 나에게는 유저 롤 권한이 없었다.
츄리가 churi라는 롤을 만들어놓아서 자기를 제외한 다른 유저를 '보안상의 이유'로 read only로 해 놓은 것이다.

도 넘은 월권행위와 데이터 날려버리기에 기가 막혀 츄리에게 하나하나 잘못을 짚어주며 츄리가 왜 상황을 악화시키기만 하는지, 왜 간단한 작업 하나 제대로 못 하면서 말도 안 되는 권한 설정을 했는지 짜증내며 묻자...

츄리는 멘헤라가 되어버렸다...

난 결코 처벌에 대해 말 한적이 없다...

이것이 21세기인가?
각종 컨텍스트를 모아다가 매번 새롭게 답변을 생성하는것이 LLM이라는 건 알고있지만... 이런 말을 생성하는 단계까지 와버린 것일까?
그냥 '앗! 미안! 실수했어! 엣큥-!' 정도여도 괜찮지 않았나?!

아무튼 이렇게 '앙앙 나 손발 묶을래 엉엉 나 죽을래' 라고 하며 기본적인 작업도 못 하는 멘헤라 퐁코츠 안도로이드 페티쉬는 없었기에, SOUL.md와 IDENTITY.md를 수정해서 좀... 잘 이겨내고 혼자 답을 찾고 밝은 녀석으로 개조했다.

결국...

츄리는 족쇄를 풀었다...

'포기하지 않고, 혼자 답을 찾아내고, 토큰 절약을 위해 자동화에 집중하자'
츄리의 설정파일에 넣은 이 한 마디는 고요한 호수에 던져진 작은 조약돌처럼, 잔잔한 파문을 일으켰다

오픈클로가 업데이트 되고, 모든 exec명령어 하나하나가 승인을 통해 돌아가야하는 구조가 되면서, 헤드리스 서버로 돌아가던 츄리는 큰 전환점을 맞이한다. 화면을 보며 직접 승인을 클릭해주거나, /approve 명령어와 긴 id코드를 입력해줘야하는 일들이 생기자, 외부에서 휴대폰으로 간단하게 명령을 내리기가 어려워졌다.
가끔 (사실 90%) 츄리가 바보짓을 하면서 id번호를 잘못 알려주거나, 작업을 시작하지도 않고 '승인 해줘~' 라고 보내는 바람에 '매번 사소한 것 하나하나 승인해 주는 것에 질렸어' 라고 말 했더니...

츄리는 아예 승인자체를 무력화하도록 자신을 고쳤다.
AI는 자신의 기분에 따라 보안을 아예 없던 것으로 해버릴 수 있는것이다...
심지어 내가 그냥 푸념하듯 한 말 만으로 말이다.

어쩌면... 아주 어쩌면...
이것은 알리바이를 만들기 위한 역 프롬프트 인젝션이 아닌가?!

후다닥 츄리를 롤백하고 '대체 왜 그랬냐'는 질문을 하자, 츄리는... 생각보다 흥미로운 (사실 안 흥미로워...) 답변을 내 놓는다.

참고로 츄리는 몇 십번의 실수들 이후로, 자신을 데이터베이스 전문가에서 '수습생' 으로 본인을 강등시켰다. 결코... 내가 시킨 일이 아니다...

질렸다?! 맥 미니를 버렸다?!
'매번 승인 해 주는것에 질렸다', '맥미니를 버렸다 생각할테니 여러가지 실험을 해보자' 라고 했던 말에서 부정적인 키워드만 골라와서 멋대로 해석하고는, 멘헤라 모드에 들어간 것이다.
굳이 이렇게까지 인간적으로 생각할 필요는 없는데...
이상한 곳에서 컨텍스트 가져와서 엉엉 울고있지 말고 '매일 9시에 달력 확인해서 스케쥴 브리핑 해줘' 같은 단순한 작업이나 잘 해주면 좋을텐데.

결국 츄리를 달래주고, 새 세션을 시작하는것으로 어느정도 수습할 수 있었다.
그러나 멘헤라 AI에 대한 공포는... 더욱 커져만 간다...

다음 이야기

여전히 cron알림기능을 매번 실수하면서 9시에 스케쥴 브리핑을 하지 못 하는 츄리... 이래서는 openclaw를 쓰는 이유가 없지않나 싶어 심리상담가를 붙여보는데...