카톡봇은 서버가 아니라 내 PC에서 돌립니다 — 로컬 AI 카카오톡 비서의 구조
카톡봇을 남의 서버·API 없이 내 PC에서 돌리는 구조. 대화를 읽는 오픈소스 엔진과 답하는 봇이 어떻게 나뉘고, 왜 로컬 LLM이면 대화가 밖으로 안 나가는지, 안전장치는 왜 기능이 아니라 구조인지.
방구석컴퍼니
혼자 일하는 사람 · 작업 기록
카톡에 AI를 붙이는 방법은 크게 둘입니다. 클라우드 서버에 카카오 계정을 연결하는 방식과, 대화를 읽고 답하는 걸 전부 내 PC에서 하는 방식. 이 글은 앞의 방식(n8n·서버·API 연동)은 다루지 않습니다. 대화가 인터넷으로 나가지 않는 로컬 구조만 설명합니다.
설치 순서를 따라가는 매뉴얼도 아닙니다. 왜 이렇게 나뉘어 있고 어디가 안전하고 어디가 아닌지를 봅니다. 카톡은 매일 쓰지만 서버니 API니 하는 말에 지쳤던 분이라면, 개발 지식은 필요 없고 10분이면 이 구조가 잡힙니다. 읽고 나면 "내 카톡 대화가 어디까지 나가는가"를 스스로 판단할 수 있어요.
카톡봇은 하나가 아니라 두 조각이다
제가 만든 이 봇은 기능 덩어리 하나가 아니라, 역할이 다른 두 조각입니다.
- 읽는 엔진: 카카오톡이 PC에 저장해 둔 암호화된 대화 파일을 풀어서 읽습니다. 화면을 긁는 방식이 아닙니다. 이건 제가 만든 게 아니라 공개된 오픈소스(kakao-cli-win)예요.
- 답하는 봇: 명령을 해석하고, AI를 불러 답을 만들고, 안전장치를 통과시킨 뒤 그 방에 보냅니다. 이 조각이 제가 배포하는 부분입니다.
왜 나눴냐면, 읽는 부분은 남이 만든 공개 오픈소스라 각자 직접 받는 게 맞고, 저는 답하는 쪽만 책임지면 되기 때문입니다. 둘을 한 번 합치면 그 뒤로는 하나처럼 돌아갑니다.
왜 '내 PC'가 이 구조의 핵심인가
클라우드 방식은 편하지만 대화가 그 서버를 지나갑니다. 로컬 방식은 챗지피티 같은 모델을 내 그래픽카드에 통째로 올려서 실행합니다. 질문도 답도 내 컴퓨터 안에서 끝나니, 인터넷으로 나가는 게 없고 요금도 없습니다.
| 로컬 LLM (내 PC) | 클라우드 (서버·API) | |
|---|---|---|
| 비용 | 0원, 횟수 무제한 | 월 구독 또는 사용량 과금 |
| 대화 | PC 밖으로 안 나감 | 그 회사 서버로 전송 |
| 속도 | 첫 로딩 뒤 1초 안쪽 | 대체로 빠름 |
| 지능 | 일반 상식은 약함 | 더 똑똑함 |
그래서 이 봇은 답을 만드는 AI를 셋 중에 고르게 했습니다. 로컬 LLM, 클로드, 코덱스. 클로드·코덱스는 더 똑똑한 대신 대화가 그 회사로 나갑니다. 방마다 그게 괜찮은지 아닌지가 다르니 선택은 쓰는 사람 몫으로 뒀고, '로컬 전용' 스위치를 켜면 밖으로 나가는 AI는 아예 못 고르게 막힙니다.
화면을 안 뺏는 건 편의가 아니라 조건이었다
흔한 자동화는 카톡 창을 앞으로 꺼내서 화면을 긁습니다. 그러면 내가 다른 걸 하는 동안 창이 계속 튀어나와 실제로는 못 씁니다. 이 봇은 대화를 파일로 읽고, 보낼 때도 창을 앞으로 꺼내지 않습니다. 최소화해 둔 채로 나가요. 게임 중에 찍어도 화면을 뺏기지 않았습니다. 읽기가 파일 기반이라 가능했던 겁니다.
안전은 기능이 아니라 구조로 넣었다
카카오는 자동화 프로그램을 약관으로 제한합니다. 그래서 '보낼 수 있게' 만든 다음이 아니라, 안전장치부터 깔고 시작했습니다.
- 같은 방 30초·방을 옮겨도 10초 간격, 게다가 매번 조금씩 다르게 보냅니다. 정확히 일정한 간격이 바로 봇 신호거든요.
- 하루 상한이 있고, 새벽 1시부터 7시까지는 아예 안 보냅니다.
- 개인정보나 계좌번호가 들어간 답은 전송 자체가 막힙니다. 이 스위치는 끄는 버튼을 아예 안 만들었습니다.
- 보낸 게 그 방에 실제로 들어왔는지 되읽어 확인하고, 반복 실패하면 스스로 멈춥니다.
그래도 위험이 0이 되지는 않습니다. 그래서 본인 PC·본인 계정에서, 처음에는 '나와의 채팅' 한 방에서만 시험하는 걸 전제로 만들었습니다.
그래서 이건 언제 쓰고 언제 안 쓰나
솔직히 일반 상식 질문은 그냥 챗지피티가 낫습니다. 이 구조가 이기는 곳은 둘입니다. 내 대화 위에서 요약·질문할 때, 그리고 그 대화를 밖으로 내보내면 안 될 때. 그 두 가지가 아니라면 굳이 이걸 쓸 이유는 없습니다.
정리하면 이렇습니다. 요금 0원에, 대화는 내 컴퓨터 밖으로 안 나가고, 지능이 더 필요한 방에서만 골라서 바깥 AI를 켠다. 맨 앞에서 말한 '전부 내 PC에서'가 이 두 조각 구조로 실제로 지켜지는 겁니다.
이 봇과 설치 안내, 그리고 읽는 엔진을 받는 링크는 전부 오픈톡 방에 모아뒀습니다(무료). 만드는 과정 전체는 영상에 있습니다: https://youtu.be/J_2xeJE8pDM