카톡과 한글을 풀면 쓰인다
한국 현장 AX에서 쓰이느냐 마느냐가 갈리는 두 문
같은 일을 두 조직이 다른 문으로 열었고, 한쪽만 쓰였습니다. 그 비교에서 나온 원칙과 카카오톡 채널 챗봇을 세우는 구조, 한글 문서·글자를 다루는 실측을 정리했습니다. 조직 이름과 사람 이름은 싣지 않았습니다.
요지
한국 사람에게 AX가 닿느냐는 기능보다 두 문에서 먼저 갈립니다.
- 카톡. 사람들은 이미 카카오톡 안에 있습니다. 새 앱을 깔게 하는 순간 문턱이 생깁니다.
- 한글. 공문서는 HWP로 오고, 현장 자료는 한글이 적힌 사진으로 옵니다. 이 둘을 못 읽으면 AI가 일을 시작하지도 못합니다.
이 둘을 풀면 나머지 기능이 조금 모자라도 쓰입니다. 둘을 안 풀면 기능이 정확해도 안 쓰입니다.
같은 일, 두 문 — 실측
로컬푸드 매장 두 곳이 같은 일을 했습니다. 물건을 내는 생산자, 곧 농가가 자기 판매를 휴대폰으로 보게 하는 일입니다.
| 가 매장: 카카오톡 채널 챗봇 | 나 매장: 홈 화면에 추가하는 웹앱 | |
|---|---|---|
| 문 | 생산자가 이미 친구로 둔 매장 카톡 채널에 말을 건다 | 링크를 받아 앱을 연다 |
| 숫자 | 매장 계산대 판매 기준. 「정산 금액과 다를 수 있다」고 적는다 | 정산 금액까지 원 단위로 맞는다 |
| 기능 | 판매 조회, 납품 기록, 남은 재고, 사진 받기, 담당자에게 넘기기 | 오늘·판매내역·정산·내 정보 |
| 개통 2주 사용(우리가 두 서버 기록을 직접 셈) | 대화 276건, 94명. 공지한 날 하루 95건 | 0건 |
나 매장 앱은 숫자가 더 정확하고 본인 확인도 더 단단합니다. 그래도 0건입니다. 초대 문자를 아직 보내지 않았다는 사정이 있지만, 그것까지 포함해서 「새 문을 열고 사람을 데려오는 일」이 그만큼 무겁다는 뜻입니다. 가 매장은 그 일을 건너뛰었습니다. 사람들이 이미 있는 자리에 문을 냈기 때문입니다.
원칙: 첫 문은 사람이 이미 있는 자리에 낸다. 정확한 화면은 그 문 뒤에 붙이면 됩니다. 카톡 답 끝에 「자세히 보기」 링크를 다는 식입니다.
카카오톡 채널 챗봇 — 구조
카카오 비즈니스의 「챗봇 관리자센터」, 흔히 오픈빌더라 부르는 곳에서 봇을 만들고 채널에 연결한 뒤, 봇이 우리 서버를 부르게 합니다.
생산자 카톡 → 채널 → 오픈빌더 봇 → 스킬 서버(우리 기계) → 답
├ 본인 확인
├ 숫자 계산(코드)
└ 말 다듬기(모델, 선택)
지켜야 하는 시간
- 카카오는 5초 안에 답을 받아야 합니다. 넘으면 사용자에게 오류가 뜹니다.
- 모델이 답을 쓰면 5초를 넘기 쉽습니다. 이때는 「확인하고 있습니다」로 먼저 받고 1분 안에 따로 보내는 콜백 기능을 씁니다. 콜백은 봇마다 따로 신청해서 승인을 받아야 합니다.
- 승인 전이라면 모델 없이 코드가 계산한 답만으로 5초 안에 답하는 1판으로 시작하면 됩니다. 판매 조회 같은 질문은 이것으로 충분합니다.
숫자는 코드가, 말은 모델이
- 판매액·정산액은 서버의 파이썬이 DB에서 계산해서 넣습니다. 모델은 그 숫자를 말로 풀어 줄 뿐입니다.
- 모델에게 도구를 주지 않습니다. DB도 파일도 못 엽니다. 「열지 마라」고 말로 막는 게 아니라 손이 없게 만듭니다. 모델이 서버의 다른 지시 파일을 못 읽게 작업 폴더도 빈 폴더로 둡니다.
- 우리가 잰 값으로는, 1.2B~7.8B 소형 로컬 모델에게 같은 자료를 주고 답을 쓰게 하면, 그래픽카드로 10초 안에 들어와도 날짜를 지어내거나 이번 달을 물었는데 올해 금액을 줬습니다. 카톡 답변 같은 「바깥 사람에게 하는 말」은 아직 큰 모델 몫입니다.
본인 확인
생산자가 자기 판매·정산만 봐야 합니다. 서버가 확인 상태를 보고 농가를 정하고, 요청에 실려 온 값으로 정하지 않습니다.
| 방식 | 장점 | 약점 |
|---|---|---|
| 이름과 휴대폰 뒷자리 4자리를 명부와 대조 | 빠르고 비용 0 | 이름과 뒷자리를 아는 사람이면 남의 매출을 본다. 틀림 횟수 잠금만으로는 못 막는다 |
| 여기에 더해 등록 휴대폰으로 인증번호 6자리 문자 | 그 휴대폰을 가진 사람만 통과 | 처음 한 번 문자 비용. 한 통에 수십 원 |
권하는 쪽은 두 번째입니다. 처음 한 번만 하면 그 카톡 사용자 키가 그 농가로 묶입니다. 문자는 한 사람·한 농가에 하루 몇 통으로 상한을 두어 비용 폭주를 막습니다.
그 밖에 넣을 것
- 담당자에게 넘기기. 모델이나 코드가 못 다루는 말은 「담당자가 확인하고 답드리겠습니다」로 받고 직원 메신저에 알립니다. 가 매장 기록을 세어 보니 2주 동안 54건을 이렇게 넘겼습니다.
- 주소의 비밀 조각. 스킬 주소에 추측할 수 없는 조각을 넣고, 틀리면 404를 줍니다.
- 운영시간, 전화·계좌 같은 개인정보 가림, 엑셀로 열리는 월별 대화 기록.
- 사진 받기. 생산자가 상품 사진·농사 이야기를 보내면 매장에서 소개하는 데 씁니다. 판매를 돕는 일이 되니 생산자가 먼저 말을 겁니다.
함정
- 채널 하나에는 운영 봇 하나가 붙습니다. 이미 붙은 봇이 있으면 새로 만들어 갈아끼우기 전에, 그 봇이 무엇을 하는지부터 봐야 합니다. 그 봇에 기능을 얹는 길도 있습니다.
- 채널 관리자 계정이 누구 폰에 묶였는지 먼저 확인합니다. 매장 공용 폰으로만 로그인되는 채널은 고칠 때마다 그 폰을 찾아야 합니다.
- 비용: 모델을 쓰면 말 한 번마다 사용료가 듭니다. 가장 작은 모델로도 충분한 일이 많고, 월 상한과 80% 알림을 처음부터 걸어 둡니다.
한글 — 문서와 글자
HWP
공문서·지원사업 서식은 HWP로 옵니다. AI가 읽지 못하면 사람이 옮겨 적어야 하고, 그 순간 AX가 멈춥니다. HWP를 읽고 쓰는 오픈소스 도구를 파이프라인 맨 앞에 둡니다. 읽기는 마크다운으로 바꿔 넘기고, 쓰기는 원래 서식을 그대로 둔 채 칸만 채웁니다.
한글 사진(OCR)
현장 자료는 사진으로 옵니다. 거래명세서, 휴대폰 화면, 손글씨 장부입니다. 아래는 GPU 없는 i3 서버에서 우리가 잰 값입니다.
| 방법 | 사진 1장 | 결과 |
|---|---|---|
| 3~4B 비전 언어모델 | 130~238초 | 숫자는 맞히지만 느리다 |
| PaddleOCR PP-OCRv5 한국어 모델 | 약 5초 | 한글·숫자 정확 |
| OCR 글자를 1.2B 모델로 JSON 정리 | 약 7초 | 숫자 정답, 이름·날짜 칸은 가끔 놓침 |
글자를 읽는 일은 OCR에 맡기고, 모델은 정리만 시키면 서버 CPU로도 카톡 1분 시한 안에 들어옵니다. PaddleOCR 3.3은 enable_mkldnn=False를 줘야 돌아갑니다.
한국어 문장
바깥 사람에게 나가는 글은 번역투·과장 어휘를 걸러야 합니다. 「~을 통해」 「~에 대해」가 줄줄이 붙은 답은 사람들이 AI가 쓴 글로 알아보고 덜 믿습니다. 어르신이 많은 현장이면 글자를 크게 보이는 카드 형식을 쓰고, 한 번에 하나만 묻습니다.
점검표
- 새 앱을 만들기 전에, 그 사람들이 이미 있는 카톡 채널이나 단톡방에 문을 낼 수 있는지 봤다
- 숫자는 코드가 계산하고, 모델에게는 도구를 주지 않았다
- 모델 없는 1판이 5초 안에 답한다. 모델은 콜백 승인 뒤에
- 본인 확인이 「이름+뒷자리」에서 멈추지 않고 문자 인증번호까지 간다
- 못 다루는 말은 담당자에게 넘기고 직원 메신저로 알린다
- 채널에 이미 붙은 봇, 채널 관리자 계정의 폰을 확인했다
- HWP·한글 사진을 읽는 도구가 파이프라인 맨 앞에 있다
- 모델 사용료 월 상한과 알림을 걸었다