공동 AI 서버 제안

우리가 같이 쓰는 AI 컴퓨터 — 공동 AI 서버 제안

품앗이가 AX 챔피언 여러분께 드리는 제안입니다. 정해진 일이 아니고, 같이 정하자고 드리는 글입니다.

한 줄로

조직마다 AI 컴퓨터를 따로 사지 말고, 품앗이에 한 대를 두고 여러 조직이 같이 쓰자는 제안입니다.

지금 현장에서 생기는 일

AX를 시작한 조직이 늘면서 AI를 쓰는 양도 늘고 있습니다. 지금은 대부분 해외 큰 회사의 AI 서비스에 돈을 내고 쓰는데, 그러다 보니 이런 일이 생겼습니다.

한 현장은 생산자 응대 카카오톡 챗봇을 담당자의 월정액 AI 계정으로 돌렸습니다. 그런데 사용 한도가 차자 챗봇과 담당자의 업무 AI가 한 시간 동안 같이 멈췄습니다. 그래서 AI 회사에 건마다 돈을 내고 쓰는 방식으로 옮겼습니다. 현장 기록에 따르면 한 건에 1원 남짓이라 값은 싸지만, 자료가 해외 회사로 가고, 쓰는 만큼 돈이 늘어납니다.

현장 사무실 컴퓨터로 무료 AI를 직접 돌려 보기도 했습니다. 그 기록에 따르면 사진 속 글자 읽기는 한 장에 5초로 잘 됩니다. 그런데 챗봇 답 하나를 만드는 데는 4분이 넘게 걸려서 실제로는 쓸 수가 없었습니다. 가벼운 일은 사무실 컴퓨터로 되지만, 무거운 AI는 AI 계산용 부품(그래픽카드)이 달린 컴퓨터가 있어야 한다는 것을 이때 알았습니다.

왜 따로 사지 말고 모아서 사야 하나

품앗이는 따로 사는 것보다 모아서 사는 쪽이 낫다고 보는데, 까닭은 다섯 가지입니다.

1. 따로 산 컴퓨터는 대부분 시간 놉니다

한 조직이 AI를 쓰는 때는 몰렸다 끊겼다 합니다. 한 현장 챗봇은 하루에 수십 건을 받는 정도입니다. 조직마다 AI 컴퓨터를 사 두면 하루 대부분은 켜만 둔 채 놉니다. 한곳에 모으면 여러 조직이 쓰는 때가 겹치고 엇갈리면서 노는 시간이 줄어듭니다.

2. 같은 돈이라도 모아야 큰 AI가 돌아갑니다

예시로 계산해 보면, 다섯 조직이 200만 원씩 따로 쓰면 작은 AI 다섯 개가 생깁니다. 1,000만 원을 모으면 훨씬 큰 AI 하나를 다섯 곳이 다 쓸 수 있습니다.

AI 두뇌는 컴퓨터 크기를 넘어서 돌릴 수 없기 때문에, 나눠 사면 누구도 큰 AI를 쓰지 못합니다.

3. 따로 사면 챙길 일이 조직 수만큼 늘어납니다

컴퓨터는 사 두면 끝이 아니라, 고장 나면 고치고 업데이트하고 보안을 챙겨야 합니다. 다섯 조직이 따로 사면 이 일을 다섯 번 해야 하는데, 현장에는 그걸 맡을 사람이 없는 경우가 많습니다. 한곳에 두면 품앗이가 한 번에 챙깁니다.

4. 좋아지는 것이 모두에게 갑니다

가운데 컴퓨터를 한 번 좋게 바꾸면 모든 조직이 같이 좋아집니다. 또 한 조직이 어떤 일을 AI로 푸는 방법을 찾으면 다른 조직이 그 방법을 그대로 가져다 쓸 수 있습니다. 품앗이는 서로의 경험이 이렇게 쌓이는 것을 「연대지능」이라 부릅니다.

5. 값이 출렁일 때 덜 다칩니다

요즘은 컴퓨터 부품 값이 크게 오르내립니다. 조직마다 따로 사면 다들 비쌀 때 사기 쉽습니다. 한곳에서 필요한 만큼씩 나눠 사면 그 부담을 한곳에서 관리할 수 있습니다.

협동조합이 장비나 창고를 조합원마다 따로 사지 않고 같이 사서 같이 쓰는 것과 같은 이치라고 봅니다.

약한 점과 대책

좋은 점만 있지는 않아서, 약한 점과 대책을 같이 적습니다.

• 한곳이 멈추면 다 같이 멈춥니다. 그래서 가운데 컴퓨터가 멈추면 해외 AI 서비스로 저절로 넘어가는 예비 길을 둡니다. 한 현장에 「중계기」로 이미 만들어 둔 방식입니다.
• 우리 조직 자료가 조직 밖에 있는 품앗이 컴퓨터를 지나갑니다. 무엇을 남기고 무엇을 지울지는 계약에 적습니다.
• 현장 컴퓨터가 필요 없어지는 것은 아닙니다. 사진 속 글자 읽기, 장부, 업무 프로그램은 현장 컴퓨터에서 하고, 무거운 AI만 가운데에서 맡습니다.

우리 조직엔 무엇이 좋은가 — 아끼는 돈

아래는 10월 조사 기록에 기댄 예시 계산이며 정해진 값이 아닙니다.

	따로 살 때	모아서 살 때
드는 돈	10월 기준으로 16GB 그래픽카드 하나만 약 70만 원이고, 컴퓨터 사정에 따라 더 듭니다	같이 쓰는 AI 컴퓨터가 1,000만 원 안팎이고, 다섯 조직이 나누면 한 조직 200만 원꼴입니다
쓸 수 있는 AI	작은 AI 두뇌까지	훨씬 큰 AI 두뇌
관리	조직마다 각자	품앗이가 한 번에

해외 AI 서비스는 쓸수록 돈이 나가고, 한도에 걸리면 멈춥니다. 같이 쓰는 컴퓨터는 쓸 때마다 요금이 붙지는 않습니다. 그렇다고 공짜는 아니어서, 늘 켜 두는 컴퓨터(서버)라서 전기료와 관리비가 듭니다.

우리 조직엔 무엇이 좋은가 — 할 수 있게 되는 일

• 손님·생산자 응대 카카오톡 챗봇을 자료가 밖으로 나가지 않게, 사용량 걱정 없이 돌립니다.
• 납품서·명세서·전표·손글씨 메모 같은 사진과 서류를 읽어 장부에 옮깁니다.
• 우리 조직 문서와 위키에서 찾아 답하고, 회의록·보고서 초안을 씁니다.
• 매출·회원 자료 분석을 민감한 자료를 해외로 보내지 않고 할 수 있습니다.
• 직원·활동가 AI 교육 실습을 합니다.
• 우리 조직 자료와 일하는 규칙을 담은 「우리 조직 AI」를 키웁니다.

왜 이 일을 하려는가

우리 조직 자료는 우리 것입니다. 해외 AI 서비스에 맡기면 편하지만, 자료가 남의 회사로 가고 그쪽 사정에 따라 끊길 수도 있습니다.

AI 두뇌는 더 좋은 것이 나오면 언제든 바꿔 끼울 수 있습니다. 정말 우리 몫으로 쌓이는 것은 우리 자료와 우리가 일하는 규칙이라고 품앗이는 봅니다. 이걸 우리 손이 닿는 컴퓨터에 두면, 그 위에 어떤 AI 두뇌를 얹어도 우리 조직 AI가 됩니다.

조직 하나가 따로 하면 힘이 약하지만, 같이 세우면 한 조직의 경험이 다른 조직에도 쌓이는데, 이것이 연대지능입니다.

해외 AI 회사를 적으로 보자는 말은 아닙니다. 지금도 쓰고 있고 앞으로도 쓸 것입니다. 다만 우리 자리를 우리가 세워서 기대는 정도를 줄여 가자는 것입니다.

정부 지원만으로는 왜 안 되나

정부 지원을 받으면 되지 않느냐는 물음이 있을 수 있습니다. 실제로 받아서 써 보니 분명한 한계가 있었습니다.

사회혁신교육원사회적협동조합의 HPC 사업

사회혁신교육원사회적협동조합은 2026년 정부(정보통신산업진흥원)의 고성능 AI 컴퓨터 지원사업에 뽑혀, 6월부터 12월까지 아주 비싼 AI 컴퓨터를 빌려 쓰고 있습니다. 하지만 공고에 따르면 이 컴퓨터는 연구·기술 검증·AI 학습에만 쓸 수 있고, AI 서비스 운영이나 추론 용도로는 쓸 수 없습니다. 추론은 AI에게 묻고 답을 받는 일을 말하는데, 카카오톡 챗봇이나 서류 읽기처럼 우리가 날마다 하려는 일이 바로 여기에 들어갑니다. 목적과 다르게 쓰면 자원을 회수한다고 밝힙니다. 사업은 한 해 단위라 12월 31일에 끝나고, 다음 해에는 다시 신청해서 뽑혀야 합니다. 내년에는 조건이 바뀔 수 있다는 이야기도 있지만, 아직 정해진 것은 아닙니다.

사업비로 빌리는 경우

사업비 임차는 그 사업 기간에만 쓸 수 있습니다. 사업이 끝나면 빌린 값도 끊기고, 다음 사업을 다시 따야 이어집니다. 사업비로 장비를 사는 것은 막혀 있는 경우가 많고, 정산을 잘못하면 돌려내야 합니다.

그래서 품앗이는 정부 지원을 도움을 받는 자리로 보고, 기둥으로 삼지는 않는 편이 낫다고 봅니다. 기둥은 우리가 모아서 세운 컴퓨터이고, 정부 지원은 그 위에서 학습·연구를 하거나 빌려 쓰는 값을 보태는 데 쓰는 것입니다. 지원이 끊겨도 우리 일이 멈추지 않게 하자는 것입니다.

돈은 어떻게 나누나 — 세 가지 방식

조금씩 나누어 투자하거나, 누군가는 사업비를 태워 임차나 구독의 방식으로 할 수 있습니다. 이를 풀어 쓰면 아래 세 가지이고, 규정 근거는 부록에 밝힙니다.

1. 조금씩 나누어 같이 사는 방식으로, 여러 조직이 돈을 모아 한 대를 삽니다.
2. 정부·지자체 사업비로 빌려 쓰는 방식, 곧 임차입니다. 사업비로 장비를 「사는」 것은 막혀 있어도 「빌리는」 것은 되는 사업이 있습니다. 지방보조금 관리기준에도 장비를 빌리는 값을 임차료로 쓰는 칸이 있습니다. 컴퓨터는 품앗이 것으로 두고, 조직은 빌려 쓰는 값만 냅니다. 「빌려 쓰다가 나중에 넘겨받는」 계약은 사업비를 돌려내야 할 수도 있어 위험합니다. 집행 전에 담당 공무원에게 꼭 미리 물어보셔야 합니다.
3. 매달 사용료를 내는 방식, 곧 구독으로, 쓰는 조직이 매달 정해진 사용료를 냅니다.

세 방식 모두 요금은 아직 정하지 않았습니다.

한 번에 크게 사지 말자는 제안

메모리 값이 많이 올랐고 우리가 얼마나 쓸지도 아직 모릅니다. 그래서 처음부터 큰 컴퓨터를 사지 말고, 나눠서 키워 가는 편이 낫다고 품앗이는 봅니다.

1. 첫 컴퓨터는 1,000만 원 안팎으로 시작합니다.
2. 쓰는 조직이 늘면 한 대를 더 들입니다.
3. 더 많이 쓰게 되면 더 큰 것으로 갑니다.

사기 전에는 같은 컴퓨터를 몇 시간 빌려서 우리 일을 먼저 돌려 보면 좋겠습니다.

같이 정할 것

아래 질문에 편하게 답해 주시면 됩니다.

1. 우리 조직은 같이 사기, 빌려 쓰기, 매달 사용료 가운데 무엇이 가능할까요? 그리고 쓸 수 있는 사업비가 있으신가요?
2. 가장 먼저 AI에 맡기고 싶은 일은 무엇인가요?
3. 우리 조직 자료를 어디까지 맡길 수 있을까요?

품앗이도 확인할 것이 있는데, 컴퓨터를 빌려주고 받는 값에 세금을 어떻게 처리할지 알아보겠습니다.

---

자세히 보기(부록)

출처와 근거, 숫자의 세부는 아래와 같습니다.

컴퓨터 후보

10월 22일에 조사한 값이라, 사기 전에 다시 확인합니다.

후보	값	메모
통합메모리 미니PC(램 128GB)	약 500만 원 + 세금
NVIDIA DGX Spark 128GB	약 970만 원 + 세금($6,950)	두 대를 묶어 키울 수 있음
RTX PRO 6000 96GB	부품만 약 2,100만~2,600만 원	컴퓨터 본체 값은 따로

국내 AI 서버 월 대여 시세

업체가 게시한 값으로 월 13만 원대부터 60만 원까지이며, 게시 날짜는 아직 확인해야 합니다.

사업비로 빌려 쓰기 근거

지방보조금 관리기준(행정안전부 예규 제378호, 2026-08-18)에 따르면 아래 항목이 근거가 됩니다.

• 별표 1의4 임차료(201-07): 「각종 시설 및 장비의 리스료」
• 제6조 제3항: 사업기간이 1년 미만이면 사무기기 등은 임차비로 편성
• 공공요금(201-02): 「클라우드컴퓨팅법 제20조 제3항에 따른 디지털 서비스 이용료」

위 조항이 우리 사업에 그대로 적용되는지는 사업마다 다를 수 있어, 집행 전 담당 공무원 확인이 필요합니다.