챗 GPT로 서버 비용 80% 절감하기
안녕하세요, 재미있게 배우는 코딩! 잼코딩입니다.
지난 포스팅에서 얘기했듯 AI의 성능이 고도화되어감에 따라
잼코딩에서도 점점 많은 부분에 AI를 도입하고 있는데요.
이번 포스팅에서는 그중에서 잼코딩의 서버 사용료 절감에 대한 이야기를 해볼까 합니다.
100만원이 20만원으로,
무려 80%나 비용이 감소한 이야기입니다.
지난 포스팅
챗북 - 잼코딩이 AI를 도입한 이유blog.naver.com잼코딩 만능 로봇, 잼봇
잼코딩에서는 업무 효율화를 위한 봇, '잼봇'을 자체 개발하여 사용 중입니다.
잼봇은 메신저, 학원 전화, Google Drive 등과 연동된 앱으로
원생 관리나 상담 관리 등 학원 운영에 꼭 필요한 업무들을
체계적으로 관리할 수 있게 도와줍니다.

2018년에 처음 잼봇을 만들었으니 벌써 8년째이군요.
처음엔 전화 알림 등 간단한 기능 몇 개로 시작했는데,
계속해서 유지 보수 및 기능들을 추가하다 보니
이제는 잼봇 없이는 학원 운영을 할 수 없을 정도로
중요한 역할을 차지하고 있습니다.
잼봇의 문제점, 비용
8년 동안 운영해오며 다양한 기능들을 추가하다 보니 서버도 점차 많이 사용하게 되었습니다.
어느 정도 분리된 기능은 독립적인 서버에서 별개의 서비스로 돌려서 그런 것인데요,
이렇게 분산시킨 이유는 하나의 서버가 다운되어도 전체 기능이 마비되지 않도록 하기 위해서였습니다.
문제는 비용이었습니다.
서비스가 늘어날 때마다 서버도 하나씩 추가되고,
거기에 스토리지, 고정 IP 같은 부가 리소스도 따라붙으니
매달 청구서를 열 때마다 100만 원에 가까운 큰 금액에 한숨이 나오고는 했습니다.

AI 에이전트의 등장
2025년은 AI 에이전트의 해라고 할 만큼 다양한 AI 에이전트가 등장하고 기술도 고도화되었습니다.
단순히 문답만 가능한 것을 넘어서, AI 에이전트는 컴퓨터에서 다양한 기능들을 직접 조작할 수 있는데요,
잼코딩에서는 2025년 하반기 공개된 OpenAI의 AI 에이전트, Codex를 사용했습니다.
지난 포스팅에서 GPT의 성능 향상을 경험한 저는
늘 고민거리였던 서버 비용에 대해 GPT에 질문했습니다.
GPT의 잼봇 개선 제안은 이러했습니다.
첫째로 모든 서비스를 하나의 서버에 통합하고
둘째로 서버 다운 등의 리스크는 다운타임을 최소화하는 백업 전략을 세워서 대비하자는 것이었습니다.
잼봇이 본래 외부 서비스용이 아니고 회사 내의 운영 효율화를 위한 것이라서
간혹 서버에 문제가 생겨도 몇 분 정도의 다운타임은 크게 문제 되지 않거든요.
그래서 충분히 가능한 전략이라 판단했고 AI를 믿고 진행해 보기로 합니다.
맞춤형 경력직 개발자
AI 에이전트는 단순 제안을 하는 것을 넘어 서버 통합 작업까지 기가 막히게 해주었습니다.
잼봇의 모든 서버들이 아마존의 AWS를 기반으로 하여 올라가있었기 때문에
AWS 콘솔의 권한을 일부 승인해 주었더니
서버 통합 및 IP연동, 백업 정책 설정까지
채 10분이 되지 않아서 마무리되었습니다.
그 과정 전반에 걸쳐 다운타임은 수 초에 지나지 않았구요.
생전 듣도 보도 못한 커맨드들이 주르륵 올라가는데,
중간중간 지금 어떤 작업을 하고 있는지 설명을 해주더라고요.
조금 기다리니 명령한 모든 것이 완료되어 있었습니다.
완벽한 작업물을 보고 들었던 느낌은 경력 30년 넘는 베테랑 개발자가 앞에 앉아서
프로젝트에 대해 완벽히 이해하고 일을 착착 진행해 주는 듯했습니다.
다른 점이 있다면 30년 경력자 개발자라면 몇 시간, 며칠을 걸릴 일을
10분도 안되어 해결해 줬다는 점이 있겠네요.
직접 하려 했다면 공부하는 데 한 세월,
서버가 다운될까 조마조마하며 찔끔찔끔 진행하는 데 한 세월 걸렸을 일입니다.
그러한 일을 월 20달러만 내면 쓸 수 있는 AI가 손바닥 뒤집듯 해주는 것을 보니
앞으로 개발자들이 설자리가 엄청나게 줄어들겠다는 생각과 함께
AI를 활용하는 능력은 엄청나게 중요해지겠구나라는 생각이 들었습니다.
그리고 작업한 다음 달 서버 관련 청구서 금액은 기존 청구서 대비 1/5로 줄어있었습니다.
기존에는 한 달에 100만 원 정도의 서버 비용이 나왔으니
2만 원과 10분을 투자해서 매월 80만 원을 아끼게 된 셈입니다.
AI 에이전트 도입 이후
그간 잼봇을 개발하고 운영하는 데에 잼코딩 내의 많은 선생님들의 노력이 있었습니다.
AI 에이전트의 도입으로 해당 업무가 훨씬 수월해졌고, 훨씬 빨라졌습니다.
특히 개발 특성상 '오래 걸리는 작업'은 계속해서 밀리다 보면
'영영 안 하게 되는 작업' 이 되기 마련인데요
AI 에이전트의 도입 이후 이러한 '오래 걸리는 작업'도 순식간에 다 끝나버리니
필요한 기능은 바로바로 만들어서 쓸 수 있게 되었습니다.
또한 개발에서의 편의를 떠나
학원 운영의 관점에서도 큰 발전이 있었습니다.
원생 정보, 상담 내역 등 모든 데이터는 학원 서버 내에 있기 때문에
AI를 통해 분석하기 상당히 용이해졌고, 이전에는 엄두도 못 냈던 수준의 분석도 가능해졌습니다.
개발에서의 AI의 힘을 직접 체험하고 나니 앞으로는 단순한 코딩 교육을 넘어서
AI 활용 교육에 더 힘을 쏟아야겠다는 생각이 듭니다.
실제로 요즈음 수업하다 보면 학생들 사이에서도 변화가 느껴집니다.
예전에는 "선생님 이 코드 왜 안돼요?" 하던 질문이
"GPT한테 물어봤는데 왜 이렇게 해야해요?" 로 바뀌고 있거든요.
이미 학생들도 AI를 쓰고 있는 겁니다.
당연하죠 이제는 AI 시대거든요.
문제는 어떻게 쓰느냐인데, 보면 대부분 그냥 코드를 통째로 복붙하거나
AI가 준 답을 이해하지 못한 채 그대로 쓰는 경우가 많습니다.
그러니 조금만 응용문제가 나오면 바로 막히는 거죠.
직접 서버 통합 과정에서 AI 에이전트를 써보고 나서 확실히 느낀 건,
AI를 잘 쓰려면 결국 기본기가 있어야 한다는 점입니다.
내가 뭘 하고 싶은지 명확히 알아야 AI한테 제대로 시킬 수 있고,
AI가 해준 결과물이 맞는 건지 틀린 건지도 판단할 수 있으니까요.
코딩을 모르는 상태에서 AI를 쓰는 것과
코딩을 아는 상태에서 AI를 쓰는 건 완전히 다른 이야기입니다.
AI와 함께 앞으로 더 나은 교육을 제공할 수 있도록 노력하는 잼코딩이 되겠습니다.
감사합니다.
