AI 활용기: 로컬 AI 앱은 하나도 만들기 전에 멈췄다
표시 날짜는 이 글이 다루는 작업의 대표 기록일이며, 당시 발행된 글을 뜻하지 않습니다. 이후 회고와 적용 방법은 2026년 9월에 정리했습니다.
서버 비용 없는 AI 기능을 넣으려는 사람에게, 기획을 끝까지 밀어붙이지 않고 멈춘 판단 기준을 보여준다.
이 공장은 운영비 0을 전제로 했는데, 작은 온디바이스 모델의 품질은 검증되지 않았고 유료 클라우드로 보완하면 그 전제가 깨졌다. 9월 2일 문서는 이 모순을 풀지 못해 ‘개시하지 않는다’로 끝났고 앱은 한 개도 만들지 않았다.
온디바이스 AI 기능을 검토 중이라면 전체 앱보다 좁은 과제 하나를 골라 목표 기기에서 품질과 응답 시간부터 실측한다.
연재 목차
먼저 답하면
이 공장은 기존 앱 공장의 7단계 공정은 그대로 가져오면서도 실제 앱 폴더는 하나도 옮기지 않았다. 비교용 레지스트리만 기준선으로 들여왔다.
AI로 앱을 만드는 것과 AI가 들어간 앱을 만드는 것은 다른 일이었다. 기존 제작 공정에 로컬 언어 모델을 넣으면 서버 비용 없이 새 제품을 만들 수 있을지 검토했다. 결과는 출시가 아니라 중단이었다. 9월 2일 종료 문서에는 앱을 한 개도 만들지 않았다고 남아 있다.
기존 앱 공장의 절차를 가져오되 앱 폴더는 옮기지 않았다. 비교 기준으로 쓸 레지스트리만 가져왔다. 복사된 문서에 다른 공장의 출시 이력이 있다고 이 공장도 앱을 만든 것은 아니다.
비용 전제와 품질 사이에서
검토는 모델을 어디에 두고 처음 실행할 때 무엇을 받을지까지 갔다. 기록에서 고른 방향은 1B급 모델을 첫 실행에 한 번 내려받는 방식이었다. 다만 경로를 골랐다는 것과 실제 기기에서 쓸 만한 품질을 확인했다는 것은 달랐다.
이 공장의 전제는 운영비를 만들지 않는 것이었다. 그런데 작은 온디바이스 모델의 품질은 미지수였고, 유료 클라우드로 보완하면 그 전제와 충돌했다. 그 사이를 해결할 근거를 얻지 못해 개시하지 않기로 했다.
모든 로컬 모델이 쓸모없다는 결론은 아니다. 당시 선택한 제품 조건을 만족시키는지 입증하지 못했다는 뜻이다. 모델 성능 전반을 비교한 벤치마크도 아니다.
코드가 늘어나는 것만 진척으로 세면 이 프로젝트는 아무것도 남기지 않은 것처럼 보인다. 하지만 무엇이 해결돼야 다시 시작할 수 있는지는 남았다. 같은 계획을 다시 읽는 것으로는 부족하고, 전제를 바꾸거나 실제 품질을 보여줘야 한다.
다시 검토한다면 범용적인 AI 앱보다 아주 좁은 과제 하나부터 실제 기기에서 확인하려 한다. 출력 품질과 기다리는 시간을 먼저 보고 공정을 넓히는 것이다. 이것은 아직 실행한 실험이 아니라 중단 뒤 남겨둔 다음 질문이다.
중단한 기획을 다시 열려면
온디바이스 모델을 다시 검토한다면 앱 전체보다 좁은 과제 하나를 정한다. 짧은 문장을 분류하는지, 정해진 형식으로 요약하는지처럼 입력과 정답의 범위를 제한한다. 같은 입력 묶음에서 출력 품질과 기다리는 시간, 메모리 사용을 실제 목표 기기로 기록한다.
모델 다운로드도 사용자 경험의 일부다. 최초 용량과 저장 공간, 중단 뒤 재개, 네트워크가 없는 실행을 시험한다. 운영비가 없다는 전제에는 설치 부담과 배터리 부담이 사라진다는 뜻이 포함되지 않는다.
재개 기준은 ‘새 모델이 나옴’보다 ‘이 과제에서 정한 품질과 지연 기준을 만족’으로 두는 편이 낫다. 아직 실행하지 않은 시험 계획과 실제 측정값을 나눠 기록하면, 과거 중단을 범용적인 모델 성능 평가로 오해하는 일도 줄일 수 있다.
← 이전 글: 앱과 서버를 따로 만들었더니 데이터 이름부터 달랐다 · 전체 목차 · 다음 글: 슬라임이 자꾸 사람처럼 나왔다 →