경량 모델(Lightweight Model)은 큰 트럭 대신 쓰는 배달 오토바이 같은 것 — 최상위 모델보다 작고 저렴하며 빠른 AI 모델로, 깊은 추론이 필요 없는 단순 작업을 싸게 처리할 때 써요.
이삿짐을 옮길 땐 트럭이 필요하지만, 서류 한 장 전달하는 데 트럭을 부를 필요는 없어요. 오토바이가 더 빠르고 싸죠. AI 모델도 마찬가지예요. 복잡한 기획이나 코드 설계에는 크고 똑똑한 모델이 맞지만, 글자 뽑기나 분류처럼 단순한 일은 작고 가벼운 모델로도 충분히 해내요. 이런 모델을 경량 모델이라고 해요.
강의에서는 사이트에 영수증 사진에서 글자를 뽑아내는 기능을 붙이면서 경량 모델을 골라요. 영수증 글자 추출은 큰 지능이 필요 없으니 가장 저렴한 Nano급 모델로 충분하고, 한 장 처리 비용도 아주 적게 든다고 보여 줘요. 그러면서 생각이 필요한 작업에만 좋은 모델을 쓰고, 나머지는 가벼운 모델에 맡기라고 정리해요. 같은 기능이라도 모델 선택에 따라 운영비가 크게 달라진다는 걸 보여 주는 장면이에요.
"간단한 작업에는 어떤 모델을 쓰면 되나요?"라는 질문에는, 분류·요약·글자 추출·형식 바꾸기처럼 답이 비교적 분명한 일은 경량 모델부터 시도해 보라고 답할 수 있어요. 샘플 몇십 건을 상위 모델과 경량 모델로 각각 돌려 결과를 비교하고, 품질 차이가 작으면 경량 모델을 쓰면 돼요. 헷갈리기 쉬운 점은 경량 모델이 꼭 내 컴퓨터에서 돌리는 로컬 모델을 뜻하지는 않는다는 거예요. API로 쓰는 클라우드 모델 중에도 경량 모델이 있어요. 가격은 자주 바뀌니 공식 가격표를 확인하세요.
AI 에이전트를 직접 만들고 24시간 운영하는 법을 단계별 강의로 배워보세요.