플래그십 모델로 계획을 세우고, 무료 모델로 구현한 뒤, 다시 플래그십으로 리뷰하는 것이 비용 효율적인 AI 활용법이다.
다른 사람들은 어떤 AI 툴을 어떻게 사용하고 있을까?
다른 사람들은 어떤 모델을 어떻게 사용하는지 궁금하다.
여러 코딩 에이전트를 동시에 활용하는 방법은?
아래와 같이 좌 : Codex, 중 : Claude Code, 우 : Cursor를 활용하고, Cursor 의 경우는 프로모션을 하는 모델 또는 Grok code 무료 모델을 활용한다. 터미널에 Gemini CLI 까지 열어 두면, 달타냥과 삼총사 같은...
여튼 하나의 프로젝트를 같이 공유해서 활용할 수 있다는 것이 핵심이다. 이렇게 여러 툴을 분산해서 활용하는 전략은 분산에서 더 자세히 다뤘다.
어떤 모델을 어떤 단계에서 선택해야 할까?
나의 경우는 방향성 및 계획을 수립할 때는 각 사의 플래그십 모델을 활용해서 서로 검토를 시켜서 1차 계획을 수립한다.
계획을 토대로 실제 개발/구현을 할 때는 Cursor 에서 제공하는 무료 모델을 최대한 활용한다.
개발이 완료되고 나면 다시 플래그십 모델로 리뷰를 시킨다. 토이 프로젝트 성격이기 때문에 개발 리뷰까지 할 필요는 없지만 비싼 비용(토큰)으로 수립한 계획을 무료 모델로 구현한 결과물이 쓸만한지를 평가하고, 이 무료 모델이 쓸만한가에 대한 판단을 하기 위해서 수행을 한다.
현재까지 대부분 목업 데이터를 활용해서 프론트 웹페이지를 만드는 것이 대부분이라, 위의 방법대로 진행해도 별다른 이슈는 없었다.
AI 활용 비용은 어떻게 관리해야 할까?
AI를 활용하는 목적과 방법에 따라 비용이 천차만별이겠지만, 당연한 이야기지만 비용의 효율성에 대해서 항상 고민해야 한다고 생각한다. 위에 예시로 설명한 모델 선택처럼 적절한 모델을 선택하고 시간이 지나서 모델 성능이 좋아져서 로컬에서도 수행이 된다면 로컬에서 수행하면 목적은 달성하면서 비용은 전기세 정도로 그칠 수 있다.
A 모델에서 B 모델로 넘어가기 쉬울까? 하는 생각도 들긴한다. 다시 검증을 하고 효과성을 평가해야 할 것 같은데, 이것 또한 비용이다.
거기까지 가기 쉬울지 아닐지 모르겠지만, 항상 염두에 둬야 한다 생각한다. AI 시대의 역할 변화에서도 이야기했듯이, 비용 효율성은 생존의 문제다.
아래 예시는 비용/모델에 대한 고민을 잘 정리하고 적용한 좋은 사례라고 생각한다.
Claude Code와 Antrophic Batch API를 활용하여 고객 채팅 상담 분석하기
불러오는 중...