AI 코딩 모델의 추론 강도는 코드 양보다 결정의 수와 불확실성으로 고르는 편이 효율적입니다.
코드 줄 수보다 판단 난이도를 본다
50개 파일의 반복 치환은 low로 충분할 수 있지만 10줄짜리 동시성 버그는 여러 원인 후보와 실행 흐름을 검증해야 하므로 high 이상이 필요할 수 있습니다.
실전 기준
| 작업 | 시작점 |
|---|---|
| 기계적 변경 | none~low |
| 명확한 기능 구현 | low~medium |
| 여러 파일 기능 | medium |
| 원인 불명 버그·구조적 판단 | high |
| 대형 코드베이스 분석 | xhigh |
| 여러 접근이 실패한 난제 | max |
기본값은 medium
일반적인 Codex 작업은 medium에서 시작하고 경로가 명확하면 low, 원인 탐색이나 아키텍처 판단이 필요하면 high로 올리는 방식이 실용적입니다.
비용은 재시도까지 본다
reasoning effort가 올라간다고 토큰당 단가 자체가 바뀌는 것이 아니라 reasoning token 사용량이 늘 수 있어 총비용이 증가합니다. 하지만 low에서 여러 번 실패하는 것보다 medium 한 번에 성공하는 편이 저렴할 수 있습니다.
결론
가장 유용한 질문은 ‘이 작업에서 모델이 내려야 할 중요한 결정이 몇 개인가?’입니다. 비용 최적화의 목표는 가장 낮은 추론 모드가 아니라 성공 한 번에 필요한 총 토큰과 재시도 횟수를 줄이는 것입니다.