AI 선택창이 모델 이름에서 추론 강도로 바뀐 이유
챗GPT가 선택창 맨 앞자리를 추론 수준에 내준 배경과, 생각 강도를 켜두면 사용량이 화면 밖에서 깎이는 과금 구조를 정리했습니다.
방구석컴퍼니
혼자 일하는 사람 · 작업 기록
7개월 동안 한 회사가 모델 8개를 내놨고, 그중 4개는 45일 안에 몰려서 나왔습니다. 사용자가 이름을 외워서 따라갈 수 있는 속도가 아닙니다. 그래서 챗GPT는 2026년 6월 선택창을 개편하면서 맨 앞자리를 모델 이름이 아니라 추론 수준에 내줬습니다. 이 글은 그 변화가 왜 일어났고, 추론 강도를 켜두면 무엇이 어떻게 소모되는지를 구조 단위로 정리합니다.
선택창 구조가 바뀐 배경
모델 선택 UI는 원래 이름의 목록이었습니다. 사용자가 이름과 성능을 대응시켜 기억한다는 전제였습니다. 그 전제가 두 가지 이유로 무너졌습니다.
첫째, 출시 주기가 기억 주기보다 짧아졌습니다. 업계 전체로 넓히면 8일 동안 최상급 모델이 4개 나온 주간도 있었습니다. 둘째, 목록이 늘기만 하는 게 아니라 줄기도 합니다. 어제까지 쓰던 모델이 오늘 선택창에서 사라지는 일이 실제로 발생했습니다.
이름을 기준으로 고르게 하면 UI가 계속 낡습니다. 그래서 바뀌지 않는 축으로 갈아탄 것입니다. 그 축이 추론 수준입니다. 모델이 몇 번 더 교체되어도 "얼마나 생각시킬 것인가"라는 질문은 그대로 남습니다.
현재 두 앱의 구조는 다음과 같습니다.
| 앱 | 1순위 노출 | 2순위 |
|---|---|---|
| 챗GPT(웹) | 추론 수준 (즉시 / 중간 / 높음) | 모델 이름 — 하위 메뉴 |
| 클로드(웹) | 모델 이름 (4종) | 노력 — 하위 메뉴 (5단계) |
챗GPT는 강도를 앞에, 클로드는 이름을 앞에 둡니다. 방향은 반대지만 두 앱 모두 이름과 강도를 분리해 별도 축으로 만들었다는 점은 같습니다.
추론 강도가 실제로 하는 일
이름은 다르지만 동작은 하나입니다. 모델이 최종 답을 출력하기 전에 내부적으로 추론 토큰을 얼마나 생성할지를 정합니다. 사용자에게 보이는 답 이전에, 화면에 표시되지 않는 사고 과정이 먼저 생성됩니다.
효과는 분명합니다. 어려운 추론 과제에서 같은 모델을 끄고 켜본 비교에서 정확도가 14.7%에서 42.4%로 올랐습니다. 조건은 모델과 문제를 고정하고 강도만 바꾼 통제 비교입니다.
사용량이 화면 밖에서 깎이는 구조
여기가 대부분 놓치는 지점입니다. 언어 모델 과금은 입력 토큰과 출력 토큰으로 나뉘고, 출력 쪽 단가가 입력의 대여섯 배입니다. 그리고 추론 토큰은 출력으로 계산됩니다.
| 구분 | 화면 표시 | 과금 |
|---|---|---|
| 사용자 질문 | 보임 | 입력 단가 |
| 내부 추론 | 안 보임 | 출력 단가 |
| 최종 답변 | 보임 | 출력 단가 |
즉 강도를 올리면 화면에 아무 변화가 없는 채로 비용만 늘어납니다. 서류 검토 한 건을 기록으로 확인해 보면 화면에 뜬 답보다 내부 추론 분량이 20배 넘게 많았습니다. 월정액 사용자에게는 이것이 금액이 아니라 하루 한도 소진 속도로 나타납니다. 한도가 왜 빨리 닳는지 원인을 찾기 어려운 이유가 이 비가시성입니다.
이 설명은 추정이 아닙니다. 클로드는 노력 설정 메뉴 안에 "더 높은 노력은 더 철저한 응답을 의미하지만, 시간이 더 오래 걸리고 한도를 더 빨리 사용합니다"라고 직접 적어두었습니다. 상세 조건은 Anthropic 공식 문서에 있습니다.
더 생각시키면 더 틀리는 구간
강도를 올릴수록 성능이 오른다면 판단은 단순합니다. 시간과 비용만 감당하면 되니까요. 그런데 성능 자체가 역전되는 구간이 관측됩니다.
쉬운 질문만 모은 벤치마크에서 추론을 사용하지 않은 쪽이 9397%, 사용한 쪽이 8597%를 기록했습니다. 정확도가 오르지 않았고 추론 토큰만 7~10배를 소모했습니다.
Anthropic이 대학 세 곳과 함께 발표한 Inverse Scaling in Test-Time Compute는 이 현상을 자사 모델로 재현했습니다. 추론 길이를 늘릴수록 성능이 떨어지는 과제군이 존재하며, 특히 질문에 포함된 관련 없는 정보에 더 크게 휘둘리는 경향이 보고됐습니다. 오래 볼수록 보지 않아도 될 것을 보게 되는 셈입니다.
실제 작업 로그 4,000건에서 추론이 덜 꼬인 응답만 선별했더니 성능은 30% 오르고 비용은 43% 줄었습니다. 덜 생각시키는 쪽이 더 나은 결과를 낸 사례입니다.
비싼 등급이 답이 아닌 이유
강도 대신 등급을 올리는 선택도 있습니다. 이쪽도 수익이 크지 않습니다. 가격만 비교한 조사에서 최저가와 최고가 모델의 차이가 1,000배였는데, 동일 벤치마크 점수 차이는 8점이었습니다. 가격 곡선과 성능 곡선의 기울기가 전혀 다릅니다.
여기에 더해, 더 새롭고 더 오래 생각하는 모델이 없는 사실을 더 많이 생성한 사례도 있습니다. 제조사 자체 평가에서 환각 비율이 16% → 33% → 48%로 올라간 기록이 남아 있습니다.
그래서 어떻게 설계할 것인가
두 축만 남깁니다.
- 급 — 기본은 가운데 등급 고정. 강도로 해결되지 않는 작업에서만 상향.
- 강도 — 작업 성격에 따라 매번 조정.
강도 판단 기준은 두 질문으로 압축됩니다. 사람이 그 작업을 10분 넘게 고민할 성격인가, 그리고 틀렸을 때 책임이 발생하는가. 둘 다 아니면 최저 단계가 정답입니다.
한 가지 예외를 분리해야 합니다. 정보 검색은 추론 강도의 대상이 아닙니다. 오늘 자 주가나 지역 정보처럼 모델 외부에 있는 데이터는 아무리 오래 추론해도 생성되지 않습니다. 이것은 검색·리서치 도구를 활성화하는 문제이며, 강도를 올리는 것은 비용만 늘립니다. 강도와 도구 사용을 같은 축으로 묶으면 이 오류가 반복됩니다.
한계
이 글의 UI 서술은 2026년 7월 웹 클라이언트 기준입니다. 모바일 앱은 확인하지 않았습니다. 단계 수는 요금제에 따라 다르게 노출될 수 있어, 여기서는 확인된 범위만 적었습니다. 선택창은 6월에 한 차례 개편된 이력이 있으므로 구조 자체가 다시 바뀔 가능성도 있습니다.
수치 근거는 OpenAI 모델 선택 가이드와 위 논문에서 가져왔습니다.
정리
모델 이름은 7개월에 8개가 교체되는 변수이고, 추론 강도는 그 위에서 바뀌지 않는 상수입니다. 선택창 개편은 그 상수를 앞으로 끌어낸 결과입니다. 남은 판단은 하나입니다. 이 작업에 얼마나 생각시킬 것인가.
혹시 강도를 올렸다가 오히려 결과가 나빠진 작업이 있으셨나요. 어떤 유형이었는지 궁금합니다. 영상으로 정리한 버전은 유튜브 방구석컴퍼니 채널에 있습니다.