Claude Opus 4.7 temperature 매개변수 오류는 값을 바꾸지 말고 필드를 제거해야 한다

Claude Opus 4.7이 요청 안의 temperature 때문에 400을 반환한다면, 더 안전한 값을 찾는 것으로 시작하지 마세요. 첫 조치는 실제로 전송되는 payload에서 temperature 필드를 삭제하는 것입니다.

top_p와 top_k도 같은 계열입니다. 문제는 “어떤 숫자가 통과되는가”가 아니라 “SDK helper, Bedrock adapter, gateway, IDE plugin, eval harness, retry template 중 어디가 예전 sampling 필드를 계속 넣는가”입니다.

안전한 순서는 단순합니다. 오래된 필드를 삭제하고, final outbound payload가 깨끗한지 확인하고, 원래 그 필드로 하려던 제어를 prompt, schema, test, 또는 지원되는 route의 effort로 옮긴 뒤 같은 route에서 다시 실행합니다. fallback은 현재 stack이 오늘 그 필드를 멈출 수 없을 때만 의미가 있습니다.

먼저 책임 계층을 고르기

이 오류는 하나의 메시지처럼 보이지만 실제로는 책임 계층을 나누는 문제입니다. provider를 바꾸기 전에 어느 계층이 필드를 넣는지 확인해야 합니다.

같은 순간에 provider, prompt, model family를 모두 바꾸면 무엇이 해결했는지 알 수 없습니다. 먼저 같은 경로에서 신호를 얻어야 합니다.

Opus 4.7에서 바뀐 것

Anthropic의 현재 Opus 4.7 migration guidance는 non-default temperature, top_p, top_k가 400을 만든다고 설명합니다. 가장 안전한 migration은 새 숫자를 찾는 것이 아니라 해당 필드를 생략하는 것입니다.

그래서 temperature: 0은 좋은 패치가 아닙니다. 예전 모델에서도 0은 모든 route와 retry에서 동일한 출력을 보장하는 스위치가 아니었습니다. Opus 4.7에서는 먼저 request shape를 현재 contract에 맞춰야 합니다.

field 이름은 로그에서 중요하지만, 인식한 뒤에는 “temperature 조절”이 아니라 “request field cleanup”으로 사고를 바꿔야 합니다.

SDK 요청 고치기

필드가 직접 코드에 있으면 삭제가 답입니다.

python
message = client.messages.create(
    model="claude-opus-4-7",
    max_tokens=1200,
    temperature=0.2,
    top_p=0.9,
    messages=[{"role": "user", "content": "Refactor this function."}],
)

수정 후:

python
message = client.messages.create(
    model="claude-opus-4-7",
    max_tokens=1200,
    messages=[{"role": "user", "content": "Refactor this function."}],
)

TypeScript도 같습니다.

ts
const response = await anthropic.messages.create({
  model: "claude-opus-4-7",
  max_tokens: 1200,
  messages: [{ role: "user", content: "Summarize the incident." }],
});

수정 뒤에는 call site가 아니라 전송 직전 body를 봐야 합니다. 공용 helper가 default를 다시 붙이거나, gateway가 OpenAI-compatible body를 변환하면서 필드를 넣거나, retry middleware가 오래된 template에서 다시 만들 수 있습니다.

엄격한 JSON이 필요하면 필드가 아니라 출력 계약을 prompt에 둡니다.

text
Return exactly one JSON object with keys "root_cause", "fix", and "verification".
Do not include prose outside the JSON.
If evidence is insufficient, set "root_cause" to "unknown".

팀에서 여러 호출 경로를 운영한다면 이 수정을 작은 migration item으로 분리하세요. 항목에는 Opus 4.7로 가는 model ID, 전송 직전에 제거해야 하는 field 목록, 그리고 final payload가 깨끗하다는 로그 위치가 있어야 합니다. 그래야 backend, gateway, IDE 설정, eval job이 같은 기준을 봅니다.

배포 검증도 단순해야 합니다. 예전에 실패했던 실제 task 하나를 고르고 prompt, provider, route, model은 고정합니다. 바꾸는 것은 temperature, top_p, top_k 제거뿐입니다. 그 상태에서 400이 사라지고 outbound log에도 old sampling field가 없으면 현재 경로가 고쳐진 것입니다. route와 prompt까지 동시에 바꾸면 원인을 잃습니다.

숨은 주입 계층 찾기

가장 까다로운 경우는 비즈니스 코드에 temperature가 없는데도 final request에 들어가는 상황입니다. 이때는 첫 SDK 호출보다 마지막 payload를 확인해야 합니다.

확인할 지점:

• 모든 모델에 generation defaults를 붙이는 SDK wrapper.
• OpenAI-compatible gateway가 temperature를 Anthropic body에 복사하는 로직.
• Bedrock adapter가 account defaults를 merge하는 지점.
• IDE plugin 또는 agent preset의 오래된 model config.
• eval harness가 비교를 위해 temperature를 고정하는 설정.
• MODEL_TEMPERATURE 같은 환경 변수.
• retry middleware가 stale body로 재시도하는 경우.

로그에는 secret이나 전체 prompt를 남길 필요가 없습니다. field names, model ID, route, old fields presence만 보면 충분합니다.

Bedrock과 provider route

AWS Bedrock의 Claude Opus 4.7 model card도 temperature, top_p, top_k를 지원하지 않는다고 설명합니다. 따라서 Bedrock에서 실패해도 핵심은 동일한 cleanup입니다.

더 큰 모델 선택 문제라면 Claude Opus 4.7 vs Claude Opus 4.6을 보세요. 여기서는 이미 Opus 4.7을 쓰기로 한 경로를 복구합니다.

무엇으로 대체할까

temperature를 하나의 새 필드로 대체할 수는 없습니다. 예전 필드로 하려던 일을 분리해야 합니다.

effort는 reasoning depth와 token spend를 조절합니다. temperature의 이름만 바뀐 기능으로 쓰면 안 됩니다.

검증하고 나서 fallback

검증은 같은 경로여야 합니다.

1. model, provider, prompt, task를 유지합니다.
2. temperature, top_p, top_k를 실제 전송 경로에서 제거합니다.
3. final outbound body를 확인합니다.
4. 같은 route에서 한 번 retry합니다.
5. regression check로 old defaults가 돌아오지 않게 합니다.

fallback은 임시 bridge입니다. 오래된 모델 경로, field stripping gateway, tool version pin은 지금 업무를 살릴 수 있지만 장기 해법은 아닙니다. 장기 해법은 request shape를 Opus 4.7 contract에 맞추는 것입니다.

자주 묻는 질문

temperature가 완전히 제거된 건가요?

공식 경계는 non-default 값입니다. 하지만 구현에서는 필드를 아예 생략하는 편이 안전합니다. SDK와 gateway의 default 처리 방식이 다를 수 있기 때문입니다.

temperature: 0을 쓰면 안 되나요?

migration fix로 쓰지 마세요. deterministic output은 prompt, schema, test, same-route verification으로 다루는 편이 맞습니다.

effort가 temperature 대체인가요?

아닙니다. effort는 reasoning depth와 token spend를 조절합니다. style과 format은 prompt contract로 제어하세요.

Bedrock도 같은가요?

네. Bedrock route에서도 해당 sampling 필드는 지원되지 않습니다. adapter의 hidden defaults를 확인하세요.

Claude Code top_p deprecated와 같은 문제인가요?

기본 경계는 같지만 Claude Code에서는 version, route, preset을 먼저 봐야 합니다. Claude Code Opus 4.7 top_p Deprecated를 참고하세요.

작업 규칙

Claude Opus 4.7이 temperature 때문에 실패하면 값을 바꾸지 마세요. 필드를 삭제하고, 주입 계층을 찾고, prompt 또는 effort로 제어를 옮긴 뒤 같은 route에서 검증하세요.