Parallax는 첫 검색부터 최종 통찰까지, 연구자가 한곳에서 해낼 수 있도록 돕습니다.

여기서부터 무엇이든 물어보세요

AI가 생성한 내용입니다. 논문과 대조해 확인하세요.

Longer Thoughts, Better Answers: Log-Linear Test-Time Scaling in Reasoning Language Models

Lena Hartmann, Arjun Mehta, Yuki Tanaka · Preprint · August 2026

Abstract

Reasoning language models trained with reinforcement learning write long chains of thought before they answer, and on hard problems their accuracy tends to rise as these chains grow. It remains unclear, however, how reliably accuracy scales with the amount of thinking, and whether longer reasoning is itself the source of the improvement. We study this question with budget forcing, which caps or extends the thinking phase of a model at inference time without changing its weights, and apply it to three models of different sizes trained under an identical recipe.

On AIME 2024–2025, the accuracy of our largest model rises from 28.3% at a budget of 1K thinking tokens to 52.5% at 8K, gaining about eight points with every doubling of the budget. Forcing models to keep thinking after they would naturally stop adds a further 3.6 points. We argue that test-time scaling in reasoning models follows a log-linear law in reasoning length, and that longer reasoning, rather than additional compute in general, is what drives it.

1. Introduction

Prompting language models to write out intermediate steps improves their performance on multi-step problems [Wei et al., 2022], and sampling several such chains and taking a majority vote improves it further [Wang et al., 2023]. A recent generation of reasoning models goes beyond prompting: trained with reinforcement learning on verifiable rewards, they learn to produce extended traces in which they plan, check intermediate results and revise earlier steps before committing to an answer [DeepSeek-AI, 2025].

These models invite a simple question: if a model is allowed to think for longer, does it answer better, and by how much? Prior work has shown that inference-time compute can substitute for model size on some tasks [Snell et al., 2024], and that a model’s thinking can be lengthened by suppressing its end-of-thinking token [Muennighoff et al., 2025]. What is still missing is a controlled measurement of how accuracy depends on the length of a single reasoning trace, and of whether that dependence holds across scales.

We provide such a measurement. Our contributions are a scaling study of accuracy against thinking budget for three model sizes, an intervention that extends reasoning beyond the point where models would naturally stop, and a log-linear fit that predicts accuracy at intermediate budgets to within one point.

2. Experimental Setup

We train three decoder-only models with 1.5B, 7B and 32B parameters, initialised from the same family of pretrained checkpoints and fine-tuned with an identical reinforcement learning recipe on 120K competition-style math problems with verifiable answers. All models write their reasoning between dedicated thinking delimiters, followed by a short final answer.

We evaluate on the 60 problems of AIME 2024 and 2025, and report results on MATH-500 in the appendix. For every problem we draw 16 samples at temperature 0.6 and report mean accuracy across samples. We control the length of the thinking phase with two interventions:

Capping: as soon as the trace reaches the budget B, we insert the end-of-thinking delimiter and ask the model to give its final answer.
Extension: if the model emits the delimiter before reaching B, we remove it and append the token “Wait” so that it keeps reasoning, repeating this up to a fixed number of times.

Capping on its own measures how much of its natural reasoning a model can afford, while extension tests whether reasoning past its natural stopping point still helps. Unless stated otherwise, budgets count thinking tokens only and exclude the final answer.

3. Experiments

3.1 Scaling with the Thinking Budget

Table 1 reports accuracy under capping at budgets from 1K to 16K tokens. Accuracy rises monotonically with the budget at every scale, and larger models gain more from each doubling of the thinking budget than smaller ones do.

Budget	1.5B	7B	32B
1K	9.4	18.1	28.3
2K	13.0	24.6	36.7
4K	16.9	30.8	45.0
8K	20.2	36.9	52.5
16K	21.1	38.8	55.8

Between 1K and 8K tokens, the 32B model gains 8.4, 8.3 and 7.5 points with successive doublings; a log-linear fit over this range gives a slope of 8.1 points per doubling (R² = 0.99). The gain from 8K to 16K is smaller, at 3.3 points, which we attribute to the fact that only 18% of traces reach 16K tokens before the model stops on its own.

3.2 Extending Reasoning Past the Natural Stop

Capping cannot tell us whether reasoning past a model’s natural stopping point would still be useful. We therefore fix the budget at 16K and apply extension, appending “Wait” up to two times whenever a model ends its trace early. Forcing the models to keep thinking improves accuracy at every scale, indicating that longer reasoning itself, rather than the budget cap, drives the gains.

Model	Natural stop	+ Wait ×1	+ Wait ×2
1.5B	21.1	22.0	22.4
7B	38.8	40.9	41.7
32B	55.8	58.2	59.4

With two extensions the 32B model reaches 59.4%, 3.6 points above its natural stop. Inspecting the problems whose outcome changes, we find that in about 70% of cases the model revisits an earlier answer and corrects it, while in the remaining cases it abandons its first approach and works through a new one.

4. Discussion

Across three scales, accuracy grows log-linearly with the length of the reasoning trace up to 8K tokens, and keeps improving when models are made to think past their natural stopping point. We take this as evidence that reasoning length is the main lever of test-time scaling in these models, and that budgets should be set per problem rather than fixed in advance.

An alternative explanation is that the gains reflect additional compute rather than longer reasoning per se. In a preliminary comparison, majority voting over four independent 4K-token traces reaches 56.7% with the 32B model, slightly above a single 16K-token trace (55.8%) at the same total budget. We have not yet run this comparison systematically across budgets and model scales.

Our analysis also treats the visible trace as a faithful record of the model’s computation, which prior work suggests it may not always be [Lanham et al., 2023]. Compute-matched comparisons with parallel sampling, and truncation tests that check when the final answer is settled, would help separate these accounts; we leave both to future work.

5. Conclusion

We measured how the accuracy of reasoning language models depends on the length of their thinking. Across three model sizes, accuracy grows log-linearly with the thinking budget up to 8K tokens, and extending reasoning past the natural stopping point brings further gains. These results suggest that test-time scaling can be predicted from reasoning length alone, and they motivate adaptive budgets that let a model think for as long as each problem requires.

다음 기관의 연구자들이 사용합니다

R1키워드 필터258

looped transformerrecurrent depthweight-tieduniversal transformer

R2키워드 필터312

adaptive computation timeearly exitdynamic depthmixture-of-recursions

R3의미 기반 검색600

reusing one transformer block across depth to get recurrent depth

R4의미 기반 검색400

reasoning in latent space by looping a block instead of writing CoT

R5의미 기반 검색300

what looped transformers can express, and why recurrence helps

병합 및 중복 제거

AI 스크리닝Jev320 / 1,412

포함 확률기준값 0.5

00.51.0

제목확률

1Thinking Deeper, Not Longer: Depth-Recurrent Transformers0.98

2One Model to Loop Them All: Elastic Latent Recurrence0.97

3Closing the Loop: Training Recipes for Looped LMs0.97

4What Makes Recurrence Effective in Looped LMs?0.96

AI 분류

아키텍처 설계 공간124

제목확률

1Hyperloop Transformers0.96

2Scaling Latent Reasoning via Looped Language Models0.95

3Relaxed Recursive Transformers0.93

4Mixture-of-Recursions: Dynamic Recursive Depths0.91

적응형 테스트 시점 연산42

제목확률

1Mixture-of-Recursions: Dynamic Recursive Depths0.97

2Think-at-Hard: Dynamic Looped Transformers0.95

3AdaPonderLM: Gated Pondering Language Models0.93

4Enabling Dynamic Computation in Looped LMs0.91

메커니즘 및 해석 가능성40

제목확률

1Think Shallow, Solve Deep: Controlling Recurrent Dynamics0.94

2Loop as a Bridge: Representation Space and Language0.92

3Looped Transformers under the Jacobian Lens0.90

4What Makes Recurrence Effective in Looped LMs?0.88

더 빠르게
Parallax · Jev 기반약 2분
범용 LLM약 20분
의사결정 모델 Jev를 기반으로 Parallax는 논문 1만 편을 약 2분 만에 스크리닝합니다. 범용 LLM보다 10배 빠르고 5배 저렴해, 한 번의 연구가 닿는 범위를 넓혀 줍니다.
더 넓게
키워드 검색과 의미 기반 검색을 병렬로 실행해 수천 개의 후보를 한 번에 모으고, 표현이 달라도 관련 연구를 놓치지 않습니다.
추적 가능
Mixture-of-Recursions: Dynamic Recursive Depths
A0.91
B0.88
C0.12
포함된 논문마다 이유가 따라옵니다. 논문별 확률과 모든 스크리닝 및 분류 단계의 기준이 세트에 기록되어 언제든 확인할 수 있습니다.

스킬 마켓

정독부터 신규 연구 추적까지, 바로 쓸 수 있는 연구 방법을 모았습니다.

모든 기능이 곧 도구

컬렉션, 논문, 세트, 워크스페이스, 노트, 보고서 모두 Agent가 바로 쓸 수 있는 도구를 갖추고 있습니다.

논문 검색

논문 읽기

세트 만들기

컬렉션에 추가

안 읽은 논문 찾기

노트 작성

워크스페이스 정리

보고서 게시

논문 검색

논문 읽기

세트 만들기

컬렉션에 추가

안 읽은 논문 찾기

노트 작성

워크스페이스 정리

보고서 게시

논문 검색

논문 읽기

세트 만들기

컬렉션에 추가

안 읽은 논문 찾기

노트 작성

워크스페이스 정리

보고서 게시

논문 검색

논문 읽기

세트 만들기

컬렉션에 추가

안 읽은 논문 찾기

노트 작성

워크스페이스 정리

보고서 게시

논문 검색

논문 읽기

세트 만들기

컬렉션에 추가

안 읽은 논문 찾기

노트 작성

워크스페이스 정리

보고서 게시

안 읽은 논문 찾기3편 안 읽음

Looped LMs논문 3편

Hyperloop Transformers시작 전

Relaxed Recursive Transformers완료

Think-at-Hard: Dynamic Looped Transformers읽는 중

Mixture-of-Recursions: Dynamic Recursive Depths완료

Scaling Latent Reasoning via Looped Language Models시작 전

매일 동기화되는 arXiv

물리학과 수학부터 컴퓨터과학, 생물학, 경제학까지 arXiv 전 분야의 신규 논문을 매일 동기화합니다.

내 언어로

질문하고, 전문 번역을 읽고, 연구 보고서를 내 언어로 받아보세요. 모든 내용은 항상 원문을 출처로 합니다.

4. Discussion

4. 논의

다른 설명으로, 이러한 향상은 더 긴 추론 자체가 아니라 추가 연산을 반영한 것일 수도 있다. 예비 비교에서 32B 모델로 서로 독립적인 4K 토큰 추론 네 개에 다수결을 적용하자 56.7%에 이르렀다.

원문

향상은 더 긴 추론이 아니라 추가 연산에서 비롯되었을 수 있습니다.1

컬렉션과 읽기 진행 상황

논문을 주제별로 정리하고 읽은 것을 표시하세요. 컬렉션마다 진행 상황을 한눈에 볼 수 있습니다.

주제마다 하나의 워크스페이스

한 주제에 관한 컬렉션, 노트, 채팅을 한곳에 모으세요. 목표를 한 번만 적어 두면 모든 Agent가 같은 맥락에서 일합니다.

자리를 비운 사이에도 일합니다

Parallax는 워크스페이스에 새로 들어온 것을 파악하고, 당신의 질문과 어떻게 이어지는지 생각한 뒤, 다음에 하면 좋을 일을 출처와 함께 보내드립니다.

그룹 미팅: 신뢰할 수 없는 추적이 모니터링에 도움이 될까?Snell et al.: 동일 예산에서의 테스트 시점 연산열린 질문: 더 긴 추론인가, 더 많은 연산인가?32B의 향상은 8K 토큰 이후 완만해짐리뷰: 길이에 따라 정확도가 꾸준히 상승같은 연산량에서 비교하기이미 컬렉션에 있는 Snell et al. 2024는 같은 연산 예산에서 더 긴 순차 추론과 병렬 샘플링을 비교합니다. Longer Thoughts에 대한 당신의 질문에 필요한 바로 그 대조군입니다.관찰 2건 기반

연구 서베이

서베이2026년 10월 14일

루프 및 재귀 깊이 트랜스포머: 아키텍처, 훈련, 적응형 추론, 이론 및 시스템

루프형(또는 재귀 깊이) 트랜스포머는 동일한 가중치 공유 블록을 토큰의 은닉 상태에 반복적으로 적용하여, "깊이"를 파라미터 수의 고정된 속성에서 추론 시에 투입할 수 있는 변수로 바꾼다.

Model Architecture

서베이2026년 10월 14일

하네스 수준의 재귀적 자기 개선: 분류체계, 증거 및 프런티어

에이전트의 역량은 점점 기본 모델이 아니라 그 주위에 구축된 하네스, 즉 지시사항, 컨텍스트 관리, 메모리, 도구와 스킬, 제어 흐름과 오케스트레이션, 그리고 에이전트 자체의 코드에 의존하게 된다.

AI Agent RSI

서베이2026년 10월 14일

컴퓨터 사용 에이전트: 방법, 데이터, 평가 및 신뢰

컴퓨터 사용 에이전트, 즉 스크린샷, 접근성 트리, 키보드 및 마우스 동작을 통해 그래픽 인터페이스를 조작하는 시스템은 약 3년 만에 스크립트 기반 개념 증명에서 단일 애플리케이션 작업의 대다수를 완료하는 훈련된 모델로 발전했습니다…

AI Agent Computer Use

서베이2026년 10월 14일

2025년 이후 게임 제작을 위한 AI 에이전트: 기술 경로, 검증기 및 미해결 문제

게임 제작은 재편되고 있다: "인간이 코드를 쓰고, 인간이 애셋을 만들고, 인간이 플레이테스트한다"에서 "에이전트가 엔지니어링 구조를 제안하고, 엔진 도구를 호출하며, 어떤 검증자가 결과의 통과 여부를 결정한다"로.

AI Agent Game Production

진행 상황 추적

다이제스트2026년 10월 15일

2026년 8월의 세계 행동 모델 — 월간 진척 호

2026년 8월은 세계 행동 모델(WAM)이 구호에서 그치지 않고 엔지니어링 의제로 전환된 달이었다. 선별된 코퍼스 전반에서 등장한 공통 템플릿은 장면 진화를 예측하는 비디오 또는 잠재 역학 백본과 행동 전문가를 결합한 형태이다…

World Models Robotics

다이제스트2026년 10월 14일

멀티모달 데이터 및 벤치마크: 2026년 8월 진행 상황 브리핑

2026년 8월의 멀티모달 벤치마크 문헌은 이례적으로 수렴하는 양상을 보인다. 새로운 과제를 발표하기보다는, 현재 모델들이 무너지는 특정 단계를 중심으로 평가를 재구성한다. 즉 모델이 표시하지 않을 답할 수 없는 클립, 모델이 혼동하는 두 번째 이미지, 모델이…

Multi-modal Benchmarks

다이제스트2026년 10월 14일

2026년 9월의 비디오 생성 — 진행 상황 추적

2026년 9월, 비디오 생성은 한 번에 일곱 가지 측면에서 전진했으며, 기억할 가치가 있는 세 가지 변화는 이미지 품질에 관한 것이 아니다. 에이전트적 오케스트레이션은 래퍼가 아니라 연구 대상이 되었다. 이제 두 시스템이 요청을 구성하는 컨트롤러를 훈련시키며, 하나는…

Video Generation

다이제스트2026년 10월 14일

2026년 9월의 AI 에이전트: 도구, 제어, 그리고 에이전트가 실제로 배우는 것

9월의 에이전트 문헌은 새로운 역량보다 도구에 관한 것이다. 이 달의 가장 강력한 기여는 벤치마크 환경에 대한 감사, 모델을 둘러싼 하네스의 절제 실험, 리더보드의 분산 분해, 그리고 거부하는 거버넌스 계층이다…

AI Agent

블로그

Product Updates2026년 10월 22일

Parallax의 문헌 검색: 집합 대수, 전체 코퍼스 재현율, Jev 스크리닝

범용 에이전트는 웹 검색 API를 통해 문헌을 검색하는데, 이 API는 상위 k개의 결과와 많은 노이즈만 반환하므로 전체를 망라할 수 없다. Parallax는 2020년 이후 모든 학문 분야에 걸친 약 158만 편의 arXiv 논문을 대상으로 전체 코퍼스 재현율(full-corpus recall)을 수행하며, 검색을 논문 집합에 대한 조합 가능한 연산으로 모델링한다. 키워드 검색은 인접 단어 프래그먼트 인덱스로 가속된다. 시맨틱 검색은 연도와 학문 분야로 가지치기된 halfvec ANN을 사용하며, 증명 가능하게 무손실인 정확한 배칭 경로를 폴백으로 둔다. 스크리닝과 분류는 Jev의 보정된 확률을 사용하며, 우리의 LLM 기반 파이프라인보다 10배 이상 빠르고 비용은 5분의 1 미만이다. 이 글은 시스템의 설계와 이를 프로덕션에서 운영하기 위해 필요한 성능 작업을 다룬다.

자주 묻는 질문

찾는 답변이 없으신가요? 이메일 보내기

Parallax는 범용 AI 어시스턴트와 어떻게 다른가요?

Parallax는 문헌을 읽기 위해 만든 워크스페이스입니다. Agent가 논문을 직접 검색, 스크리닝, 분류하며, 답변의 모든 인용은 출처 구절로 연결됩니다. 검색 기록, 컬렉션, 보고서가 워크스페이스에 남아 다음에도 이어 쓸 수 있으므로 채팅, PDF, 노트 사이에서 맥락을 옮겨 다닐 필요가 없습니다.

내 분야의 논문도 다루나요?

현재는 2020년 이후 업데이트된 arXiv 전 분야(물리학, 수학, 컴퓨터과학, 정량생물학, 통계학, 경제학 등) 논문을 다루며, 이전 논문과 arXiv 외 소스도 준비 중입니다. 전문 열람 여부는 라이선스와 처리 상태에 따라 달라집니다. 아직 열람할 수 없다면 초록과 읽기 노트를 보거나 원본 출처를 열 수 있습니다.

AI의 답변은 어떻게 검증하나요?

답변의 인용을 클릭하면 출처 구절이 강조된 논문으로 이동하므로 맥락 속에서 확인할 수 있습니다. AI도 자료를 잘못 읽거나 과하게 해석할 수 있습니다. 인용은 검증으로 가는 길일 뿐 정확성을 보장하지 않으므로, 핵심 결론은 원 실험과 조건에 비추어 확인하세요.

Parallax를 무료로 쓸 수 있나요?

네. 무료 플랜은 영구 무료이며 카드 등록이 필요 없습니다. 프롬프트 작성법을 미리 익힐 필요도 없습니다. 연구 질문을 입력하거나 arXiv 링크를 붙여 넣고 알고 싶은 것을 말해 주세요. 플랜별 한도는 요금제 페이지에서 비교할 수 있습니다.

새 채팅마다 내 연구를 다시 설명해야 하나요?

아니요. 관련 컬렉션, 노트, 보고서를 워크스페이스에 추가해 두면 그 안에서 시작하는 모든 채팅이 이를 활용할 수 있습니다. 성찰 기능을 켜면 Agent가 연구 기억과 후속 단서도 정리합니다. 목표나 핵심 제약이 방금 바뀌었다면 새 채팅에서 한 번 더 알려 주세요.

내 데이터가 모델 학습에 사용되나요?

아니요. 보고서, 노트, 채팅은 자체 모델 학습에 사용되지 않습니다. 모두 계정 안에 보관되며, 동의 없이 공개되거나 다른 사람과 공유되지 않습니다.

생성된 보고서를 내 논문에 써도 되나요?

네. 생성된 보고서는 사용자의 것이며, 편집하고 Markdown으로 내보내고 게시할 수 있습니다. 두 가지 유의할 점이 있습니다. 순수하게 AI가 생성한 콘텐츠는 많은 국가에서 저작권 보호를 받지 못할 수 있고, 인용한 논문의 권리는 해당 저자에게 있습니다. 따라서 출처를 밝히고, 학술지, 학회 또는 소속 기관의 AI 사용 공개 규정을 따르세요. 이용약관 6.4항을 참고하세요.

중요한 논문을 하나도 놓치지 마세요.

더 빠르게

더 넓게

추적 가능