Масштабирование Test-Time вычислений: Как DeepSeek-R1, OpenAI o3 и Gemini 2.5 думают перед ответом
В то время как классические законы масштабирования предобучения (Каплан, Чинчилла) упираются в исчерпание качественных интернет-данных, масштабирование вычислений на этапе инференса (Test-Time Compute) открыло новое измерение интеллекта. Модели тратят скрытые токены на размышления, проверку гипотез и поиск ошибок перед выдачей ответа.
AM LABProcess Reward Models (PRM) и поиск по дереву решений
В отличие от классических моделей вознаграждения за конечный результат (ORM), Process Reward Models оценивают каждый логический шаг в цепочке. В сочетании с алгоритмами MCTS и Best-of-N это позволяет отсекать ошибочные ветви еще до генерации ответа пользователю.
Аппаратная верификация и метрики кремния
vllm serve reasoning-models-test-time-compute-scaling --tensor-parallel-size 4 --gpu-memory-utilization 0.95 --max-model-len 32768 --kv-cache-dtype fp8
Artur Moiseyev
AI Systems Architect
Независимый AI-исследователь и архитектор распределенных систем. Разрабатываю мультиагентные системы, открытые reasoning-модели и инфраструктуру реального времени.
Связанные статьи справочника
AM LABСкилл Thinking / Размышление (DeepThink R1, o3, Claude): зачем нужна эта кнопка и как она убирает ошибки
Зачем во всех нейросетях появилась кнопка «DeepThink (R1)» или «Размышление»? Объясняем простыми словами, как ИИ проверяет сам себя перед ответом и в каких задачах этот скилл незаменим.
AM LABСкилл памяти на 2 000 000 токенов и NotebookLM: как загрузить в ИИ 20 книг, 100 договоров или часовое видео
Обычные нейросети теряют нить уже после 40 страниц текста. Узнайте, как скилл сверхдлинной памяти (2M токенов в Gemini 2.5 и бесплатный Google NotebookLM) позволяет анализировать гигантские архивы документов и видео.
AM LABGoogle Gemini 2.5 Flash и Pro: 2M контекст, Flash Thinking и мультимодальные бенчмарки
Архитектурный разбор Google DeepMind Gemini 2.5. Анализируем режим рассуждений Flash Thinking, нативную токенизацию аудио/видео, контекст на 2 миллиона токенов и рекордную экономику API.