VLA, или Vision-Language-Action-модели, сегодня становятся одной из ключевых парадигм в робототехнике. Идея проста: если большие визуально-языковые модели уже умеют связывать изображение, текст и понимание сцены, логичный следующий шаг — добавить к этому управление действиями робота. Так появляется единый контур: модель видит сцену, понимает инструкцию и выдаёт осмысленные команды.

Почему одного behavior cloning недостаточно

На первый взгляд, задача решается просто: собрать много демонстраций и обучить модель копировать поведение (behavior cloning, BC). Но на практике такой подход быстро сталкивается с ограничениями.

Во-первых, робототехнические данные неоднородны. У разных датасетов — разные камеры, частоты съёмки, кинематика и динамика. Прямое смешивание приводит к тому, что модель усваивает артефакты конкретных источников, а не общие паттерны.

Во-вторых, качество демонстраций сильно варьируется. Шум, смазанные кадры, рваные движения и бедное визуальное разнообразие — частые проблемы. Масштабирование без фильтрации лишь усиливает шум.

В-третьих, behavior cloning плохо справляется с длинными цепочками действий, восстановлением после ошибок и работой вне обучающего распределения. Он хорошо копирует локальные действия, но не обеспечивает согласованность с долгосрочной целью. Именно поэтому VLA-системы, обученные только так, часто проваливаются в реальных условиях.

Для реального робота важна не только точность, но и стабильность в длительных сценариях. Поэтому в Green-VLA мы построили полный стек: от очистки данных до финального RL-дообучения.

Ключевые особенности Green-VLA

Green-VLA — это поэтапно обученная VLA-модель для антропоморфного робота Green. При этом она не привязана к одному воплощению: та же политика работает на мобильных манипуляторах, двуруких платформах и стандартных бенчмарках.

Её преимущество — не в одной архитектурной «фишке», а в сочетании трёх подходов: качественное выравнивание данных, единое пространство действий и фаза обучения с подкреплением (RL) поверх behavior cloning.

На этапе L1 модель обучается на 24 миллионах мультимодальных примеров из интернета, чтобы выучить физические и семантические представления о мире. На этапе R0 — на 184 миллионах робототехнических примеров, что в сумме даёт более 3000 часов демонстраций с разных платформ.

Этот масштаб используется осознанно: данные проходят фильтрацию, временно согласуются, а действия приводятся к единому семантическому пространству. Обучение разбито на пять стадий — от предобучения до специализации и RL-дообучения.

Архитектура оптимизирована под реальное управление. В основе — Qwen-VL 4B, поверх которой работает отдельный flow-matching action expert. Это разделяет семантическое понимание и высокочастотное управление. Модель ускорена: используются эффективные механизмы внимания, лёгкие выходные слои и сокращённое число шагов денойзинга.

Такое сочетание позволяет управлять роботом с 48 степенями свободы (DoF), не теряя способности к обобщению.

Как мы унифицировали разнородные данные

Робототехнические датасеты редко совместимы: разная кинематика, управление и скорость выполнения. Green-VLA решает это на нескольких уровнях.

Сначала применяется пайплайн DataQA. Он оценивает качество траекторий по шуму, чёткости изображений, разнообразию сцены и стабильности состояний. Дополнительно фильтруются пропущенные кадры, аномальные эпизоды и задачи без движения. Результат — очищенный корпус демонстраций.

Затем — временное согласование. Скорость движения оценивается по оптическому потоку с камер на запястьях. Траектории ресемплируются так, чтобы одинаковые визуальные изменения соответствовали одинаковым приращениям действий.

Проблема пространства действий решается через unified action space с фиксированной семантической разметкой. Для каждого робота указывается, какие слоты активны. Модель получает структурированный промпт с типом управления и параметрами платформы. Это позволяет избежать путаницы между разными воплощениями.

Для антропоморфа Green используется ретаргетинг: демонстрации с других роботов переносятся в его конфигурационное пространство, чтобы сохранить намерение действия, а не его параметры.

Наконец, исходные 48 часов данных Green Humanoid были расширены до 167 часов с помощью аугментаций: зеркалирования по симметрии и обратимых траекторий с реверсом времени.

Пять стадий обучения: зачем они нужны

Поэтапное обучение в Green-VLA — не формальность. Каждая стадия решает конкретную задачу.

• L0 — базовая VLM, связывает изображение и текст, но не готова к управлению.
• L1 — мультимодальное предобучение на веб-данных. Модель усваивает физические и семантические знания: аффордансы, пространственное мышление, структуру задач.
• R0 — общее робототехническое предобучение. Модель учится паттернам манипуляции на разных платформах. Здесь ключевую роль играют unified action space и quality alignment.
• R1 — адаптация под конкретное воплощение. Модель дообучается на высококачественных данных целевого робота, что резко повышает точность управления.
• R2 — RL fine-tuning. Улучшает поведение на длинном горизонте, восстановление после ошибок и устойчивость при физическом контакте. Оптимизация ведётся через отдельный критик и настройку распределения шума для flow-matching.

Такой подход обеспечивает чёткое разделение ответственности: веб-данные — за общие знания, R0 — за базовые навыки, R1 — за специализацию, R2 — за надёжность.

Компоненты, критичные для реального мира

Даже сильной политике нужно больше, чем просто умение брать предметы. В реальности — новые объекты, сбои захвата, необходимость остановиться после успеха.

Unified action space важен не только на обучении, но и на инференсе: модель получает промпт с типом управления и генерирует только нужные действия.

EEP (episode end prediction) — предсказание завершения эпизода. Это предотвращает лишние движения после выполнения задачи, что критично для стабильности.

OOD-детекция выявляет состояния вне обучающего распределения. При нестабильности или отсутствии прогресса система может перейти к перепланированию — это снижает хрупкость при контакте или сбоях.

JPM (joint prediction module) помогает в сложных сценариях, например, в e-commerce. Когда объекты почти идентичны, JPM находит релевантную точку на изображении, переносит её в 3D-пространство и использует как цель для действия. Это не требует переобучения всей модели и повышает точность.

Поверх Green-VLA может работать высокоуровневый планировщик. Например, VLM-модуль разбивает запрос на подзадачи («возьми левой рукой», «положи в корзину»), а Green-VLA исполняет каждую. Важно: она остаётся низкоуровневой политикой, а не универсальным планировщиком.

Результаты на бенчмарках и реальном роботе

Green-VLA — модель из около 5 миллиардов параметров. Qwen-VL 4B — визуально-языковая основа, остальные параметры — узлы управления и выходные слои. При этом система менее требовательна к данным и вычислениям, чем крупные аналоги.

На R0-стадии Green-VLA показывает высокий zero-shot перенос на двуруких роботов. В задачах pick-and-place и уборки стола она превосходит π0, GR00T N1 и другие модели, достигая этого при 3000 часов демонстраций против более чем 10 000 у π0.

На бенчмарках Simpler для WidowX и Google Robot R0-модель превосходит аналоги на сопоставимой стадии и приближается к дообученным бейзлайнам. Поэтапное улучшение — от неотфильтрованных данных до RL — подтверждает ценность DataQA и RL-фазы.

R1-стадия показывает эффективную адаптацию: на CALVIN Green-VLA дообучается с чекпойнта R0 и достигает производительности, сопоставимой с π0, дообученной на тех же данных, а в некоторых метриках — превосходит её.

R2 даёт наибольший прирост на длинных цепочках. На CALVIN — улучшение стабильности и восстановления. На Simpler BRIDGE WidowX — рост success rate на 24% относительно R1. В e-commerce RL-дообучение делает захват надёжнее, снижает падения и выскальзывания.

На реальном антропоморфе Green модель управляет головой, туловищем, двумя руками и кистями (48 DoF). Она выполняет сложные сценарии: передача объекта из руки в руку, сортировка фруктов, длинные цепочки действий. Оценка проводится в стандартных и OOD-условиях.

Это, пожалуй, главный инженерный результат: одна политика работает и на бенчмарках, и на реальном роботе, координируя множество степеней свободы и точно следуя инструкциям.

Итог

Green-VLA показывает: для VLA в реальной робототехнике масштаб — не главное. Критичны дисциплина в данных, унификация действий и отдельная RL-фаза, выводящая модель за рамки behavior cloning.

Quality alignment через DataQA и временное согласование сделали разнородные данные пригодными для совместного обучения. Unified action space позволил избежать распада политики на изолированные режимы. RL-фаза добавила устойчивость на длинном горизонте и надёжность при контакте.

Поэтому Green-VLA — не просто модель для робота Green, а практический способ создать единую VLA-политику для нескольких платформ без потери качества на целевом роботе.

В будущем авторы планируют: поддержку нескольких языков, более тесную интеграцию рассуждения и управления в реальном времени, а также добавление памяти и воспроизведения траекторий. Успешная реализация этих направлений приблизит создание универсального роботизированного интеллекта.

VLA, или Vision-Language-Action models, сегодня становятся одной из основных парадигм в робототехнике. Идея выглядит естественно: если большие визуально-языковые модели уже умеют связывать изображение, текст и высокоуровневое понимание сцены, то следующий шаг состоит в том, чтобы добавить к этому действия робота. Так появляется единый контур, в котором модель видит сцену, понимает инструкцию на естественном языке и выдаёт осмысленное управление.

Но в робототехнике недостаточно просто взять VLM, добавить выход на действия и масштабировать обучение, как это делается в чисто языковых задачах. Роботу приходится работать с дальним горизонтом планирования, с новыми объектами, с активным физическим контактом, с разными скоростями движения и с разными воплощениями: от одноруких манипуляторов до двуруких платформ и антропоморфов. В такой постановке поведение нельзя надёжно прописать в коде, а одной только имитации демонстраций быстро становится недостаточно.

В Green-VLA мы исходили именно из этого. Для нас это история не про «ещё один большой датасет», а про сочетание трёх вещей: quality alignment данных, unified action space и RL-фазы поверх behavior cloning (BC), то есть обучения на прямом копировании поведения из демонстраций. В результате мы получили поэтапно обученную VLA-модель для антропоморфного робота Green, которая при этом сохраняет способность к zero-shot переносу на другие воплощения.

Почему одних демонстраций и behavior cloning недостаточно

На первый взгляд кажется, что задача уже почти решена: соберём больше демонстраций, обучим политику по behavior cloning, то есть заставим модель повторять действия из примеров, и робот начнёт работать. На практике такой подход быстро упирается в потолок.

Во-первых, сами робототехнические данные неоднородны. У разных датасетов разные камеры, разные пространства действий, разные частоты дискретизации, разная динамика и качество записи. Если просто смешать это в один обучающий корпус, то модель начнёт усваивать не общий шаблон манипуляции, а артефакты конкретных датасетов.

Во-вторых, качество демонстраций сильно отличается от источника к источнику. В траекториях встречаются шум, смазанные кадры, дёрганые движения, непоследовательное выполнение задач и бедное визуальное разнообразие. Масштаб сам по себе эту проблему не решает: если не выровнять качество, то мы просто масштабируем шум.

В-третьих, behavior cloning по своей природе плохо работает там, где нужны длинные цепочки действий, восстановление после ошибок и устойчивое поведение вне обучающего распределения. Он хорошо копирует локальные решения из демонстраций, но хуже согласует поведение с долгосрочной целью. Именно поэтому VLA-системы, обученные только таким способом, часто выглядят сильными в коротких эпизодах и заметно проседают в реальной работе.

Для реального робота это особенно критично. Нас интересует не только success rate, но и общая пропускная способность системы: сколько задач робот успевает выполнить и насколько стабильно делает это в длинных сценариях. Поэтому в Green-VLA мы делали не просто модель, а полный стек данных, действий и обучения, в котором каждое слабое место закрывается отдельно.

Что делает Green-VLA отличной от других VLA-работ

Green-VLA — это поэтапно обученная VLA-модель для реального антропоморфного робота Green. При этом архитектура не привязана только к одному воплощению: та же политика переносится на мобильные манипуляторы, двурукие платформы и стандартные робототехнические бенчмарки.

Ключевая особенность здесь не в одной конкретной «хитрой» архитектурной детали, а в комбинации решений.

С одной стороны, мы используем большой мультимодальный и робототехнический корпус. На стадии L1 модель получает 24 миллиона мультимодальных примеров из интернета, не связанных напрямую с робототехникой, чтобы выучить физические и семантические представления о мире. На стадии R0 она видит 184 миллиона робототехнических примеров, что в сумме даёт более 3000 часов демонстраций с разных воплощений.

С другой стороны, этот масштаб не используется вслепую. Данные проходят фильтрацию и временное согласование, действия приводятся к единому семантическому пространству, а обучение разбивается на пять стадий: от базовой VLM и мультимодального предобучения до специализации под конкретного робота и RL-дообучения.

Наконец, Green-VLA оптимизирована именно под реальное управление. В основе лежит Qwen-VL 4B как визуально-языковая база, поверх которой работает отдельный flow-matching action expert. Такая схема разделяет семантическое восприятие и высокочастотное управление. Дополнительно архитектура ускорена для работы в реальном времени: используются эффективные механизмы внимания, легковесные финальные слои и сокращённое количество шагов денойзинга.

Именно это сочетание позволяет одной и той же системе работать с 48 степенями свободы (DoF) антропоморфа Green, но не терять способность к обобщению на другие платформы.

Как мы привели разнородные робототехнические данные к единому виду

Одна из главных инженерных проблем в VLA состоит в том, что робототехнические датасеты плохо «стыкуются» друг с другом. Даже если все они про манипуляцию, они записаны с разной кинематикой, разными типами управления и разной скоростью выполнения.

В Green-VLA мы решаем это на нескольких уровнях.

Сначала работает пайплайн DataQA. Он оценивает траектории по нескольким признакам: насколько движение шумное и дёрганое, насколько резкие изображения, насколько разнообразна сцена и как ведёт себя пространство состояний. Плюс к этому применяются практические фильтры: отсутствие камер, пропущенные кадры, подозрительно короткие или длинные эпизоды, задачи без осмысленного движения, а для отдельных сценариев ещё и проверка корректного шаблона действий захвата. На выходе мы получаем не просто большой, а очищенный корпус демонстраций.

Следующий шаг — временное согласование. Разные операторы и разные роботы двигаются с разной скоростью: где-то траектории плотные и медленные, где-то редкие и быстрые. Если смешать их как есть, то модель перестает понимать, какой физический прогресс должен соответствовать одному шагу действия. Поэтому мы оцениваем скорость движения по оптическому потоку с камер на запястьях и ресемплируем траектории так, чтобы похожие визуальные изменения соответствовали похожим приращениям действий.

Отдельно решается проблема пространства действий. Простое дополнение всех действий до одного общего вектора обычно ломает перенос, потому что одни и те же координаты начинают означать разные вещи для разных роботов. Вместо этого Green-VLA использует unified action space с фиксированной семантической разметкой. Для каждого воплощения мы явно знаем, какие слоты активны, и подаём в модель структурированный промпт с типом управления и параметрами робота. В итоге политика учится не «угадывать, в каком она датасете», а оперировать общей семантикой действий.

Для целевого антропоморфа это дополняется ретаргетингом. Демонстрации с других роботов переводятся в пространство конфигураций робота Green так, чтобы он имитировал намерение исходного действия, а не его буквальную параметризацию. Это позволяет использовать опыт, собранный не только на антропоморфах, но и на более простых системах, и всё равно обогащать итоговую политику для Green.

Наконец, мы усиливаем собственный датасет антропоморфа структурированными аугментациями. Исходные 48 часов данных Green Humanoid расширили до 167 часов обучения с помощью зеркалирования эпизодов по симметрии робота и обратимых траекторий с разворотом по времени там, где задача это физически допускает.

Почему обучение разбито на пять стадий: L0 → L1 → R0 → R1 → R2

Поэтапный пайплайн в Green-VLA нужен не для красоты. Каждая стадия закрывает отдельное узкое место, и без этой последовательности трудно одновременно получить обобщение, надёжность и приемлемую задержку инференса.

L0 — это базовая VLM. Она уже умеет связывать изображение и текст, но ещё не готова к реальному управлению роботом.

L1 — мультимодальное предобучение на веб-данных. Здесь модель получает физические и семантические представления о мире: многоракурсное понимание сцены, аффордансы объектов, пространственное рассуждение, более общую структуру задач. Это тот слой знаний, который нельзя достать только из робототехнических демонстраций.

R0 — общее робототехническое предобучение. На этом этапе модель связывает цели, объекты и кинематику с распределением допустимых действий и начинает учиться общим паттернам манипуляции на разных воплощений. Именно здесь unified action space и quality alignment начинают давать максимальный эффект.

R1 — адаптация под конкретное воплощение. После общего предобучения мы дообучаем модель на высококачественном корпусе, привязанном к целевому роботу или бенчмарку. Это позволяет сразу поднять качество управления без необходимости заново строить весь pipeline.

R2 — RL fine-tuning. Эта фаза нужна, чтобы выйти за пределы behavior cloning в задачах с дальним горизонтом, активным контактом и восстановлением после ошибок. В Green-VLA она устроена так, чтобы не ломать базовую модель прямыми RL-градиентами по всей архитектуре. Вместо этого используется оптимизация траекторий с отдельным критиком и оптимизация исходного распределения шума для flow-matching генерации.

Такой пайплайн даёт понятное разделение ответственности. Веб-данные отвечают за общие представления, R0 — за базовые навыки манипуляции, R1 — за специализацию под конкретное воплощение, а R2 — за устойчивость на длинном горизонте и восстановление.

Что помогает модели в реальном мире: unified actions, JPM, EEP и OOD

Даже хорошей базовой политике мало просто «уметь брать предметы». В реальном мире ей приходится сталкиваться с новыми объектами, похожими упаковками, неожиданными сбоями захвата и необходимостью вовремя остановиться после успешного выполнения.

Первый важный компонент здесь — уже описанный unified action space. Он нужен не только для обучения, но и для инференса: модель получает явный промпт, который задаёт тип управления и воплощение, а затем генерирует только те модальности действий, которые действительно нужны этому роботу.

Второй компонент — EEP (episode end prediction), то есть предсказание завершения эпизода. На каждом шаге Green-VLA оценивает, завершена ли текущая подзадача. Это критично в сценариях, когда лишнее движение после успеха может испортить уже достигнутое состояние. В исходной статье это отдельно подчёркивается для задач на Google Robot, но в целом такое поведение важно для любого реального развёртывания.

Третий компонент — OOD-детекция, то есть обнаружение состояний вне обучающего распределения (out-of-distribution). Если модель долго не видит признаков завершения и при этом её краткосрочная динамика становится нестабильной, то система может зафиксировать выход в нежелательное состояние и передать управление на перепланирование. Это делает поведение менее хрупким, особенно при неожиданном контакте, сбое захвата или встрече с незнакомым объектом.

Отдельную роль играет JPM, joint prediction module. Он нужен для тех случаев, когда сквозная политика видит инструкцию, но в самой сцене объект слишком новый, слишком редкий или слишком похожий на соседние. В сценарии e-commerce это особенно заметно: модель должна отличать почти одинаковые товары, у которых единственные надёжные признаки могут быть в мелком тексте, деталях этикетки или небольших цветовых различиях.

JPM решает это так: по изображению и языковой инструкции он сначала находит релевантную двумерную точку на объекте, затем переносит её в трёхмерное пространство робота и использует как целевую точку для ориентирования во время flow-matching генерации действий. Важное преимущество в том, что этот модуль не требует дополнительного обучения всей политики и может использоваться как лёгкий способ направить поведение на более точный выход к объекту.

Поверх низкоуровневой политики в системе также может работать высокоуровневый планировщик задач. В исходной статье эту роль выполняет VLM-модуль, который разбивает пользовательский запрос на атомарные подзадачи вроде «возьми предмет левой рукой», «положи в корзину», «передай пользователю», и затем использует обратную связь от Green-VLA для перехода к следующему шагу или перепланирования. Важно, что сама Green-VLA при этом остаётся низкоуровневой политикой исполнения, а не универсальным планировщиком всего цикла.

Что получилось на бенчмарках и реальном роботе

Green-VLA — это модель, состоящая из около 5 миллиардов параметров, где Qwen-VL 4B отвечает за визуально-языковую основу, а остальные параметры приходятся на action expert и легковесные выходные слои. При этом важный тезис исходной статьи в том, что система остаётся менее требовательной к данным и вычислениям, чем ряд очень крупных VLA-подходов.

На этапе R0 мы смотрим, насколько хорошо модель переносится между воплощениями без дополнительной адаптации. На двуруком роботе AgileX Magic Cobot Green-VLA в задачах pick-and-place и уборки стола по инструкции сравнивается с π0, GR00T N1, AgiBot GO-1 и WALL-OSS. Из исходной статьи следует, что Green-VLA показывает более высокую точность следования инструкциям и success rate, чем π0, причём достигает этого при примерно 3000 часов унифицированных демонстраций против более чем 10000 часов у π0.

На открытых бенчмарках Simpler для WidowX и Google Robot R0-модель Green-VLA превосходит другие методы на сопоставимой стадии чистого предобучения, и доходит до уровня некоторых уже дообученных бейзлайнов. Отдельно исходная статья показывает поэтапную картину на WidowX: неотфильтрованная смесь данных, затем SFT на отфильтрованном подмножестве, затем RL. Качество растёт последовательно на каждом этапе, что хорошо иллюстрирует ценность и DataQA, и RL-фазы.

R1 показывает, что после общего предобучения модель можно эффективно адаптировать под конкретное воплощение. В CALVIN Green-VLA дообучается, начиная только с базового чекпойнта R0, без отдельного предобучения на данных CALVIN. Это позволяет изолировать эффект адаптации. По результатам исходной статьи Green-VLA R1 достигает сопоставимой производительности с π0, дообученной на CALVIN, и немного опережает её по общей вероятности успеха и многошаговым цепочкам.

R2 — это уже история про дальний горизонт и восстановление. На CALVIN именно эта стадия даёт наибольший прирост: улучшается стабильность, способность восстанавливаться после ошибок и средняя длина успешной цепочки действий. На Simpler BRIDGE WidowX исходная статья фиксирует абсолютный прирост success rate на 24% относительно R1. В сценарии e-commerce RL-дообучение тоже даёт практический эффект: оно делает захват физически надёжнее, улучшает геометрию подхода и снижает количество падений и выскальзываний объектов.

Отдельно важен результат на реальном антропоморфе Green. Здесь модель управляет головой, туловищем, двумя руками и ловкими кистями, всего 48 DoF. В статье описаны сценарии, когда робот берёт предметы левой или правой рукой, перекладывает объект из руки в руку, достаёт из корзины, передаёт пользователю, сортирует фрукты и выполняет длинные последовательности « взять → положить → снова взять → отдать». Оценка проводится как в ID, так и в OOD-конфигурациях сцены.

С инженерной точки зрения это, возможно, самый важный результат всей работы. Одна и та же политика не только показывает хорошие результаты на стандартизированных бенчмарках, но и управляет реальным антропоморфом в задачах, где нужно координировать обе руки, туловище, выбор правильного объекта и точное следование языковой инструкции.

Заключение

Если смотреть на Green-VLA как на рецепт, то главный вывод довольно практичный. Для VLA в реальном роботе недостаточно просто увеличивать масштаб. Нужны дисциплина в данных, явная унификация действий и отдельная фаза обучения, которая выводит модель за пределы behavior cloning.

В нашем случае quality alignment через DataQA и временное согласование сделали разнородный датасет пригодным для совместного обучения. Unified action space позволил одной политике не распадаться на набор несвязанных режимов для разных роботов, а RL-фаза добавила то, чего обычно не хватает чистому cloning: устойчивость на дальнем горизонте, восстановлени и более надёжное поведение при сложном контакте.

Именно поэтому Green-VLA интересна не только как модель для антропоморфа Green, но и как практический способ собрать единую VLA-политику для нескольких воплощений без потери качества на реальном целевом роботе.

Из будущих направлений исходная статья прямо выделяет три: выполнение инструкций на нескольких языках, усиление связи между быстрым рассуждением и управлением в реальном времени, а также интеграцию памяти и воспроизведение траекторий. Если эти части удастся органично встроить в тот же стек, то путь к действительно универсальному роботизированному интеллекту станет заметно короче.