Embodied AI Reading Club | Применение трансформерных моделей для Embodied AI

Трансформерные модели находят широкое применение в области воплощенного интеллекта, позволяя физическим агентам эффективно обрабатывать сенсорные данные и принимать решения в динамичных условиях. Трансформерные модели также способны адаптироваться к изменениям в окружении, улучшая восприятие и взаимодействие с миром агента. В докладе рассматриваются SOTA архитектуры трансформерных моделей в применении к Embodied AI. Статьи: 1. PoliFormer: Scaling On-Policy RL with Transformers Results in Masterful Navigators () 2. ReLIC: A recipe for 64k steps In-Context Reinforcement Learning for Embodied AI () 3. Octo: An Open-Source Generalist Robot Policy () 4. OpenVLA: An Open-Source Vision-Language-Action Model () 5. V-Former: Offline RL with Temporally-Extended Actions () 6. Q-Transformer: Scalable Offline Reinforcement Learning via Autoregressive Q-Functions () 7. Evaluating Real-World Robot Manipulation Policies in Simulation () 8. Offline Pre-trained Multi-Agent Decision Transformer: One Big Sequence Model Tackles All SMAC Tasks ()