Τι ακριβώς βγήκε στις 7 Οκτωβρίου 2026;
Το RoboJEPA: Scaling Robotic Latent World Models κατατέθηκε στο arXiv στις 7 Οκτωβρίου 2026, 17:54:42 UTC. Η εργασία προέρχεται από ερευνητές της FAIR/Meta, του Chandar Research Lab, του Mila και της Polytechnique Montréal, με τους Artem Zholus και Mahmoud Assran μεταξύ των βασικών συντελεστών. Η έκδοση v1 είναι διαθέσιμη δημόσια στο arXiv και συνοδεύεται από κώδικα, checkpoints και site του project.
Οι συγγραφείς τοποθετούν το RoboJEPA ως την πρώτη, κατά δήλωσή τους, συστηματική μελέτη scaling laws για multi-embodiment robotic world models που εκπαιδεύονται σε πραγματικά robot data. Το μοντέλο φτάνει τα 8 δισ. παραμέτρους, μέγεθος που η εργασία χαρακτηρίζει ως το μεγαλύτερο JEPA predictor που έχει εκπαιδευτεί μέχρι σήμερα.
Πρωτογενής πηγή: arXiv 2610.10515 · RoboJEPA project
Δεν προβλέπει pixels. Προβλέπει την κατάσταση του κόσμου.
Η λέξη «φαντάζεται» είναι μεταφορά, αλλά περιγράφει σωστά το βασικό mechanism. Το RoboJEPA παίρνει οπτικές παρατηρήσεις, πληροφορία για τη θέση/κατάσταση του robot και τις ενέργειες που εκτελεί. Έπειτα προβλέπει την επόμενη latent αναπαράσταση του κόσμου. Αντί να παράγει υποχρεωτικά ένα νέο video frame pixel προς pixel, δουλεύει σε έναν συμπιεσμένο χώρο αναπαράστασης.
Αυτό επιτρέπει ένα πολύ διαφορετικό loop:
→ προσομοίωση στο latent space → σύγκριση με τον στόχο → επιλογή δράσης → πραγματική εκτέλεση → νέα παρατήρηση.
Το αποτέλεσμα είναι ένα είδος εσωτερικού learned simulator. Δεν είναι τέλειος ψηφιακός δίδυμος του κόσμου και δεν σημαίνει ότι το AI «βλέπει το μέλλον». Σημαίνει ότι έχει μάθει μια λειτουργική προσέγγιση της δυναμικής: ενέργεια → πιθανή επόμενη κατάσταση.
Γιατί JEPA και όχι ένα κλασικό video generator;
Το JEPA, ή Joint-Embedding Predictive Architecture, είναι μια προσέγγιση που προβλέπει αναπαραστάσεις αντί να προσπαθεί να ανακατασκευάσει κάθε pixel. Η λογική ξεκινά από το I-JEPA για εικόνες και επεκτείνεται μέσω V-JEPA σε video. Η σειρά V-JEPA χρησιμοποιεί latent feature prediction για να συλλάβει χωρικές και χρονικές σχέσεις χωρίς να απαιτεί πλήρη pixel-level reconstruction.
Το RoboJEPA πατά πάνω σε ένα παγωμένο V-JEPA 2.1 encoder. Ο encoder μετατρέπει τις εισόδους σε latent features. Το νέο predictor μαθαίνει πώς αυτές οι features μεταβάλλονται όταν αλλάζουν οι δράσεις του robot.
Pixel-space world model
Πρέπει να μοντελοποιήσει λεπτομέρειες εικόνας, υφές, φωτισμό και κάθε pixel. Μπορεί να είναι οπτικά εντυπωσιακό, αλλά είναι υπολογιστικά βαρύ.
Latent world model
Εστιάζει σε αναπαραστάσεις που θεωρούνται χρήσιμες για πρόβλεψη και planning. Έτσι μπορεί να κλιμακώσει το predictor σε δισεκατομμύρια παραμέτρους χωρίς pixel-level generation σε κάθε βήμα.
Η ίδια η εργασία συνδέει το RoboJEPA με V-JEPA 2-AC, Dreamer, DINO-WM, TD-MPC και άλλα world-model/planning paradigms. Η διαφορά είναι ότι εδώ η έμφαση πέφτει στη μετρήσιμη κλιμάκωση ενός ενιαίου action-conditioned predictor πάνω σε heterogeneous real-robot data.
Τι υπάρχει πραγματικά μέσα στο RoboJEPA;
Η αρχιτεκτονική είναι ένας feed-forward Transformer predictor. Σε κάθε timestep ο frozen V-JEPA 2.1 encoder παράγει spatial tokens από τις διαθέσιμες κάμερες. Παράλληλα εισάγονται action tokens και proprioceptive-state tokens. Το RoboJEPA προβλέπει τα features του επόμενου frame.
Το μοντέλο χρησιμοποιεί causal attention ανά timestep, multi-axis Rotary Position Embeddings για χρόνο, ύψος, πλάτος και camera view, RMSNorm, GELU και QK-normalization. Υποστηρίζει διαφορετικό αριθμό camera views, διαφορετικές αναλύσεις και διαφορετικά action spaces, κάτι κρίσιμο για multi-robot training.
Η κλίμακα των μοντέλων
| Έκδοση | Layers | Width | Query heads | KV heads |
|---|---|---|---|---|
| 22M | 7 | 512 | 4 | 4 |
| 50M | 10 | 640 | 5 | 5 |
| 100M | 14 | 768 | 6 | 6 |
| 300M | 24 | 1024 | 8 | 8 |
| 1B | 40 | 1536 | 12 | 4 |
| 2B | 40 | 2048 | 16 | 8 |
| 4B | 52 | 2560 | 20 | 10 |
| 8B | 72 | 3072 | 24 | 12 |
Τα αρχιτεκτονικά μεγέθη προέρχονται από τον Πίνακα 6 της εργασίας.
Το μυστικό δεν είναι μόνο τα 8 δισεκατομμύρια. Είναι η ετερογένεια.
Το training mixture περιλαμβάνει 23 δημόσια manipulation datasets, περίπου 2,8713 εκατομμύρια episodes, 15.022 ώρες video και 6.692 ώρες action-synchronized data. Καλύπτει 12 robot platforms/embodiments και 26 διαφορετικά action spaces.
| Dataset group | Episodes | Video hours | Action hours | Embodiment |
|---|---|---|---|---|
| DROID | 92k | 414 | 138 | Franka |
| Roboset | 73k | 1.244 | 380 | Franka |
| RoboMind | 35,3k | 276 | 98 | Franka, AgileX |
| LeRobot | 21,5k | 182 | 93 | SO-101 |
| RoboCasa365 | 32k | 482 | 482 | Franka + Omron, sim |
| 1X | 23,5k | 90 | 90 | 1X humanoid |
| AgiBot World | 167,5k | 8.036 | 2.734 | AgiBot dual-arm, humanoid |
| Open-X Embodiment subset | 2,4265M | 4.298 | 2.677 | 8 platforms |
| Σύνολο | 2,8713M | 15.022 | 6.692 | 12 platforms / 26 ids |
Αυτό έχει μεγάλη σημασία. Ένα μοντέλο που βλέπει μόνο ένα robot μπορεί να μάθει «τη συγκεκριμένη μηχανή». Ένα μοντέλο που βλέπει Franka, humanoid, dual-arm systems και διαφορετικές κάμερες/controls αναγκάζεται να μάθει πιο γενικές σχέσεις ανάμεσα σε όραση, δράση και φυσική εξέλιξη της σκηνής.
Το πιο σημαντικό εύρημα: το “imagination” κλιμακώνεται προβλέψιμα.
Οι ερευνητές δεν έμειναν στο «το 8B είναι καλύτερο». Εκπαίδευσαν μοντέλα από 22M έως 8B παραμέτρους και με training compute από 2×10¹⁹ έως 9,5×10²² FLOPs. Έπειτα εξέτασαν αν μπορεί να προβλεφθεί η απόδοση του world model πριν δαπανηθεί όλο το compute.
Το βασικό metric είναι το latent rollout L1 error: πόσο απέχει η προβλεπόμενη latent εξέλιξη από την πραγματική encoded εξέλιξη της σκηνής. Η εργασία δοκίμασε διαφορετικές καμπύλες scaling και βρήκε ότι ένα second-order power law έκανε καλύτερη extrapolation στα held-out 4B και 8B μοντέλα από τις εναλλακτικές που δοκιμάστηκαν.
Η extrapolation στο DROID είχε held-out error περίπου 0,6 για τη δεύτερης τάξης καμπύλη, έναντι περίπου 2,0 για την απλή power law. Στο RoboCasa η αντίστοιχη held-out error ήταν περίπου 1,4×10⁻³ έναντι 3,7×10⁻³. Οι συγγραφείς χρησιμοποίησαν αυτή την καμπύλη ως το scaling law τους.
Από το “προβλέπω” στο “αποφασίζω”
Το RoboJEPA δεν χρειάζεται task-specific policy για κάθε νέο στόχο. Στο deployment, ο στόχος μπορεί να δοθεί ως μία εικόνα. Ο encoder μετατρέπει αυτή την εικόνα σε goal representation. Ο planner δοκιμάζει υποψήφιες ακολουθίες ενεργειών, χρησιμοποιεί το RoboJEPA για να φανταστεί πού θα καταλήξει η σκηνή και επιλέγει την ακολουθία της οποίας η τελική latent κατάσταση είναι πιο κοντά στον στόχο.
Ο planner χρησιμοποιεί Cross-Entropy Method (CEM). Στο real Franka deployment ψάχνει πάνω σε 3D end-effector translation και 1D gripper command, με rotation fixed. Το planning horizon είναι 5 predictor steps και η εκτέλεση επαναλαμβάνεται κλειστά: δράση → νέα παρατήρηση → νέο planning.
Η κλιμάκωση εμφανίζει ικανότητες σε “σκαλοπάτια”
Τα πειράματα δείχνουν μια ενδιαφέρουσα σειρά εμφάνισης ικανοτήτων. Πρώτα εμφανίζεται ο απλός 3D έλεγχος του end-effector γύρω στα 10²⁰ FLOPs. Μετά, το manipulation ενώ κρατά αντικείμενο γύρω στα 3×10²⁰ FLOPs. Η αποφυγή στατικών εμποδίων γίνεται σημαντικά καλύτερη περίπου στα 10²¹ FLOPs, ενώ για object-push tasks στο RoboCasa δεν εμφανίζεται θετικό success rate πριν περίπου τα 10²² FLOPs.
Με άλλα λόγια, το scaling δεν δίνει απλώς «+Χ% accuracy». Ανοίγει διαδοχικά νέες κατηγορίες physical reasoning.
Το κρίσιμο τεστ: πραγματικό Franka, όχι μόνο simulation
Οι ερευνητές εγκατέστησαν RoboJEPA σε πλατφόρμα DROID/Franka με δύο cameras: εξωτερική camera και wrist camera. Το robot έπρεπε να εκτελέσει Grasp, Object Lift και Pick-and-Place, έχοντας ως task specification μόνο ένα τελικό goal image.
Συνολικά η μελέτη αναφέρει πάνω από 50.000 evaluation episodes σε δύο robot platforms για simulation και real-world experiments. Για το συγκεκριμένο Franka comparison, κάθε RoboJEPA model–task combination αξιολογήθηκε σε 30 episodes.
| Model | Goal | Grasp success | Object Lift success | Pick & Place success |
|---|---|---|---|---|
| π₀-FAST | Text | 22% | 12% | 40% |
| π₀.₅ | Text | 5% | 0% | 53% |
| RoboJEPA-2B | Image | 43% | 40% | 31% |
| RoboJEPA-4B | Image | 60% | 30% | 21% |
| RoboJEPA-8B | Image | 67% | 50% | 27% |
Αυτό όμως δεν ακυρώνει το βασικό αποτέλεσμα: από 22M μέχρι 8B παρατηρείται σαφής τάση βελτίωσης στο real-robot success. Το 8B φτάνει 67% Grasp και 50% Object Lift, ενώ σε Pick-and-Place φτάνει 27%. Το τελευταίο task είναι ενδιαφέρον γιατί το πείραμα επιτρέπει ακόμη και drops μέσα στο επεισόδιο, αρκεί τελικά το αντικείμενο να καταλήξει στη σωστή θέση.
RoboJEPA απέναντι στα άλλα σημαντικά approaches
Η σωστή σύγκριση δεν είναι «ποιο έχει περισσότερες παραμέτρους». Τα μοντέλα έχουν διαφορετικό στόχο, training data και deployment protocol. Παρ’ όλα αυτά, η θέση του RoboJEPA στο οικοσύστημα φαίνεται καθαρά.
| Approach | Βασική ιδέα | Κλίμακα / data | Planning | Τι το διαφοροποιεί |
|---|---|---|---|---|
| RoboJEPA | Action-conditioned latent world model | 22M–8B · 2,87M episodes · 12 platforms | CEM σε latent space | Scaling laws + real-robot zero-shot image-goal planning |
| DINO-WM | Latent dynamics σε DINOv2 features | ~20M predictor | CEM | Πολύ μικρότερο task-agnostic world model |
| DROID predictor | Latent world model για robot data | ~229M · ~8.000 trajectories | Latent planning | Προγενέστερη μελέτη architecture/training/planning choices |
| V-JEPA 2-AC | Action-conditioned predictor πάνω σε V-JEPA | μικρότερο robot post-training corpus | Image-goal planning | Άμεσος πρόγονος της προσέγγισης RoboJEPA |
| π₀ / π₀.₅ | Vision-Language-Action policy | Policy-centric, διαφορετικό training | Policy execution | Γλωσσικές εντολές και end-to-end action generation |
| Dreamer family | Learned latent dynamics + RL | πολλαπλές εκδόσεις/domains | Imagination-based control | Κλασική world-model/RL γραμμή έρευνας |
| Cosmos / generative world models | Large-scale physical/visual world generation | industrial-scale generative models | varies | Generative simulation και synthetic data |
Η μεγάλη διαφορά: το RoboJEPA δεν προσπαθεί να γίνει «robot ChatGPT». Είναι περισσότερο ένας predictive physical model που μπορεί να χρησιμοποιηθεί ως εσωτερικός simulator την ώρα που αποφασίζει το robot.
RoboJEPA vs VLA: δύο διαφορετικές φιλοσοφίες
VLA
«Κατάλαβα την εντολή και παράγω actions.»
Ισχυρό για language-conditioned behavior και policy learning.
RoboJEPA
«Αν κάνω αυτές τις actions, προβλέπω πού θα καταλήξει ο κόσμος και επιλέγω την καλύτερη διαδρομή.»
Ισχυρό για test-time planning και goal-image specification.
Πόσο κοστίζει; Η απάντηση δεν είναι μια τιμή API.
Το RoboJEPA δεν παρουσιάζεται ως εμπορικό API ή SaaS προϊόν και η εργασία δεν δίνει τιμοκατάλογο inference/training σε δολάρια. Οι συγγραφείς αναφέρουν ότι κυκλοφορούν δημόσια τα model checkpoints μαζί με training και robot-deployment code. Άρα το σωστό «κόστος» για να συζητήσουμε είναι κυρίως το υπολογιστικό κόστος.
Training compute
2×10¹⁹ έως 9,5×10²² FLOPs ανάλογα με το run.
Το ανώτατο άκρο είναι τεράστια υπολογιστική κλίμακα. Δεν πρέπει να μεταφράζεται αυθαίρετα σε dollars, επειδή το κόστος εξαρτάται από GPU, cluster utilization, αγορά/ενοικίαση hardware, διάρκεια και training schedule.
Δημόσια πρόσβαση
Paper + checkpoints + training/deployment code.
Η πρακτική δυσκολία είναι το hardware, το robot stack και η αναπαραγωγή των data pipelines — όχι αγορά license.
Πόσο βαρύ είναι το training;
Για το 8B model, το paper αναφέρει περίπου 305 PFLOPs ανά optimizer step για short-horizon recipe, περίπου 1.003 PFLOPs για long-horizon training και περίπου 18.900 PFLOPs ανά step για το high-resolution DROID fine-tuning. Το τελευταίο είναι πολύ ακριβότερο επειδή δουλεύει με τρία views σε 720×1280 και attention σε πολύ μεγαλύτερο token grid.
Σημείωση: PFLOP = 10¹⁵ FLOPs. Οι αριθμοί είναι training-job compute, όχι τιμή αγοράς GPU.
Τι ΔΕΝ σημαίνει το RoboJEPA
❌ Δεν είναι γενική νοημοσύνη
Δεν καταλαβαίνει τον κόσμο όπως ένας άνθρωπος και δεν αποδεικνύεται ότι μπορεί να γενικεύσει σε οποιοδήποτε robot ή οποιαδήποτε φυσική κατάσταση.
❌ Δεν προβλέπει τέλεια το μέλλον
Το latent rollout έχει error και το ίδιο το paper μετρά πόσο αυτό συσσωρεύεται. Μεγαλύτερα μοντέλα μειώνουν το error, αλλά δεν το μηδενίζουν.
❌ Δεν είναι ακόμη humanoid brain
Υπάρχει humanoid data στο training mixture, αλλά το real-world demonstration που προβάλλεται στο paper είναι κυρίως Franka/DROID manipulation.
❌ Δεν είναι φθηνό edge model
Το 8B είναι μεγάλο predictor και το planning μπορεί να απαιτεί πολλαπλές imagined rollouts. Η deployment engineering είναι σημαντικό μέρος του συστήματος.
Ένα ακόμη πολύ ενδιαφέρον limitation: η ποιότητα δεν εξαρτάται μόνο από το μέγεθος.
Η εργασία δείχνει ότι training recipe και horizon matter. Το long-horizon prediction training είναι ακριβότερο ανά step, αλλά πέρα από περίπου 5×10²⁰ FLOPs περνά σε καλύτερο scaling frontier από το short-horizon recipe και καταλήγει σε χαμηλότερο irreducible prediction error. Άρα «βάλε περισσότερες παραμέτρους» δεν είναι όλη η ιστορία.
Το πραγματικό breakthrough μπορεί να είναι η “μηχανή πρόβλεψης” μέσα στο robot.
Η πιο ενδιαφέρουσα συνέπεια του RoboJEPA δεν είναι ότι ένα robot πέτυχε 67% στο Grasp. Είναι ότι παρουσιάζεται ένας δρόμος όπου η κλιμάκωση του AI μεταφέρεται από τη γλώσσα και την εικόνα στη φυσική εξέλιξη του κόσμου.
Video model → προβλέπει frames.
World model → προβλέπει καταστάσεις.
Robot world model → προβλέπει τις συνέπειες των πράξεών του.
Αν αυτή η κατεύθυνση συνεχιστεί, η επόμενη γενιά robots δεν θα βασίζεται αποκλειστικά σε policies που έχουν απομνημονεύσει αντιδράσεις. Θα έχει έναν εσωτερικό predictive layer που θα δοκιμάζει νοητά διαφορετικές κινήσεις πριν τις εκτελέσει.
Το πιθανό επόμενο βήμα
1. Περισσότερα embodiments
Από 12 platforms σε πολύ μεγαλύτερο mixture, ώστε το world model να μάθει invariants της φυσικής αντί για ιδιοσυγκρασίες ενός robot.
2. Language → world model
Αντί για μόνο goal image, η εντολή θα μπορούσε να είναι «βάλε το κόκκινο αντικείμενο στο κουτί», με language grounding πάνω στο predictive model.
3. Better uncertainty
Το σημερινό deterministic predictor μπορεί να επεκταθεί σε μοντέλα που αναπαριστούν πολλαπλά πιθανά futures όταν η φυσική είναι αβέβαιη.
4. Continual learning
Το robot θα μπορούσε να συγκρίνει predicted vs actual outcomes και να χρησιμοποιεί τα mismatches για βελτίωση του world model.
Η μεγάλη εικόνα
Το RoboJEPA δείχνει μια μετατόπιση από το «AI που αντιδρά» στο «AI που προβλέπει πριν αντιδράσει». Αυτό είναι ιδιαίτερα σημαντικό για αυτόνομα συστήματα όπου ένα λάθος δεν είναι απλώς λάθος απάντηση στην οθόνη αλλά λάθος φυσική πράξη.
Συχνές Ερωτήσεις
Είναι το RoboJEPA policy (σαν τα π₀);
Όχι — είναι world model, όχι policy. Δεν βγάζει κατευθείαν κινήσεις· φαντάζεται συνέπειες κινήσεων και ένας CEM planner διαλέγει. Μπορεί να συνδυαστεί με policy, αλλά από μόνο του δεν «οδηγεί» το ρομπότ.
Μπορώ να το τρέξω στο δικό μου ρομπότ;
Checkpoints + training/deployment code είναι δημόσια, αλλά χρειάζεσαι το hardware, το robot stack και σοβαρό compute — το 8B δεν είναι edge model.
Γιατί image goal και όχι κείμενο;
Γιατί ο στόχος κωδικοποιείται στον ίδιο latent χώρο με τις προβλέψεις — η απόσταση «φαντασμένο vs στόχος» μετριέται άμεσα, χωρίς language grounding.
Τι ισχύει από αριθμούς;
Όλα τα νούμερα (67% Grasp, 8B, 2.87M episodes, PFLOPs) προέρχονται από την v1 του paper (arXiv 2610.10515) — η σύγκριση με VLA baselines σημειώνεται ρητά ως contextual, όχι head-to-head.
Πρωτογενείς και βασικές πηγές
Primary RoboJEPA: Scaling Robotic Latent World Models — arXiv:2610.10515, submitted 7 Oct 2026.
Project RoboJEPA official project page.
Code facebookresearch/robo_jepa — training, checkpoints and deployment resources.
Context Η ίδια η εργασία παραπέμπει σε V-JEPA 2/2.1, DINO-WM, Dreamer, DROID predictor, TD-MPC, Cosmos και άλλα world-model/planning systems για το related-work context.
Όλα τα αριθμητικά στοιχεία, τα benchmark αποτελέσματα και οι τεχνικές περιγραφές του παρόντος άρθρου βασίζονται στην έκδοση v1 της εργασίας που ήταν διαθέσιμη στις 8 Οκτωβρίου 2026. Τα comparisons επισημαίνονται ως contextual όταν τα protocols δεν είναι apples-to-apples.