Dweve

Νευροσυμβολικά, έναν χρόνο μετά: τι δείχνει πραγματικά η έρευνα του 2026

Πριν από έναν χρόνο υποστηρίξαμε ότι το επόμενο βήμα στην τεχνητή νοημοσύνη θα συνδύαζε εκπαιδευμένα μοντέλα με ρητή δομή. Η έρευνα του 2026 δίνει πλέον...

Νευροσυμβολικά, έναν χρόνο μετά: τι δείχνει πραγματικά η έρευνα του 2026

Πριν από έναν χρόνο, το επιχείρημα ήταν κυρίως ένα επιχείρημα

Τον Νοέμβριο του 2025 δημοσιεύσαμε το «The neuro-symbolic renaissance», ένα δοκίμιο που υποστήριζε ότι τα πιο χρήσιμα συστήματα AI των επόμενων ετών δεν θα ήταν μόνο μεγαλύτερα γλωσσικά μοντέλα. Θα συνδύαζαν εκπαιδευμένα μοντέλα, ικανά στην αντίληψη, τη γλώσσα και τα μοτίβα, με ρητή συμβολική δομή, ικανή στους κανόνες, τους περιορισμούς, την προέλευση και την απόδειξη. Διατυπώσαμε αυτό το επιχείρημα από πρώτες αρχές και από τη δική μας μηχανική εμπειρία, γιατί έτσι είναι φτιαγμένο το Dweve: το Loom, η μηχανή συλλογισμού μας, δρομολογεί την εργασία σε 528 ειδικούς, πολλοί από τους οποίους είναι συμβολικοί επιλυτές, επαληθευτές και μηχανές κανόνων παρά νευρωνικά δίκτυα, και η απάντηση που επιστρέφει φέρει ίχνος του ποια μέρη έκαναν τι.

Ένα επιχείρημα από πρώτες αρχές είναι ένα λογικό σημείο εκκίνησης. Δεν είναι απόδειξη. Αξίζει λοιπόν να ρωτήσουμε, έναν χρόνο μετά, τι δείχνει πλέον η δημοσιευμένη έρευνα. Όχι τα δελτία Τύπου, και όχι ο γενικός ενθουσιασμός για τη λέξη «νευροσυμβολικό», που έχει γίνει αρκετά της μόδας ώστε να εφαρμόζεται σχεδόν σε οτιδήποτε. Τα συγκεκριμένα, μετρημένα αποτελέσματα.

Δύο εργασίες του 2026 είναι ιδιαίτερα χρήσιμες, γιατί ελέγχουν απευθείας τους βασικούς ισχυρισμούς και αναφέρουν αριθμούς που μπορούν να επαληθευτούν. Η μία αφορά πράκτορες που πρέπει να δράσουν σε έναν κόσμο: προσθέτοντας συμβολικούς περιορισμούς και αναζήτηση σε ένα γλωσσικό μοντέλο, γίνονται τα σχέδιά του εκτελέσιμα; Η άλλη αφορά την απάντηση ερωτήσεων πάνω σε γνώση: χτίζοντας τη δομή γνώσης ντετερμινιστικά από έγκυρες πηγές, αντί να την εξάγουμε με ένα γλωσσικό μοντέλο, γίνονται οι απαντήσεις πιο ανιχνεύσιμες; Και οι δύο απαντούν ναι, με μεγάλη διαφορά. Και οι δύο είναι προσεκτικές ως προς το τι δεν έδειξαν, κάτι που είναι τουλάχιστον εξίσου διδακτικό με ό,τι έδειξαν.

Το εύλογο δεν είναι το ίδιο με το εκτελέσιμο

Η πρώτη εργασία, «Neurosymbolic Embodied Agents» των Albinhassan, Feng, Russo και Madhyastha, που αναρτήθηκε στο arXiv τον Αύγουστο του 2026, ξεκινά από μια παρατήρηση που θα αναγνωρίσει όποιος έχει προσπαθήσει να χρησιμοποιήσει ένα γλωσσικό μοντέλο ως σχεδιαστή. Τα γλωσσικά μοντέλα και τα μοντέλα γλώσσας-όρασης, αναφέρει η περίληψή της, «παράγουν εύλογα ενσώματα σχέδια αλλά δεν εγγυώνται την εκτελεσιμότητα, καθώς τα αποτελέσματά τους μπορούν να παραβιάζουν τη δυναμική του περιβάλλοντος ή να δρουν σε εσφαλμένα θεμελιωμένες οντότητες.»

Η διάκριση ανάμεσα στο εύλογο και το εκτελέσιμο είναι όλο το πρόβλημα σε μία πρόταση. Ένα μοντέλο στο οποίο ζητείται να φτιάξει ένα φλιτζάνι τσάι σε μια προσομοιωμένη κουζίνα θα παραγάγει μια αλληλουχία βημάτων που διαβάζεται ωραία: πήγαινε στην κουζίνα, πάρε τον βραστήρα, γέμισέ τον, άναψέ τον. Μπορεί όμως να προσπαθήσει να πάρει έναν βραστήρα που δεν υπάρχει, ή να γεμίσει έναν βραστήρα που βρίσκεται μέσα σε κλειστό ντουλάπι, ή να ρίξει από έναν βραστήρα που δεν έχει βράσει. Κάθε βήμα είναι εύλογο. Το σχέδιο στο σύνολό του αποτυγχάνει, γιατί το μοντέλο δεν παρακολουθεί την κατάσταση του κόσμου και τους κανόνες με τους οποίους οι ενέργειες την αλλάζουν.

Ο πράκτορας της εργασίας παραγοντοποιεί μακρόπνοες οικιακές εργασίες σε δύο φάσεις. Στην πρώτη, ένα μοντέλο γλώσσας-όρασης και ένα πλαίσιο εξερεύνησης αποκτούν κατηγορήματα σχετικά με τον στόχο και δεσμεύσεις στιγμιοτύπων από εγωκεντρικές παρατηρήσεις και θεμελιωμένες αλληλεπιδράσεις, παράγοντας μια συμβολική περιγραφή της αρχικής κατάστασης: αυτός ο βραστήρας είναι εδώ, αυτό το ντουλάπι είναι κλειστό, αυτό το φλιτζάνι είναι άδειο. Στη δεύτερη, ένα μοντέλο μετάβασης PDDL, μια τυπική περιγραφή του ποιες ενέργειες είναι εφαρμόσιμες σε ποιες καταστάσεις και τι αλλάζουν, «περιορίζει την αποκωδικοποίηση σε tokens που επεκτείνουν εφαρμόσιμες ενέργειες.» Το γλωσσικό μοντέλο μπορεί να παραγάγει μόνο ενέργειες που το συμβολικό μοντέλο λέει ότι είναι δυνατές. Η αναζήτηση δέντρου Monte Carlo αξιολογεί στη συνέχεια εκτελέσιμες συνεχίσεις χρησιμοποιώντας μια ευρετική σχεδιασμού ανεξάρτητη από το πεδίο.

Η συνέπεια, με τα λόγια των συγγραφέων, είναι ότι «τα σχέδια που προκύπτουν είναι εκτελέσιμα εκ κατασκευής υπό το μοντέλο μετάβασης, με τη μεταφορά στο περιβάλλον να εξαρτάται από τη σωστή οπτική θεμελίωση.» Αυτή η τελευταία ρήτρα είναι σημαντική, και επιστρέφουμε σε αυτήν παρακάτω.

Σύνοψη από τους Albinhassan, Feng, Russo και Madhyastha, Neurosymbolic Embodied Agents, arXiv 2608.16794.

Τα μικρά περιορισμένα μοντέλα νικούν ένα μεγάλο χωρίς περιορισμούς

Τα αποτελέσματα είναι εντυπωσιακά. Σε δύο καθιερωμένα σημεία αναφοράς για οικιακές εργασίες, το VirtualHome και το ALFWorld, η περίληψη αναφέρει ότι «τα ανοιχτά μοντέλα 4B-27B ξεπερνούν το 90% επιτυχίας και στα δύο περιβάλλοντα, και ο μικρότερος πράκτοράς μας υπερτερεί σημαντικά έναντι μιας άμεσης οπτικής πολιτικής 27B σε καθένα από αυτά». Στα αποτελέσματα της εργασίας, τα ποσοστά επιτυχίας κυμαίνονται από 94,5 έως 99,5 τοις εκατό στο VirtualHome και από 90,3 έως 97,8 τοις εκατό στο ALFWorld ανά μέγεθος μοντέλου. Ο πράκτορας 4 δισεκατομμυρίων παραμέτρων υπερτερεί της άμεσης οπτικής πολιτικής 27 δισεκατομμυρίων παραμέτρων κατά 32,0 ποσοστιαίες μονάδες στο ένα σημείο αναφοράς και κατά 63,4 στο άλλο.

Αυτό το δεύτερο αποτέλεσμα αξίζει να διαβαστεί αργά. Ένα μοντέλο περίπου ένα έβδομο του μεγέθους, εφοδιασμένο με ρητή δομή για τον κόσμο και μια διαδικασία αναζήτησης πάνω σε εκτελέσιμες ενέργειες, τα πηγαίνει εντυπωσιακά καλύτερα από ένα πολύ μεγαλύτερο μοντέλο που καλείται να δράσει άμεσα. Η διαφορά δεν είναι οριακή βελτιστοποίηση. Είναι η διαφορά ανάμεσα σε ένα σύστημα που λειτουργεί ως επί το πλείστον και σε ένα που ως επί το πλείστον δεν λειτουργεί.

Για όποιον ασχολείται με το κόστος, την κατανάλωση ενέργειας και τον έλεγχο των συστημάτων τεχνητής νοημοσύνης, αυτό έχει σημασία. Ένα μικρό ανοιχτό μοντέλο μπορεί να τρέξει σε μέτριο υλικό, μπορεί να επιθεωρηθεί, μπορεί να κλειδωθεί σε μια έκδοση και μπορεί να φιλοξενηθεί όπου επιλέξει ο διαχειριστής. Αν η προσθήκη δομής επιτρέπει σε ένα τέτοιο μοντέλο να υπερτερεί ενός μεγάλου σε εργασίες που απαιτούν αξιόπιστη δράση, τότε τα επιχειρήματα υπέρ της κυριαρχίας και της αποδοτικότητας των μικρών μοντέλων γίνονται πολύ ισχυρότερα. Το μέγεθος δεν είναι ο μόνος δρόμος προς την ικανότητα. Η δομή είναι ένας άλλος.

Οι περιορισμοί και η αναζήτηση αλληλοσυμπληρώνονται, δεν είναι ανταλλάξιμα

Το πιο ενδιαφέρον εύρημα, κατά τη γνώμη μας, είναι μια μελέτη αφαίρεσης. Οι συγγραφείς δοκίμασαν τους περιορισμούς και την αναζήτηση ξεχωριστά. Στο ALFWorld, το καθένα μόνο του «λύνει λιγότερο από το ένα τρίτο των εργασιών, ενώ ο συνδυασμός τους λύνει πάνω από 95%». Τα αναλυτικά στοιχεία είναι 32,3 τοις εκατό για τους περιορισμούς μόνο και 29,2 τοις εκατό για την αναζήτηση μόνο, έναντι 95,5 τοις εκατό σε συνδυασμό.

Αυτό είναι ένα αποτέλεσμα που μια απλή αφήγηση για τη νευροσυμβολική τεχνητή νοημοσύνη δεν θα προέβλεπε. Κάποιος θα περίμενε ότι οι περιορισμοί, εμποδίζοντας τις άκυρες ενέργειες, θα έκαναν το μεγαλύτερο μέρος της δουλειάς, και η αναζήτηση θα πρόσθετε λίγα. Ή ότι η αναζήτηση, εξερευνώντας πολλά μονοπάτια, θα έβρισκε καλά σχέδια και οι περιορισμοί θα την επιτάχυναν απλώς. Αντ' αυτού, το καθένα μόνο του αποτυγχάνει στις περισσότερες εργασίες, και μαζί πετυχαίνουν σχεδόν σε όλες.

Η διαίσθηση δεν είναι δύσκολο να ανασυσταθεί. Οι περιορισμοί χωρίς αναζήτηση εγγυώνται ότι κάθε βήμα είναι έγκυρο, αλλά δεν κάνουν τίποτα για να διασφαλίσουν ότι η ακολουθία έγκυρων βημάτων φτάνει στον στόχο. Ένα μοντέλο μπορεί να περιπλανιέται στην κουζίνα εκτελώντας απολύτως νόμιμες ενέργειες για πάντα. Η αναζήτηση χωρίς περιορισμούς εξερευνά πολλές συνεχίσεις, αλλά οι περισσότερες περιλαμβάνουν μη έγκυρες ενέργειες, οπότε ο χώρος αναζήτησης κυριαρχείται από σχέδια που θα αποτύχουν και η ευρετική μέθοδος έχει ελάχιστα να αξιοποιήσει. Μαζί, οι περιορισμοί περικόπτουν τον χώρο σε έγκυρα σχέδια και η αναζήτηση βρίσκει τα καλά ανάμεσά τους.

Αυτή η συμπληρωματικότητα είναι, κατά τη γνώμη μας, η ισχυρότερη εμπειρική υποστήριξη μέχρι σήμερα για τον αρχιτεκτονικό ισχυρισμό που κάναμε πριν από ένα χρόνο. Η αξία δεν βρίσκεται στο να προσαρτήσουμε ένα συμβολικό μοντέλο σε ένα νευρωνικό. Βρίσκεται σε έναν συγκεκριμένο καταμερισμό εργασίας, όπου κάθε μέρος κάνει αυτό στο οποίο είναι καλό και αντισταθμίζει την αδυναμία του άλλου.

Στοιχεία όπως αναφέρονται στο arXiv 2608.16794. Κάθε συστατικό μόνο του λύνει λιγότερο από το ένα τρίτο των εργασιών.

Λιγότερα tokens και αποτυχίες που δείχνουν κάπου

Δύο ακόμη αποτελέσματα από την εργασία είναι εύκολο να παραβλεφθούν και αξίζουν προσοχή.

Το πρώτο είναι η αποδοτικότητα. Η περίληψη αναφέρει ότι η μέθοδος «χρησιμοποιεί αρκετές φορές λιγότερα παραγόμενα tokens από την εκτεταμένη σκέψη και πολύ λιγότερες εικόνες ορατές στο μοντέλο από την άμεση αλληλεπίδραση». Στην εργασία, η μείωση των tokens σε σχέση με την εκτεταμένη σκέψη αναφέρεται ως έως και τετραπλάσια. Η εκτεταμένη σκέψη, όπου ένα μοντέλο γράφει μακριές αλυσίδες συλλογισμού πριν δράσει, είναι η κύρια εναλλακτική στρατηγική για τη βελτίωση της αξιοπιστίας των σχεδίων του μοντέλου. Λειτουργεί σε κάποιον βαθμό, αλλά είναι δαπανηρή: κάθε token συλλογισμού υπολογίζεται και, σε υπηρεσίες φιλοξενίας, πληρώνεται. Μια μέθοδος που επιτυγχάνει καλύτερα αποτελέσματα με ένα κλάσμα των tokens είναι καλύτερη ως προς το κόστος και την ενέργεια, καθώς και ως προς την επιτυχία.

Το δεύτερο είναι η διαγνωσιμότητα. Η περίληψη σημειώνει ότι «οι υπολειπόμενες αποτυχίες εντοπίζονται στην απόκτηση κατάστασης και όχι στη δημιουργία σχεδίου, χωρίς καμία εξειδικευμένη εκπαίδευση». Όταν ο πράκτορας αποτυγχάνει, αποτυγχάνει επειδή η εικόνα του για τον κόσμο ήταν λανθασμένη, όχι επειδή σχεδίασε άσχημα δεδομένης αυτής της εικόνας. Αυτό είναι ακριβώς αυτό που θα περίμενε κανείς από ένα σύστημα του οποίου τα σχέδια είναι εκτελέσιμα εκ κατασκευής. Λέει επίσης στον μηχανικό πού να δουλέψει στη συνέχεια. Σε ένα νευρωνικό σύστημα άκρο προς άκρο, μια αποτυχία είναι συχνά μια διάχυτη ιδιότητα ολόκληρου του μοντέλου και το μόνο γιατρικό είναι περισσότερα δεδομένα ή ένα μεγαλύτερο μοντέλο. Σε ένα παραγοντοποιημένο σύστημα, μια αποτυχία έχει διεύθυνση.

Θεωρούμε ότι η δυνατότητα διάγνωσης υποτιμάται στην έρευνα για την τεχνητή νοημοσύνη. Ένα σύστημα που αποτυγχάνει λιγότερο είναι καλό. Ένα σύστημα του οποίου οι αποτυχίες μπορούν να εντοπιστούν, να εξηγηθούν και να διορθωθούν είναι καλύτερο, γιατί μπορεί να βελτιωθεί σκόπιμα και γιατί η συμπεριφορά του μπορεί να είναι αξιόπιστη στις περιπτώσεις όπου τα συστατικά του είναι γνωστό ότι είναι αξιόπιστα.

Το ίδιο μοτίβο εμφανίζεται στην απάντηση ερωτήσεων

Η δεύτερη εργασία εξετάζει ένα διαφορετικό πρόβλημα, με ένα εντυπωσιακά παρόμοιο αποτέλεσμα. Το «Ontology-guided neuro-symbolic GraphRAG for grounded query answering», των Domenico Benfenati και Antonio Maria Rinaldi του Πανεπιστημίου της Νάπολης Federico II, δημοσιεύθηκε στο Neural Computing and Applications τον Οκτώβριο του 2026. Μελετά την απάντηση ερωτήσεων πάνω σε γνώση για την κυβερνοασφάλεια: ευπάθειες, αδυναμίες, μοτίβα επιθέσεων και επηρεαζόμενα προϊόντα, που αντλούνται από δημόσια αποθετήρια όπως τα CVE, CWE, CAPEC και CPE.

Η σύγκριση αφορά δύο τρόπους δόμησης του γράφου γνώσης στον οποίο βασίζεται ένα γλωσσικό μοντέλο όταν απαντά σε ερωτήσεις. Στην ευρέως χρησιμοποιούμενη προσέγγιση GraphRAG, ένα γλωσσικό μοντέλο διαβάζει μη δομημένο κείμενο και εξάγει οντότητες, σχέσεις και περιλήψεις κοινοτήτων, οι οποίες στη συνέχεια χρησιμεύουν ως υπόστρωμα ανάκτησης. Στην προσέγγιση των συγγραφέων, ο γράφος υλοποιείται από πάνω προς τα κάτω από τα έγκυρα αποθετήρια, μέσω στοχευμένης ανίχνευσης, ενοποίησης σχημάτων με οντολογική καθοδήγηση και συμβολικής συμπερασματολογίας βάσει κανόνων, όπως η μεταβατική αλυσίδωση και ο πολυεπίπεδος αντίκτυπος στα προϊόντα. Η ίδια η οντολογία προέρχεται από τη δομή πεδίου των πραγματικών αποθετηρίων και δεν συντίθεται από κάποιο μοντέλο. Στη συνέχεια, στο γλωσσικό μοντέλο δίνονται τεκμήρια από αυτόν τον γράφο, σε αυτό που οι συγγραφείς περιγράφουν ως αυστηρά μονόδρομη ροή: το συμβολικό υπόστρωμα είναι «πλήρως ντετερμινιστικό, διατηρεί την προέλευση και είναι ανεξάρτητα επιθεωρήσιμο».

Ο έλεγχος προέλευσης είναι το πιο αποκαλυπτικό πείραμα. Στον γράφο με οντολογική καθοδήγηση, το 100 τοις εκατό των δειγματοληπτούμενων ακμών ήταν ανιχνεύσιμο σε έγκυρες εγγραφές πηγής ή σε δηλωμένους κανόνες συμπερασμού. Στον γράφο που εξήχθη από LLM, το 83 τοις εκατό ήταν ανιχνεύσιμο, και μόνο το 58 τοις εκατό συνέδεε άκρα με κανονικά αναγνωριστικά. Η διαφορά περνά και στις απαντήσεις: το σύστημα με οντολογική καθοδήγηση πέτυχε ακρίβεια παραπομπών 95 τοις εκατό, έναντι 66 τοις εκατό για τη βάση GraphRAG.

Η δομική εξήγηση των συγγραφέων είναι το σημαντικότερο σημείο. Στο GraphRAG που εξάγεται από LLM, οι απαντήσεις βασίζονται σε περιλήψεις γραμμένες από το ίδιο είδος μοντέλου που παράγει την απάντηση, οπότε η αλυσίδα προέλευσης σταματά σε έναν νευρωνικό ενδιάμεσο αντί να φτάνει σε μια έγκυρη εγγραφή. Μια παραπομπή σε μια περίληψη γραμμένη από μοντέλο είναι παραπομπή σε μια ερμηνεία. Μια παραπομπή σε μια εγγραφή πηγής, μέσω ακμών που καθεμία είναι ανιχνεύσιμη σε αυτή την εγγραφή ή σε έναν δηλωμένο κανόνα, είναι παραπομπή σε τεκμήριο.

Στοιχεία όπως αναφέρονται από τους Benfenati και Rinaldi, Neural Computing and Applications, 2026, σε σώμα κειμένων κυβερνοασφάλειας.

Οι παραπομπές δεν είναι ολόκληρη η προέλευση

Μια τρίτη, μικρότερη εργασία του 2026 προσθέτει μια χρήσιμη επιπλοκή. Το «Why Neighborhoods Matter: Traversal Context and Provenance in Agentic GraphRAG», που αναρτήθηκε στο arXiv τον Μάιο του 2026, μελετά συστήματα στα οποία ένας πράκτορας εξερευνά ένα γράφημα γνώσης πριν απαντήσει και έπειτα παραπέμπει σε ένα μικρό σύνολο οντοτήτων. Θέτει το ερώτημα αν οι τελικές παραπομπές αρκούν για να εξηγήσουν τα τεκμήρια από τα οποία εξαρτήθηκε η απάντηση.

Το συμπέρασμά της είναι πως δεν αρκούν. Οι οντότητες στις οποίες γίνεται παραπομπή συνήθως έχουν σημασία: η αφαίρεσή τους αλλάζει ουσιαστικά τις απαντήσεις και μειώνει την ακρίβεια. Ωστόσο, τα πειράματα δείχνουν ότι η ακριβής απάντηση εξαρτάται επίσης από τη διάσχιση του γραφήματος, τη δομή της γειτονιάς και οντότητες που ο πράκτορας επισκέφθηκε αλλά δεν επικαλέστηκε. Οι συγγραφείς καταλήγουν ότι η πιστή παραπομπή «θα πρέπει επίσης να λαμβάνει υπόψη το πλαίσιο του γραφήματος και τη διαδρομή ανάκτησης που διαμορφώνουν την τελική απάντηση».

Αυτό το εύρημα οξύνει το δίδαγμα της εργασίας των Benfenati και Rinaldi. Ένα ντετερμινιστικό, ιχνηλάσιμο γράφημα είναι απαραίτητο για απαντήσεις των οποίων τα τεκμήρια μπορούν να ελεγχθούν. Δεν αρκεί αν το σύστημα καταγράφει μόνο ό,τι επικαλείται και όχι ό,τι διάβασε. Η προέλευση πρέπει να περιλαμβάνει τη διαδρομή, όχι μόνο τον προορισμό. Και αυτό είναι, όπως συμβαίνει, το ίδιο συμπέρασμα στο οποίο καταλήξαμε από την πλευρά της μηχανικής όταν σχεδιάζαμε το Knot, το αρχείο καταγραφής συμβάντων που δημοσιεύουμε το τέταρτο τρίμηνο του 2026: το αρχείο μιας εκτέλεσης πράκτορα πρέπει να περιλαμβάνει κάθε ανάγνωση και κάθε ενδιάμεσο βήμα, όχι μόνο το τελικό αποτέλεσμα, γιατί τα βήματα είναι αυτά που εξηγούν το αποτέλεσμα.

Τι δεν δείχνουν τα αποτελέσματα

Και οι δύο κύριες εργασίες είναι προσεκτικές ως προς τα όριά τους, και αξίζει να τα δηλώσουμε καθαρά, γιατί ο ενθουσιασμός για ένα αποτέλεσμα τείνει να σβήνει τις προϋποθέσεις του.

Τα αποτελέσματα για ενσώματους πράκτορες είναι σε προσομοίωση. Τα VirtualHome και ALFWorld είναι καθιερωμένα σημεία αναφοράς, αλλά είναι προσομοιωμένα οικιακά περιβάλλοντα με γνωστή δυναμική. Η εγγύηση ότι τα σχέδια είναι εκτελέσιμα «εκ κατασκευής» ισχύει υπό το μοντέλο μετάβασης, δηλαδή υπό τη συμβολική περιγραφή του τρόπου λειτουργίας του κόσμου. Αν αυτή η περιγραφή είναι λανθασμένη ή ελλιπής, η εγγύηση δεν μεταφέρεται. Στον πραγματικό κόσμο, η συγγραφή ενός πλήρους και ορθού μοντέλου μετάβασης είναι δύσκολη, και ο κόσμος έχει τη συνήθεια να περιλαμβάνει πράγματα που το μοντέλο δεν είχε προβλέψει.

Τα ίδια αποτελέσματα προϋποθέτουν σωστή οπτική θεμελίωση. Η περίληψη το δηλώνει ρητά. Αν η φάση εξερεύνησης ταυτοποιήσει λάθος ένα αντικείμενο ή παραλείψει κάποιο, η συμβολική κατάσταση είναι εσφαλμένη, και ένα σχέδιο που εκτελείται άψογα υπό τη λανθασμένη κατάσταση μπορεί να αποτύχει στην πραγματικότητα. Το εύρημα της εργασίας ότι οι υπολειπόμενες αποτυχίες εντοπίζονται στην απόκτηση κατάστασης είναι καλό νέο για τη διαγνωσιμότητα, και ταυτόχρονα υπενθυμίζει ότι η αντίληψη παραμένει το δύσκολο κομμάτι.

Τα αποτελέσματα του GraphRAG αφορούν έναν μόνο τομέα, την κυβερνοασφάλεια, όπου υπάρχουν έγκυρα δομημένα αποθετήρια με σταθερά αναγνωριστικά. Πολλοί τομείς δεν είναι έτσι. Όπου η γνώση βρίσκεται κυρίως σε μη δομημένα έγγραφα χωρίς κανονικά αναγνωριστικά, η εκ των άνω προς τα κάτω υλοποίηση δεν είναι διαθέσιμη, και κάποια μορφή εξαγωγής είναι αναπόφευκτη. Η μέθοδος της εργασίας δείχνει τι καθίσταται δυνατό όταν υπάρχουν καλές πηγές. Δεν δείχνει πώς να δημιουργηθούν εκεί που δεν υπάρχουν.

Η αξιολόγηση του GraphRAG ως προς την ορθότητα των απαντήσεων χρησιμοποίησε ένα γλωσσικό μοντέλο ως κριτή, το Gemini 2.5 Flash, σε δεκαπέντε ερωτήσεις ανά εργασία. Πρόκειται για λογικό σχεδιασμό για μια ερευνητική εργασία, και ο έλεγχος προέλευσης αποτελεί πιο άμεση μέτρηση. Ωστόσο οι αναγνώστες θα πρέπει να αντιμετωπίζουν τα στοιχεία για την ποιότητα των απαντήσεων ως ενδεικτικά και όχι ως οριστικά, και τα στοιχεία προέλευσης ως το ισχυρότερο αποτέλεσμα.

Κανένας από αυτούς τους περιορισμούς δεν υπονομεύει τις εργασίες. Είναι οι συνήθεις συνθήκες της καλής έρευνας. Έχουν όμως σημασία για όποιον μπαίνει στον πειρασμό να διαβάσει το «νευροσυμβολικό» ως γενική λύση. Πρόκειται για ένα σύνολο αρχιτεκτονικών επιλογών που λειτουργούν πολύ καλά όταν ισχύουν οι προϋποθέσεις τους: ένα σωστό συμβολικό μοντέλο του τομέα, αξιόπιστη θεμελίωση της αντίληψης σε αυτό το μοντέλο, και έγκυρες πηγές για τη γνώση. Μεγάλο μέρος της πρακτικής δουλειάς συνίσταται στη διασφάλιση αυτών των προϋποθέσεων.

Τι συμβαίνει μετά το πρώτο λάθος

Τα ποσοστά επιτυχίας σου λένε πόσο συχνά ένα σύστημα ολοκληρώνει μια εργασία. Δεν σου λένε πώς συμπεριφέρεται όταν κάτι πάει στραβά, που είναι συχνά το πιο σημαντικό ερώτημα για όποιον πρέπει να το θέσει σε λειτουργία. Η εργασία για τον ενσώματο πράκτορα περιλαμβάνει ένα παράρτημα που απαντά σε αυτό, και αποτελεί ένα από τα πιο αποκαλυπτικά σημεία της δουλειάς.

Οι συγγραφείς μέτρησαν τι έκαναν οι πολιτικές «μετά το πρώτο μη θεμελιώσιμο ή αποτυχημένο συμβάν εκτέλεσης», αναφέροντας πόσο συχνά οι εργασίες περιείχαν ένα τέτοιο συμβάν, πόσο συχνά η πολιτική κατάφερνε στη συνέχεια να ανακτήσει την εργασία, πόσο συχνά επαναλάμβανε αμέσως το αποτυχημένο αίτημα, και πόσο συχνά έπεφτε σε επίμονο βρόχο ενεργειών. Τα αποτελέσματα για τις άμεσες οπτικές πολιτικές, που σχεδιάζουν χωρίς τους συμβολικούς περιορισμούς, είναι εντυπωσιακά.

Στο VirtualHome, η άμεση πολιτική Qwen 4B συνάντησε αποτυχία στο 64,5 τοις εκατό των εργασιών. Ανέκτησε την εργασία στο 5,4 τοις εκατό αυτών των περιπτώσεων, επανέλαβε αμέσως το αποτυχημένο αίτημα στο 74,5 τοις εκατό, και κατέληξε σε επίμονο βρόχο στο 45,5 τοις εκατό. Στο ALFWorld, το ίδιο μοντέλο συνάντησε αποτυχία στο 73,9 τοις εκατό των εργασιών, ανέκτησε στο 1,0 τοις εκατό και κατέληξε σε επίμονο βρόχο στο 94,8 τοις εκατό. Το μεγαλύτερο άμεσο μοντέλο τα πήγε καλύτερα, όπως θα περίμενε κανείς: στο VirtualHome, η πολιτική 27B συνάντησε αποτυχία στο 29,0 τοις εκατό των εργασιών, ανέκτησε στο 37,9 τοις εκατό, επανέλαβε το αίτημα στο 8,3 τοις εκατό και μπήκε σε βρόχο στο 9,5 τοις εκατό. Στο ALFWorld, ακόμη και αυτό το μοντέλο ανέκτησε μόνο στο 25,7 τοις εκατό των περιπτώσεων.

Η εισαγωγή της εργασίας εξηγεί γιατί συμβαίνει αυτό. Μια άμεση πολιτική πρέπει να ταυτοποιεί αντικείμενα, να παρακολουθεί την κατάστασή τους, να επιλέγει εφαρμόσιμες ενέργειες και να συλλογίζεται για καθυστερημένες επιδράσεις «μέσα σε ένα αυτοπαλινδρομικό ιστορικό, όπου είναι ελεύθερες να συσσωρεύονται». Οι συγγραφείς παρατηρούν ότι «η ανάδραση εκτέλεσης μπορεί να αποκαλύψει ένα τέτοιο σφάλμα αφού συμβεί, αλλά δεν εμποδίζει το μοντέλο να επαναλάβει μια άκυρη επιλογή ή να παρεκκλίνει από την κατάσταση που προκάλεσαν οι ίδιες του οι ενέργειες.»

Αυτή η πρόταση περιγράφει ένα μοτίβο που πολλοί θα αναγνωρίσουν από πράκτορες εκτός εργαστηρίου. Ένας πράκτορας δοκιμάζει κάτι, αποτυγχάνει, το σφάλμα τροφοδοτείται πίσω και ο πράκτορας δοκιμάζει ξανά το ίδιο πράγμα ή κάτι ισοδύναμο. Η ανατροφοδότηση είναι πληροφορία, αλλά η πληροφορία δεν περιορίζει. Ένα σύστημα που αντιμετωπίζει την εγκυρότητα μιας ενέργειας ως κάτι που συνάγεται, αντί να επιβάλλεται, μπορεί να ενημερωθεί ότι έκανε λάθος χωρίς να εμποδιστεί από το να κάνει ξανά το ίδιο λάθος.

Η προσέγγιση με περιορισμούς το αλλάζει αυτό, καθιστώντας την εφαρμοσιμότητα, όπως λέει η εργασία, «έναν περιορισμό που διατηρείται καθ' όλη τη διάρκεια της παραγωγής και της αναζήτησης». Μια ενέργεια της οποίας οι προϋποθέσεις δεν πληρούνται δεν παράγεται ποτέ, οπότε δεν υπάρχει τίποτα να επαναληφθεί. Αυτό δεν κάνει το σύστημα αλάνθαστο. Μετατοπίζει την αποτυχία σε άλλο σημείο.

Στοιχεία από τον Πίνακα 10 των Albinhassan και συνεργατών, 2026, για άμεσες πολιτικές χωρίς συμβολικούς περιορισμούς. Ποσοστά· η ανάκτηση και η επανάληψη αφορούν εργασίες στις οποίες παρουσιάστηκε αποτυχία.

Η εργασία εντοπίζει τις δικές της αποτυχίες

Μια ειλικρινής παρουσίαση των αποτελεσμάτων πρέπει να πει πού αποτυγχάνει ο πράκτορας με περιορισμούς, και η εργασία το κάνει. Ο συμβολικός σχεδιαστής της μπορεί να σχεδιάσει μόνο με βάση την κατάσταση που του δίνεται. Όταν το στάδιο της οπτικής εξερεύνησης παραλείπει ένα απαιτούμενο αντικείμενο, γράφουν οι συγγραφείς, «η αποτυχία στη συνέχεια διαδίδεται, επειδή η εδραιωμένη αρχική κατάσταση παραλείπει ένα απαιτούμενο αντικείμενο. Αυτός είναι ένας περιορισμός του στοιχείου απόκτησης οπτικής κατάστασης και όχι της εγγύησης εφαρμοσιμότητας.»

Αυτή η διάκριση έχει σημασία. Η εγγύηση που προσφέρει το σύστημα είναι στενή και ισχυρή: κάθε ενέργεια που σχεδιάζει είναι εφαρμόσιμη στην κατάσταση στην οποία πιστεύει ότι βρίσκεται. Το κατά πόσο αυτή η πεποίθηση ανταποκρίνεται στον κόσμο εξαρτάται από την αντίληψη, και η αντίληψη εξακολουθεί να γίνεται από ένα νευρωνικό μοντέλο με όλη την αβεβαιότητα που αυτό συνεπάγεται. Οι συγγραφείς αναμένουν ότι «βελτιώσεις στην οπτική αναγνώριση και στην ενεργή επιλογή οπτικής γωνίας θα πρέπει να μεταφέρονται άμεσα στην πλήρη μέθοδο», κάτι που είναι λογική προσδοκία και ταυτόχρονα υπενθύμιση ότι το συμβολικό μέρος δεν μπορεί να αντισταθμίσει ό,τι το νευρωνικό μέρος αποτυγχάνει να δει.

Για όσους αξιολογούν τέτοια συστήματα, το δίδαγμα είναι να ρωτούν πού σταματά η εγγύηση. Ένα νευροσυμβολικό σύστημα συνήθως προσφέρει βεβαιότητα για ένα μέρος της διαδικασίας (το σχέδιο είναι έγκυρο, η συναγωγή προκύπτει από τους κανόνες, η απάντηση υποστηρίζεται από τον γράφο) και κληρονομεί την αβεβαιότητα από τα μέρη που το τροφοδοτούν. Ένα καλό σύστημα κάνει αυτό το όριο ορατό. Καταγράφει τι αντιλήφθηκε, τι υπέθεσε και τι συνήγαγε, ώστε ένας ελεγκτής να μπορεί να πει αν μια αποτυχία προήλθε από τη συλλογιστική ή από την είσοδο της συλλογιστικής.

Γι' αυτόν τον λόγο είναι επίσης τόσο πολύτιμη η ανάλυση αποτυχιών του είδους που υπάρχει στο παράρτημα της εργασίας. Το να γνωρίζει κανείς ότι ένα σύστημα αποτυγχάνει κυρίως στη θεμελίωση και όχι στον σχεδιασμό λέει σε έναν μηχανικό πού να επενδύσει και σε έναν υπεύθυνο ανάπτυξης τι είδους εποπτεία χρειάζεται. Ένας ανθρώπινος ελεγκτής που εξετάζει τη δουλειά ενός πράκτορα με περιορισμούς θα πρέπει να ελέγχει την εικόνα του για τον κόσμο, όχι την αριθμητική του.

Η μελέτη διάσχισης είναι μικρή, και το παραδέχεται

Η εργασία για το πλαίσιο διάσχισης είναι προσεκτική και ως προς τους περιορισμούς της. Οι συγγραφείς της γράφουν ότι η μελέτη «περιορίζεται από το μικρό μέγεθος του σημείου αναφοράς και από τη χρήση ενός ελεγχόμενου γράφου γνώσης, που κατασκευάστηκε από το 2WikiMultiHopQA αντί για έναν μεγάλο γράφο γνώσης πραγματικού κόσμου». Ζητούν αξιολόγηση «σε μεγαλύτερα σύνολα δεδομένων, πλουσιότερες δομές γράφων και βάσεις γνώσης ειδικού τομέα», καθώς και μηχανισμούς παραπομπών «που εκθέτουν όχι μόνο τις τελικές οντότητες τεκμηρίωσης αλλά και το σχετικό πλαίσιο διάσχισης».

Αυτή η ειλικρίνεια είναι χρήσιμη. Το εύρημα, ότι οι παραπομπές είναι αναγκαίες αλλά όχι επαρκείς για να εξηγήσουν την απάντηση ενός πράκτορα, είναι εύλογο και σημαντικό, αλλά στηρίζεται σε ένα ελεγχόμενο περιβάλλον. Πριν στηριχθεί οποιαδήποτε πολιτική σε αυτό, θα πρέπει να αναπαραχθεί στους τύπους γράφων που χρησιμοποιούν τα πραγματικά συστήματα: βάσεις γνώσης επιχειρήσεων, κανονιστικά σώματα κειμένων, καταλόγους προϊόντων. Μέχρι τότε, καλύτερα να διαβαστεί ως μια καλοσχεδιασμένη προειδοποίηση παρά ως οριστική μέτρηση.

Η προειδοποίηση αξίζει ωστόσο να ληφθεί υπόψη. Οι συγγραφείς καταλήγουν ότι «η προέλευση στην πρακτορική ανάκτηση βασισμένη σε γράφους θα πρέπει να αντιμετωπίζεται ως ιδιότητα επιπέδου τροχιάς». Για όσους κατασκευάζουν συστήματα, αυτό σημαίνει να καταγράφουν τη διαδρομή, όχι μόνο τον προορισμό: ποιες οντότητες επισκέφθηκαν, ποιες ακμές ακολούθησαν, ποιους γείτονες είδαν και δεν επικαλέστηκαν. Μια λίστα παραπομπών είναι σύνοψη αυτής της διαδρομής. Όπως κάθε σύνοψη, μπορεί να είναι ακριβής και παρ' όλα αυτά να παραλείπει κάτι που είχε σημασία.

Η καταγραφή της διαδρομής έχει πρακτικό κόστος, και αυτό πρέπει να ειπωθεί. Τα αρχεία διάσχισης είναι μεγαλύτερα από τις λίστες παραπομπών, μπορεί να περιέχουν υλικό που δεν εμφανίστηκε ποτέ στον χρήστη και χρειάζονται την ίδια προσοχή σε θέματα πρόσβασης και διατήρησης όπως κάθε άλλο αρχείο καταγραφής. Όμως η εναλλακτική είναι χειρότερη. Όταν αμφισβητείται μια απάντηση, ένα σύστημα που κράτησε μόνο τις παραπομπές του μπορεί να δείξει σε τι παρέπεμψε. Ένα σύστημα που κράτησε την τροχιά του μπορεί να δείξει πώς έφτασε εκεί, που είναι το ερώτημα που θα θέσει στην πραγματικότητα ένας ελεγκτής. Για την πρακτορική ανάκτηση, αυτή η διαφορά είναι πιθανό να κρίνει αν μια εξήγηση γίνεται αποδεκτή ή απλώς ανεκτή.

Το παλαιότερο επιχείρημα για την εξήγηση εξακολουθεί να ισχύει

Τίποτα από αυτά δεν είναι νέο στο πνεύμα. Η συζήτηση για την εξήγηση στη μηχανική μάθηση διαρκεί χρόνια, και τα αποτελέσματα του 2026 εντάσσονται σε αυτήν αντί να την αντικαθιστούν.

Το 2017, οι Finale Doshi-Velez και Been Kim παρατήρησαν ότι «παρά το ενδιαφέρον για την ερμηνευσιμότητα, υπάρχει ελάχιστη συναίνεση για το τι είναι ερμηνεύσιμη μηχανική μάθηση και πώς πρέπει να μετριέται». Το 2018, η Cynthia Rudin υποστήριξε ότι «το να προσπαθεί κανείς να εξηγήσει μοντέλα μαύρου κουτιού, αντί να δημιουργεί εξαρχής μοντέλα που είναι ερμηνεύσιμα, είναι πιθανό να διαιωνίσει κακές πρακτικές και μπορεί δυνητικά να προκαλέσει καταστροφική βλάβη στην κοινωνία». Την ίδια χρονιά, ο Julius Adebayo και συνεργάτες έδειξαν ότι ορισμένες μέθοδοι ευκρίνειας «είναι ανεξάρτητες τόσο από το μοντέλο όσο και από τη διαδικασία παραγωγής δεδομένων», παράγοντας παρόμοιες εξηγήσεις είτε το μοντέλο είχε μάθει κάτι είτε όχι.

Τα αποτελέσματα του περιορισμένου σχεδιασμού και του GraphRAG μπορούν να διαβαστούν ως στοιχεία υπέρ της θέσης της Rudin σε ένα νέο πλαίσιο. Όταν το σχέδιο παράγεται από αναζήτηση πάνω σε ρητούς κανόνες, η εγκυρότητά του είναι ιδιότητα του τρόπου με τον οποίο φτιάχτηκε, και μια εξήγηση του γιατί επιλέχθηκε μια ενέργεια μπορεί να διαβαστεί από την αναζήτηση. Όταν μια απάντηση παράγεται με διάσχιση ενός γράφου, η προέλευσή της είναι ιδιότητα της διάσχισης, εφόσον η διάσχιση καταγράφεται. Και στις δύο περιπτώσεις η εξήγηση δεν είναι η ερμηνεία ενός δεύτερου μοντέλου για το πρώτο. Είναι το αρχείο του τι έκανε το πρώτο.

Αυτό που προσθέτουν τα αποτελέσματα του 2026 είναι η απόδειξη ότι ένα τέτοιο σύστημα μπορεί επίσης να αποδώσει καλά. Η παλιά ένσταση απέναντι στις ερμηνεύσιμες προσεγγίσεις ήταν ότι κοστίζουν σε ακρίβεια. Αποτελέσματα σαν κι αυτά, όπου μικρά περιορισμένα μοντέλα ξεπερνούν μεγαλύτερα χωρίς περιορισμούς σε δομημένες εργασίες, δεν απαντούν γενικά σε αυτό το ερώτημα. Δείχνουν όμως ότι, για εργασίες με σαφείς κανόνες και επαληθεύσιμα αποτελέσματα, το δίλημμα δεν είναι αυτό που υπέθεταν οι περισσότεροι.

Η μεγαλύτερη σκέψη δεν βοήθησε, και το εύκολο σημείο αναφοράς το κρύβει

Η απαλοιφή συστατικών στην εργασία για τον ενσώματο πράκτορα περιέχει δύο ακόμη λεπτομέρειες που αξίζουν προσοχή, γιατί αντιβαίνουν σε κοινές υποθέσεις.

Η πρώτη αφορά την εκτεταμένη συλλογιστική. Με το μοντέλο Qwen 27B, η απλή άπληστη αποκωδικοποίηση έφτασε σε 61,0 τοις εκατό επιτυχία στο VirtualHome και 15,4 τοις εκατό στο ALFWorld. Το ίδιο μοντέλο σε λειτουργία σκέψης, με προϋπολογισμό έως 32.768 διακριτικά εξόδου σύμφωνα με τις ρυθμίσεις αποκωδικοποίησης της εργασίας, έφτασε σε 59,0 και 16,9 τοις εκατό. Το να αφήνεις το μοντέλο να συλλογίζεται πολύ πιο εκτενώς δεν έκανε ουσιαστικά καμία διαφορά. Η προσθήκη περιορισμών εφαρμοσιμότητας στην άπληστη αποκωδικοποίηση, αντίθετα, ανέβασε την επιτυχία στο VirtualHome από 61,0 σε 98,5 τοις εκατό. Με τα λόγια των συγγραφέων, αυτό δείχνει ότι "οι περιορισμοί εφαρμοσιμότητας ευθύνονται για το μεγαλύτερο μέρος του κέρδους".

Αυτό είναι μια χρήσιμη διόρθωση στην ιδέα ότι περισσότερα διακριτικά συλλογισμού αποτελούν γενικό γιατρικό για σφάλματα σχεδιασμού. Όταν το σφάλμα είναι η επιλογή μιας ενέργειας της οποίας οι προϋποθέσεις δεν πληρούνται, η περισσότερη εσωτερική σκέψη δεν το σταματά αξιόπιστα. Ένας κανόνας που καθιστά τέτοιες ενέργειες αδύνατες το κάνει.

Η δεύτερη λεπτομέρεια αφορά τη δυσκολία του σημείου αναφοράς. Στο VirtualHome, η αναζήτηση χωρίς περιορισμούς από μόνη της έφτασε σε 99,0 τοις εκατό, το ίδιο με την πλήρη μέθοδο, αν και οι συγγραφείς σημειώνουν ότι το έκανε "με το υψηλότερο κόστος παραγωγής" που φαίνεται στα σχήματά τους. Ένας αναγνώστης που θα κοιτούσε μόνο το VirtualHome θα μπορούσε να συμπεράνει ότι η αναζήτηση είναι το μόνο που χρειάζεται. Το ALFWorld δείχνει το αντίθετο: οι περιορισμοί από μόνοι τους έφτασαν σε 32,3 τοις εκατό, η αναζήτηση χωρίς περιορισμούς σε 29,2 τοις εκατό, και ο συνδυασμός σε 95,5 τοις εκατό. Οι συγγραφείς αποδίδουν τη μεγαλύτερη διαφορά σε ένα δυσκολότερο πρόβλημα σχεδιασμού. Τα επιτυχημένα σχέδια από το μοντέλο 27B είχαν κατά μέσο όρο 8,0 ενέργειες υψηλού επιπέδου στο ALFWorld και 6,4 στο VirtualHome, με μέγιστα 30 και οκτώ, και το ALFWorld "εισάγει περισσότερες δεσμεύσεις στιγμιοτύπων και δοχείων σε κάθε στάδιο."

Το γενικό δίδαγμα είναι ότι ένα εύκολο σημείο αναφοράς μπορεί να κάνει δύο διαφορετικούς σχεδιασμούς να φαίνονται ισοδύναμοι. Μόνο όταν το πρόβλημα γίνει αρκετά μακρύ και αρκετά περιορισμένο εμφανίζονται οι διαφορές. Όποιος συγκρίνει αρχιτεκτονικές πρακτόρων θα πρέπει να τις δοκιμάζει σε εργασίες τουλάχιστον τόσο μακρές και τόσο αυστηρά περιορισμένες όσο αυτές στις οποίες σκοπεύει να τις αναπτύξει, όχι στις συντομότερες διαθέσιμες.

Τα πειράματα είναι αναπαραγώγιμα εκ σχεδιασμού

Ένα ακόμη χαρακτηριστικό της εργασίας αξίζει να σημειωθεί, γιατί συνδέεται με ένα θέμα αλλού σε αυτή τη σειρά. Οι συγγραφείς δημοσιεύουν πλήρως τις ρυθμίσεις αποκωδικοποίησης. Οι φάσεις του περιορισμένου Qwen εκτελούνται σε θερμοκρασία 0,0. Όπου χρησιμοποιείται δειγματοληψία πυρήνα, για τις συμπληρωματικές εκτελέσεις σκέψης και τις ενσώματες βάσεις, οι αξιολογήσεις επαναλαμβάνονται με τρεις κατονομαζόμενους σπόρους: 0, 42 και 1738. Η αναζήτηση περιορίζεται στα 250 δευτερόλεπτα ανά εργασία, και η εργασία δηλώνει ότι οι υπερπαράμετροι αναζήτησής της "επιλέχθηκαν εμπειρικά".

Αυτές οι λεπτομέρειες είναι που κάνουν ένα αποτέλεσμα επαληθεύσιμο. Ένας αναγνώστης που θέλει να αναπαράγει την εργασία ξέρει ποιες ρυθμίσεις να χρησιμοποιήσει, πόσες εκτελέσεις να κάνει και πόση διακύμανση να περιμένει. Κάνουν επίσης ορατά τα όρια: οι εμπειρικά επιλεγμένες υπερπαράμετροι μπορεί να χρειάζονται εκ νέου ρύθμιση σε άλλα περιβάλλοντα, και ένα χρονικό όριο σημαίνει ότι ορισμένες εργασίες μπορεί να αποτύχουν λόγω έλλειψης χρόνου και όχι λόγω έλλειψης σχεδίου. Η δήλωση και των δύο είναι καλή πρακτική. Είναι το πρότυπο που πιστεύουμε ότι πρέπει να πληροί κάθε δημοσιευμένο αποτέλεσμα, συμπεριλαμβανομένων των δικών μας. Ένα αποτέλεσμα που δεν μπορεί να επανεκτελεστεί μπορεί να είναι ακόμη ενδιαφέρον, αλλά δεν μπορεί ακόμη να αποτελέσει βάση εμπιστοσύνης, και η διαφορά έχει τη μεγαλύτερη σημασία όταν το αποτέλεσμα χρησιμοποιείται για να δικαιολογήσει έναν σχεδιασμό.

Η λέξη γίνεται ετικέτα, οπότε χρειάζεται ένα κριτήριο

Η επιτυχία φέρνει μιμήσεις, και το "νευροσυμβολικό" αποδίδεται πλέον σε συστήματα που έχουν ελάχιστα κοινά με τις αρχιτεκτονικές των εργασιών αυτών. Ένα γλωσσικό μοντέλο με οδηγία "σκέψου βήμα βήμα" αποκαλείται κάποιες φορές νευροσυμβολικό. Το ίδιο και ένα μοντέλο που καλεί αριθμομηχανή, ένα chatbot με χαιρετισμό βασισμένο σε κανόνες ή ένα σύστημα ανάκτησης που χρησιμοποιεί βάση δεδομένων. Κάθε ένα από αυτά συνδυάζει κάτι νευρωνικό με κάτι που δεν είναι, και η λέξη χάνει το νόημά της αν καλύπτει όλα τους.

Μας φαίνεται χρήσιμο να εφαρμόζουμε ένα απλό κριτήριο, εμπνευσμένο από όσα έκαναν να λειτουργήσουν τα αποτελέσματα του 2026. Ένα σύστημα δικαιούται τη λέξη όταν το συμβολικό του μέρος περιορίζει ή επαληθεύει το νευρωνικό με τρόπο που αλλάζει αυτό που μπορεί να παράγει το σύστημα, και όταν ο περιορισμός αυτός μπορεί να επιθεωρηθεί.

Στην εργασία για τον ενσώματο πράκτορα, το μοντέλο μεταβάσεων PDDL περιορίζει την αποκωδικοποίηση σε εφαρμόσιμες ενέργειες. Το γλωσσικό μοντέλο δεν μπορεί κυριολεκτικά να παραγάγει μη έγκυρη ενέργεια. Πρόκειται για περιορισμό που αλλάζει τον χώρο εξόδου, και το μοντέλο μεταβάσεων μπορεί να το διαβάσει οποιοσδήποτε. Στην εργασία για το GraphRAG, ο γράφος γνώσης χτίζεται με δηλωμένους κανόνες από έγκυρα αρχεία, και το γλωσσικό μοντέλο λαμβάνει τεκμήρια μόνο από αυτόν τον γράφο. Η προέλευση κάθε ακμής μπορεί να ελεγχθεί. Και τα δύο συστήματα περνούν το κριτήριο.

Μια οδηγία που ζητά από ένα μοντέλο να συλλογιστεί προσεκτικά δεν περνά. Μπορεί να βελτιώσει τις εξόδους, αλλά δεν τις περιορίζει, και τίποτα σε αυτήν δεν μπορεί να επιθεωρηθεί για να διαπιστωθεί τι επιτρέπεται να πει το μοντέλο. Ένα μοντέλο που μπορεί να καλέσει αριθμομηχανή περνά μόνο εν μέρει: το αποτέλεσμα της αριθμομηχανής είναι ακριβές, αλλά το μοντέλο αποφασίζει αν θα την καλέσει και τι θα κάνει με το αποτέλεσμα, και τίποτα δεν το εμποδίζει να αγνοήσει το αποτέλεσμα ή να κάνει τους υπολογισμούς μόνο του. Το κριτήριο δεν αφορά την καθαρότητα. Αφορά το από πού προέρχονται οι εγγυήσεις.

Ερωτήματα για ένα σύστημα που διεκδικεί τη λέξη

Για οργανισμούς που αξιολογούν συστήματα που περιγράφονται ως νευροσυμβολικά, το κριτήριο μεταφράζεται σε μερικά συγκεκριμένα ερωτήματα.

Τι αποτρέπει το συμβολικό μέρος; Μια χρήσιμη απάντηση ονομάζει μια κατηγορία εξόδων που το σύστημα δεν μπορεί να παραγάγει, όπως μη έγκυρες ενέργειες, αβάσιμους ισχυρισμούς ή παραβιάσεις κανόνων, και εξηγεί τον μηχανισμό. Μια απάντηση που λέει ότι το συμβολικό μέρος "καθοδηγεί" ή "ενημερώνει" το μοντέλο, χωρίς να ονομάζει τίποτα που αποτρέπει, είναι σημάδι ότι η εγγύηση είναι χαλαρή.

Μπορεί να διαβαστεί το συμβολικό μέρος; Κανόνες, περιορισμοί, οντολογίες και μοντέλα μεταβάσεων θα πρέπει να είναι διαθέσιμα για επιθεώρηση από τους ανθρώπους που βασίζονται στο σύστημα, τουλάχιστον στη μορφή που σχετίζεται με τις αποφάσεις τους. Αν το συμβολικό επίπεδο είναι το ίδιο ένα μαθημένο, αδιαφανές στοιχείο, δεν παρέχει το είδος εγγύησης που κάνει πολύτιμες τις νευροσυμβολικές σχεδιάσεις.

Πού σταματά η προέλευση; Για οποιαδήποτε απάντηση, ακολουθήστε τις παραπομπές. Οδηγούν σε έγκυρα αρχεία πηγής, μέσα από ιχνηλάσιμα βήματα, ή σε ενδιάμεσα κείμενα γραμμένα από μοντέλο; Ο έλεγχος προέλευσης του GraphRAG είναι πρότυπο για αυτόν τον έλεγχο.

Πού βρίσκονται οι αποτυχίες; Ζητήστε ανάλυση των περιπτώσεων αποτυχίας ανά στοιχείο. Ένα καλά δομημένο σύστημα θα πρέπει να μπορεί να πει αν οι αποτυχίες του προκύπτουν στην αντίληψη, τη θεμελίωση, την ανάκτηση, τη συλλογιστική ή την παραγωγή. Ένα σύστημα που δεν μπορεί να το πει είτε δεν είναι δομημένο κατ' αυτόν τον τρόπο είτε δεν μετριέται.

Τι καταγράφεται; Ρωτήστε αν το σύστημα καταγράφει τη διαδρομή που ακολούθησε, συμπεριλαμβανομένου του τι διάβασε και ποια στοιχεία συνέβαλαν, όχι μόνο την τελική απάντηση. Τα ευρήματα του πρακτορικού GraphRAG δείχνουν γιατί αυτό έχει σημασία.

Κανένα από αυτά τα ερωτήματα δεν απαιτεί βαθιά εξειδίκευση για να τεθεί. Όλα τους ξεχωρίζουν αρχιτεκτονικές που παρέχουν ελέγξιμες εγγυήσεις από συστήματα που χρησιμοποιούν το λεξιλόγιο.

Γιατί αυτό έχει σημασία για την εξήγηση και την εποπτεία

Υπάρχει μια ρυθμιστική διάσταση σε αυτά τα αποτελέσματα που αξίζει να αναδειχθεί, γιατί συνδέει την ερευνητική αρχιτεκτονική με υποχρεώσεις που θα αφορούν πολλούς οργανισμούς.

Ο κανονισμός για την τεχνητή νοημοσύνη απαιτεί πολλά ως προς την εξήγηση. Το άρθρο 13 απαιτεί τα συστήματα υψηλού κινδύνου να σχεδιάζονται έτσι ώστε οι φορείς ανάπτυξης να μπορούν να ερμηνεύουν την έξοδό τους και να τη χρησιμοποιούν κατάλληλα. Το άρθρο 14 απαιτεί όσοι έχουν ανατεθεί στην εποπτεία να μπορούν να ερμηνεύουν σωστά την έξοδο του συστήματος και να αποφασίζουν να την αγνοήσουν, να την υπερκεράσουν ή να την αντιστρέψουν. Το άρθρο 86 παρέχει στα θιγόμενα πρόσωπα δικαίωμα σε σαφείς και ουσιαστικές εξηγήσεις για τον ρόλο ενός συστήματος τεχνητής νοημοσύνης σε ορισμένες αποφάσεις. Οι υποχρεώσεις αυτές ισχύουν για τα συστήματα υψηλού κινδύνου από τον Δεκέμβριο του 2027 ή τον Αύγουστο του 2028, κατόπιν του Digital Omnibus, όμως οι σχεδιαστικές επιλογές που τις καθιστούν εφικτές γίνονται τώρα.

Ένα παραγοντοποιημένο, νευροσυμβολικό σύστημα είναι πολύ ευκολότερο να εξηγηθεί από ένα μοντέλο άκρο με άκρο, για τους λόγους ακριβώς που καταδεικνύουν οι εργασίες του 2026. Όταν ένα σχέδιο είναι εκτελέσιμο εκ κατασκευής στο πλαίσιο ενός μοντέλου μετάβασης, η εξήγηση του γιατί επετράπη ένα βήμα είναι η αναφορά στον κανόνα που το επέτρεψε. Όταν μια απάντηση παραπέμπει σε ακμές που ανιχνεύονται σε έγκυρα αρχεία, η εξήγηση του γιατί διατυπώθηκε ένας ισχυρισμός είναι η αλυσίδα των αρχείων. Όταν οι αστοχίες εντοπίζονται σε ένα στοιχείο, η εξήγηση του γιατί το σύστημα έσφαλε κατονομάζει το στοιχείο. Κάθε εξήγηση είναι μια δήλωση για κάτι που υπάρχει και μπορεί να επιθεωρηθεί, όχι μια εκ των υστέρων εκλογίκευση ενός νευρωνικού υπολογισμού.

Αυτό δεν κάνει την εξήγηση τετριμμένη. Κάποιος πρέπει ακόμη να μεταφράσει κανόνες και αρχεία σε γλώσσα που μπορεί να κατανοήσει ένα θιγόμενο πρόσωπο. Αλλάζει όμως τη φύση του έργου: από ανασύνθεση σε παρουσίαση. Η ανασύνθεση ρωτά «τι μπορεί να προκάλεσε αυτή την έξοδο;» και μπορεί μόνο να προσφέρει υποθέσεις. Η παρουσίαση ρωτά «πώς δείχνουμε τους κανόνες και τα αρχεία που παρήγαγαν αυτή την έξοδο;» και μπορεί να προσφέρει αποδεικτικά στοιχεία. Για την εποπτεία και για το δικαίωμα στην εξήγηση, αυτή η διαφορά είναι καθοριστική.

Είναι επίσης ο λόγος που πιστεύουμε ότι τα αποτελέσματα αποδοτικότητας θα έπρεπε να ενδιαφέρουν τους ρυθμιστές όσο και τους μηχανικούς. Ένα μικρό, περιορισμένο μοντέλο που είναι φθηνότερο στη λειτουργία του είναι και μοντέλο φθηνότερο στον έλεγχο: μπορεί να φιλοξενηθεί εκεί όπου ο ελεγκτής μπορεί να το προσεγγίσει, να καρφιτσωθεί σε μια έκδοση για τη διάρκεια μιας έρευνας και να αναπαραχθεί ντετερμινιστικά στα ίδια δεδομένα εισόδου. Τα επιχειρήματα υπέρ της κυριαρχίας, της ενέργειας και της λογοδοσίας για δομημένα μικρά συστήματα αποδεικνύονται το ίδιο επιχείρημα ιδωμένο από τρεις πλευρές.

Τι αποκομίζουμε

Για τη δική μας εργασία, τα αποτελέσματα του 2026 επιβεβαιώνουν τρεις σχεδιαστικές αποφάσεις και οξύνουν μια τέταρτη.

Επιβεβαιώνουν ότι μικρά μοντέλα με δομή μπορούν να ξεπερνούν μεγάλα μοντέλα χωρίς δομή σε εργασίες που απαιτούν αξιοπιστία. Αυτή είναι η premisa πίσω από τη δρομολόγηση του Loom σε 528 ειδικούς: οι περισσότερες ερωτήσεις απαντώνται καλύτερα από τον κατάλληλο ειδικό, συχνά ένα μικρό μοντέλο ή έναν συμβολικό επιλυτή, παρά από το μεγαλύτερο διαθέσιμο μοντέλο. Η απομόνωση του ενσωματωμένου πράκτορα είναι η σαφέστερη δημοσιευμένη απόδειξη που γνωρίζουμε ότι αυτή η premisa ισχύει για τον σχεδιασμό.

Επιβεβαιώνουν ότι η γνώση πρέπει να οικοδομείται από έγκυρες πηγές με δηλωμένους κανόνες και να παραπέμπεται στην πηγή της. Το επίπεδο γνώσης του Dweve παραπέμπει σε κάθε στοιχείο γνώσης που χρησιμοποιείται σε μια απάντηση με κόμβο και κατακερματισμό έκδοσης, ώστε ένας ελεγκτής να μπορεί να ακολουθήσει την παραπομπή στο ακριβές αρχείο και την έκδοση. Ο έλεγχος προέλευσης του GraphRAG δείχνει τι χάνεται όταν αυτή η αλυσίδα σταματά σε έναν ενδιάμεσο κόμβο γραμμένο από μοντέλο.

Επιβεβαιώνουν ότι η καταγραφή της διαδρομής έχει τόση σημασία όσο και η καταγραφή της απάντησης. Το εύρημα της εργασίας για το agentic GraphRAG σχετικά με οντότητες που επισκέφθηκαν αλλά δεν παραπέμφθηκαν είναι ακριβώς ο λόγος που το Knot καταγράφει αναγνώσεις και ενδιάμεσα βήματα, και ο λόγος που το ίχνος του Loom δείχνει ποιοι ειδικοί συνέβαλαν.

Και οξύνουν την προσοχή μας στη θεμελίωση. Και οι δύο εργασίες εντοπίζουν τις υπόλοιπες αποτυχίες τους στο σημείο όπου ο κόσμος, ή η πηγή, μεταφράζεται στη συμβολική αναπαράσταση. Αυτό είναι το όριο όπου η νευρωνική αντίληψη παραδίδει τη σκυτάλη στη συμβολική συλλογιστική, και εκεί πρέπει να συγκεντρώνεται η προσπάθεια επαλήθευσης. Ένα συμβολικό επίπεδο που συλλογίζεται άψογα πάνω σε μια λανθασμένη κατάσταση παράγει μια βέβαιη λανθασμένη απάντηση. Το μηχανικό ερώτημα για την επόμενη χρονιά είναι πώς θα κάνουμε αυτό το όριο εξίσου ελέγξιμο με τα επίπεδα εκατέρωθεν.

Η αναγέννηση, με αριθμούς

Πριν από ένα χρόνο, ο ισχυρισμός ότι τα νευροσυμβολικά συστήματα θα ξεπερνούσαν τα καθαρά γλωσσικά μοντέλα σε εργασίες που απαιτούν αξιοπιστία ήταν ένα επιχείρημα. Το 2026 έχει αριθμούς: πάνω από 90 τοις εκατό επιτυχία για μικρά ανοιχτά μοντέλα στον οικιακό σχεδιασμό, ένας πράκτορας 4 δισεκατομμυρίων παραμέτρων που νικά μια άμεση πολιτική 27 δισεκατομμυρίων παραμέτρων με μεγάλη διαφορά, περιορισμοί και αναζήτηση που λύνουν ο καθένας λιγότερο από το ένα τρίτο των εργασιών μόνος του και πάνω από 95 τοις εκατό μαζί, και κάθε ακμή σε ένα γράφο χτισμένο από οντολογία ιχνηλάσιμη στην πηγή της έναντι 83 τοις εκατό για έναν εξαγόμενο.

Αυτοί οι αριθμοί έρχονται με προϋποθέσεις, και οι προϋποθέσεις είναι εξίσου σημαντικές με τα αποτελέσματα. Αλλά η κατεύθυνση είναι σαφής. Όταν ένα σύστημα AI πρέπει να είναι σωστό με τρόπους που μπορούν να ελεγχθούν, η δομή δεν είναι εμπόδιο στην ικανότητα. Είναι μία από τις πηγές της.

Γιατί ο σχεδιασμός του σημείου αναφοράς μετράει όσο και το αποτέλεσμα

Υπάρχει ένα ευρύτερο μεθοδολογικό δίδαγμα και στις δύο εργασίες που αξίζει μια σύντομη σημείωση, γιατί αφορά τον τρόπο με τον οποίο ολόκληρος ο κλάδος θα πρέπει να αξιολογεί συστήματα που ισχυρίζονται ότι είναι αξιόπιστα.

Και οι δύο εργασίες μετρούν κάτι άλλο εκτός από την ευφράδεια. Η εργασία για τον ενσώματο πράκτορα μετρά την επιτυχία: ολοκληρώθηκε η οικιακή εργασία στο περιβάλλον; Η εργασία για το GraphRAG μετρά την προέλευση: μπορεί κάθε ακμή, και κάθε παραπομπή, να ιχνηλατηθεί σε ένα έγκυρο αρχείο; Καμία από τις δύο δεν βασίζεται κυρίως στο αν μια απάντηση διαβάζεται καλά ή ταιριάζει με ένα κείμενο αναφοράς. Αυτό είναι σημαντικό, γιατί μεγάλο μέρος της αξιολόγησης AI εξακολουθεί να επιβραβεύει την επιφανειακή ποιότητα. Η γραμμή εργασίας «Why Neighborhoods Matter» και η σχετική έρευνα αξιολόγησης έχουν διατυπώσει το ίδιο σημείο από άλλη κατεύθυνση: η λεξιλογική επικάλυψη με μια απάντηση αναφοράς μπορεί να είναι υψηλή ενώ τα στοιχεία για την απάντηση απουσιάζουν.

Για οργανισμούς που αξιολογούν συστήματα AI για αποφάσεις που έχουν σημασία, το δίδαγμα είναι να ρωτούν τι μετρά ένα σημείο αναφοράς πριν ρωτήσουν τι βαθμολογία πέτυχε ένα σύστημα. Ένα σύστημα που βαθμολογείται καλά σε ένα σημείο αναφοράς βασισμένο στην ευφράδεια μπορεί ακόμα να παράγει σχέδια που δεν εκτελούνται ή απαντήσεις των οποίων οι παραπομπές δεν οδηγούν πουθενά. Ένα σύστημα που βαθμολογείται καλά στην εκτελεσιμότητα ή την προέλευση έχει αποδείξει κάτι πιο κοντινό σε αυτό που χρειάζεται ένας λήπτης αποφάσεων. Θα θέλαμε να βλέπουμε περισσότερες αξιολογήσεις προμηθειών σχεδιασμένες όπως αυτές οι δύο εργασίες: με μια εργασία που είτε πετυχαίνει είτε αποτυγχάνει με ελέγξιμο τρόπο, και με έναν έλεγχο από πού προήλθαν τα στοιχεία κάθε απάντησης.

Πηγές

  • Neurosymbolic Embodied Agents, Albinhassan, Feng, Russo και Madhyastha, arXiv, Αύγουστος 2026. Χρησιμοποιήθηκε για το παρατιθέμενο απόσπασμα, τη μέθοδο δύο φάσεων, την απαλοιφή στοιχείων (Πίνακας 2), τις ρυθμίσεις αποκωδικοποίησης (Πίνακας 3), τα σχήματα απόκρισης σε αποτυχίες (Πίνακας 10), τα ποσοστά επιτυχίας στα VirtualHome και ALFWorld, τη σύγκριση με άμεση πολιτική 27B, την απαλοιφή περιορισμών και αναζήτησης, την αποδοτικότητα σε tokens και τον εντοπισμό των αποτυχιών.
  • Ontology-guided neuro-symbolic GraphRAG for grounded query answering, Domenico Benfenati και Antonio Maria Rinaldi, Neural Computing and Applications, 2026. Χρησιμοποιήθηκε για τη μέθοδο κατασκευής, τον έλεγχο προέλευσης, την ακρίβεια των παραπομπών και τον σχεδιασμό της αξιολόγησης.
  • Why Neighborhoods Matter: Traversal Context and Provenance in Agentic GraphRAG, arXiv, Μάιος 2026. Χρησιμοποιήθηκε για το εύρημα ότι οι τελικές παραπομπές δεν αποτυπώνουν το σύνολο της βάσης τεκμηρίωσης των απαντήσεων πρακτόρων, και για τους δηλωμένους περιορισμούς της μελέτης.
  • Άρθρο 13: Διαφάνεια και παροχή πληροφοριών στους φορείς ανάπτυξης, Υπηρεσία Υποστήριξης για τον νόμο για την τεχνητή νοημοσύνη της Ευρωπαϊκής Επιτροπής. Χρησιμοποιήθηκε για την απαίτηση ερμηνευσιμότητας για συστήματα υψηλού κινδύνου.
  • Άρθρο 14: Ανθρώπινη εποπτεία, Υπηρεσία Υποστήριξης για τον νόμο για την τεχνητή νοημοσύνη της Ευρωπαϊκής Επιτροπής. Χρησιμοποιήθηκε για τις δυνατότητες εποπτείας.
  • Άρθρο 86: Δικαίωμα εξήγησης ατομικών αποφάσεων, Υπηρεσία Υποστήριξης για τον νόμο για την τεχνητή νοημοσύνη της Ευρωπαϊκής Επιτροπής. Χρησιμοποιήθηκε για το δικαίωμα εξήγησης.
  • Towards A Rigorous Science of Interpretable Machine Learning, Finale Doshi-Velez και Been Kim, arXiv, 2017. Χρησιμοποιήθηκε για την παρατιθέμενη παρατήρηση σχετικά με την έλλειψη συναίνεσης ως προς την ερμηνευσιμότητα.
  • Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead, Cynthia Rudin, arXiv, 2018. Χρησιμοποιήθηκε για το παρατιθέμενο επιχείρημα υπέρ των εγγενώς ερμηνεύσιμων μοντέλων.
  • Sanity Checks for Saliency Maps, Julius Adebayo και άλλοι, arXiv, 2018. Χρησιμοποιήθηκε για το παρατιθέμενο εύρημα ότι ορισμένες μέθοδοι ευαισθησίας είναι ανεξάρτητες από το μοντέλο και τα δεδομένα.