Το πρόβλημα της αραίωσης των γεγονότων: γιατί η τεχνητή νοημοσύνη με ακρίβεια 98% καταλήγει σε πλήρη ανοησία

Το πρόβλημα της αραίωσης των γεγονότων: γιατί η τεχνητή νοημοσύνη με ακρίβεια 98% καταλήγει σε πλήρη ανοησία

Το πείραμα χημείας που εξηγεί γιατί αποτυγχάνει το AI σας

Φανταστείτε ότι έχετε ένα ποτήρι ζέσεως με καθαρό νερό. Κάποιος σας λέει να αφαιρέσετε ακριβώς το 2% του νερού και να το αντικαταστήσετε με κάτι ακίνδυνο. Το κάνετε μία φορά, εξακολουθείτε να έχετε 98% νερό. Κανένα πρόβλημα.

Τώρα επαναλάβετε αυτή τη διαδικασία 50 φορές. Πόσο νερό σας απομένει;

Η απάντηση εξαρτάται εξ ολοκλήρου από το ποια ερώτηση απαντάτε. Και αυτή η διάκριση είναι ακριβώς ο λόγος για τον οποίο τα περισσότερα τρέχοντα συστήματα AI καθίστανται εντελώς αναξιόπιστα σε εργασίες συλλογιστικής πολλαπλών βημάτων.

Αυτό δεν είναι μεταφορά. Είναι μαθηματικά. Και καταστρέφει έργα AI σε κάθε κλάδο.

Οι δύο τρόποι σκέψης για το σφάλμα

Όταν οι άνθρωποι μιλούν για την ακρίβεια του AI, συνήθως σκέφτονται αυτό που οι στατιστικολόγοι αποκαλούν ανεξάρτητο σφάλμα. Κάθε λειτουργία AI έχει 2% πιθανότητα να είναι λανθασμένη. Η επόμενη λειτουργία είναι ανεξάρτητη. Έχει επίσης 2% πιθανότητα να είναι λανθασμένη.

Σύμφωνα με αυτό το μοντέλο, μετά από 50 λειτουργίες, έχετε κάνει 50 ανεξάρτητα σφάλματα 2%. Αυτό είναι περίπου ένα συνολικό σφάλμα. Τίποτα το σοβαρό, σωστά;

Αλλά δεν λειτουργεί έτσι στην πραγματικότητα το AI. Τα συστήματα AI βασίζονται σε προηγούμενες εξόδους. Κάθε βήμα εξαρτάται από ό,τι προηγήθηκε. Και αυτό αλλάζει τα πάντα.

Στη χημεία, όταν αραιώνετε επανειλημμένα ένα διάλυμα, εφαρμόζετε έναν παράγοντα αποσύνθεσης σε ό,τι απομένει. Δεν αφαιρείτε κάθε φορά το 2% της αρχικής συγκέντρωσης. Μειώνετε την τρέχουσα συγκέντρωση κατά 2%.

Αυτά ακούγονται παρόμοια. Παράγουν ριζικά διαφορετικά αποτελέσματα.

Η γραμμική ψευδαίσθηση

Ας ξεκινήσουμε με τον λανθασμένο τρόπο σκέψης, επειδή έτσι μοντελοποιούν στην πραγματικότητα τα συστήματά τους οι περισσότερες εταιρείες AI.

Η γραμμική αποσύνθεση υποθέτει ότι αφαιρείτε πάντα το 2% του αρχικού ποσού. Ξεκινήστε με 100% ακρίβεια. Βήμα 1: είστε στο 98%. Βήμα 2: είστε στο 96%. Μετά από 50 βήματα, είστε ακριβώς στο 0%.

Απλό. Προβλέψιμο. Και εντελώς λανθασμένο για συστήματα AI.

Αυτό το γραμμικό μοντέλο είναι που οδηγεί τις εταιρείες να πιστεύουν ότι το AI τους είναι ασφαλές. Δοκιμάζουν την ακρίβεια ενός βήματος, διαπιστώνουν ότι είναι 98%, και υποθέτουν ότι οι λειτουργίες πολλαπλών βημάτων θα υποβαθμιστούν γραμμικά. Αναπτύσσουν πράκτορες, αλυσίδες συλλογιστικής, ερωτήματα πολλαπλών αλμάτων. Στη συνέχεια βλέπουν τα συστήματά τους να αποτυγχάνουν καταστροφικά.

Το πρόβλημα είναι ότι τα σφάλματα AI δεν λειτουργούν σαν ανεξάρτητα ρίψεις νομίσματος. Συσσωρεύονται.

Η εκθετική πραγματικότητα

Να τι συμβαίνει στην πραγματικότητα. Κάθε λειτουργία AI διατηρεί το 98% όποιας αλήθειας απέμεινε από την προηγούμενη λειτουργία. Αλλά το κρίσιμο είναι ότι αυτό το 98% αφορά το μειούμενο υπόλοιπο, όχι το αρχικό.

Τα μαθηματικά είναι απλή εκθετική αποσύνθεση: 0,98 στην ισχύ των n βημάτων.

Ας σας δείξω πώς φαίνεται αυτό στην πραγματικότητα:

• Βήμα 0: 100% ακρίβεια (τέλεια αλήθεια)
• Βήμα 10: 81,7% ακρίβεια
• Βήμα 25: 60,3% ακρίβεια
• Βήμα 50: 36,4% ακρίβεια
• Βήμα 100: 13,3% ακρίβεια
• Βήμα 228: 1% ακρίβεια
• Βήμα 342: 0,1% ακρίβεια

Διαβάστε το ξανά. Μετά από μόλις 50 βήματα συλλογιστικής με ακρίβεια 98% ανά βήμα, το σύστημά σας είναι πιο πιθανό να είναι λανθασμένο παρά σωστό. Μετά από 100 βήματα, είναι λανθασμένο το 86,7% του χρόνου. Μετά από 228 βήματα, έχει απομείνει μόλις 1% αλήθεια.

Γι' αυτό αποτυγχάνουν οι πράκτορες τεχνητής νοημοσύνης σας. Γι' αυτό ο πολυεπίπεδος συλλογισμός παράγει ανοησίες. Αυτό είναι το μαθηματικό θεμέλιο της χιονοστιβάδας παραισθήσεων.

Το κατώφλι της αχρηστίας

Ορίστε μια ερώτηση που κανείς στον χώρο της τεχνητής νοημοσύνης δεν θέλει να απαντήσει: σε ποιο σημείο ένα σύστημα γίνεται τόσο αναξιόπιστο που είναι ουσιαστικά άχρηστο;

Η μαθηματική απάντηση είναι 34 βήματα. Με ακρίβεια 98% ανά βήμα, μετά από 34 λειτουργίες συλλογισμού, το σύστημα πέφτει κάτω από το 50% ακρίβειας. Είναι πιο πιθανό να κάνει λάθος παρά να έχει δίκιο.

Αλλά η πρακτική απάντηση έρχεται πολύ νωρίτερα. Σε συστήματα παραγωγής, δεν μπορείτε να ανεχτείτε οτιδήποτε κοντά στο 50% σφάλματος. Χρειάζεστε αξιοπιστία 90% ή υψηλότερη. Αυτό το κατώφλι επιτυγχάνεται σε μόλις 11 βήματα.

Ας είμαι σαφής για το τι σημαίνει αυτό:

• Αλυσίδα συλλογισμού 11 βημάτων: το 90% των εξόδων σας είναι λάθος
• Αλυσίδα συλλογισμού 34 βημάτων: το σύστημά σας είναι χειρότερο από την τύχη
• Αλυσίδα συλλογισμού 50 βημάτων: ποσοστό αποτυχίας 63,6%
• Αλυσίδα συλλογισμού 100 βημάτων: ποσοστό αποτυχίας 86,7%

Τώρα σκεφτείτε τι σημαίνει αυτό για την πρακτορική τεχνητή νοημοσύνη. Μια τυπική ροή εργασίας πράκτορα μπορεί να περιλαμβάνει: κατανόηση της εργασίας (1), ανάλυση σε βήματα (2), αναζήτηση πληροφοριών (3), αξιολόγηση πηγών (4), σύνθεση ευρημάτων (5), δημιουργία απάντησης (6), έλεγχος ποιότητας (7) και ούτω καθεξής. Αυτά είναι ήδη 7 βήματα, και δεν έχουμε φτάσει καν σε σύνθετες εργασίες.

Οι αλυσίδες συλλογισμού πολλαπλών βημάτων στη νομική έρευνα, την ιατρική διάγνωση ή τη χρηματοοικονομική ανάλυση υπερβαίνουν συνήθως τα 20 βήματα. Με ακρίβεια 98% ανά βήμα, κοιτάτε το 33% αποτυχίας προτού καν λάβετε υπόψη την πολυπλοκότητα.

Αυτό δεν είναι θεωρητικό. Αυτός είναι ο λόγος που οι πράκτορες τεχνητής νοημοσύνης αποτυγχάνουν στην παραγωγή.

Η καταστροφή στην παραγωγή που κανείς δεν συζητά

Τα στατιστικά στοιχεία είναι συντριπτικά, αλλά σχεδόν ποτέ δεν αναγνωρίζονται στο μάρκετινγκ της τεχνητής νοημοσύνης.

Αποτυχίες επιχειρηματικής τεχνητής νοημοσύνης: Σύμφωνα με έρευνα του 2025 από το MIT και το Fortune, το 95% των πιλοτικών προγραμμάτων γενετικής τεχνητής νοημοσύνης αποτυγχάνουν να φτάσουν στην παραγωγή με μετρήσιμο επιχειρηματικό αντίκτυπο. Όχι «δυσκολεύονται να φτάσουν στην παραγωγή». Αποτυγχάνουν εντελώς.

Αποτυχίες ειδικά για πράκτορες: Η ανάλυση του LinkedIn από επαγγελματίες τεχνητής νοημοσύνης δείχνει ότι το 95% των πρακτόρων τεχνητής νοημοσύνης αποτυγχάνουν στην παραγωγή. Όχι επειδή τα μοντέλα δεν είναι αρκετά έξυπνα. Επειδή η συσσώρευση σφαλμάτων τα καθιστά αναξιόπιστα.

Συστήματα πολλαπλών πρακτόρων: Η έρευνα δείχνει ότι όταν πολλοί πράκτορες συνεργάζονται, τα σφάλματα συσσωρεύονται ταχύτερα. Αν ένας πράκτορας μεταδίδει ελαττωματικές πληροφορίες σε έναν άλλο, ο δεύτερος πράκτορας χτίζει πάνω σε σφάλματα και η υποβάθμιση επιταχύνεται.

Ο οικονομικός αντίκτυπος: Οι εταιρείες ξοδεύουν εκατοντάδες εκατομμύρια σε συστήματα τεχνητής νοημοσύνης που θεμελιωδώς δεν μπορούν να λειτουργήσουν για τις περιπτώσεις χρήσης για τις οποίες προορίζονται. Μια μεμονωμένη ανάπτυξη πράκτορα πολλαπλών βημάτων μπορεί να κοστίσει εκατομμύρια για να αναπτυχθεί, αλλά να αποτύχει λόγω βασικών μαθηματικών.

Αυτό είναι το πρόβλημα του 98% στην πράξη: εξαιρετική ακρίβεια σε ένα βήμα, καταστροφική αποτυχία σε πολλά βήματα.

Το φαινόμενο της χιονοστιβάδας παραισθήσεων

Η έρευνα των Zhang et al. (2023) εντόπισε αυτό που αποκαλούν «χιονοστιβάδα παραισθήσεων». Να πώς λειτουργεί: Τα μεγάλα γλωσσικά μοντέλα δεσμεύονται υπερβολικά σε πρώιμα λάθη και στη συνέχεια παράγουν επιπλέον ψευδείς ισχυρισμούς για να δικαιολογήσουν αυτά τα λάθη. Το σφάλμα δεν απλώς μεταδίδεται. Μεγαλώνει.

Σκεφτείτε τι σημαίνει αυτό στο πλαίσιο της εκθετικής μείωσης σφαλμάτων. Το πρώτο σας σφάλμα στο βήμα 5 δεν μειώνει απλώς την ακρίβεια κατά 2%. Δημιουργεί ένα ελαττωματικό θεμέλιο για το βήμα 6, το οποίο πλέον έχει ακόμη μεγαλύτερη πιθανότητα σφάλματος επειδή βασίζεται σε λανθασμένες υποθέσεις.

Το καθαρό μοντέλο εκθετικής μείωσης είναι στην πραγματικότητα αισιόδοξο. Στην πράξη, τα σφάλματα διογκώνονται ταχύτερα από ό,τι προβλέπει ο μαθηματικός τύπος, επειδή κάθε σφάλμα καθιστά πιο πιθανά τα επόμενα σφάλματα.

Γι' αυτό βλέπουμε τεκμηριωμένες περιπτώσεις όπως:

Η καταστροφή της τεχνητής νοημοσύνης στο CNET (2023): 41 από τα 77 άρθρα που έγραψε η τεχνητή νοημοσύνη χρειάστηκαν διορθώσεις. Αυτό αντιστοιχεί σε ποσοστό σφάλματος 53% στη δημοσιογραφία παραγωγής, όπου ποσοστά σφαλμάτων μονοψήφια θα ήταν απαράδεκτα.

Αποτυχίες ιατρικής διάγνωσης: Μελέτη του JAMA Pediatrics διαπίστωσε ότι το ChatGPT έδινε λανθασμένες διαγνώσεις σε πάνω από το 80% των παιδιατρικών περιστατικών. Αυτό δεν είναι «παραίσθηση» εν αφαιρέσει. Πρόκειται για συγκεκριμένα ιατρικά σφάλματα που θα μπορούσαν να βλάψουν ασθενείς.

Νομικές παραισθήσεις τεχνητής νοημοσύνης: Η έρευνα του Stanford HAI δείχνει ότι τα νομικά μοντέλα τεχνητής νοημοσύνης παραισθάνονται σε 1 στα 6 ερωτήματα συγκριτικής αξιολόγησης. Δικηγόροι έχουν τιμωρηθεί για υποβολή πλαστών υποθέσεων που δημιούργησε η τεχνητή νοημοσύνη σε δικαστήρια. Πολλές φορές. Σε πολλές χώρες.

Αποτυχίες του Google AI Overview: Το σύστημα πρότεινε να βάζετε κόλλα στην πίτσα και να τρώτε πέτρες καθημερινά. Αυτές δεν είναι οριακές περιπτώσεις. Είναι αυτό που συμβαίνει όταν η συσσώρευση σφαλμάτων συναντά την αυτοπεποίθηση χωρίς επαλήθευση.

Η παγίδα της επαλήθευσης

Να το ειρωνικό μέρος. Γνωρίζουμε ότι τα μεγάλα γλωσσικά μοντέλα μπορούν να εντοπίσουν τα δικά τους λάθη. Η έρευνα δείχνει ότι το ChatGPT εντοπίζει το 67% των σφαλμάτων του, το GPT-4 εντοπίζει το 87%. Τα μοντέλα γνωρίζουν πότε κάνουν λάθος.

Ωστόσο, εξακολουθούν να δεσμεύονται στις παραισθήσεις. Παράγουν ψευδείς ισχυρισμούς για να δικαιολογήσουν αρχικά σφάλματα. Δεσμεύονται υπερβολικά σε λάθη παρά το γεγονός ότι έχουν την ικανότητα να τα αναγνωρίσουν.

Γι' αυτό η απλή επαλήθευση δεν λύνει το πρόβλημα. Η προσθήκη ενός βήματος «έλεγξε την εργασία σου» δεν βοηθά όταν το σύστημα έχει κίνητρο να υπερασπιστεί τις προηγούμενες εξόδους του αντί να τις διορθώσει.

Το ίδιο το βήμα επαλήθευσης γίνεται άλλο ένα βήμα στην αλυσίδα συλλογισμού. Άλλο ένα σφάλμα 2%. Άλλη μια ευκαιρία για να μεγαλώσει η χιονοστιβάδα.

Γιατί οι τρέχουσες προσεγγίσεις δεν μπορούν να το διορθώσουν

Η απάντηση της βιομηχανίας τεχνητής νοημοσύνης στη συσσώρευση σφαλμάτων ήταν να προσπαθήσει περισσότερο. Περισσότερα δεδομένα εκπαίδευσης. Καλύτερη λεπτομερής ρύθμιση. Έξυπνα προτροπές. Συλλογισμός αλυσίδας σκέψης. Βήματα επαλήθευσης.

Τίποτα από αυτά δεν αντιμετωπίζει το θεμελιώδες μαθηματικό πρόβλημα.

Περισσότερη εκπαίδευση δεν βοηθά: Η καλύτερη ακρίβεια σε μεμονωμένα βήματα δεν αλλάζει την εκθετική μείωση. Η ακρίβεια 99% απλώς μετακινεί το όριο από τα 34 βήματα στα 69 βήματα. Το 99,5% το μετακινεί στα 138 βήματα. Εν τω μεταξύ, ξοδεύετε εκθετικά περισσότερη υπολογιστική ισχύ για οριακά κέρδη.

Καλύτερες προτροπές δεν βοηθούν: Οι στρατηγικές προτροπών ουσιαστικά προσπαθούν να πολεμήσουν τα μαθηματικά με φυσική γλώσσα. Δεν μπορείτε να βγείτε από το (0,98)ⁿ με προτροπές.

Η επαλήθευση επιδεινώνει το πρόβλημα: Κάθε βήμα επαλήθευσης είναι άλλη μια λειτουργία με τη δική της πιθανότητα σφάλματος. Προσθέτετε βήματα για να καταπολεμήσετε το πρόβλημα που προκαλείται από το να έχετε πάρα πολλά βήματα.

Οι μέθοδοι συνόλου βοηθούν αλλά δεν λύνουν το πρόβλημα: Η έρευνα δείχνει ότι οι μέθοδοι αυτοσυνέπειας μπορούν να βελτιώσουν την ακρίβεια έως και 17,9 ποσοστιαίες μονάδες σε μαθηματικά προβλήματα. Αλλά αυτό έχει κόστος 40 φορές περισσότερη υπολογιστική ισχύ. Και δεν εξαλείφει την εκθετική μείωση. Απλώς μετατοπίζει ελαφρώς την καμπύλη.

Το θεμελιώδες πρόβλημα δεν είναι η ποιότητα της εκπαίδευσης ή η στρατηγική των προτροπών. Είναι ότι τα νευρωνικά δίκτυα κινητής υποδιαστολής είναι θεμελιωδώς πιθανοτικά. Κάθε πράξη εισάγει αβεβαιότητα. Η αβεβαιότητα συσσωρεύεται. Δεν υπάρχει τρόπος να παρακαμφθεί αυτά τα μαθηματικά.

Η λύση που βασίζεται σε περιορισμούς

Τα συστήματα τεχνητής νοημοσύνης που βασίζονται σε περιορισμούς δεν ακολουθούν το μοντέλο της εκθετικής φθοράς. Να γιατί.

Ντετερμινιστικές πράξεις: Η προσέγγισή μας χρησιμοποιεί διακριτές πράξεις. XNOR, POPCNT, λογικό AND, OR. Αυτές οι πράξεις είναι ντετερμινιστικές. Ίδια είσοδος, ίδια έξοδος. Κάθε φορά.

Χωρίς σφάλματα στρογγυλοποίησης: Οι δυαδικές τιμές είναι ακριβείς. +1 ή -1. Χωρίς προσέγγιση κινητής υποδιαστολής. Χωρίς συσσωρευμένο σφάλμα στρογγυλοποίησης.

Ικανοποίηση περιορισμών: Τα συστήματά μας λειτουργούν με περιορισμούς, όχι με πιθανότητες. Ένας περιορισμός είτε ικανοποιείται είτε όχι. Δεν υπάρχει ικανοποίηση 98%. Υπάρχει ικανοποιημένος (100%) ή παραβιασμένος (0%).

Κρυσταλλωμένοι περιορισμοί: Στην προσέγγιση της Dweve, μόλις ένας περιορισμός ανακαλυφθεί και κρυσταλλωθεί, εφαρμόζεται ντετερμινιστικά. Η εκατοστή εφαρμογή ενός περιορισμού είναι εξίσου αξιόπιστη με την πρώτη. Χωρίς φθορά. Χωρίς συσσωρευμένο σφάλμα.

Γι' αυτό τα συστήματα που βασίζονται σε περιορισμούς μπορούν να διαχειριστούν συλλογισμό πολλαπλών βημάτων χωρίς υποβάθμιση. Κάθε βήμα ελέγχεται έναντι κρυσταλλωμένων περιορισμών. Το βήμα 10 είναι εξίσου αξιόπιστο με το βήμα 1. Το βήμα 100 είναι εξίσου αξιόπιστο με το βήμα 1.

Η καμπύλη σφάλματος δεν μοιάζει με εκθετική φθορά. Μοιάζει με συνάρτηση βήματος: 100% ακρίβεια μέχρι να χτυπηθεί ένα όριο περιορισμού, μετά 0% (ανιχνεύσιμη αποτυχία). Χωρίς γκρίζες ζώνες. Χωρίς σταδιακή φθορά σε ανοησίες.

Η ρυθμιστική διάσταση

Οι ευρωπαϊκές ρυθμιστικές αρχές κατανοούν αυτό το πρόβλημα καλύτερα από όσο θέλουν να παραδεχτούν οι αμερικανικές εταιρείες τεχνολογίας.

Η Πράξη για την Τεχνητή Νοημοσύνη της ΕΕ δεν επιβάλλει μόνο ακρίβεια. Επιβάλλει επεξηγησιμότητα και δυνατότητα ελέγχου. Πρέπει να εξηγήσετε γιατί το σύστημα ΤΝ σας έλαβε μια συγκεκριμένη απόφαση. Πρέπει να αποδείξετε ότι λειτουργεί σωστά.

Πώς αποδεικνύετε ότι ένα σύστημα λειτουργεί σωστά όταν η αξιοπιστία του φθίνει εκθετικά με το βάθος συλλογιστικής;

Δεν μπορείτε.

Γι' αυτό το δικαίωμα εξήγησης του Άρθρου 22 του GDPR και οι απαιτήσεις διαφάνειας της Πράξης για την ΤΝ της ΕΕ ευνοούν θεμελιωδώς τις προσεγγίσεις που βασίζονται σε περιορισμούς. Όταν μια απόφαση είναι αποτέλεσμα ικανοποίησης περιορισμών, μπορείτε να την εξηγήσετε. Ορίστε ο περιορισμός Α, ο περιορισμός Β, ο περιορισμός Γ. Όλοι ικανοποιούνται. Το αποτέλεσμα προκύπτει λογικά.

Όταν μια απόφαση είναι το αποτέλεσμα 50 πιθανοτικών λειτουργιών, όπου η καθεμία ενισχύει την αβεβαιότητα της προηγούμενης; Αυτό δεν μπορείτε να το εξηγήσετε. Δεν μπορείτε καν να το αναπαράγετε αξιόπιστα.

Αυτό δεν είναι βάρος συμμόρφωσης. Είναι τα μαθηματικά να προλαβαίνουν τους ισχυρισμούς μάρκετινγκ.

Η επιχειρηματική επίπτωση

Να τι σημαίνει η εκθετική συσσώρευση σφαλμάτων για την ΤΝ στις επιχειρήσεις:

Απλές εργασίες: Οι λειτουργίες ενός βήματος λειτουργούν άψογα. Ταξινόμηση, βασική απάντηση ερωτήσεων, απλή ανάκτηση. Η ακρίβεια 98% είναι πραγματικά χρήσιμη εδώ.

Μέση πολυπλοκότητα: Οι πολυβηματικές αλλά οριοθετημένες λειτουργίες είναι επικίνδυνες. Πιθανώς μπορείτε να διαχειριστείτε 5-10 βήματα αν είστε προσεκτικοί. Αλλά πλησιάζετε το όριο όπου τα σφάλματα συσσωρεύονται ταχύτερα από όσο δημιουργείται αξία.

Υψηλή πολυπλοκότητα: Οι βαθιές αλυσίδες συλλογιστικής, οι ροές εργασίας πρακτόρων, τα ερωτήματα πολλαπλών βημάτων είναι μαθηματικά ανέφικτα με προσεγγίσεις κινητής υποδιαστολής που βασίζονται σε πιθανότητες. Το σύστημα θα αποτύχει. Δεν είναι θέμα αν, αλλά πότε.

Αυτό εξηγεί γιατί το 95% των πιλοτικών προγραμμάτων ΤΝ σε επιχειρήσεις αποτυγχάνουν. Οι εταιρείες προσπαθούν να λύσουν προβλήματα που απαιτούν 20, 50, 100 βήματα συλλογιστικής χρησιμοποιώντας συστήματα που γίνονται αναξιόπιστα μετά το 11ο.

Τα μαθηματικά δεν ενδιαφέρονται για την περίπτωση χρήσης σας. Δεν ενδιαφέρονται για τον προϋπολογισμό σας. Δεν ενδιαφέρονται για τον φιλόδοξο οδικό χάρτη σας. Το (0,98)ⁿ τείνει στο μηδέν ανεξάρτητα από τις προθέσεις.

Η πορεία προς τα εμπρός

Έχουμε εντοπίσει το πρόβλημα. Η εκθετική συσσώρευση σφαλμάτων καθιστά τα νευρωνικά δίκτυα κινητής υποδιαστολής ακατάλληλα για συλλογιστική πολλαπλών βημάτων. Τα μαθηματικά είναι σαφή. Οι αποτυχίες στην παραγωγή είναι τεκμηριωμένες. Το οικονομικό κόστος είναι μετρήσιμο.

Η λύση είναι εξίσου σαφής: χρειαζόμαστε συστήματα ΤΝ που δεν υφίστανται εκθετική φθορά.

Η ΤΝ που βασίζεται σε περιορισμούς παρέχει ακριβώς αυτό. Ντετερμινιστικές λειτουργίες. Κρυσταλλωμένοι περιορισμοί. Καμία συσσωρευμένη αβεβαιότητα. Συλλογιστική πολλαπλών βημάτων χωρίς υποβάθμιση.

Αυτό δεν είναι εικασία. Αυτό είναι αυτό που κατασκευάζουμε στην Dweve. Το Core παρέχει το πλαίσιο δυαδικών αλγορίθμων. Το Loom υλοποιεί 456 εξειδικευμένους τομείς που βασίζονται σε περιορισμούς. Το Nexus παρέχει το επίπεδο ενορχήστρωσης πολλαπλών πρακτόρων. Κάθε λειτουργία είναι μαθηματικά ακριβής. Κάθε απόφαση είναι ιχνηλάσιμη σε συγκεκριμένους περιορισμούς.

Το αποτέλεσμα: συστήματα ΤΝ που παραμένουν αξιόπιστα σε εκατοντάδες βήματα συλλογιστικής. Όχι 98% ακρίβεια στο βήμα 1 και 36% ακρίβεια στο βήμα 50. 100% ακρίβεια στο βήμα 1 και στο βήμα 50 και στο βήμα 500.

Μέχρι να φτάσετε στο όριο των περιορισμών, η αξιοπιστία είναι απόλυτη. Στο όριο, η αποτυχία είναι ανιχνεύσιμη. Το σύστημα ξέρει πότε δεν ξέρει. Αυτό δεν είναι σφάλμα. Αυτό είναι ασφάλεια.

Τι πρέπει να θυμάστε

• Η συσσώρευση σφαλμάτων είναι εκθετική, όχι γραμμική. Κάθε πολυσταδιακή λειτουργία AI επιδεινώνει τα προηγούμενα σφάλματα. Η ακρίβεια 98% ανά βήμα γίνεται επιτυχία 13% μετά από 100 βήματα.
• Το όριο της αχρηστίας επέρχεται γρήγορα. Με ακρίβεια 98% ανά βήμα, τα συστήματα πέφτουν κάτω από το 50% αξιοπιστίας μετά από μόλις 34 βήματα. Για πρακτικούς σκοπούς, το όριο είναι περίπου 11 βήματα για αξιοπιστία 90%.
• Οι παραισθήσεις χιονοστιβάζουν, δεν απλώς μεταδίδονται. Τα LLM δεσμεύονται υπερβολικά στα πρώιμα λάθη και παράγουν πρόσθετους ψευδείς ισχυρισμούς για να τα δικαιολογήσουν. Η συσσώρευση σφαλμάτων επιταχύνεται πέρα από την καθαρή εκθετική αποσύνθεση.
• Τα ποσοστά αποτυχίας στην παραγωγή είναι καταστροφικά. Το 95% των πιλοτικών προγραμμάτων γενετικής AI αποτυγχάνουν να φτάσουν στην παραγωγή. Το 95% των πρακτόρων AI αποτυγχάνουν στην ανάπτυξη. Αυτό δεν είναι κακή μηχανική. Είναι κακά μαθηματικά.
• Η επαλήθευση δεν λύνει το πρόβλημα. Η προσθήκη βημάτων επαλήθευσης προσθέτει περισσότερες λειτουργίες με τα δικά τους ποσοστά σφάλματος. Πολεμάτε την εκθετική αποσύνθεση με περισσότερη εκθετική αποσύνθεση.
• Τα συστήματα που βασίζονται σε περιορισμούς δεν υποφέρουν από εκθετική αποσύνθεση. Οι ντετερμινιστικές λειτουργίες και οι κρυσταλλωμένοι περιορισμοί σημαίνουν ότι το βήμα 100 είναι εξίσου αξιόπιστο με το βήμα 1. Καμία συσσωρευμένη αποσύνθεση. Καμία γκρίζα ζώνη.
• Οι ευρωπαϊκοί κανονισμοί ευνοούν τη μαθηματική βεβαιότητα. Οι απαιτήσεις επεξηγησιμότητας και ελεγξιμότητας του EU AI Act ευθυγραμμίζονται με τις προσεγγίσεις που βασίζονται σε περιορισμούς και συγκρούονται με τα πιθανοτικά μαύρα κουτιά.

Η ουσία

Το πρόβλημα του 98% είναι πραγματικό, μετρήσιμο και καταστρέφει έργα AI σε κάθε κλάδο. Όταν κάθε λειτουργία χάνει 2% της αλήθειας και τα σφάλματα συσσωρεύονται στα βήματα συλλογισμού, τα συστήματα είναι μαθηματικά εγγυημένο να αποτύχουν.

Αυτό δεν αφορά καλύτερα δεδομένα εκπαίδευσης ή εξυπνότερα προτροπές. Αφορά τα θεμελιώδη μαθηματικά των νευρωνικών δικτύων κινητής υποδιαστολής έναντι του συλλογισμού που βασίζεται σε περιορισμούς.

Οι παραδοσιακές προσεγγίσεις ακολουθούν εκθετική αποσύνθεση: το (0.98)ⁿ πλησιάζει το μηδέν καθώς το n αυξάνεται. Δεν υπάρχει τρόπος να το αποφύγετε. Είναι ενσωματωμένο στα μαθηματικά.

Οι προσεγγίσεις που βασίζονται σε περιορισμούς λειτουργούν διαφορετικά. Ντετερμινιστικές λειτουργίες. Κρυσταλλωμένοι περιορισμοί. Το βήμα 500 είναι εξίσου αξιόπιστο με το βήμα 1. Η καμπύλη σφάλματος είναι μια συνάρτηση βήματος, όχι εκθετική αποσύνθεση.

Η βιομηχανία ξυπνά σιγά σιγά σε αυτή την πραγματικότητα. Οι εταιρείες ξοδεύουν εκατοντάδες εκατομμύρια σε συστήματα που είναι μαθηματικά εγγυημένο να αποτύχουν. Το ποσοστό αποτυχίας 95% στην παραγωγή δεν είναι μυστηριώδες. Είναι προβλέψιμο.

Οι ευρωπαϊκές εταιρείες AI που χτίζουν πάνω σε θεμέλια που βασίζονται σε περιορισμούς δεν βρίσκονται σε μειονεκτική θέση. Λύνουν το πραγματικό πρόβλημα ενώ οι αμερικανικές εταιρείες επιμένουν σε ελαττωματικά μαθηματικά.

Το μέλλον της αξιόπιστης AI δεν είναι περισσότερη υπολογιστική ισχύς, μεγαλύτερα μοντέλα ή εξυπνότερα προτροπές. Είναι συστήματα που βασίζονται σε περιορισμούς με κρυσταλλωμένους περιορισμούς. Μαθηματική βεβαιότητα αντί για στατιστική εμπιστοσύνη. Αποδείξιμη αξιοπιστία αντί για εκθετική αποσύνθεση.

Θέλετε AI που δεν αποσυντίθεται σε ανοησίες; Το πλαίσιο που βασίζεται σε περιορισμούς του Dweve Core παρέχει ντετερμινιστικό πολυσταδιακό συλλογισμό. Καμία εκθετική συσσώρευση σφαλμάτων. Καμία χιονοστιβάδα παραισθήσεων. Μόνο μαθηματικά που λειτουργούν. Εγγραφείτε στη λίστα αναμονής μας.