Δεδομένα στην τεχνητή νοημοσύνη: γιατί τα σκουπίδια μέσα σημαίνουν πραγματικά σκουπίδια έξω
Το βιβλίο συνταγών που η μητέρα σου δεν τελείωσε ποτέ
Φαντάσου την κουζίνα της μητέρας σου το 1990. Είναι διάσημη στη γειτονιά για την μηλόπιτά της. Όλοι θέλουν τη συνταγή. Έτσι αποφασίζει να τη γράψει.
Αλλά εδώ είναι το πρόβλημα. Σε πάνω από σαράντα χρόνια ζαχαροπλαστικής, έχει φτιάξει αυτό το κέικ εκατοντάδες φορές. Άλλοτε χρησιμοποιούσε βούτυρο, άλλοτε μαργαρίνη (ανάλογα με το τι ήταν φθηνότερο εκείνη την εβδομάδα). Άλλοτε αυτό το μήλο, άλλοτε εκείνο, άλλοτε το συνηθισμένο. Άλλοτε έψηνε στους 150 βαθμούς, άλλοτε στους 250 (γιατί ο φούρνος ήταν ιδιότροπος). Άλλοτε πρόσθετε ένα επιπλέον αυγό όταν ήταν μικρά.
Η ευελιξία της εμπειρίας
Κάθε κέικ έβγαινε νόστιμο. Ήξερε ενστικτωδώς πώς να προσαρμόζεται. Λίγο περισσότερο αλεύρι όταν έχει υγρασία. Λίγη λιγότερη ζάχαρη όταν το μήλο είναι ιδιαίτερα ξινό. Χρόνια εμπειρίας την έκαναν ευέλικτη.
Τώρα φαντάσου να γράφει τη συνταγή βασισμένη μόνο στις τελευταίες πέντε φορές που την έφτιαξε. Όλες το καλοκαίρι. Όλες με μαργαρίνη. Όλες με εκείνη την παρτίδα από υπερβολικά ξινά μήλα που αγόρασε σε προσφορά. Όλες με τον φούρνο να δουλεύει στο φουλ.
Η καταστροφή των περιορισμένων παραδειγμάτων
Κάποιος ακολουθεί αυτή τη συνταγή τον χειμώνα, με βούτυρο, με γλυκά μήλα, σε έναν κανονικό φούρνο. Καταστροφή. Ξηρό, εύθρυπτο, υπερβολικά γλυκό. Η συνταγή δεν δουλεύει γιατί τα παραδείγματα στα οποία βασίστηκε δεν αντιπροσώπευαν όλο το φάσμα των καταστάσεων.
Έτσι ακριβώς μαθαίνει η τεχνητή νοημοσύνη από τα δεδομένα. Η «συνταγή» (η τεχνητή νοημοσύνη) είναι τόσο καλή όσο τα παραδείγματα από τα οποία έμαθε. Τα περιορισμένα παραδείγματα δημιουργούν περιορισμένη τεχνητή νοημοσύνη. Τα μεροληπτικά παραδείγματα δημιουργούν μεροληπτική τεχνητή νοημοσύνη. Τα λάθος παραδείγματα δημιουργούν τεχνητή νοημοσύνη που απλώς δεν δουλεύει.
Δεν πρόκειται για περίπλοκη τεχνολογία. Πρόκειται για μια απλή αλήθεια: μπορείς να διδάξεις μόνο ό,τι δείχνεις. Και αν αυτό που δείχνεις είναι ελλιπές, μεροληπτικό ή εντελώς λάθος, αυτό ακριβώς μαθαίνεται.
Γιατί Κανείς Δεν Μιλάει για το Βαρετό Κομμάτι (Αλλά Θα Έπρεπε)
Να τι συμβαίνει σε κάθε συνέδριο τεχνητής νοημοσύνης, σε κάθε τεχνολογικό άρθρο, σε κάθε διαφημιστικό παρουσίαση:
Τι τραβάει όλη την προσοχή
Πολύς ενθουσιασμός για τους αλγορίθμους. Τα έξυπνα μαθηματικά. Οι εντυπωσιακές αρχιτεκτονικές. Νευρωνικά δίκτυα με δισεκατομμύρια παραμέτρους. Τεχνικές εκπαίδευσης με εντυπωσιακά ονόματα. Στρατηγικές βελτιστοποίησης που ακούγονται σαν μαγεία.
Τι αγνοείται
Σχεδόν τίποτα για τα δεδομένα. Από πού προήλθαν. Πώς συλλέχθηκαν. Αν είναι καλά. Τι λείπει. Τι προκαταλήψεις περιέχουν.
Γιατί; Επειδή οι αλγόριθμοι είναι σέξι. Τα δεδομένα είναι βαρετά. Οι αλγόριθμοι ακούγονται έξυπνοι και εξελιγμένοι. Τα δεδομένα ακούγονται σαν... γραφειοκρατία. Ντουλάπες αρχειοθέτησης. Υπολογιστικά φύλλα. Καθόλου συναρπαστικά.
Αλλά να η άβολη αλήθεια που κάθε τίμιος ερευνητής τεχνητής νοημοσύνης θα σου πει κατ' ιδίαν:
Η άβολη αλήθεια
Ένας λαμπρός αλγόριθμος εκπαιδευμένος σε σκουπίδια δεδομένων παράγει αποτελέσματα-σκουπίδια. Ένας μέτριος αλγόριθμος εκπαιδευμένος σε εξαιρετικά δεδομένα παράγει εξαιρετικά αποτελέσματα. Κάθε φορά. Χωρίς εξαιρέσεις.
Σκέψου το σαν να διαβάζεις για ένα διαγώνισμα
Ο αλγόριθμος είναι σαν ένας μαθητής που διαβάζει για ένα διαγώνισμα. Δώσε σε αυτόν τον μαθητή λάθος βιβλίο και δεν έχει σημασία πόσο έξυπνος είναι ή πόσο σκληρά διαβάζει. Θα αποτύχει στο διαγώνισμα επειδή έμαθε από λάθος πληροφορίες. Δώσε σε έναν μέτριο μαθητή το σωστό βιβλίο, άφθονα προβλήματα για εξάσκηση και καλά παραδείγματα; Θα τα πάει μια χαρά. Ίσως όχι τέλεια, αλλά σίγουρα χρήσιμα.
Αυτή είναι η πραγματικότητα της τεχνητής νοημοσύνης. Η ποιότητα των δεδομένων έχει μεγαλύτερη σημασία από την πολυπλοκότητα του αλγορίθμου. Πολύ μεγαλύτερη. Και όμως, σχεδόν κανείς δεν θέλει να το συζητήσει.
Φαντάσου να μαθαίνεις σε κάποιον να αναγνωρίζει δηλητηριώδη μανιτάρια χρησιμοποιώντας μόνο φωτογραφίες από ένα δάσος, τραβηγμένες το καλοκαίρι, όλες με έντονο ηλιοφως. Μπορεί να τα καταφέρει τέλεια σε αυτό ακριβώς το δάσος, το καλοκαίρι, τις ηλιόλουστες μέρες. Αλλά βάλε τον σε ένα διαφορετικό δάσος το φθινόπωρο, μια συννεφιασμένη μέρα; Θα μαντεύει. Η εκπαίδευση ήταν πολύ περιορισμένη. Το ίδιο πρόβλημα με την τεχνητή νοημοσύνη: τα περιορισμένα δεδομένα δημιουργούν περιορισμένα, αναξιόπιστα συστήματα. Τα δεδομένα καθορίζουν τα όρια του τι μπορεί να μάθει η τεχνητή νοημοσύνη.
Τι σημαίνει πραγματικά το «Μαθαίνει από τα Δεδομένα»
Όταν κάποιος λέει «η τεχνητή νοημοσύνη μαθαίνει από τα δεδομένα», τι σημαίνει αυτό στην πραγματικότητα; Ας χρησιμοποιήσουμε ένα παράδειγμα που όλοι μπορούν να καταλάβουν.
Μαθαίνοντας στον εγγονό σου να αναγνωρίζει πουλιά
Φαντάσου ότι μαθαίνεις στον δεκάχρονο εγγονό σου να αναγνωρίζει διαφορετικά είδη πουλιών. Τον πας στο πάρκο με έναν οδηγό αναγνώρισης πουλιών. Κάθε φορά που βλέπετε ένα πουλί, το ψάχνετε μαζί.
«Βλέπεις αυτό; Μπλε φτερά, κόκκινο στήθος, περίπου τόσο μεγάλο. Αυτό είναι ένας γαλαζοπαπαδίτσα.» Το κοιτάζει προσεκτικά. Παρατηρεί τα χρώματα, το μέγεθος, το σχήμα. Την επόμενη εβδομάδα, άλλο πουλί. «Αυτό; Εντελώς μαύρο, πιο μεγάλο, δυνατό κράξιμο. Αυτό είναι ένα κοράκι.» Το παρατηρεί. Το θυμάται.
Το κάνεις αυτό πενήντα φορές. Διαφορετικά πουλιά. Διαφορετικές καταστάσεις. Διαφορετικός φωτισμός. Άλλοτε πετάνε, άλλοτε κάθονται. Μετά από πενήντα πουλιά, αρχίζει να μαντεύει σωστά. «Παππού, αυτό είναι ένα κοτσύφι;» Και έχει δίκιο!
Έμαθε από παραδείγματα. Πολλά παραδείγματα. Κάθε ένα του έμαθε κάτι για τα μοτίβα: τι κάνει ένα κοτσύφι κοτσύφι, τι κάνει ένα κοράκι κοράκι.
Η τεχνητή νοημοσύνη μαθαίνει με τον ίδιο ακριβώς τρόπο
Δείξε της παραδείγματα. Πολλά. Για κάθε παράδειγμα, πες της τη σωστή απάντηση. «Αυτό το email είναι ανεπιθύμητο.» «Αυτή η φωτογραφία περιέχει μια γάτα.» «Αυτή η κριτική είναι θετική.» Η τεχνητή νοημοσύνη αναζητά μοτίβα που συνδέουν τα παραδείγματα με τις απαντήσεις.
Αλλά εδώ είναι που γίνεται δύσκολο. Τι θα γινόταν αν έδειχνες στον εγγονό σου μόνο πουλιά το καλοκαίρι; Μπορεί να νόμιζε ότι τα κοτσύφια έχουν πάντα έντονο κόκκινο στήθος (είναι πιο θαμπά τον χειμώνα). Τι θα γινόταν αν του έδειχνες μόνο πουλιά στην αυλή σου; Μπορεί να μην αναγνώριζε αυτά τα ίδια πουλιά σε ένα διαφορετικό περιβάλλον.
Μαθαίνει λάθος μοτίβα
Τι γίνεται αν κατά λάθος αναγνωρίσεις λάθος μερικά πουλιά; «Αυτό είναι σπουργίτι» ενώ στην πραγματικότητα είναι σπίνος. Μαθαίνει το λάθος μοτίβο. Τώρα θα αναγνωρίζει λάθος τους σπίνους για πάντα, εκτός αν κάποιος τον διορθώσει.
Η ποιότητα και η ποικιλία των παραδειγμάτων καθορίζουν τι μαθαίνει. Το ίδιο ισχύει και με την τεχνητή νοημοσύνη. Τα δεδομένα είναι το μάθημα. Αν το μάθημα είναι ελλιπές, μεροληπτικό ή λάθος, η μάθηση θα είναι ελλιπής, μεροληπτική ή λάθος.
Πόσα Δεδομένα Χρειάζεσαι Πραγματικά;
Όλοι κάνουν αυτή την ερώτηση. Η απάντηση απογοητεύει τον κόσμο: εξαρτάται.
Σκέψου πώς διδάσκεις δεξιότητες στην πραγματική ζωή. Πόσες φορές χρειάζεται να εξασκηθεί κάποιος μέχρι να μάθει;
Να μάθεις ένα παιδί να δένει τα κορδόνια του
Ίσως είκοσι συνεδρίες εξάσκησης. Είναι ένα απλό, επαναλαμβανόμενο μοτίβο. Τα ίδια βήματα κάθε φορά. Όχι μεγάλη ποικιλία. Είκοσι παραδείγματα αρκούν.
Να μάθεις κάποιον να οδηγεί
Εκατοντάδες ώρες. Γιατί; Επειδή η οδήγηση περιλαμβάνει άπειρες παραλλαγές. Δρόμοι πόλης, αυτοκινητόδρομοι, βροχή, χιόνι, έργα, επιθετικοί οδηγοί, πεζοί, ποδηλάτες, ζώα που διασχίζουν τον δρόμο. Κάθε κατάσταση είναι λίγο διαφορετική. Χρειάζεσαι έκθεση σε όλες αυτές τις παραλλαγές για να γίνεις ικανός οδηγός.
Το ίδιο ισχύει και με την τεχνητή νοημοσύνη. Οι απλές εργασίες χρειάζονται λιγότερα παραδείγματα. Οι σύνθετες εργασίες χρειάζονται τεράστιες ποσότητες.
Απλή αναγνώριση μοτίβων (είναι αυτό spam;)
Ίσως 10.000 παραδείγματα. Το spam έχει αναγνωρίσιμα μοτίβα. Μόλις δεις αρκετά παραδείγματα με «ΑΓΟΡΑΣΕ ΤΩΡΑ!!!» και «Κέρδισες ένα βραβείο!», καταλαβαίνεις την ιδέα.
Μέτρια πολυπλοκότητα (αναγνώριση προσώπων)
Δεκάδες χιλιάδες έως εκατοντάδες χιλιάδες. Τα πρόσωπα ποικίλλουν τεράστια. Διαφορετικές γωνίες, φωτισμός, εκφράσεις, ηλικίες. Χρειάζεσαι μεγάλη ποικιλία για να τα καλύψεις όλα.
Υψηλή πολυπλοκότητα (αναγνώριση οποιουδήποτε αντικειμένου σε φωτογραφίες)
Εκατομμύρια εικόνες. Χιλιάδες τύποι αντικειμένων. Κάθε αντικείμενο σε διαφορετικά περιβάλλοντα, γωνίες και φωτισμούς. Αυτοκίνητα σε δρόμους, αυτοκίνητα σε εκθέσεις, αυτοκίνητα σε τροχαία. Δέντρα σε δάση, δέντρα σε αυλές, δέντρα σε πίνακες ζωγραφικής. Η τεράστια ποικιλία απαιτεί τεράστιο όγκο δεδομένων.
Ακραία πολυπλοκότητα (κατανόηση της γλώσσας)
Δισεκατομμύρια λέξεις. Η γλώσσα έχει άπειρη ποικιλία. Κάθε θέμα, κάθε ύφος, κάθε πλαίσιο. Επίσημες εκθέσεις, χαλαρές συνομιλίες, ποίηση, οδηγίες, αστεία, ειρωνεία. Για να τα διαχειριστείς όλα αυτά, χρειάζεσαι έκθεση σε τεράστιο όγκο κειμένων.
Αλλά εδώ είναι το κρίσιμο σημείο: ο όγκος από μόνος του δεν αρκεί. Προτιμάς να έχεις 100.000 εξαιρετικά, ποικίλα και σωστά επισημασμένα παραδείγματα παρά 10 εκατομμύρια μέτρια, επαναλαμβανόμενα και πρόχειρα επισημασμένα παραδείγματα. Είναι σαν να μαθαίνεις μαγειρική. Θα προτιμούσες να εξασκηθείς φτιάχνοντας 100 διαφορετικά πιάτα με καλές οδηγίες ή να φτιάχνεις το ίδιο μέτριο ζυμαρικό 10.000 φορές με ασαφείς οδηγίες; Η ποικιλία και η ποιότητα της εξάσκησης έχουν μεγαλύτερη σημασία από τον ακατέργαστο αριθμό των επαναλήψεων.
Τα Πέντε Συστατικά των Ποιοτικών Δεδομένων
Τι κάνει τα δεδομένα καλά ή κακά; Πέντε βασικοί παράγοντες. Ας τους αναλύσουμε με παραδείγματα που καταλαβαίνει ο καθένας.
-
1
Σωστές ετικέτες (Να παίρνετε τις σωστές απαντήσεις)
Φανταστείτε να μαθαίνετε σε ένα παιδί τα ζώα με ένα βιβλίο με λάθος εικόνες. «Αυτό είναι σκύλος» δίπλα σε μια φωτογραφία με γάτα. «Αυτό είναι αγελάδα» δίπλα σε ένα άλογο. Το παιδί μαθαίνει εντελώς λάθος. Θα μπερδεύει τα ζώα για πάντα.
Η τεχνητή νοημοσύνη έχει το ίδιο πρόβλημα. Αν την εκπαιδεύετε να αναγνωρίζει γάτες, κάθε φωτογραφία με ετικέτα «γάτα» πρέπει να είναι όντως γάτα. Ακόμα και 5% λάθη προκαλούν σοβαρά προβλήματα. 10% λάθη; Η τεχνητή νοημοσύνη μαθαίνει σκουπίδια. Δεν μπορεί να ξεχωρίσει το σήμα από τον θόρυβο όταν οι απαντήσεις δεν είναι αξιόπιστες.
-
2
Αντιπροσωπευτικότητα (Να ταιριάζει με την πραγματική ζωή)
Ο εγγονός σας έμαθε να αναγνωρίζει πουλιά στην αυλή σας στα προάστια. Είναι πολύ καλός στο να αναγνωρίζει καρδινάλιους, κοτσύφια, γαλάζιες κίσσες. Μετά τον πάτε στην παραλία. Γλάροι, πελεκάνοι, καλημάνες. Έχει χαθεί. Τίποτα δεν μοιάζει με τα πουλιά που έμαθε.
Τα δεδομένα εκπαίδευσης πρέπει να αντιπροσωπεύουν εκεί όπου θα χρησιμοποιηθεί πραγματικά η τεχνητή νοημοσύνη. Εκπαιδεύετε ένα σύστημα αναγνώρισης προσώπου με καλά φωτισμένες φωτογραφίες στούντιο; Αποτυγχάνει σε χαμηλό φωτισμό νυχτερινού κέντρου. Εκπαιδεύετε έναν φωνητικό βοηθό με καθαρή, ήσυχη ομιλία; Δυσκολεύεται με προφορές και θόρυβο στο παρασκήνιο. Η κατανομή των δεδομένων πρέπει να ταιριάζει με την κατανομή του πραγματικού κόσμου.
-
3
Επαρκής ποικιλομορφία (Να καλύπτει όλες τις καταστάσεις)
Φανταστείτε να μαθαίνετε οδήγηση, αλλά μόνο με τέλειο καιρό, σε ευθείς δρόμους και με ελαφριά κίνηση. Θα ήσασταν απαίσιος οδηγός οπουδήποτε αλλού. Στροφές; Πανικός. Βροχή; Καταστροφή. Ώρα αιχμής; Καταβεβλημένοι.
Η τεχνητή νοημοσύνη χρειάζεται ποικιλομορφία στα δεδομένα εκπαίδευσης. Φωτογραφίες σε έντονο ήλιο και σε αμυδρή σκιά. Επίσημα κείμενα και καθημερινά μηνύματα. Νέες και μεγαλύτερες φωνές. Συνηθισμένες περιπτώσεις και σπάνιες ακραίες περιπτώσεις. Χωρίς ποικιλομορφία, η τεχνητή νοημοσύνη υπερπροσαρμόζεται. Απομνημονεύει συγκεκριμένα παραδείγματα αντί να μαθαίνει γενικά μοτίβα. Δείξτε της μόνο γκόλντεν ριτρίβερ και θα δυσκολευτεί με τα κανίς. Δείξτε της γάτες σε κάθε χρώμα, μέγεθος και θέση και θα αναγνωρίζει γάτες αξιόπιστα.
-
4
Συνάφεια και επικαιρότητα (Να μένετε ενημερωμένοι)
Φανταστείτε να διδάσκετε σε κάποιον τη μόδα της δεκαετίας του 1960 και να περιμένετε να αναγνωρίσει τις τρέχουσες τάσεις. Καμπάνες, χτενίσματα μέλισσα, μπότες γκό-γκο. Μετά δείξτε του τη σύγχρονη μόδα. Έχει μπερδευτεί. Όλα άλλαξαν.
Τα δεδομένα παλιώνουν. Η γλώσσα εξελίσσεται (το «κουλ» σημαίνει κάτι διαφορετικό σήμερα από ό,τι το 1960). Οι τακτικές ανεπιθύμητης αλληλογραφίας αλλάζουν (τα κόλπα του χθες σταματούν να δουλεύουν). Οι τάσεις της μόδας αλλάζουν. Η τεχνολογία ενημερώνεται. Αν τα δεδομένα εκπαίδευσής σας είναι από πέντε χρόνια πριν, τα μοτίβα έχουν προχωρήσει. Τα τρέχοντα δεδομένα αποτυπώνουν τα τρέχοντα μοτίβα.
-
5
Απαλλαγή από προκαταλήψεις (Δίκαιη εκπροσώπηση)
Αυτό είναι το μεγάλο. Το επικίνδυνο. Αυτό που προκαλεί πραγματική βλάβη στον πραγματικό κόσμο. Θα εμβαθύνουμε πολύ περισσότερο σε αυτό σε λίγο, γιατί η προκατάληψη στα δεδομένα δεν είναι απλώς ένα τεχνικό πρόβλημα. Είναι ένα ανθρώπινο πρόβλημα με σοβαρές συνέπειες. Αν τα δεδομένα σας αντικατοπτρίζουν ιστορικές διακρίσεις, η τεχνητή νοημοσύνη σας μαθαίνει να κάνει διακρίσεις. Αν τα δεδομένα σας υπερεκπροσωπούν κάποιες ομάδες και υποεκπροσωπούν άλλες, η τεχνητή νοημοσύνη σας αποδίδει καλύτερα για κάποιους ανθρώπους παρά για άλλους. Σκουπίδια μέσα, σκουπίδια έξω. Προκατάληψη μέσα, προκατάληψη έξω.
Σκέψου τα δεδομένα σαν υλικά για μαγείρεμα. Μπορείς να έχεις έναν σεφ με αστέρι Michelin (εξελιγμένο αλγόριθμο), αλλά αν του δώσεις σάπια λαχανικά, μπαγιάτικο ψωμί και χαλασμένο γάλα (κακά δεδομένα), το γεύμα θα είναι μη βρώσιμο. Εν τω μεταξύ, ένας οικιακός μάγειρας (απλός αλγόριθμος) με φρέσκα, ποιοτικά υλικά θα φτιάξει κάτι νόστιμο. Τα υλικά μετράνε περισσότερο από τα διαπιστευτήρια του σεφ. Στην τεχνητή νοημοσύνη, τα δεδομένα είναι τα υλικά.
Η Άκομψη Πραγματικότητα (Εκεί που Βρίσκεται Πραγματικά η Δουλειά)
Να τι δεν σου λέει κανείς όταν σου πουλάει λύσεις τεχνητής νοημοσύνης ή διδάσκει μαθήματα τεχνητής νοημοσύνης:
Το μεγαλύτερο μέρος της δουλειάς δεν είναι η κατασκευή της τεχνητής νοημοσύνης. Είναι η προετοιμασία των δεδομένων.
Οι επιστήμονες δεδομένων ξοδεύουν περίπου το 80% του χρόνου τους στην προετοιμασία δεδομένων. Μόνο το 20% στην πραγματική κατασκευή και εκπαίδευση μοντέλων. Αυτή η αναλογία σου λέει τα πάντα για το πού βρίσκεται η πραγματική πρόκληση.
Τι περιλαμβάνει η προετοιμασία δεδομένων; Τέσσερις τεράστιες, κουραστικές, κρίσιμες δουλειές:
Συλλογή Δεδομένων
Συγκέντρωση σχετικών παραδειγμάτων από όπου κι αν υπάρχουν. Αποθήκευση ιστοσελίδων, πρόσβαση σε βάσεις δεδομένων, καταγραφή αισθητήρων, συνάθροιση πολλαπλών πηγών. Χρονοβόρο. Συχνά ακριβό. Συχνά απογοητευτικό όταν οι πηγές δεν συνεργάζονται ή τα δεδομένα δεν υπάρχουν.
Καθαρισμός δεδομένων
Αφαίρεση διπλοεγγραφών. Διόρθωση λαθών. Διαχείριση ελλιπών τιμών. Τυποποίηση μορφών. Φιλτράρισμα θορύβου. Σαν να ταξινομείς δεκαετίες χαρτιού σε ένα ακατάστατο αρχειοθήκη. Αυτό από μόνο του μπορεί να πάρει εβδομάδες ή μήνες για μεγάλα σύνολα δεδομένων.
Επισημείωση δεδομένων
Χειροκίνητη καταγραφή παραδειγμάτων με τις σωστές απαντήσεις. «Αυτή η εικόνα είναι γάτα.» «Αυτή η κριτική είναι θετική.» «Αυτή η συναλλαγή είναι δόλια.» Για εκατομμύρια παραδείγματα. Απίστευτα κουραστικό. Συχνά ανατίθεται σε χαμηλόμισθους εργαζόμενους που κάνουν λάθη από πλήξη και κόπωση.
Επικύρωση δεδομένων
Έλεγχος ότι οι επισημειώσεις είναι σωστές. Ότι η ποικιλομορφία είναι επαρκής. Ότι οι προκαταλήψεις εντοπίζονται και αντιμετωπίζονται. Ότι το σύνολο δεδομένων αντιπροσωπεύει πραγματικά την πραγματικότητα. Ποιοτικός έλεγχος για εκατομμύρια παραδείγματα. Εξαντλητικό αλλά απολύτως κρίσιμο.
Τίποτα από αυτά δεν είναι γοητευτικό. Τίποτα δεν κάνει πρωτοσέλιδα. Τίποτα δεν εντυπωσιάζει τον κόσμο στα πάρτι. Είναι σκληρή δουλειά. Αλλά εκεί κρίνεται η επιτυχία ή η αποτυχία των έργων τεχνητής νοημοσύνης.
Ο αλγόριθμος είναι σχετικά εύκολος. Υπάρχουν πολλοί καλοί αλγόριθμοι. Οι περισσότεροι δημοσιεύονται ανοιχτά. Μπορείτε να τους κατεβάσετε, να τους χρησιμοποιήσετε, να τους τροποποιήσετε. Τα δεδομένα είναι το δύσκολο κομμάτι. Η συλλογή τους, ο καθαρισμός τους, η επισημείωσή τους, η επικύρωσή τους. Εκεί πηγαίνει η πραγματική προσπάθεια. Εκεί κολλάνε τα περισσότερα έργα. Αυτό ξεχωρίζει τη λειτουργική τεχνητή νοημοσύνη από το «vaporware». Οι εταιρείες με καλύτερα δεδομένα νικούν τις εταιρείες με καλύτερους αλγορίθμους. Κάθε φορά. Τα δεδομένα είναι το προπύργιο. Το υπερασπίσιμο πλεονέκτημα. Το πραγματικό ανταγωνιστικό πλεονέκτημα.
Το πρόβλημα της προκατάληψης (το πιο επικίνδυνο ελάττωμα της τεχνητής νοημοσύνης)
Τώρα φτάνουμε στο πραγματικά άβολο κομμάτι. Το κομμάτι που προκαλεί πραγματική βλάβη σε πραγματικούς ανθρώπους. Το κομμάτι που μετατρέπει την τεχνητή νοημοσύνη από «ελαφρώς αναξιόπιστη» σε «ενεργά επικίνδυνη».
Η τεχνητή νοημοσύνη δεν μαθαίνει απλώς μοτίβα από τα δεδομένα. Τα ενισχύει.
Αν τα δεδομένα σας έχουν προκαταλήψεις (και σχεδόν όλα τα πραγματικά δεδομένα έχουν), η τεχνητή νοημοσύνη δεν τις φιλτράρει. Τις μαθαίνει. Τις κωδικοποιεί. Τις εφαρμόζει συστηματικά. Τις χειροτερεύει.
Ας το εξηγήσω με μια ιστορία που όλοι μπορούν να καταλάβουν.
Μαθαίνοντας από μεροληπτικά ιστορικά δεδομένα
Φαντάσου ότι μαθαίνεις στον εγγονό σου ποιοι προσλαμβάνονται στην εταιρεία σου. Του δείχνεις αρχεία από τις προσλήψεις των τελευταίων είκοσι ετών. Τμήμα Μηχανικών: κυρίως άνδρες. Θέσεις γραμματέων: κυρίως γυναίκες. Διοίκηση: κυρίως λευκοί. Εργάτες: μεγαλύτερη ποικιλομορφία.
Ποτέ δεν του λες ρητά «οι άνδρες πρέπει να γίνονται μηχανικοί» ή «οι γυναίκες πρέπει να γίνονται γραμματείς». Απλώς του δείχνεις τα ιστορικά δεδομένα.
Τώρα είναι υπεύθυνος για τον έλεγχο νέων αιτήσεων. Τι κάνει; Έμαθε το μοτίβο από τα δεδομένα. Υποψήφιος μηχανικός που είναι γυναίκα; Φαίνεται ασυνήθιστο, ίσως δεν ταιριάζει. Άνδρας που υποβάλλει αίτηση για γραμματέας; Δεν ταιριάζει με το μοτίβο. Κάνει διακρίσεις. Όχι επειδή είναι κακός άνθρωπος. Αλλά επειδή έμαθε από μεροληπτικά ιστορικά δεδομένα και εφάρμοσε αυτά τα μοτίβα σαν να ήταν σωστά.
Αυτό ακριβώς συμβαίνει και με την τεχνητή νοημοσύνη. Τα ιστορικά δεδομένα αντικατοπτρίζουν τις ιστορικές διακρίσεις. Η τεχνητή νοημοσύνη μαθαίνει αυτές τις διακρίσεις σαν να είναι έγκυρο μοτίβο προς ακολουθία. Στη συνέχεια τις εφαρμόζει συστηματικά σε εκατομμύρια αποφάσεις.
Πραγματικά παραδείγματα που συνέβησαν:
⚠️ Το AI προσλήψεων της Amazon
Η Amazon εκπαίδευσε ένα AI για να ελέγχει βιογραφικά χρησιμοποιώντας δέκα χρόνια ιστορικών δεδομένων προσλήψεων. Τα δεδομένα έδειχναν ότι είχαν προσλάβει κυρίως άνδρες για τεχνικές θέσεις. Το AI έμαθε να υποβαθμίζει τα βιογραφικά των γυναικών. Εντόπιζε ενδείξεις όπως «σκακιστική λέσχη γυναικών» στα βιογραφικά και τα τιμωρούσε. Η Amazon αναγκάστηκε να αποσύρει το σύστημα. Ο αλγόριθμος λειτουργούσε τέλεια. Το πρόβλημα ήταν τα δεδομένα.
⚠️ Αλγόριθμοι Υγείας
Πολλαπλά συστήματα τεχνητής νοημοσύνης στον τομέα της υγείας παρουσίασαν φυλετική μεροληψία. Έδιναν προτεραιότητα σε λευκούς ασθενείς έναντι μαύρων ασθενών με πανομοιότυπα συμπτώματα. Γιατί; Τα ιστορικά δεδομένα υγείας αντικατόπτριζαν ιστορικές ανισότητες στη φροντίδα. Οι μαύροι ασθενείς λάμβαναν ιστορικά λιγότερη θεραπεία. Το AI έμαθε αυτό το μοτίβο και το εφάρμοσε σαν η λιγότερη φροντίδα να ήταν ιατρικά κατάλληλη, όχι ένδειξη διακρίσεων.
⚠️ Συστήματα Αναγνώρισης Προσώπου
Τα περισσότερα σύνολα δεδομένων αναγνώρισης προσώπου υπερεκπροσωπούν λευκούς άνδρες. Το AI αποδίδει καλύτερα σε λευκούς άνδρες. Σημαντικά χειρότερα σε γυναίκες. Ακόμα χειρότερα σε άτομα με πιο σκούρο δέρμα. Όχι επειδή ο αλγόριθμος είναι ρατσιστικός, αλλά επειδή τα δεδομένα εκπαίδευσης ήταν μη ισορροπημένα. Το AI κυριολεκτικά δεν είδε αρκετά διαφορετικά πρόσωπα για να μάθει να τα αναγνωρίζει αξιόπιστα.
⚠️ Μοντέλα πιστωτικής βαθμολόγησης
Η πιστωτική βαθμολόγηση μέσω τεχνητής νοημοσύνης διδάχθηκε από ιστορικά δεδομένα δανεισμού που αντικατόπτριζαν δεκαετίες μεροληπτικών πρακτικών δανεισμού. Redlining. Αρπακτικά δάνεια σε υποβαθμισμένες γειτονιές. Η τεχνητή νοημοσύνη κωδικοποίησε αυτά τα πρότυπα ως «σωστές αποφάσεις δανεισμού» και τα διαιώνισε. Νόμιμος διαχωρισμός, αυτοματοποιημένος και σε κλίμακα.
Σε κάθε μία περίπτωση, ο αλγόριθμος λειτούργησε σωστά. Έμαθε τα πρότυπα στα δεδομένα. Τα δεδομένα ήταν μεροληπτικά. Έτσι, η τεχνητή νοημοσύνη έγινε μεροληπτική. Σκουπίδια μέσα, σκουπίδια έξω. Διακρίσεις μέσα, διακρίσεις έξω.
Αυτό δεν είναι ένα δευτερεύον τεχνικό πρόβλημα. Είναι μια θεμελιώδης πρόκληση. Δεν μπορείς να φτιάξεις δίκαιη τεχνητή νοημοσύνη από άδικα δεδομένα. Οι καλύτεροι αλγόριθμοι δεν βοηθούν. Μόνο καλύτερα δεδομένα βοηθούν. Πιο διαφορετικά. Πιο αντιπροσωπευτικά. Σκόπιμα απαλλαγμένα από μεροληψία.
Το πιο τρομακτικό μέρος; Η μεροληπτική τεχνητή νοημοσύνη φαίνεται αντικειμενική. Το «το είπε ο υπολογιστής» ακούγεται πιο έγκυρο από το «αποφάσισε ένα άτομο». Αλλά ο υπολογιστής έμαθε από μεροληπτικούς ανθρώπους που έπαιρναν μεροληπτικές αποφάσεις. Το μόνο που κάνει η τεχνητή νοημοσύνη είναι να αυτοματοποιεί και να κλιμακώνει αυτή τη μεροληψία, κάνοντάς την να φαίνεται επιστημονική και ουδέτερη, ενώ δεν είναι τίποτα από τα δύο. Η μεροληψία στα δεδομένα είναι εκεί όπου η τεχνητή νοημοσύνη περνά από χρήσιμο εργαλείο σε όργανο βλάβης.
Ποιες Ερωτήσεις να Κάνετε για Οποιοδήποτε Σύστημα Τεχνητής Νοημοσύνης
Είτε φτιάχνετε τεχνητή νοημοσύνη, είτε την αγοράζετε, είτε απλώς τη χρησιμοποιείτε στην καθημερινή σας ζωή, ορίστε οι ερωτήσεις που πρέπει να κάνετε. Οι απαντήσεις σας λένε αν μπορείτε να την εμπιστευτείτε.
-
?
Από πού προήλθαν τα δεδομένα εκπαίδευσης;
Οι συγκεκριμένες πηγές έχουν σημασία. Δημόσια δεδομένα από το διαδίκτυο; Επιμελημένα σύνολα δεδομένων; Εταιρικά αρχεία; Κάθε πηγή έχει διαφορετικές προκαταλήψεις και περιορισμούς. Αν δεν σας πουν, αυτό είναι ένα τεράστιο προειδοποιητικό σημάδι.
-
?
Πόσα δεδομένα χρησιμοποιήθηκαν; Πώς επισημάνθηκαν;
Οι αριθμοί έχουν σημασία. Το «χιλιάδες» σε σχέση με το «εκατομμύρια» κάνει τη διαφορά. Ποιος τα επισήμανε; Ειδικοί ή τυχαίοι χαμηλόμισθοι εργαζόμενοι; Πώς ελέγχθηκε η ποιότητα; Αυτές οι λεπτομέρειες καθορίζουν την αξιοπιστία.
-
?
Ταιριάζουν τα δεδομένα εκπαίδευσης με τη δική σας περίπτωση χρήσης;
Ένα AI εκπαιδευμένο σε επίσημα επιχειρηματικά έγγραφα θα δυσκολευτεί με ανεπίσημα μηνύματα κειμένου. Ένα άλλο εκπαιδευμένο σε ηλιόλουστες φωτογραφίες της Καλιφόρνια μπορεί να αποτύχει στο βροχερό Σιάτλ. Η αντιστοιχία έχει σημασία. Η ασυμφωνία σημαίνει αποτυχίες.
-
?
Ποιες ομάδες εκπροσωπούνται στα δεδομένα;
Όλες οι ηλικίες; Όλα τα φύλα; Όλες οι εθνότητες; Όλες οι γλώσσες; Ή κυρίως ένα δημογραφικό προφίλ; Τα μη ισορροπημένα δεδομένα δημιουργούν συστήματα που λειτουργούν άριστα για κάποιους και άσχημα για άλλους.
-
?
Ποιες γνωστές προκαταλήψεις υπάρχουν; Πώς αντιμετωπίστηκαν;
Κάθε σύνολο δεδομένων έχει προκαταλήψεις. Οι έντιμοι προγραμματιστές τις αναγνωρίζουν και εξηγούν τις προσπάθειες μετριασμού τους. Όποιος ισχυρίζεται ότι δεν υπάρχει καμία προκατάληψη είτε ψεύδεται είτε είναι επικίνδυνα αφελής.
-
?
Σε ποιες καταστάσεις θα αποδώσει άσχημα αυτό το AI;
Κάθε AI έχει όρια που βασίζονται στα δεδομένα εκπαίδευσής του. Τι δεν είδε; Τι δεν μπορεί να χειριστεί; Αν δεν μπορούν να απαντήσουν, δεν κατανοούν αρκετά καλά το ίδιο τους το σύστημα για να το αναπτύξουν με ασφάλεια.
Αν κάποιος που σου πουλάει AI δεν μπορεί να απαντήσει σε αυτές τις ερωτήσεις, φύγε. Ή δεν ξέρει (ανίκανος) ή δεν θέλει να σου πει (κρύβει προβλήματα). Σε κάθε περίπτωση, μην το εμπιστευτείς.
Το Μέλλον των Δεδομένων στο AI
Οι προκλήσεις με τα δεδομένα δεν εξαφανίζονται. Αλλά οι προσεγγίσεις εξελίσσονται. Να τι αλλάζει:
Συνθετικά Δεδομένα
Δημιουργία τεχνητών παραδειγμάτων εκπαίδευσης μέσω προσομοίωσης. Χρήσιμα για σπάνια σενάρια, επικίνδυνες καταστάσεις (όπως τροχαία ατυχήματα για αυτόνομα αυτοκίνητα) και τομείς με ευαίσθητα προσωπικά δεδομένα. Δεν αντικαθιστούν τα πραγματικά δεδομένα, αλλά αποτελούν πολύτιμο συμπλήρωμα που καλύπτει τα κενά.
Επαύξηση Δεδομένων
Δημιουργία παραλλαγών των υπαρχόντων παραδειγμάτων. Περιστρέψτε εικόνες, αναποδογυρίστε τις, προσαρμόστε τον φωτισμό. Αναδιατυπώστε προτάσεις. Προσθέστε θόρυβο υποβάθρου στον ήχο. Πολλαπλασιάζει τεχνητά το σύνολο δεδομένων σας, αυξάνοντας την ποικιλομορφία χωρίς να συλλέγετε νέα παραδείγματα από την αρχή.
Μάθηση από λίγα παραδείγματα
Τεχνικές για να μαθαίνεις από λιγότερα παραδείγματα, μεταφέροντας γνώση από προηγούμενες εργασίες. Όπως όταν έχεις μάθει αρκετές γλώσσες, η εκμάθηση μιας νέας γίνεται πιο εύκολη. Μειώνει τις απαιτήσεις σε δεδομένα για νέες εργασίες αξιοποιώντας την υπάρχουσα γνώση.
Μέθοδοι προστασίας απορρήτου
Μάθηση από δεδομένα χωρίς να τα βλέπεις άμεσα. Ομοσπονδιακή μάθηση (η τεχνητή νοημοσύνη εκπαιδεύεται στο τηλέφωνό σου χωρίς να στέλνει δεδομένα σε διακομιστές). Διαφορικό απόρρητο (προσθήκη προσεκτικού θορύβου ώστε να μην μπορούν να αναγνωριστούν μεμονωμένες εγγραφές). Επιτρέπει τη μάθηση από ευαίσθητα ιατρικά, οικονομικά και προσωπικά δεδομένα.
Ενεργητική μάθηση
Η τεχνητή νοημοσύνη ζητά ετικέτες μόνο για τα παραδείγματα για τα οποία δεν είναι σίγουρη. Αντί να επισημαίνεις ένα εκατομμύριο τυχαία παραδείγματα, επισήμανε τα χίλια παραδείγματα όπου η τεχνητή νοημοσύνη μπερδεύεται περισσότερο. Εστιάζει την ανθρώπινη προσπάθεια εκεί που έχει μεγαλύτερη σημασία, μειώνοντας δραστικά το κόστος επισήμανσης.
Αυτές οι τεχνικές βοηθούν, αλλά δεν εξαλείφουν τη θεμελιώδη αλήθεια: τα ποιοτικά δεδομένα είναι αναντικατάστατα. Μπορείς να μειώσεις το πόσα χρειάζεσαι. Μπορείς να δημιουργήσεις συμπληρώματα. Μπορείς να μαθαίνεις πιο αποτελεσματικά. Αλλά δεν μπορείς να ξεφύγεις από την εξίσωση «σκουπίδια μέσα, σκουπίδια έξω».
Η Ουσία (Τι Πρέπει Πραγματικά να Ξέρεις)
Ας το συνοψίσουμε με τις βασικές αλήθειες για τα δεδομένα στην τεχνητή νοημοσύνη:
Τα δεδομένα έχουν μεγαλύτερη σημασία από τους αλγορίθμους. Πάντα είχαν. Πάντα θα έχουν. Το πιο εντυπωσιακό και εξελιγμένο σύστημα τεχνητής νοημοσύνης στον κόσμο, εκπαιδευμένο με κακά δεδομένα, παράγει κακά αποτελέσματα. Ένα απλό σύστημα τεχνητής νοημοσύνης εκπαιδευμένο με ποιοτικά δεδομένα παράγει ποιοτικά αποτελέσματα. Κάθε φορά. Χωρίς εξαιρέσεις.
Η ποιότητα υπερτερεί της ποσότητας, αλλά χρειάζεσαι και τα δύο. Καλύτερα να έχεις 100.000 διαφορετικά, σωστά επισημασμένα και αντιπροσωπευτικά παραδείγματα παρά 10 εκατομμύρια επαναλαμβανόμενα, λανθασμένα επισημασμένα και μεροληπτικά παραδείγματα. Αλλά ιδανικά; Θέλεις εκατομμύρια ποιοτικά και διαφορετικά παραδείγματα. Και ποσότητα και ποιότητα.
Η προκατάληψη στα δεδομένα γίνεται προκατάληψη στην τεχνητή νοημοσύνη. Οι ιστορικές διακρίσεις γίνονται αλγοριθμικές διακρίσεις. Η μη ισορροπημένη εκπροσώπηση γίνεται αναξιόπιστη απόδοση για τις υποεκπροσωπούμενες ομάδες. Η τεχνητή νοημοσύνη δεν φιλτράρει την προκατάληψη. Τη μαθαίνει, την κωδικοποιεί, την ενισχύει και την εφαρμόζει συστηματικά.
Το μεγαλύτερο μέρος της εργασίας στην τεχνητή νοημοσύνη είναι η προετοιμασία δεδομένων, όχι η κατασκευή αλγορίθμων. 80% συλλογή, καθαρισμός, επισήμανση και επικύρωση δεδομένων. 20% μοντελοποίηση. Αυτή η αναλογία σου λέει τα πάντα. Ο αλγόριθμος είναι το εύκολο κομμάτι. Τα δεδομένα είναι το δύσκολο κομμάτι. Και το σημαντικό κομμάτι.
Κάθε τεχνητή νοημοσύνη έχει όρια που καθορίζονται από τα δεδομένα εκπαίδευσής της. Ό,τι δεν είδε, δεν μπορεί να το χειριστεί. Όπου τα δεδομένα ήταν προκατειλημμένα, θα είναι προκατειλημμένη. Όπου τα δεδομένα ήταν ελλιπή, θα αποτύχει. Καμία τεχνητή νοημοσύνη δεν υπερβαίνει τα δεδομένα εκπαίδευσής της. Τα δεδομένα καθορίζουν το ανώτατο όριο.
Θυμάσαι το βιβλίο συνταγών της μητέρας σου από την αρχή αυτού του άρθρου; Η συνταγή είναι τόσο καλή όσο και οι εμπειρίες στις οποίες βασίστηκε. Οι στενές εμπειρίες δημιουργούν στενές συνταγές. Οι προκατειλημμένες εμπειρίες δημιουργούν προκατειλημμένες συνταγές. Οι λανθασμένες πληροφορίες δημιουργούν συνταγές που δεν λειτουργούν.
Το ίδιο ισχύει και με την τεχνητή νοημοσύνη. Το σύστημα είναι τόσο καλό όσο και τα δεδομένα από τα οποία έμαθε. Τα στενά δεδομένα δημιουργούν στενή τεχνητή νοημοσύνη. Τα προκατειλημμένα δεδομένα δημιουργούν προκατειλημμένη τεχνητή νοημοσύνη. Τα κακά δεδομένα δημιουργούν τεχνητή νοημοσύνη που απλώς δεν λειτουργεί. Το «σκουπίδια μέσα, σκουπίδια έξω» δεν είναι απλώς μια πιασάρικη φράση. Είναι ο θεμελιώδης νόμος της τεχνητής νοημοσύνης. Αν τα δεδομένα είναι σωστά, ακόμη και οι απλοί αλγόριθμοι μπορούν να μάθουν χρήσιμα μοτίβα. Αν τα δεδομένα είναι λάθος, καμία αλγοριθμική πολυπλοκότητα δεν μπορεί να σε σώσει.
Τώρα ξέρεις γιατί τα δεδομένα είναι το παν στην τεχνητή νοημοσύνη. Και γιατί όποιος σου λέει το αντίθετο είτε προσπαθεί να σου πουλήσει κάτι είτε δεν καταλαβαίνει πώς λειτουργεί πραγματικά αυτή η τεχνολογία.
Στη Dweve, είμαστε διαφανείς σχετικά με τις απαιτήσεις δεδομένων. Τα συστήματά μας που βασίζονται σε περιορισμούς χρειάζονται ποιοτικά, αντιπροσωπευτικά παραδείγματα για να ανακαλύψουν έγκυρες λογικές σχέσεις. Χωρίς συντομεύσεις. Χωρίς μαγικά. Μόνο τίμια μηχανική που αναγνωρίζει μια απλή αλήθεια: δεν μπορείς να φτιάξεις αξιόπιστη τεχνητή νοημοσύνη από αναξιόπιστα δεδομένα. Επειδή το «σκουπίδια μέσα» πραγματικά σημαίνει «σκουπίδια έξω», κάθε φορά.