Η «Σήψη Δεξιοτήτων»: Θα μας Κάνει η Τεχνητή Νοημοσύνη Ανόητους;
Τα παιδιά του ματζέντα
Στον κλάδο της αεροπορίας υπάρχει ένα ανατριχιαστικό ντοκιμαντέρ γνωστό ως «Children of the Magenta». Αναφέρεται σε μια γενιά πιλότων που έμαθαν να πετούν με ιδιαίτερα αυτοματοποιημένα σύγχρονα αεροσκάφη. Το «ματζέντα» αναφέρεται στο χρώμα της γραμμής πορείας πτήσης στην αυτοματοποιημένη οθόνη πλοήγησης του πιλοτηρίου.
Αυτοί οι πιλότοι ήταν ειδικοί στον προγραμματισμό του υπολογιστή διαχείρισης πτήσης. Μπορούσαν να διαχειρίζονται τα συστήματα τέλεια. Ωστόσο, οι ερευνητές διαπίστωσαν ότι σε καταστάσεις κρίσης (όταν ο αυτοματισμός αποτύγχανε ή αποσυνδεόταν λόγω κακών δεδομένων από αισθητήρες) κάποιοι από αυτούς τους πιλότους πανικοβάλλονταν. Είχαν χάσει την «αίσθηση» του αεροπλάνου. Δυσκολεύονταν με τη βασική χειροκίνητη πτήση. Είχαν γίνει χειριστές συστημάτων, όχι αεροπόροι. Οι βασικές τους δεξιότητες είχαν σαπίσει.
Αυτή τη στιγμή προκαλούμε αυτό το φαινόμενο σε ολόκληρη την παγκόσμια οικονομία της γνώσης.
Δίνουμε σε νέους προγραμματιστές εργαλεία που γράφουν κώδικα που δεν καταλαβαίνουν. Δίνουμε σε νέους δικηγόρους εργαλεία που συντάσσουν συμβόλαια που δεν έχουν διαβάσει. Δίνουμε σε φοιτητές ιατρικής διαγνωστικά εργαλεία που εντοπίζουν όγκους που δεν μπορούν να δουν.
Αυτό λειτουργεί μια χαρά όταν ο καιρός είναι αίθριος και ο αυτοματισμός λειτουργεί. Τι γίνεται όμως όταν το σύστημα αποτύχει; Και το πιο σημαντικό: αν η μηχανή κάνει όλη την εξάσκηση, πώς θα φτάσουν ποτέ οι άνθρωποι στην τελειότητα;
Η Γνωστική Ατροφία
Αυτός είναι ο κίνδυνος του Skill Rot. Είναι η σταδιακή φθορά της ανθρώπινης ικανότητας λόγω αχρησίας. Είναι το "The Google Maps Effect" στα στεροειδή. Πριν από το GPS, οι άνθρωποι είχαν έναν νοητικό χάρτη της πόλης τους· κατανοούσαν τις χωρικές σχέσεις. Τώρα, ακολουθούμε τη μπλε γραμμή. Αν τελειώσει η μπαταρία, χανόμαστε στη δική μας γειτονιά.
Στη μηχανική λογισμικού, βλέπουμε την άνοδο του "Copy-Paste Senior". Πρόκειται για προγραμματιστές με 2 χρόνια εμπειρίας που μπορούν να παράγουν το αποτέλεσμα ενός βετεράνου 10 ετών βασιζόμενοι σε μεγάλο βαθμό στους βοηθούς τεχνητής νοημοσύνης. Αλλά όταν τους ζητήσεις να διορθώσουν μια συνθήκη ανταγωνισμού (race condition), ή να εξηγήσουν γιατί επέλεξαν μια συγκεκριμένη αρχιτεκτονική, καταρρέουν. Έχουν την παραγωγικότητα, αλλά όχι το βάθος.
Αυτό είναι επικίνδυνο γιατί το λογισμικό είναι πολύπλοκο. Ο κώδικας που γράφεται από τεχνητή νοημοσύνη συχνά περιέχει διακριτικά σφάλματα ή τρωτά σημεία ασφαλείας που μόνο ένας πραγματικός ειδικός μπορεί να εντοπίσει. Αν εξαλείψουμε τον αγώνα της μάθησης (τις ώρες που χτυπάς το κεφάλι σου στον τοίχο προσπαθώντας να καταλάβεις ένα σφάλμα δείκτη) εξαλείφουμε τη διαδικασία που δημιουργεί ειδικούς.
Το Παράδοξο του Μαθητευόμενου
Αυτό οδηγεί σε μια διαρθρωτική κρίση στην αγορά εργασίας: Το Παράδοξο του Μαθητευόμενου.
Ιστορικά, οι έμπειροι ειδικοί δημιουργήθηκαν κάνοντας «χειρωνακτική δουλειά» ως κατώτεροι. Έμαθες να γράφεις εξαιρετικά νομικά υπομνήματα γράφοντας εκατοντάδες βαρετά και λαμβάνοντας κριτική από έναν εταίρο. Έμαθες να διαγιγνώσκεις σπάνιες ασθένειες βλέποντας χιλιάδες συνηθισμένες κατά τη διάρκεια της ειδικότητας.
Αν η τεχνητή νοημοσύνη αυτοματοποιήσει τη χειρωνακτική δουλειά (αν γράφει τον τυποποιημένο κώδικα, συνοψίζει τα έγγραφα και κάνει τη διαλογή των ασθενών) τι απομένει για τον κατώτερο; Πώς αποκτά τις «επαναλήψεις»; Αν παραλείψεις τη μαθητεία, δεν μπορείς να γίνεις μάστορας. Παραμένεις απλώς ένας μόνιμος αρχάριος με μια πραγματικά ισχυρή αριθμομηχανή.
Η Λύση της Dweve: Ενισχυμένη Νοημοσύνη
Στη Dweve, σχεδιάζουμε τα εργαλεία μας για να καταπολεμήσουμε τη Φθορά των Δεξιοτήτων. Είμαστε ιδεολογικά αντίθετοι με τον «Αυτοματισμό» που αντικαθιστά τη σκέψη. Πιστεύουμε στην «Ενίσχυση» που ενισχύει τη σκέψη.
Πιστεύουμε ότι η τεχνητή νοημοσύνη θα πρέπει να είναι ένα ποδήλατο για το μυαλό (να σε κάνει να πηγαίνεις πιο γρήγορα), όχι ένα αναπηρικό καροτσάκι για το μυαλό (να σε μεταφέρει επειδή δεν μπορείς να περπατήσεις).
1. Επεξηγηματική Λειτουργία: Η ΤΝ ως Δάσκαλος
Όταν ο βοηθός κωδικοποίησής μας προτείνει μια διόρθωση, δεν επικολλά απλώς σιωπηλά τον κώδικα. Μπαίνει σε «Επεξηγηματική Λειτουργία». Επισημαίνει τις γραμμές που άλλαξε και εξηγεί το γιατί.
- «Άλλαξα αυτόν τον βρόχο σε συνάρτηση map επειδή είναι πιο αποδοτική ως προς τη μνήμη σε αυτό το πλαίσιο.»
- «Πρόσθεσα έναν έλεγχο απολύμανσης εδώ επειδή αυτή η είσοδος θα μπορούσε να είναι ευάλωτη σε XSS.»
Μετατρέπει τη διόρθωση σφαλμάτων σε μικρό μάθημα. Αναγκάζει τον χρήστη να ασχοληθεί με τη λογική, όχι μόνο με το αποτέλεσμα. Μεταφέρει γνώση από το μοντέλο στον άνθρωπο.
2. Ο Άνθρωπος στον Βρόχο από Σχεδιασμό
Τα συστήματα κρίσιμων αποφάσεών μας (για την ιατρική, τη νομική και τα οικονομικά) έχουν σχεδιαστεί για να προτείνουν και να αιτιολογούν, ποτέ για να αποφασίζουν σιωπηλά. Αυτό το ονομάζουμε «Επιχειρηματολογική Διεπαφή».
Η ΤΝ παρουσιάζει ένα προσχέδιο: «Συνιστώ την έγκριση αυτού του δανείου». Αλλά παρουσιάζει και το επιχείρημα: «Επειδή ο δείκτης χρέους είναι χαμηλός και οι εξασφαλίσεις είναι υψηλές». Αναγκάζει τον ανθρώπινο εμπειρογνώμονα να εξετάσει τα λογικά βήματα και να τα εγκρίνει. Αυτό διατηρεί τον άνθρωπο «στον βρόχο» γνωστικά, όχι μόνο διαδικαστικά.
3. Διαδραστικός Εντοπισμός Σφαλμάτων
Επειδή τα μοντέλα μας είναι διαφανή (Glass Box), οι χρήστες μπορούν να διαφωνήσουν μαζί τους. Αν η ΤΝ πει «Αυτή είναι μια γάτα», ο χρήστης μπορεί να ρωτήσει «Γιατί;». Η ΤΝ δείχνει τα χαρακτηριστικά που εντόπισε. Ο χρήστης μπορεί να πει «Όχι, αυτό είναι σκύλος, κοίτα τα αυτιά».
Αυτή η διαλεκτική διαδικασία (ο διάλογος εμπρός-πίσω μεταξύ ανθρώπου και μηχανής) οξύνει την κριτική σκέψη του χρήστη. Ενθαρρύνει τον σκεπτικισμό. Αποτρέπει τον εφησυχασμό του «Ο Υπολογιστής Λέει Όχι».
Διατηρώντας την Τέχνη
Πρέπει να προστατεύσουμε την «Τέχνη». Τη βαθιά, διαισθητική κατανόηση που προέρχεται από τον αγώνα, την εξάσκηση και την αποτυχία.
Η ΤΝ θα πρέπει να αφαιρεί τη ρουτίνα (τη γραφειοκρατία, την εισαγωγή δεδομένων, τη μορφοποίηση). Αλλά δεν πρέπει να αφαιρεί τη σκέψη. Δεν πρέπει να αφαιρεί την κρίση.
Αν φτιάξουμε ΤΝ που μας κάνει ηλίθιους, έχουμε αποτύχει ως είδος. Έχουμε φτιάξει ένα δεκανίκι αντί για ένα εργαλείο.
Στη Dweve, φτιάχνουμε εργαλεία που μας προκαλούν να γίνουμε καλύτεροι. Φτιάχνουμε εργαλεία που απαιτούν έξυπνους χρήστες. Επειδή το μέλλον δεν θα πρέπει να είναι μόνο εξυπνότερες μηχανές· θα πρέπει να είναι εξυπνότεροι άνθρωποι.
Ψάχνετε για AI που κάνει την ομάδα σας πιο έξυπνη, όχι εξαρτημένη; Η αρχιτεκτονική Glass Box και η Λειτουργία Επεξήγησης της Dweve διασφαλίζουν ότι οι ειδικοί σας εξελίσσονται παράλληλα με την τεχνολογία. Επικοινωνήστε μαζί μας για να ανακαλύψετε πώς η επαυξημένη νοημοσύνη μπορεί να διατηρήσει και να ενισχύσει την ανθρώπινη εμπειρογνωμοσύνη στον οργανισμό σας.