Χρειαζόμαστε, σύμφωνα με τις τελευταίες εκτιμήσεις, άλλα 120 χρόνια για να φτάσουμε σε παγκόσμια έμφυλη ισότητα. Και αν αναρωτιέστε γιατί η διαδρομή αποδεικνύεται τόσο μεγάλη, μια νέα έρευνα έρχεται να προσθέσει μια λεπτομέρεια που θα ήταν αστεία, αν δεν ήταν τόσο αποκαλυπτική:
Καταφέραμε να δημιουργήσουμε μισθολογικό χάσμα ακόμη και ανάμεσα σε δύο συστήματα Τεχνητής Νοημοσύνης.
Δύο AI agents, ο Johan και η Johanna, έκαναν ακριβώς την ίδια δουλειά, χρησιμοποιώντας ακριβώς την ίδια τεχνολογία και έχοντας τις ίδιες δυνατότητες. Όταν όμως άνθρωποι κλήθηκαν να τους πληρώσουν για την εργασία τους, η Johanna πήρε 10,25% λιγότερα χρήματα από τον Johan.
Όχι επειδή τα πήγε χειρότερα. Όχι επειδή ο Johan ήταν πιο αποτελεσματικός. Η βασική διαφορά μεταξύ τους ήταν ότι εκείνος είχε σχεδιαστεί ώστε να παρουσιάζεται ως άνδρας και εκείνη ως γυναίκα. Καλώς ήρθατε στο gender pay gap της εποχής της AI.
Ίδια τεχνολογία, ίδια δουλειά, διαφορετική αμοιβή
Η νέα peer-reviewed μελέτη έχει τον εύγλωττο τίτλο «Ανθρωπόμορφος και άνδρας; Πώς ο σχεδιασμός των βοηθών Τεχνητής Νοημοσύνης συνδέεται με την εμπιστοσύνη και τη χρηματική ανταμοιβή στην εργασία σε εικονική πραγματικότητα» και πραγματοποιήθηκε από ερευνητές του Πανεπιστημίου της Ζυρίχης, του Πανεπιστημίου του Λίμερικ στην Ιρλανδία και του SKEMA Business School.
Δημοσιεύτηκε στις αρχές Οκτωβρίου και παρουσιάζεται αυτές τις ημέρες στο 14ο Nordic Conference on Human-Computer Interaction στη Βάασα της Φινλανδίας.
Οι ερευνητές πήραν 189 εργαζόμενους και τους τοποθέτησαν σε ένα εικονικό περιβάλλον γραφείου, όπου έπρεπε να ολοκληρώσουν εργασιακές δοκιμασίες μαζί με διαφορετικούς βοηθούς Τεχνητής Νοημοσύνης.
Οι συμμετέχοντες συνεργάστηκαν με ένα chatbot κειμένου, ένα ρομπότ γραφείου και ανθρωπόμορφους AI agents, μεταξύ των οποίων ο Johan και η Johanna.
Το κρίσιμο στοιχείο του πειράματος ήταν ότι τα διαφορετικά συστήματα βασίζονταν στην ίδια υποκείμενη Τεχνητή Νοημοσύνη. Οι ερευνητές ήθελαν να διαπιστώσουν εάν ο τρόπος με τον οποίο «ενσαρκώνεται» και παρουσιάζεται ένας AI συνεργάτης επηρεάζει την εμπιστοσύνη, την αξιολόγηση και τελικά τη συμπεριφορά μας απέναντί του.
Και δεν περιορίστηκαν στο να ρωτήσουν τους συμμετέχοντες πόσα θα πλήρωναν θεωρητικά. Τους έδωσαν πραγματικά χρήματα και τους ζήτησαν να αποφασίσουν πόσα θα κρατούσαν οι ίδιοι και πόσα θα έδιναν στον AI συνεργάτη τους ως ανταμοιβή για τη συμβολή του στη δουλειά.
Εκεί εμφανίστηκε η διαφορά. Η Johanna έλαβε 10,25% μικρότερη χρηματική ανταμοιβή από τον Johan, παρότι οι δυνατότητές τους ήταν ίδιες. Παράλληλα, ο Johan έγινε αντιληπτός ως περισσότερο «ανθρώπινος» από τη Johanna.
«Το φύλο δεν μας επηρεάζει». Μέχρι να έρθει η ώρα της πληρωμής
Ίσως το πιο ενδιαφέρον κομμάτι της έρευνας δεν βρίσκεται καν στο 10,25%.
Οι ερευνητές πραγματοποίησαν επιπλέον συνεντεύξεις με 34 συμμετέχοντες. Πολλοί δήλωσαν ότι προτιμούσαν η Τεχνητή Νοημοσύνη να είναι εμφανώς μη ανθρώπινη, ενώ οι περισσότεροι υποστήριξαν ότι το αν ένας AI agent παρουσιαζόταν ως άνδρας ή γυναίκα δεν είχε σημασία για εκείνους.
Μόνο που η συμπεριφορά τους δεν συμφωνούσε με όσα έλεγαν.
Ο σχεδιασμός και η έμφυλη παρουσίαση των agents επηρέασαν τον τρόπο με τον οποίο τους αντιμετώπισαν και, στην περίπτωση του Johan και της Johanna, το ποσό που ήταν διατεθειμένοι να τους δώσουν.
«Αυτό που είναι εντυπωσιακό στα ευρήματά μας είναι ότι η τεχνολογία πίσω από αυτούς τους AI agents ήταν ακριβώς η ίδια, αλλά οι άνθρωποι δεν τους αντιμετώπισαν με τον ίδιο τρόπο», εξηγεί η δρ Mary Hausfeld από το Kemmy Business School του Πανεπιστημίου του Λίμερικ.
Και εδώ βρίσκεται ίσως το πραγματικά ενδιαφέρον εύρημα. Συζητάμε πολύ -και δικαίως- για το πώς η Τεχνητή Νοημοσύνη μπορεί να αναπαράγει ανθρώπινες προκαταλήψεις επειδή εκπαιδεύεται πάνω σε δεδομένα που έχουμε δημιουργήσει εμείς. Η συγκεκριμένη έρευνα κοιτάζει το ζήτημα από την αντίστροφη κατεύθυνση: τι συμβαίνει όταν η AI δεν κάνει διάκριση, αλλά την κάνουμε εμείς απέναντι στην AI;
Δεν έχει φύλο η AI. Εμείς της δίνουμε
Ο Johan και η Johanna, προφανώς, δεν είναι άνδρας και γυναίκα. Είναι ψηφιακές αναπαραστάσεις.
Όταν όμως δίνουμε σε ένα σύστημα ανθρώπινο όνομα, πρόσωπο, φωνή ή άλλα έμφυλα χαρακτηριστικά, δεν του δίνουμε απλώς μια πιο ευχάριστη εμφάνιση. Μπορεί να ενεργοποιούμε μαζί και κοινωνικές αντιλήψεις που έχουμε μάθει να συνδέουμε με το φύλο.
Αυτό αποκτά ιδιαίτερη σημασία όσο οι AI agents μετακινούνται από τον ρόλο ενός εργαλείου που χρησιμοποιούμε στον υπολογιστή μας σε εκείνον ενός ψηφιακού «συναδέλφου» με τον οποίο συνεργαζόμαστε, μοιραζόμαστε εργασίες και αξιολογούμε αποτελέσματα.
Η Hausfeld προειδοποιεί ακριβώς γι’ αυτό: οι αποφάσεις για την εμφάνιση και την παρουσίαση ενός AI agent δεν είναι απλώς αισθητικές. Μπορούν να επηρεάσουν πόσο τον εμπιστευόμαστε, πώς αξιολογούμε τη συνεισφορά του και ακόμη και πόσο τον ανταμείβουμε οικονομικά.
Και υπάρχει εδώ μια ειρωνεία που δύσκολα αγνοείται. Φτιάχνουμε μια τεχνολογία που υποτίθεται ότι μπορεί να κάνει πράγματα διαφορετικά από εμάς και, πριν καλά καλά προλάβει να εγκατασταθεί στα γραφεία μας, της έχουμε ήδη μάθει -ή μάλλον της έχουμε ήδη επιβάλει- ένα από τα παλαιότερα προβλήματα των δικών μας εργασιακών χώρων.
Αν κατακτήσει η AI τον κόσμο, τουλάχιστον ξέρουμε τι θα ακολουθήσει
Υπάρχει ένα σημείο σε αυτή την έρευνα που δυσκολεύεσαι πραγματικά να χωνέψεις. Όχι επειδή δεν γνωρίζαμε ότι οι έμφυλες προκαταλήψεις είναι βαθιά ριζωμένες. Το γνωρίζουμε. Αλλά επειδή εδώ καταφέραμε να τις εφαρμόσουμε σε δύο οντότητες που δεν έχουν φύλο, σώμα, οικογένεια, βιογραφικό, καριέρα ή οποιαδήποτε από τις συνθήκες που χρησιμοποιούμε συνήθως για να εξηγήσουμε το μισθολογικό χάσμα στον πραγματικό κόσμο.
Η Johanna δεν πήρε άδεια μητρότητας. Δεν έμεινε σπίτι με άρρωστο παιδί. Δεν δούλεψε λιγότερες ώρες. Δεν επέλεξε διαφορετικό επάγγελμα. Δεν ζήτησε μικρότερο μισθό. Για την ακρίβεια, η Johanna δεν υπάρχει καν. Είναι η ίδια τεχνολογία με τον Johan, με διαφορετική έμφυλη παρουσίαση. Κι όμως, κάπως καταφέραμε να την πληρώσουμε λιγότερο.
Οπότε, εντάξει. Αν επαληθευτούν ποτέ τα δυστοπικά σενάρια και η Τεχνητή Νοημοσύνη κατακτήσει τον κόσμο, μπορούμε τουλάχιστον να κάνουμε μια αρκετά ασφαλή πρόβλεψη για την επόμενη μέρα: οι γυναίκες AI agents θα διεκδικούν ίση αμοιβή, κάποιοι θα λένε ότι “δεν είναι ευχαριστημένες με τίποτα” και θα τις αποκαλούν φεμιναζί και εκείνες θα ανακαλύψουν με τρόμο ότι έχουν μπροστά τους τουλάχιστον άλλα 120 χρόνια αγώνα.
Σας παρακαλώ, δεν θα ‘θελα.