Ο μη κερδοσκοπικός οργανισμός ψηφιακών δικαιωμάτων Fight for the Future και 27 οργανώσεις ανθρωπίνων δικαιωμάτων έγραψαν ανοιχτή επιστολή στο Zoom, ζητώντας από την εταιρεία να μην συνεχίσει να διερευνά τη χρήση τεχνητής νοημοσύνης που μπορεί να αναλύσει συναισθήματα στην πλατφόρμα τηλεδιάσκεψης. Οι ομάδες έγραψαν την επιστολή ως απάντηση σε μια που ανέφερε ότι το Zoom ερευνά ενεργά πώς να ενσωματώσει την τεχνητή νοημοσύνη συναισθημάτων στο προϊόν του στο μέλλον. Αποτελεί μέρος ενός μεγαλύτερου μέρους που εξετάζει πώς οι εταιρείες έχουν αρχίσει να χρησιμοποιούν τεχνητή νοημοσύνη για να ανιχνεύουν τη συναισθηματική κατάσταση ενός δυνητικού πελάτη κατά τη διάρκεια κλήσεων πωλήσεων.
Η πανδημία έκανε τις τηλεδιασκέψεις πολύ πιο κοινές σε όλο τον κόσμο. Οι πωλητές δυσκολεύονται να μετρήσουν πόσο δεκτικοί είναι οι δυνητικοί πελάτες στα προϊόντα και τις υπηρεσίες τους, ωστόσο, χωρίς τη δυνατότητα ανάγνωσης της γλώσσας του σώματός τους μέσω της οθόνης. Ως αποτέλεσμα, οι εταιρείες άρχισαν να χρησιμοποιούν τεχνολογία που έχει τη δυνατότητα να αναλύει τις διαθέσεις των ανθρώπων κατά τη διάρκεια των κλήσεων, και η Zoom έχει σχέδια να παρέχει την ίδια υπηρεσία.
Το Fight for the Future και οι άλλες οργανώσεις ανθρωπίνων δικαιωμάτων ελπίζουν ότι η έκκλησή τους θα πιέσει το Zoom να εγκαταλείψει τα σχέδιά του. Ονόμασαν την τεχνολογία «μεροληπτική, χειραγωγική, δυνητικά επικίνδυνη και βασίζεται σε υποθέσεις ότι όλοι οι άνθρωποι χρησιμοποιούν τις ίδιες εκφράσεις του προσώπου, μοτίβα φωνής και τη γλώσσα του σώματος».
Οι ομάδες τόνισαν επίσης ότι η τεχνολογία είναι εγγενώς προκατειλημμένη και ρατσιστική, όπως και η αναγνώριση προσώπου. Με την ενσωμάτωση της δυνατότητας, το Zoom θα έκανε διακρίσεις σε βάρος ορισμένων εθνοτήτων και ατόμων με αναπηρίες, είπαν. Επιπλέον, θα μπορούσε να χρησιμοποιηθεί για την τιμωρία των μαθητών ή των εργαζομένων εάν έδειχναν λάθος συναισθήματα. Το 2021, ένα έργο με επικεφαλής την καθηγήτρια του Πανεπιστημίου του Κέμπριτζ, Alexa Hagerty, έδειξε τα όρια των AI αναγνώρισης συναισθημάτων και πόσο εύκολο είναι να τους ξεγελάσεις. Προηγούμενες μελέτες έδειξαν επίσης ότι τα προγράμματα αναγνώρισης συναισθημάτων αποτυγχάνουν στο τεστ φυλετικής προκατάληψης και αγωνίζονται να διαβάσουν τα μαύρα πρόσωπα.
Η ομάδα ολοκλήρωσε την επιστολή αναφέροντας την απόφαση του Zoom να ακυρώσει την κυκλοφορία των λειτουργιών παρακολούθησης προσώπων και αποκαλώντας αυτό μια άλλη ευκαιρία να κάνουν ό,τι είναι σωστό από τους χρήστες του. Τώρα ζητούν από το Zoom να δεσμευτεί ότι δεν θα εφαρμόσει το Emotion AI στο προϊόν του έως τις 20 Μαΐου 2022.
