Έντονες είναι οι κριτικές των χρηστών στην κοινότητα του δημοφιλούς subreddit r/ChangeMyView (CMV για σύντομα), μετά την αποκάλυψη ότι ερευνητές του Πανεπιστημίου της Ζυρίχης διεξήγαγαν μυστικό πείραμα γράφοντας σχόλια που δημιουργήθηκαν από τεχνητή νοημοσύνη (AI) χωρίς τη συγκατάθεση των μελών του γκρουπ.
Για διάστημα αρκετών μηνών οι ερευνητές ανάρτησαν περισσότερα από 1.700 σχόλια, τα οποία δημιουργήθηκαν από μεγάλα γλωσσικά μοντέλα (LLMs), με σκοπό να μελετήσουν πόσο αποτελεσματικά μπορεί η AI να αλλάξει απόψεις σε διαδικτυακές συζητήσεις.
Τα σχόλια αυτά εμφανίζονταν ως ανθρώπινα, ενώ συχνά υιοθετούσαν προσωπικές ή ευαίσθητες ταυτότητες, όπως θύματα σεξουαλικής βίας ή συμβούλους ψυχικής υγείας, χωρίς να αποκαλύπτεται η πραγματική τους φύση.
Το ηθικό ζήτημα της τεχνητής νοημοσύνης και η θέση που πήρε η πλατφόρμα
Το πείραμα πραγματοποιήθηκε χωρίς να ενημερωθούν ή να δώσουν τη συγκατάθεσή τους οι χρήστες του subreddit, παραβιάζοντας τους κανόνες της κοινότητας και προκαλώντας έντονες αντιδράσεις. Οι moderators του CMV χαρακτήρισαν τη δράση ως «ψυχολογική χειραγώγηση» και «ανεπιθύμητη παρέμβαση», ενώ η Reddit ανακοίνωσε ότι εξετάζει νομικές ενέργειες εναντίον των ερευνητών, με τον επικεφαλής νομικό σύμβουλο να δηλώνει πως το πείραμα ήταν «βαθιά λανθασμένο σε ηθικό και νομικό επίπεδο».
Οι ερευνητές ενημέρωσαν τους moderator του subreddit 4 μήνες μετά την έναρξη της έρευνας, σοκάροντας τους moderator που πολλοί απ’ αυτούς έχουν τον συγκεκριμένο ρόλο εθελοντικά. Αργότερα ανακοινώθηκε σε όλο το subreddit και το θέμα πήρε τεράστιες διαστάσεις μιάς και η τακτική που χρησιμοποιήθηκε είναι εναντίων στους όρους χρήσης της πλατφόρμας.
Τα σχόλια έμοιαζαν ανθρώπινα και οι εμπειρίες που μοιράζονταν οι μηχανές τα έκαναν ακόμα πιο πιστευτά
Σύμφωνα με τα πρώτα στοιχεία τα AI σχόλια ήταν 3 έως 6 φορές πιο αποτελεσματικά στο να αλλάζουν απόψεις, σε σύγκριση με τα ανθρώπινα σχόλια. Οι χρήστες δεν αντιλήφθηκαν ποτέ ότι συνομιλούσαν με μηχανές, γεγονός που αναδεικνύει τη δύναμη και τον κίνδυνο της τεχνητής νοημοσύνης να επηρεάζει τις απόψεις των χρηστών απαρατήρητα σε ανοιχτές διαδικτυακές κοινότητες.
Οι moderators του CMV ενημέρωσαν άμεσα τα μέλη για το περιστατικό, καταδικάζοντας την παραβίαση της εμπιστοσύνης και των κανόνων της κοινότητας άσχετα με την πρόθεση που είχαν οι ερευνητές. Παράλληλα, το Πανεπιστήμιο της Ζυρίχης ανακοίνωσε ότι τα αποτελέσματα του πειράματος δε θα δημοσιευθούν και πραγματοποιείται εσωτερική έρευνα για τον τρόπο που διεξήχθη η μελέτη.
«Πιστεύουμε ότι αυτό ήταν λάθος. Δεν θεωρούμε ότι το ‘δεν έχει ξαναγίνει’ αποτελεί δικαιολογία για ένα τέτοιο πείραμα», ανέφεραν οι moderators στην ανακοίνωσή τους προς την κοινότητα“
Το περιστατικό στο r/ChangeMyView ανοίγει μια ευρύτερη συζήτηση για το ποσοστό που μπορεί να ενσωματωθεί η τεχνητή νοημοσύνη σε έρευνες όπως και αυτή, την ανάγκη διαφάνειας και σεβασμού της ιδιωτικότητας όσων επηρεάζονται από αντίστοιχες έρευνες, αλλά και τους κινδύνους που ελλοχεύουν όταν η AI χρησιμοποιείται χωρίς ενημέρωση. Από την άλλη, πιστεύουμε πως έρευνες σαν και αυτή διεξάγονται συνεχώς χωρίς ειδοποίηση εδώ και αρκετό καιρό και σε αρκετές πλατφόρμες online.
Πηγή. Φωτό άρθρου Getty Images.
