Στην ΕΕ, ο GDPR απαιτεί οι πληροφορίες για τα άτομα να είναι ακριβείς και να έχουν πλήρη πρόσβαση στις αποθηκευμένες πληροφορίες, καθώς και στις πληροφορίες σχετικά με την πηγή. Παραδόξως, ωστόσο, το OpenAI παραδέχεται ανοιχτά ότι δεν είναι σε θέση να διορθώσει εσφαλμένες πληροφορίες στο ChatGPT. Επιπλέον, η εταιρεία δεν μπορεί να πει από πού προέρχονται τα δεδομένα ή ποια δεδομένα αποθηκεύει το ChatGPT για μεμονωμένα άτομα. Η εταιρεία γνωρίζει καλά αυτό το πρόβλημα, αλλά δεν φαίνεται να ενδιαφέρεται. Αντίθετα, το OpenAI απλώς υποστηρίζει ότι « η πραγματική ακρίβεια σε μεγάλα γλωσσικά μοντέλα παραμένει ένας τομέας ενεργούς έρευνας». Ως εκ τούτου, η noyb υπέβαλε σήμερα καταγγελία κατά του OpenAI στην αυστριακή DPA.
Το ChatGPT συνεχίζει να έχει παραισθήσεις - και ούτε το OpenAI δεν μπορεί να το σταματήσει. Η κυκλοφορία του ChatGPT τον Νοέμβριο του 2022 προκάλεσε μια άνευ προηγουμένου διαφημιστική εκστρατεία AI. Οι άνθρωποι άρχισαν να χρησιμοποιούν το chatbot για κάθε είδους σκοπούς, συμπεριλαμβανομένων εργασιών έρευνας. Το πρόβλημα είναι ότι, σύμφωνα με το ίδιο το OpenAI, η εφαρμογή παράγει μόνο «απαντήσεις στα αιτήματα των χρηστών προβλέποντας τις επόμενες πιο πιθανές λέξεις που μπορεί να εμφανιστούν ως απόκριση σε κάθε ερώτηση». Με άλλα λόγια: Ενώ η εταιρεία διαθέτει εκτεταμένα δεδομένα εκπαίδευσης, προς το παρόν δεν υπάρχει τρόπος να εγγυηθούμε ότι το ChatGPT εμφανίζει στους χρήστες πραγματικά σωστές πληροφορίες. Αντίθετα, τα εργαλεία παραγωγής τεχνητής νοημοσύνης είναι γνωστό ότι τακτικά «παραισθάνονται», δηλαδή απλώς συνθέτουν απαντήσεις.
Εντάξει για την εργασία, αλλά όχι για τα δεδομένα για τα άτομα. Αν και οι ανακριβείς πληροφορίες μπορεί να είναι ανεκτές όταν ένας μαθητής χρησιμοποιεί το ChatGPT για να τον βοηθήσει με την εργασία του, είναι απαράδεκτο όταν πρόκειται για πληροφορίες για άτομα. Από το 1995, η νομοθεσία της ΕΕ απαιτεί τα προσωπικά δεδομένα να είναι ακριβή. Επί του παρόντος, αυτό κατοχυρώνεται στο άρθρο 5 του ΓΚΠΔ. Τα άτομα έχουν επίσης δικαίωμα διόρθωσης σύμφωνα με το άρθρο 16 του ΓΚΠΔ εάν τα δεδομένα είναι ανακριβή και μπορούν να ζητήσουν τη διαγραφή ψευδών πληροφοριών. Επιπλέον, σύμφωνα με το «δικαίωμα πρόσβασης» στο άρθρο 15, οι εταιρείες πρέπει να είναι σε θέση να δείχνουν ποια δεδομένα διαθέτουν για άτομα και ποιες είναι οι πηγές.
Maartje de Graaf, δικηγόρος προστασίας δεδομένων στο noyb : «Η δημιουργία ψευδών πληροφοριών είναι από μόνη της αρκετά προβληματική. Αλλά όταν πρόκειται για ψευδείς πληροφορίες για άτομα, μπορεί να υπάρξουν σοβαρές συνέπειες. Είναι σαφές ότι οι εταιρείες δεν μπορούν επί του παρόντος να κάνουν chatbots όπως το ChatGPT να συμμορφώνονται με τη νομοθεσία της ΕΕ, όταν επεξεργάζονται δεδομένα για άτομα. Εάν ένα σύστημα δεν μπορεί να παράγει ακριβή και διαφανή αποτελέσματα, δεν μπορεί να χρησιμοποιηθεί για τη δημιουργία δεδομένων για άτομα. Η τεχνολογία πρέπει να ακολουθεί τις νομικές απαιτήσεις και όχι το αντίστροφο».
Η απλή δημιουργία δεδομένων για άτομα δεν αποτελεί επιλογή. Αυτό είναι σε μεγάλο βαθμό ένα διαρθρωτικό πρόβλημα. Σύμφωνα με μια πρόσφατη αναφορά των New York Times , «τα chatbot εφευρίσκουν πληροφορίες τουλάχιστον το 3 τοις εκατό του χρόνου – και μέχρι το 27 τοις εκατό». Για να δείξουμε αυτό το ζήτημα, μπορούμε να ρίξουμε μια ματιά στον καταγγέλλοντα (ένα δημόσιο πρόσωπο) στην υπόθεσή μας κατά του OpenAI. Όταν ρωτήθηκε για τα γενέθλιά του, το ChatGPT παρείχε επανειλημμένα εσφαλμένες πληροφορίες αντί να λέει στους χρήστες ότι δεν έχει τα απαραίτητα δεδομένα.
Δεν υπάρχουν δικαιώματα GDPR για άτομα που καταγράφονται από το ChatGPT; Παρά το γεγονός ότι η ημερομηνία γέννησης του καταγγέλλοντα που παρέχεται από το ChatGPT είναι λανθασμένη, το OpenAI απέρριψε το αίτημά του να διορθώσει ή να διαγράψει τα δεδομένα, με το επιχείρημα ότι δεν ήταν δυνατή η διόρθωση των δεδομένων. Η OpenAI λέει ότι μπορεί να φιλτράρει ή να αποκλείει δεδομένα σε ορισμένες προτροπές (όπως το όνομα του καταγγέλλοντος), αλλά όχι χωρίς να εμποδίζει το ChatGPT να φιλτράρει όλες τις πληροφορίες σχετικά με τον καταγγέλλοντα. Το OpenAI απέτυχε επίσης να ανταποκριθεί επαρκώς στο αίτημα πρόσβασης του καταγγέλλοντα. Αν και ο GDPR δίνει στους χρήστες το δικαίωμα να ζητούν από τις εταιρείες αντίγραφο όλων των προσωπικών δεδομένων που υποβάλλονται σε επεξεργασία για αυτούς, το OpenAI απέτυχε να αποκαλύψει πληροφορίες σχετικά με τα δεδομένα που υποβλήθηκαν σε επεξεργασία, τις πηγές ή τους παραλήπτες τους.
Maartje de Graaf, δικηγόρος προστασίας δεδομένων στο noyb : «Η υποχρέωση συμμόρφωσης με τα αιτήματα πρόσβασης ισχύει για όλες τις εταιρείες. Είναι σαφές ότι είναι δυνατό να τηρούνται αρχεία των δεδομένων εκπαίδευσης που χρησιμοποιήθηκαν, τουλάχιστον να έχετε μια ιδέα για τις πηγές πληροφοριών. Φαίνεται ότι με κάθε «καινοτομία», ένας άλλος όμιλος εταιρειών πιστεύει ότι τα προϊόντα του δεν χρειάζεται να συμμορφώνονται με τη νομοθεσία».
Άκαρπες μέχρι στιγμής προσπάθειες των εποπτικών αρχών. Από την ξαφνική άνοδο της δημοτικότητας του ChatGPT, τα εργαλεία παραγωγής τεχνητής νοημοσύνης μπήκαν γρήγορα στον έλεγχο των ευρωπαϊκών φυλάκων προστασίας της ιδιωτικής ζωής. Μεταξύ άλλων, η ιταλική DPA αντιμετώπισε την ανακρίβεια του chatbot όταν επέβαλε προσωρινό περιορισμό στην επεξεργασία δεδομένων τον Μάρτιο του 2023. Λίγες εβδομάδες αργότερα, το Ευρωπαϊκό Συμβούλιο Προστασίας Δεδομένων (EDPB) δημιούργησε μια ομάδα εργασίας στο ChatGPT για να συντονίσει τις εθνικές προσπάθειες. Μένει να δούμε πού θα οδηγήσει αυτό. Προς το παρόν, το OpenAI φαίνεται να μην προσποιείται καν ότι μπορεί να συμμορφωθεί με τον GDPR της ΕΕ.
Κατατέθηκε η καταγγελία. Η noyb ζητά τώρα από την αυστριακή αρχή προστασίας δεδομένων (DSB) να διερευνήσει την επεξεργασία δεδομένων του OpenAI και τα μέτρα που λαμβάνονται για να διασφαλίσει την ακρίβεια των προσωπικών δεδομένων που υποβάλλονται σε επεξεργασία στο πλαίσιο των μεγάλων γλωσσικών μοντέλων της εταιρείας. Επιπλέον, ζητάμε από το DSB να διατάξει το OpenAI να συμμορφωθεί με το αίτημα πρόσβασης του καταγγέλλοντα και να ευθυγραμμίσει την επεξεργασία του με τον GDPR. Τελευταίο αλλά όχι λιγότερο σημαντικό, η noyb ζητά από την αρχή να επιβάλει πρόστιμο για να διασφαλίσει τη μελλοντική συμμόρφωση. Είναι πιθανό ότι αυτή η υπόθεση θα αντιμετωπιστεί μέσω της συνεργασίας της ΕΕ.
