ChatGPT: Περίπου 1,2 εκατ. χρήστες παρουσίασαν αυτοκτονικές τάσεις – Η έρευνα της OpenAI

Η OpenAI, εταιρεία του ChatGPT ανακοίνωσε ότι το 0,07% των ενεργών χρηστών σε μία εβδομάδα παρουσίασαν πιθανά σημάδια ψυχικών διαταραχών, ενώ εκτιμά επίσης ότι το 0,15% των χρηστών του ChatGPT περιλαμβάνουν στις συνομιλίες «σαφείς ενδείξεις πιθανής αυτοκτονικής πρόθεσης ή σχεδίου».

Ενώ η OpenAI υποστηρίζει ότι αυτές οι περιπτώσεις είναι «εξαιρετικά σπάνιες», οι επικριτές δήλωσαν ότι ακόμη και ένα μικρό ποσοστό μπορεί να αντιστοιχεί σε εκατοντάδες χιλιάδες άτομα, καθώς το ChatGPT έφτασε πρόσφατα τα 800 εκατομμύρια ενεργούς χρήστες την εβδομάδα, σύμφωνα με τον διευθυντή Σαμ Άλτμαν.

Καθώς αυξάνεται η κριτική, η εταιρεία δήλωσε ότι δημιούργησε ένα δίκτυο εμπειρογνωμόνων σε όλο τον κόσμο για να την συμβουλεύει, σύμφωνα με το BBC.

Στο δίκτυο αυτό συμμετέχουν περισσότεροι από 170 ψυχίατροι, ψυχολόγοι και γιατροί πρωτοβάθμιας περίθαλψης που έχουν ασκήσει το επάγγελμά τους σε 60 χώρες. Έχουν σχεδιάσει μια σειρά απαντήσεων στο ChatGPT για να ενθαρρύνουν τους χρήστες να ζητήσουν βοήθεια στον πραγματικό κόσμο.

Ωστόσο, η ματιά στα δεδομένα της εταιρείας προκάλεσε έκπληξη. «Παρόλο που το 0,07% φαίνεται μικρό ποσοστό, σε επίπεδο πληθυσμού με εκατοντάδες εκατομμύρια χρήστες, στην πραγματικότητα μπορεί να είναι αρκετοί άνθρωποι», δήλωσε ο Τζέισον Ναγκάτα, καθηγητής που μελετά τη χρήση της τεχνολογίας μεταξύ των νέων και των ενηλίκων στο Πανεπιστήμιο της Καλιφόρνιας στο Σαν Φρανσίσκο.

«Η τεχνητή νοημοσύνη μπορεί να διευρύνει την πρόσβαση στην ψυχική υγεία και, κατά κάποιον τρόπο, να υποστηρίξει την ψυχική υγεία, αλλά πρέπει να είμαστε ενήμεροι για τους περιορισμούς της», πρόσθεσε ο Ναγκάτα.

Η OpenAI δήλωσε ότι οι πρόσφατες ενημερώσεις του chatbot της έχουν σχεδιαστεί για να «ανταποκρίνονται με ασφάλεια και ενσυναίσθηση σε πιθανά σημάδια παραίσθησης ή μανίας» και να σημειώνουν «έμμεσα σημάδια πιθανής αυτοτραυματικής συμπεριφοράς ή κινδύνου αυτοκτονίας».

Το ChatGPT έχει επίσης εκπαιδευτεί να ανακατευθύνει ευαίσθητες συνομιλίες «που προέρχονται από άλλα μοντέλα σε ασφαλέστερα μοντέλα» ανοίγοντας ένα νέο παράθυρο.

Σε απάντηση σε ερωτήσεις του BBC σχετικά με τις κριτικές για τον αριθμό των ατόμων που ενδέχεται να επηρεαστούν, η OpenAI δήλωσε ότι αυτό το μικρό ποσοστό χρηστών αντιστοιχεί σε ένα σημαντικό αριθμό ατόμων και σημείωσε ότι λαμβάνει σοβαρά υπόψη τις αλλαγές.

Οι αλλαγές έρχονται καθώς η OpenAI αντιμετωπίζει αυξανόμενο νομικό έλεγχο σχετικά με τον τρόπο με τον οποίο το ChatGPT αλληλεπιδρά με τους χρήστες.

Σε μία από τις πιο γνωστές αγωγές που ασκήθηκαν πρόσφατα κατά της OpenAI, ένα ζευγάρι από την Καλιφόρνια μήνυσε την εταιρεία για τον θάνατο του έφηβου γιου τους, ισχυριζόμενο ότι το ChatGPT τον ενθάρρυνε να αυτοκτονήσει.

Η αγωγή ασκήθηκε από τους γονείς του 16χρονου Άνταμ Ρέιν και ήταν η πρώτη νομική ενέργεια που κατηγορούσε την OpenAI για αδικαιολόγητο θάνατο.