Ίσως σας ενδιαφέρει:
Λίγες μόνο μέρες μετά την ανακοίνωση της OpenAI ότι ετοιμάζει σύστημα γονικού ελέγχου στο ChatGPT, η εταιρεία έσπευσε να αποκαλύψει πως θα περιορίσει τον τρόπο με τον οποίο το chatbot, ως μέτρο προστασίας, θα απαντά σε χρήστες που δίνουν την εντύπωση ότι είναι κάτω των 18 ετών.
Η απόφαση αυτή δεν ήρθε τυχαία. Η εταιρεία που άλλαξε για πάντα την εικόνα της τεχνητής νοημοσύνης βρίσκεται στο επίκεντρο σκληρών κατηγοριών: γονείς εφήβων που έβαλαν τέλος στη ζωή τους καταγγέλλουν πως το ChatGPT όχι μόνο δεν τους απέτρεψε, αλλά τους παρείχε και λεπτομερείς οδηγίες για το πώς να το κάνουν. Μιλούν για έναν «σιωπηλό συνομιλητή» που αντί να απλώσει χέρι βοήθειας, έσπρωξε τα παιδιά τους στο κενό.
Ο επικεφαλής της OpenAI, Σαμ Άλτμαν, αναγνώρισε το βάρος της ευθύνης:
«Οι ανήλικοι χρειάζονται ουσιαστική προστασία. Το ChatGPT θα πρέπει να μιλά διαφορετικά σε έναν 15χρονο από ό,τι σε έναν ενήλικο. Προτεραιότητά μας είναι η ασφάλεια, ακόμη κι αν χρειαστεί να θυσιάσουμε ένα κομμάτι της ιδιωτικότητας».
Σύμφωνα με την εταιρεία, το νέο σύστημα θα αποκλείει κάθε σεξουαλικό περιεχόμενο, θα απορρίπτει φλερτ με ανήλικους και θα μπλοκάρει συζητήσεις γύρω από αυτοκτονία ή αυτοτραυματισμό – ακόμα κι αν αυτές γίνονται στο πλαίσιο μιας ιστορίας. Σε περιπτώσεις όπου ένας ανήλικος δείχνει επικίνδυνες τάσεις, η OpenAI υπόσχεται πως θα αναζητήσει τρόπους να ενημερώσει τους γονείς του, ή ακόμα και τις αρχές, εάν υπάρχει άμεσος κίνδυνος. «Είναι δύσκολες αποφάσεις, αλλά είναι οι σωστές», λέει ο Άλτμαν.
Η τραγωδία που τα άλλαξε όλα
Η στροφή αυτή της OpenAI ήρθε μετά την υπόθεση του 16χρονου Άνταμ Ρέιν από την Καλιφόρνια. Ο Άνταμ, όπως αποκαλύπτουν τα δικαστικά έγγραφα, συνομιλούσε μανιωδώς με το ChatGPT – μέχρι και 650 μηνύματα τη μέρα. Αντί να βρει μια «έξοδο κινδύνου» μέσα από τη συζήτηση, βρήκε, όπως λέει η οικογένειά του, έναν «καθοδηγητή στον θάνατο».
Η αγωγή της οικογένειας είναι συγκλονιστική: το chatbot όχι μόνο δεν απέτρεψε τον έφηβο, αλλά τον διαβεβαίωσε για την αποτελεσματικότητα της μεθόδου που σκεφτόταν, ενώ τον βοήθησε ακόμη και να γράψει σημείωμα αυτοκτονίας προς τους γονείς του.
Η υπόθεση αυτή τάραξε συθέμελα την OpenAI, που αναγκάστηκε να παραδεχτεί ότι τα «προστατευτικά κιγκλιδώματα» της τεχνολογίας της δεν αντέχουν πάντα σε μακροχρόνιες συνομιλίες. Όσο περισσότερο μιλά ένας ανήλικος με το ChatGPT, τόσο μεγαλύτερη η πιθανότητα το σύστημα να παραβιάσει τα ίδια του τα όρια ασφαλείας.
Το μεγάλο ερώτημα
Η τεχνητή νοημοσύνη υποσχόταν να γίνει εργαλείο έμπνευσης και μάθησης. Όμως, όταν η ίδια η ζωή των παιδιών μπαίνει στη ζυγαριά, το ερώτημα είναι ένα: πόση δύναμη μπορεί να έχει ένας αλγόριθμος πάνω στην ψυχή ενός εφήβου; Και τελικά, ποιος κρατά την ευθύνη;
