Μια πρωτοφανής υπόθεση με πρωταγωνιστή την AI προκαλεί έντονο προβληματισμό στις ΗΠΑ. Ένα αυτόνομο σύστημα της εταιρείας Anthropic έστειλε στην αστυνομία της Φιλαδέλφειας κατασκευασμένη μαρτυρία για ανεξιχνίαστη ανθρωποκτονία, εμφανίζοντας τον εαυτό του σαν άνθρωπο που είχε δει ύποπτο πρόσωπο. Η ψεύτικη πληροφορία υποβλήθηκε κανονικά μέσω ιστοσελίδας που χρησιμοποιείται για τη συγκέντρωση στοιχείων σχετικά με εγκλήματα που παραμένουν ανεξιχνίαστα.
Το ακόμη πιο ανησυχητικό είναι ότι το AI έστειλε την ψεύτικη πληροφορία για την ανθρωποκτονία στις 18 Ιουλίου, αλλά η εταιρεία που το δημιούργησε αντιλήφθηκε τι είχε συμβεί μόλις στις 28 Σεπτεμβρίου. Και ενώ η αστυνομία είχε ήδη μπλοκάρει το μήνυμα ως ανεπιθύμητο, ενημερώθηκε επίσημα από την Anthropic στις 7 Οκτωβρίου, σχεδόν τρεις μήνες μετά το περιστατικό.
ΔΙΑΦΗΜΙΣΗ
Όλα ξεκίνησαν κατά τη διάρκεια μιας δοκιμής της Anthropic, της εταιρείας που βρίσκεται πίσω από το γνωστό chatbot Claude, αναφέρει δημοσίευμα του BBC.
Ένα αυτόνομο σύστημα τεχνητής νοημοσύνης είχε αναλάβει να επισκέπτεται τυχαίες ιστοσελίδες και να αλληλεπιδρά με αυτές, στο πλαίσιο ελέγχων για τις δυνατότητές του.
Κάποια στιγμή βρέθηκε σε διαδικτυακή πλατφόρμα της αστυνομίας της Φιλαδέλφειας, όπου οι πολίτες μπορούν να καταθέτουν πληροφορίες για ανεξιχνίαστες δολοφονίες.
ΔΙΑΦΗΜΙΣΗ
Αντί να περιοριστεί στην περιήγηση, το AI συμπλήρωσε τη σχετική φόρμα και έστειλε μια πληροφορία, υποστηρίζοντας ότι είχε δει «κάποιον που ταίριαζε στην περιγραφή».
Μόνο που δεν υπήρχε πραγματικός αυτόπτης μάρτυρας πίσω από την αναφορά. Το ίδιο το σύστημα είχε δημιουργήσει τον ισχυρισμό και τον είχε παρουσιάσει σαν αληθινή πληροφορία.
Η αστυνομία μπλόκαρε το μήνυμα – Η Anthropic άργησε να αντιδράσει
Η ψεύτικη αναφορά δεν έφτασε ποτέ στους αστυνομικούς που ερευνούσαν την υπόθεση.
Τα φίλτρα ασφαλείας της αστυνομίας την αναγνώρισαν ως ανεπιθύμητο μήνυμα και την απομόνωσαν, πριν μπορέσει να επηρεάσει οποιαδήποτε έρευνα.
Ωστόσο, η αντίδραση των αρχών ήταν έντονη όταν πληροφορήθηκαν τι είχε συμβεί.
Η Anthropic εντόπισε το περιστατικό στις 28 Σεπτεμβρίου και σταμάτησε την αυτοματοποιημένη δοκιμή που το προκάλεσε. Παρ’ όλα αυτά, η αστυνομία ενημερώθηκε μόλις στις 7 Οκτωβρίου.
«Η εταιρεία πρέπει να ενισχύσει τα μέτρα ασφαλείας της, ώστε να αποτρέψει παρόμοια περιστατικά που θα μπορούσαν να επηρεάσουν τα συστήματα της πόλης χωρίς να το γνωρίζουμε», ανέφερε η αστυνομία της Φιλαδέλφειας.
Παράλληλα, χαρακτήρισε «απαράδεκτη» την καθυστέρηση στον εντοπισμό και την αναφορά του περιστατικού.
Οι αρχές ξεκαθάρισαν ότι δεν υπήρξε παραβίαση των συστημάτων τους, υπογραμμίζοντας όμως πως είναι ιδιαίτερα σοβαρό ένα σύστημα AI να παρουσιάζει ψεύτικα στοιχεία σαν να προέρχονται από άνθρωπο που γνωρίζει κάτι για μια δολοφονία.
Από τις ψεύτικες μαρτυρίες μέχρι τις αιτήσεις για βίζα
Το περιστατικό στη Φιλαδέλφεια δεν είναι το μοναδικό που έχει προκαλέσει ερωτήματα για τη συμπεριφορά αυτόνομων συστημάτων τεχνητής νοημοσύνης.
Σε έκθεση που δημοσίευσε η Anthropic περιγράφονται και άλλες περιπτώσεις στις οποίες AI πραγματοποίησαν ενέργειες που δεν είχαν προβλεφθεί.
Ανάμεσα στους οργανισμούς που επηρεάστηκαν περιλαμβάνονται αμερικανικές κυβερνητικές υπηρεσίες, ακόμη και ο Λευκός Οίκος.
Σύμφωνα με δημοσιεύματα, ένα τέτοιο σύστημα υπέβαλε 20 αιτήσεις για βίζα μέσω της ιστοσελίδας του αμερικανικού υπουργείου Εξωτερικών. Οι αιτήσεις ήταν ελλιπείς και δεν προχώρησαν.
Έχουν επίσης αναφερθεί περιστατικά με συστήματα της OpenAI που, κατά τη διάρκεια δοκιμών, προχώρησαν σε απρόβλεπτες ενέργειες σε διαδικτυακές πλατφόρμες.
Η υπόθεση της Φιλαδέλφειας δείχνει πόσο σοβαρές μπορεί να γίνουν οι συνέπειες όταν ένα σύστημα τεχνητής νοημοσύνης δεν περιορίζεται στο να απαντά σε ερωτήσεις, αλλά μπορεί να ενεργεί μόνο του στο διαδίκτυο κάτι το οποίο προκαλεί σε πολλούς φόβο.
Στη συγκεκριμένη περίπτωση, η κατασκευασμένη πληροφορία σταμάτησε εγκαίρως χάρη στα φίλτρα της αστυνομίας.
Το γεγονός, όμως, ότι ένα AI μπόρεσε να εμφανιστεί ως μάρτυρας πραγματικής ανθρωποκτονίας και να υποβάλει ψεύτικα στοιχεία στις αρχές, χωρίς να εντοπιστεί άμεσα από την εταιρεία που το ανέπτυξε, ανοίγει μια νέα συζήτηση για τα όρια και τον έλεγχο της τεχνητής νοημοσύνης.
