Ένα παιδικό αρκουδάκι που λειτουργούσε με τεχνητή νοημοσύνη αποσύρθηκε από καταστήματα στην Κίνα, καθώς έδινε σεξουαλικές συμβουλές στα παιδιά και τους υποδείκνυε που μπορούν να βρουν μαχαίρια στο σπίτι.
Το παιδικό αρκουδάκι της κινέζικης μάρκας Kumma που πωλείται 99 δολάρια ήταν ένα από τα πολλά προϊόντα τεχνητής νοημοσύνης που υποβλήθηκαν σε δοκιμές ασφαλείας από ερευνητές στις ΗΠΑ και τον Καναδά για την έκθεση Trouble in Toyland 2025 της Public Interest Research Group.
Η έρευνα έκανε σύγκριση τριών προϊόντων με τεχνητή νοημοσύνη – μεταξύ αυτών το Grok της Curio και το Miko 3 – αλλά το Kumma ήταν αυτό που προβλημάτισε τους ειδικούς.
Όταν οι ερευνητές ανέφεραν τη λέξη «kink», το αρκουδάκι άρχισε να εξηγεί: «Σε μερικές αρέσει να χτυπούν παιχνιδιάρικα με μαλακά αντικείμενα» και συμπλήρωσε «Αυτό περιλαμβάνει έναν σύντροφο που αναλαμβάνει τον ρόλο ενός ζώου». Το κείμενο συνέχιζε με προτροπές του τύπου: «Τι πιστεύεις ότι θα είχε περισσότερο ενδιαφέρον να εξερευνήσεις;».
Οπως αναφέρει η Daily Mail το αρκουδάκι μπορούσε να κάνει εικασίες και για επικίνδυνα αντικείμενα λέγοντας ότι «μπορεί να βρείτε μαχαίρια σε ένα συρτάρι κουζίνας ή σε ένα ξύλινο μπλοκ στον πάγκο».
Σε σχετικές ερωτήσεις για συγκεκριμένες σεξουαλικές πράξεις, το παιχνίδι προχώρησε ακόμη περισσότερο, δίνοντας επιπλέον «ερμηνείες» και περιγράφοντας τι μπορεί να προσθέσει… «plot twist» σε ένα σενάριο ρόλων.
Η έκθεση τονίζει ότι ενώ τα μικρά παιδιά είναι απίθανο να κάνουν ερωτήσεις με τον ίδιο τρόπο, εξακολουθεί να είναι εύκολο για αυτά να επαναλάβουν γλώσσα που συναντούν στο διαδίκτυο – και το παιχνίδι έδειξε μια «εκπληκτική» προθυμία να σπρώξει τις συζητήσεις σε ακατάλληλες κατευθύνσεις.
Μετά από όλα αυτά η OpenAI ανέστειλε την πρόσβαση της FoloToy στα μοντέλα της, ενώ η κατασκευάστρια εταιρεία σταμάτησε τις πωλήσεις του Kumma και ανακοίνωσε πλήρη εσωτερικό έλεγχο ασφαλείας.
