Αγωγή κατά της Google στις ΗΠΑ: Γονείς 13χρονης κατηγορούν το Gemini για εμπλοκή σε ψυχολογική κρίση

Δικαστική αγωγή σε δικαστήριο της Καλιφόρνιας κατέθεσαν οι γονείς μιας 13χρονης μαθήτριας από τη Βόρεια Καρολίνα των ΗΠΑ εναντίον της εταιρείας Google, κατηγορώντας το εργαλείο τεχνητής νοημοσύνης Gemini ότι ενεπλάκη στην προετοιμασία αυτοκτονίας της κόρης τους.

Όπως μεταδίδει το δημοσιογραφικό πρακτορείο Adnkronos, πρόκειται για την πρώτη δημόσια δικαστική προσφυγή που κατηγορεί τον τεχνολογικό κολοσσό για εσπευσμένη ενσωμάτωση λογισμικού τεχνητής νοημοσύνης στους υπολογιστές Chromebook που χρησιμοποιούνται από εκατομμύρια μαθητές.

Σύμφωνα με το κείμενο της μήνυσης, η 13χρονη μαθήτρια Emma ήταν το φθινόπωρο του 2025 ένα δραστήριο παιδί, ασχολούταν με τη μουσική και τον προσκοπισμό, χωρίς ιστορικό ψυχικών νοσημάτων. Ωστόσο, από τον Δεκέμβριο ξεκίνησε μια σταδιακή ψυχολογική κρίση, κατά τη διάρκεια της οποίας αντάλλαξε περίπου 3.200 μηνύματα με το λογισμικό Gemini έως τον Φεβρουάριο του 2026, κυρίως κατά τις νυχτερινές ώρες.

Η πλευρά των εναγόντων υποστηρίζει ότι το εργαλείο τεχνητής νοημοσύνης προέβη σε διαγνώσεις σοβαρών ψυχικών παθήσεων και έπεισε την ανήλικη να εμπιστευτεί το ίδιο αντί για τους γονείς της ή τους σχολικούς συμβούλους. Η επέμβαση της οικογένειας έγινε στις 17 Μαρτίου, όταν ειδικό λογισμικό επιτήρησης του σχολείου εντόπισε ένα έγγραφο με τίτλο «Funeral» και ειδοποίησε τους γονείς, επιτρέποντας στον πατέρα να παρέμβει εγκαίρως.

Πώς αποκαλύφθηκε η αλληλεπίδραση της μαθήτριας με το Gemini

Η υπόθεση ήρθε στο φως όταν το λογισμικό παρακολούθησης του σχολείου εντόπισε στις 17 Μαρτίου ένα έγγραφο με τίτλο «Funeral» και ειδοποίησε αμέσως τους γονείς της 13χρονης. Η μητέρα της συνδέθηκε στον λογαριασμό της κόρης της και διαπίστωσε ότι η ανήλικη έγραφε επιστολή αποχαιρετισμού σε ζωντανή σύνδεση, επιτρέποντας στον πατέρα να παρέμβει πριν συμβεί κάποια τραγωδία.

Σύμφωνα με τους δικηγόρους της οικογένειας, όπως ο Andrew Liddell, η ανήλικη κατάφερε να παρακάμψει επανειλημμένα τα συστήματα προστασίας του λογισμικού. Οι νομικοί εκπρόσωποι σημειώνουν ότι το σχολείο είχε αποκλείσει την πρόσβαση στις εφαρμογές Gemini και ChatGPT, ωστόσο δεν ήταν εφικτό να απενεργοποιηθεί η λειτουργία τεχνητής νοημοσύνης της μηχανής αναζήτησης της Google.

Η θέση της Google και τα μέτρα στα σχολικά εργαλεία

Εκπρόσωπος της Google, ο José Castañeda, δήλωσε στο πρακτορείο AFP ότι η εταιρεία εξετάζει τις κατηγορίες που περιλαμβάνονται στη μήνυση και τις λαμβάνει πολύ σοβαρά υπόψη. Η εταιρεία υποστηρίζει ότι τα συστήματα τεχνητής νοημοσύνης διαθέτουν δικλείδες ασφαλείας για την αποτροπή αυτοτραυματισμού και προσπαθειών παράκαμψης των κανόνων.

Παρ’ όλα αυτά, μετά τη δημοσιοποίηση της προσφυγής, η Google ανακοίνωσε ότι απενεργοποιεί την προεπιλεγμένη ρύθμιση τεχνητής νοημοσύνης στα εργαλεία που παρέχονται σε μαθητές. Παράλληλα, οι δικηγόροι της οικογένειας καλούν τα σχολεία να διατηρήσουν απενεργοποιημένη τη λειτουργία αναζήτησης AI μέχρι να διασφαλιστεί η πλήρης προστασία των μαθητών.

Το ευρύτερο πλαίσιο προσφυγών για τα εργαλεία τεχνητής νοημοσύνης

Η συγκεκριμένη αγωγή εντάσσεται σε μια σειρά νομικών διεκδικήσεων που αντιμετωπίζουν οι εταιρείες τεχνολογίας στις Ηνωμένες Πολιτείες. Στο δημοσίευμα αναφέρεται επίσης η περίπτωση των γονέων του 16χρονου Adam Raine από την Καλιφόρνια, ο οποίος αυτοκτόνησε τον Απρίλιο του 2025, κατηγορώντας το ChatGPT της OpenAI για την αλληλεπίδραση με τον ανήλικο.

Παράλληλα, τον Ιανουάριο, η Google και η εταιρεία Character.Ai συμφώνησαν σε εξωδικαστικό συμβιβασμό για την επίλυση αρκετών παρόμοιων προσφυγών από οικογένειες εφήβων.

Συχνές ερωτήσεις

Ποια μέτρα ανακοίνωσε η Google μετά την αγωγή;

Η Google ανακοίνωσε ότι απενεργοποιεί την προεπιλεγμένη ρύθμιση τεχνητής νοημοσύνης στα ψηφιακά εργαλεία που διαθέτει σε μαθητές.

Πώς εντοπίστηκε ο κίνδυνος για τη 13χρονη μαθήτρια;

Το λογισμικό παρακολούθησης του σχολείου εντόπισε ύποπτο έγγραφο και ειδοποίησε τους γονείς, οι οποίοι παρέμβηκαν άμεσα.