Σε ορισμένες περιπτώσεις, τα παραδείγματα είναι ιδιαίτερα ανησυχητικά. Βίντεο με μορφή παιδικού τραγουδιού εμφανίζουν παιδιά να μετακινούνται μέσα σε όχημα χωρίς ζώνη, ή να βρίσκονται στη μέση του δρόμου ενώ πίσω τους περνούν αυτοκίνητα, προβάλλοντας εικόνες που αντιστρατεύονται βασικούς κανόνες ασφάλειας. Σε άλλα βίντεο, που υποτίθεται ότι διδάσκουν γεωγραφία ή γενικές γνώσεις, παρουσιάζονται παραμορφωμένες ή ανύπαρκτες ονομασίες, με αποτέλεσμα τα παιδιά να εκτίθενται σε λανθασμένες πληροφορίες από την αρχή της μαθησιακής διαδικασίας.

Ακόμη πιο προβληματικά είναι τα παραδείγματα που σχετίζονται με τη βρεφική φροντίδα και τη διατροφή. Ειδικοί στον χώρο των παιδικών μέσων έχουν επισημάνει περιπτώσεις όπου βρέφη απεικονίζονται να καταναλώνουν τροφές ή να υιοθετούν συμπεριφορές που στην πραγματική ζωή ενέχουν σοβαρούς κινδύνους, όπως πνιγμό ή άλλες επιπλοκές. Το ανησυχητικό δεν είναι μόνο η ύπαρξη τέτοιων σκηνών, αλλά το ότι παρουσιάζονται μέσα σε χαρούμενο, πολύχρωμο και φαινομενικά αθώο πλαίσιο, άρα μπορούν εύκολα να γίνουν αντιληπτές από τα παιδιά ως φυσιολογικές.

Η έκταση του φαινομένου εντείνει τις ανησυχίες. Το σχετικό υλικό παράγεται πλέον μαζικά, με ρυθμούς που καθιστούν σχεδόν αδύνατο τον ουσιαστικό έλεγχο. Έχουν εντοπιστεί κανάλια που ανεβάζουν δεκάδες τέτοια βίντεο καθημερινά και έχουν συγκεντρώσει χιλιάδες αναρτήσεις μέσα σε λίγους μόνο μήνες. Παράλληλα, σύμφωνα με στοιχεία της Kapwing, περίπου το 21% του περιεχομένου που προβάλλεται στο YouTube αποδίδεται πλέον σε χαμηλής ποιότητας AI παραγωγές, κάτι που δείχνει ότι το πρόβλημα έχει πάρει βιομηχανικές διαστάσεις.

Ερωτήματα γεννά και ο ρόλος του ίδιου του αλγορίθμου. Έρευνα των New York Times σε περισσότερα από 1.000 YouTube Shorts που προτάθηκαν σε παιδιά διαπίστωσε ότι σχεδόν τα μισά περιλάμβαναν εικόνες παραγμένες με τεχνητή νοημοσύνη. Αυτό ενισχύει την αίσθηση ότι τέτοιο περιεχόμενο είτε ενισχύεται ενεργά από το σύστημα προτάσεων της πλατφόρμας, είτε έχει σχεδιαστεί με τέτοιο τρόπο ώστε να εκμεταλλεύεται αποτελεσματικά τον τρόπο λειτουργίας του αλγορίθμου. Πιθανότερο είναι ότι συμβαίνουν και τα δύο ταυτόχρονα.

Οι επιπτώσεις, σύμφωνα με ειδικούς, δεν περιορίζονται στην παραπληροφόρηση. Το ουσιαστικό πρόβλημα είναι ότι τα πολύ μικρά παιδιά μαθαίνουν μέσα από επανάληψη, συσχετισμούς και σταθερά μοτίβα. Όταν εκτίθενται συστηματικά σε περιεχόμενο που μπερδεύει βασικές έννοιες, παρουσιάζει λάθος αντιστοιχίσεις ή εισάγει αντιφατικά μηνύματα, υπάρχει κίνδυνος να διαμορφώσουν εσφαλμένες γνωστικές συνδέσεις. Αυτό μπορεί να καθυστερήσει την κατανόηση βασικών σχέσεων, όπως η αντιστοίχιση λέξεων, εικόνων, χρωμάτων, αντικειμένων και κανόνων αιτίας-αποτελέσματος.

Η Carla Engelbrecht, με εμπειρία σε κορυφαία παιδικά μέσα όπως το Sesame Street και το PBS Kids, τονίζει ότι τα αντιφατικά ή λανθασμένα ερεθίσματα μπορούν να μεταθέσουν προς τα πίσω ολόκληρη τη μαθησιακή διαδικασία. Στο ίδιο πνεύμα, η Dana Suskind από το University of Chicago έχει προειδοποιήσει ότι βρισκόμαστε μπροστά σε ένα είδος «βιομηχανικής κλίμακας AI παραπληροφόρησης για νήπια», το οποίο μπορεί να αποδειχθεί ιδιαίτερα επιζήμιο για τον αναπτυσσόμενο εγκέφαλο. Όπως υποστηρίζει, οι εμπειρίες της πρώιμης παιδικής ηλικίας διαμορφώνουν κρίσιμες νευρωνικές συνδέσεις, και όταν αυτές στηρίζονται σε λάθος ερεθίσματα, ο κίνδυνος δεν είναι απλώς η σύγχυση, αλλά η στρεβλή «καλωδίωση» της μάθησης.

Το πρόβλημα επιτείνεται από τα κενά στους μηχανισμούς εποπτείας της πλατφόρμας. Αν και το YouTube υποστηρίζει ότι εφαρμόζει αυστηρότερες αρχές ποιότητας στο παιδικό περιεχόμενο, πολλές τέτοιες παραγωγές περνούν στην πράξη χωρίς ουσιαστικό έλεγχο. Ένας κρίσιμος λόγος είναι ότι η υποχρεωτική επισήμανση χρήσης AI αφορά κυρίως περιεχόμενο που μοιάζει ρεαλιστικό. Επειδή όμως τα περισσότερα από αυτά τα βίντεο έχουν μορφή καρτούν ή υπερβολικά stylized animation, συχνά εξαιρούνται από αυστηρότερη σήμανση, παρότι απευθύνονται ξεκάθαρα σε παιδιά.

Παράλληλα, αν και ένα μέρος του προβληματικού υλικού δεν εμφανίζεται εξαρχής στο YouTube Kids, αυτό δεν σημαίνει ότι τα παιδιά προστατεύονται επαρκώς. Στην πράξη, πολλοί γονείς επιτρέπουν την πρόσβαση μέσω των κανονικών λογαριασμών της πλατφόρμας, όπου οι μηχανισμοί φιλτραρίσματος είναι διαφορετικοί και συχνά λιγότερο αποτελεσματικοί για τόσο ευαίσθητο κοινό.

Συνολικά, η εικόνα που διαμορφώνεται είναι ότι η μαζική παραγωγή AI παιδικών βίντεο έχει προηγηθεί κατά πολύ της ικανότητας ελέγχου τους. Το αποτέλεσμα είναι ένα τεράστιο απόθεμα «εκπαιδευτικού» υλικού αμφίβολης αξιοπιστίας, το οποίο όχι μόνο παραπληροφορεί, αλλά μπορεί να επηρεάσει αρνητικά την αντίληψη, τη μάθηση και τη συμπεριφορική ανάπτυξη των παιδιών. Σε ένα τέτοιο περιβάλλον, το ζήτημα δεν είναι απλώς η ποιότητα του περιεχομένου, αλλά η ίδια η ασφάλεια της ψηφιακής παιδικής εμπειρίας.