Πρόσφατη έρευνα απέδειξε ότι το instagram αποτυγχάνει να προστατεύσει το κοινό του από επιβλαβές περιεχόμενο.
Μεγάλος είναι ο προβληματισμός γύρω από την ασφάλεια των νέων που έχουν instagram. Δανοί ερευνητές απέδειξαν πρόσφατα ότι η Meta βοηθά ενεργά το περιεχόμενο οδηγεί τους νέους σε αυτοκαταστροφικές συμπεριφορές να ευδοκιμήσει στο Instagram. Παράλληλα, βρέθηκε ότι το instagram αποτυγχάνει να αφαιρέσει ακατάλληλες εικόνες αλλά ακόμα χειρότερα ενθαρρύνει όσους ασχολούνται με τέτοιο περιεχόμενο να γίνουν φίλοι ο ένας με τον άλλον.
Οι Δανοί ερευνητές δημιούργησαν ένα ιδιωτικό δίκτυο "αυτοτραυματισμού" στην πλατφόρμα κοινωνικής δικτύωσης στο οποίο συμπεριέλαβαν πλαστά προφίλ ατόμων ηλικίας έως και 13 ετών και μοιράστηκαν 85 post που σχετίζονται με τον αυτοτραυματισμό. Τα post χαρακτηρίζονταν από σταδιακά αυξανόμενη βαρύτητα και συμπεριλαμβάνουν αίμα, ξυράφια και ενθάρρυνση του αυτοτραυματισμού.
Ο στόχος της μελέτης ήταν να ελέγξει αν αληθεύει ο ισχυρισμός της Meta ότι είχε βελτιώσει σημαντικά τις διαδικασίες της για την αφαίρεση επιβλαβούς περιεχομένου, το οποίο, όπως λέει, χρησιμοποιεί πλέον τεχνητή νοημοσύνη (AI). Η εταιρεία τεχνολογίας ισχυρίζεται ότι αφαιρεί περίπου το 99% του επιβλαβούς περιεχομένου πριν αναφερθεί. Όμως, η Digitalt Ansvar (Digital Accountability), ένας οργανισμός που προωθεί την υπεύθυνη ψηφιακή ανάπτυξη, διαπίστωσε ότι στο πείραμα ενός μήνα δεν αφαιρέθηκε ούτε μία εικόνα.
Όταν δημιούργησε η εταιρεία το δικό της απλό εργαλείο τεχνητής νοημοσύνης για την ανάλυση του περιεχομένου ήταν ικανή να αναγνωρίσει αυτόματα το 38% των εικόνων αυτοτραυματισμού και το 88% των πιο σοβαρών. Αυτό, είπε η εταιρεία, έδειξε ότι το Instagram είχε πρόσβαση σε τεχνολογία ικανή να αντιμετωπίσει το πρόβλημα, αλλά «επέλεξε να μην την εφαρμόσει αποτελεσματικά».
Η ανεπαρκής εποπτεία της πλατφόρμας, είπε ο Digitalt Ansvar, υποδηλώνει ότι δεν συμμορφώνεται με το δίκαιο της ΕΕ. Μια έρευνα που διεξήχθη από το φιλανθρωπικό ίδρυμα ψυχικής υγείας νέων stem4 διαπίστωσε ότι σχεδόν τα μισά από τα παιδιά και τους νέους που ερωτήθηκαν είχαν αποτραβηχτεί, άρχισαν να ασκούνται υπερβολικά, σταμάτησαν να κοινωνικοποιούνται εντελώς ή αυτοτραυματίστηκαν ως απάντηση στον διαδικτυακό εκφοβισμό και το τρολάρισμα για τη φυσική τους εμφάνιση. Σύμφωνα με έρευνα, τα μέσα κοινωνικής δικτύωσης οδηγούν τα παιδιά στο να αντιπαθούν το σώμα τους.
Από την άλλη ένας εκπρόσωπος της Meta δήλωσε: «Το περιεχόμενο που ενθαρρύνει τον αυτοτραυματισμό είναι αντίθετο με τις πολιτικές μας και αφαιρούμε αυτό το περιεχόμενο όταν το εντοπίζουμε. Το πρώτο εξάμηνο του 2024, αφαιρέσαμε περισσότερα από 12 εκατομμύρια post που σχετίζονται με την αυτοκτονία και τον αυτοτραυματισμό στο Instagram, το 99% των οποίων καταργήσαμε προληπτικά. Νωρίτερα φέτος, ξεκινήσαμε τους λογαριασμούς εφήβων στο Instagram, οι οποίοι θα τοποθετούν τους εφήβους στην πιο αυστηρή ρύθμιση του ελέγχου ευαίσθητου περιεχομένου μας, επομένως είναι ακόμη λιγότερο πιθανό να τους προτείνουμε ευαίσθητο περιεχόμενο και σε πολλές περιπτώσεις το αποκρύπτουμε εντελώς».
