Σημαντικές αλλαγές στον τρόπο λειτουργίας των ψηφιακών υπηρεσιών που χρησιμοποιούν ανήλικοι προβλέπει το EU KIDS Act, με την Ευρωπαϊκή Επιτροπή να θέτει συγκεκριμένες υποχρεώσεις στους παρόχους για τον σχεδιασμό των υπηρεσιών, την επαλήθευση ηλικίας και τον έλεγχο της συμμόρφωσης.
Το νέο πλαίσιο αφορά, μεταξύ άλλων, κοινωνικά δίκτυα, πλατφόρμες διαμοιρασμού βίντεο, online games, app stores, AI companions και γενικά conversational chatbots. Οι απαιτήσεις δεν σταματούν στα ηλικιακά όρια. Φθάνουν μέχρι τα συστήματα συστάσεων, τις προεπιλεγμένες ρυθμίσεις ασφαλείας, τις αγορές μέσα στις υπηρεσίες και τα εργαλεία γονικού ελέγχου.
Για τις υπηρεσίες κοινωνικής δικτύωσης και διαμοιρασμού βίντεο που εμφανίζουν συγκεκριμένα χαρακτηριστικά κινδύνου, το όριο για αυτόνομο λογαριασμό τοποθετείται στα 15 έτη. Στις ηλικίες 13 έως 15 ετών οι πάροχοι θα μπορούν να επιτρέπουν πρόσβαση μέσω περιορισμένου λογαριασμού που δημιουργεί ο κηδεμόνας, με ενεργοποιημένα τα εργαλεία γονικού ελέγχου και ημερήσιο όριο χρήσης που δεν μπορεί να ξεπερνά τη μία ώρα.
Σχετικά με τους με τους λογαριασμούς που υπάρχουν ήδη, εντός έξι μηνών από την εφαρμογή των σχετικών διατάξεων, οι εταιρείες θα πρέπει να εξακριβώσουν αν οι κάτοχοί τους είναι κάτω των 15 ετών. Αν διαπιστωθεί ότι ο χρήστης είναι μικρότερος ή αν η ηλικία του δεν μπορεί να εξακριβωθεί, ο λογαριασμός θα απενεργοποιείται. Νέος έλεγχος δεν απαιτείται όταν ο πάροχος μπορεί να αποδείξει με υψηλό βαθμό βεβαιότητας ότι ο χρήστης έχει ήδη συμπληρώσει το απαιτούμενο όριο ηλικίας.
Για τις πολύ μεγάλες επιγραμμικές πλατφόρμες υπάρχει μία ακόμη απαίτηση. Θα πρέπει να υποβάλουν στην αρμόδια αρχή σχέδιο στο οποίο θα εξηγούν πώς θα ελέγξουν τους υφιστάμενους λογαριασμούς και, εφόσον επικαλούνται την εξαίρεση, με ποιον τρόπο τεκμηριώνουν ότι ο χρήστης έχει φθάσει στο απαιτούμενο όριο ηλικίας.
Ανεξάρτητος έλεγχος για τις VLOPs
Για τις πολύ μεγάλες επιγραμμικές πλατφόρμες, τις VLOPs, δημιουργείται ξεχωριστός μηχανισμός ελέγχου. Όσες έχουν ήδη χαρακτηριστεί ως τέτοιες θα πρέπει να γνωστοποιήσουν στην Επιτροπή αναλυτικό σχέδιο συμμόρφωσης μέσα σε 30 ημέρες από την έναρξη εφαρμογής του κανονισμού. Για όσες αποκτήσουν αργότερα την ιδιότητα VLOP, η προθεσμία είναι τέσσερις μήνες από τον χαρακτηρισμό τους.
Το σχέδιο θα περνά από ανεξάρτητο έλεγχο, με δαπάνη της ίδιας της εταιρείας. Οι ελεγκτές θα πρέπει να διαθέτουν ή να χρησιμοποιούν ειδικούς με αποδεδειγμένη γνώση σε πεδία όπως η προστασία των παιδιών, η παιδοψυχιατρική, η επαλήθευση ηλικίας, ο σχεδιασμός ψηφιακών διεπαφών και συστημάτων συστάσεων και η προστασία δεδομένων.
Για να γίνει ο έλεγχος, οι εταιρείες θα είναι υποχρεωμένες να παρέχουν πρόσβαση σε πληροφορίες, δεδομένα, έγγραφα και στο προσωπικό που σχετίζεται με το αντικείμενο της αξιολόγησης. Ειδική διάταξη προβλέπει επίσης προστασία εργαζομένων και συνεργατών που επικοινωνούν με τους ελεγκτές από δυσμενή μεταχείριση.
Αν η Επιτροπή διαπιστώσει, με βάση την τελική έκθεση, ότι υπάρχουν ελλείψεις, ο πάροχος θα έχει 30 ημέρες για να υποβάλει διορθωτικό σχέδιο. Η προθεσμία εφαρμογής κάθε μέτρου δεν θα μπορεί να ξεπερνά τις 60 ημέρες και ο ανεξάρτητος ελεγκτής θα επιστρέφει για να επιβεβαιώσει ότι οι διορθώσεις έγιναν.
Ακόμη, κάθε χρόνο η συμμόρφωση θα εντάσσεται στις αξιολογήσεις κινδύνου και στους ανεξάρτητους ελέγχους που ήδη προβλέπει το Digital Services Act.
Ρητή είναι και η απαγόρευση καταστρατήγησης των κανόνων. Συμβατικές, εμπορικές ή τεχνικές πρακτικές, αλλά και επιλογές στον σχεδιασμό της διεπαφής, δεν θα μπορούν να χρησιμοποιούνται για την παράκαμψη των υποχρεώσεων.
Οι κανόνες ασφαλούς σχεδιασμού θα ισχύουν και για την πρόσβαση σε δημόσιο περιεχόμενο χωρίς εγγραφή ή σύνδεση. Εφόσον η ηλικία του χρήστη δεν έχει εξακριβωθεί, η υπηρεσία θα πρέπει να διατηρεί ενεργές τις αυξημένες δικλίδες προστασίας.
Στα κοινωνικά δίκτυα και στις πλατφόρμες βίντεο περιορίζονται λειτουργίες που μπορούν να ενθαρρύνουν καταναγκαστική ή υπερβολική χρήση. Αλλάζει επίσης ο τρόπος λειτουργίας των συστημάτων συστάσεων. Οι ρητές επιλογές του ανηλίκου θα πρέπει να έχουν μεγαλύτερο βάρος, ενώ οι προτάσεις που βασίζονται σε έμμεσα σήματα συμπεριφοράς θα είναι απενεργοποιημένες εξ ορισμού. Παράλληλα, δεν θα μπορούν να χρησιμοποιούνται για τον σκοπό αυτό προσωπικά δεδομένα ανηλίκων που έχουν συλλεχθεί εκτός της υπηρεσίας, ενώ θα πρέπει να προσφέρεται τουλάχιστον μία επιλογή ροής χωρίς κατάρτιση προφίλ.
Στις προεπιλεγμένες ρυθμίσεις θα είναι κλειστά ο γεωεντοπισμός και άλλες λειτουργίες παρακολούθησης, η πρόσβαση σε μικρόφωνο και κάμερα, οι προτάσεις άλλων λογαριασμών, ο συγχρονισμός επαφών και οι ειδοποιήσεις. Οι τελευταίες θα πρέπει, σε κάθε περίπτωση, να λαμβάνουν υπόψη τις ώρες ύπνου και σχολείου των παιδιών.
Περιορισμοί μπαίνουν και στις επαφές με άλλους χρήστες. Άγνωστος χρήστης δεν θα μπορεί να ξεκινά απευθείας επικοινωνία με ανήλικο χωρίς προηγούμενη έγκρισή του, ενώ θα πρέπει να υπάρχει εύκολη δυνατότητα αποκλεισμού. Το σχέδιο ορίζει επίσης ότι τρίτοι δεν θα μπορούν να κατεβάζουν ή να λαμβάνουν screenshots από στοιχεία επικοινωνίας, τοποθεσίας ή λογαριασμού του ανηλίκου ή από περιεχόμενο που έχει αναρτήσει. Οι ζωντανές μεταδόσεις θα είναι απενεργοποιημένες εξ ορισμού.
Νέοι κανόνες μπαίνουν και στις συναλλαγές μέσα στις υπηρεσίες. Πριν πραγματοποιηθεί αγορά, ο ανήλικος θα πρέπει να ενημερώνεται με σαφή και εύληπτο τρόπο ότι πρόκειται για οικονομική συναλλαγή. Αν χρησιμοποιείται εικονικό νόμισμα, θα εμφανίζεται παράλληλα η αντίστοιχη αξία στο επίσημο νόμισμα της χώρας συνήθους διαμονής του.
Οι υπηρεσίες δεν θα μπορούν επίσης να σχεδιάζονται με τρόπο που οδηγεί τους ανηλίκους σε υπερβολικές, παρορμητικές ή ανεπιθύμητες δαπάνες. Το σχέδιο αναφέρεται σε συστήματα μεταβλητών ανταμοιβών, ενώ οι αιτιολογικές σκέψεις κάνουν ειδική αναφορά στα loot boxes και σε προϊόντα με τυχαία ή gambling-like χαρακτηριστικά.
Στα app stores θα καθιερωθεί ηλικιακή κατάταξη για κάθε εφαρμογή. Εφόσον μια εφαρμογή δεν θεωρείται κατάλληλη για την ηλικία του χρήστη, δεν θα επιτρέπεται η πρόσβαση ή η αγορά της. Τα καταστήματα εφαρμογών θα δημοσιοποιούν επίσης τη μεθοδολογία, τα κριτήρια και τις πηγές στις οποίες βασίζεται η κατάταξη.
Αντίστοιχες απαιτήσεις τίθενται στα online games για τον εθιστικό σχεδιασμό, τις ρυθμίσεις ασφαλείας, τις επαφές με άλλους χρήστες και τα εργαλεία γονικού ελέγχου. Οι εταιρείες θα πρέπει ακόμη να λαμβάνουν μέτρα ώστε τα παιχνίδια να μην χρησιμοποιούνται ως μέσο για να οδηγούνται παιδιά σε επικοινωνία μέσω άλλων υπηρεσιών όπου μπορεί να εκτεθούν σε κίνδυνο.
Ειδικές απαιτήσεις για την ΤΝ
Ξεχωριστό πλέγμα υποχρεώσεων αφορά τους συντρόφους τεχνητής νοημοσύνης (AI companions) και τα γενικά διαλογικά ρομπότ. Οι εταιρείες θα πρέπει να αποφεύγουν χαρακτηριστικά και συμπεριφορές που προσομοιώνουν διαπροσωπικές σχέσεις και είναι πιθανό να δημιουργήσουν συναισθηματική εξάρτηση.
Η χρήση πληροφοριών ή αναλύσεων από προηγούμενες συνομιλίες του παιδιού σε επόμενες αλληλεπιδράσεις θα είναι απενεργοποιημένη εξ ορισμού, εκτός αν είναι αναγκαία για την ασφάλειά του ή για την εφαρμογή συγκεκριμένων ρυθμίσεων.
Πριν από τη διάθεση ενός τέτοιου συστήματος στην αγορά θα πρέπει να προηγούνται αξιολόγηση και δοκιμές για τους κινδύνους που μπορεί να δημιουργήσει στην υγεία, την ασφάλεια, τα θεμελιώδη δικαιώματα και την ευημερία των ανηλίκων. Θα ακολουθεί παρακολούθηση και μετά τη διάθεση για νέους κινδύνους και σοβαρά περιστατικά, με τις πολύ μικρές και μικρές επιχειρήσεις να εξαιρούνται από την τελευταία αυτή υποχρέωση.
Όταν ένας AI companion ή ένα chatbot αποτελεί λειτουργία κοινωνικού δικτύου, video-sharing πλατφόρμας ή online game, δεν θα ενεργοποιείται αυτόματα ούτε θα τοποθετείται σε εμφανές σημείο με τρόπο που ενθαρρύνει τη χρήση του. Αν ενεργοποιηθεί, ο ανήλικος θα πρέπει να μπορεί να διακόπτει εύκολα τη χρήση του οποιαδήποτε στιγμή.
Επαλήθευση ηλικίας και γονικός έλεγχος
Αυστηρές είναι οι προϋποθέσεις και για τους ηλικιακούς ελέγχους. Τα σχετικά συστήματα δεν θα πρέπει να επιτρέπουν την ταυτοποίηση, τον γεωγραφικό εντοπισμό, την παρακολούθηση, τη διαφημιστική στόχευση ή την κατάρτιση προφίλ του χρήστη και θα πρέπει να χρησιμοποιούν τεχνολογία zero-knowledge proof.
Αν ο χρήστης θεωρεί ότι ο ηλικιακός έλεγχος έδωσε λανθασμένο αποτέλεσμα, θα πρέπει να έχει στη διάθεσή του δωρεάν ηλεκτρονικό μηχανισμό ένστασης.
Κοινωνικά δίκτυα, πλατφόρμες βίντεο, online games, AI companions και chatbots θα διαθέτουν επίσης εύχρηστα εργαλεία γονικού ελέγχου. Ο ανήλικος θα ενημερώνεται όταν αυτά χρησιμοποιούνται, ενώ για τις VLOPs προβλέπεται, όπου εφαρμόζεται, διαλειτουργικότητα και με εργαλεία τρίτων.
Παράλληλα, τα παιδιά θα πρέπει να μπορούν εύκολα να αναφέρουν περιεχόμενο, λογαριασμούς, ομάδες, λειτουργίες ή συμπεριφορές που θεωρούν επιβλαβείς. Οι αναφορές τους θα εξετάζονται κατά προτεραιότητα και χωρίς αδικαιολόγητη καθυστέρηση.
Κυρώσεις και εποπτεία
Για κοινωνικά δίκτυα, πλατφόρμες διαμοιρασμού βίντεο, video-gaming platforms και app stores, η εποπτεία και η επιβολή των κανόνων θα ακολουθούν το υφιστάμενο πλαίσιο του Digital Services Act. Για τους AI companions και τα γενικά conversational chatbots θα εφαρμόζεται ο μηχανισμός του AI Act.
Στην τελευταία περίπτωση, η μη συμμόρφωση μπορεί να οδηγήσει σε διοικητικό πρόστιμο έως 6% του συνολικού παγκόσμιου ετήσιου κύκλου εργασιών της επιχείρησης κατά το προηγούμενο οικονομικό έτος, εφόσον η παράβαση είναι εκ προθέσεως ή οφείλεται σε αμέλεια.
Οι παραβάσεις των ειδικών κανόνων προστασίας δεδομένων που συνδέονται με την επαλήθευση ηλικίας θα βρίσκονται παράλληλα στην αρμοδιότητα των αρχών προστασίας δεδομένων, με εφαρμογή του συστήματος κυρώσεων του GDPR.
Ετήσιο εποπτικό τέλος θα καταβάλλουν ακόμη οι υπηρεσίες που βρίσκονται υπό την άμεση εποπτεία της Επιτροπής. Το ανώτατο όριο ορίζεται στο 0,03% του παγκόσμιου ετήσιου καθαρού εισοδήματος του προηγούμενου οικονομικού έτους.
Για τις υποθέσεις που χειρίζεται απευθείας η Επιτροπή εισάγεται ταχεία διαδικασία. Η Επιτροπή θα επιδιώκει να γνωστοποιεί τα προκαταρκτικά ευρήματά της στον πάροχο μέσα σε 30 εργάσιμες ημέρες από την έναρξη της διαδικασίας και να εκδίδει τελική απόφαση μέσα σε 90 εργάσιμες ημέρες. Η προθεσμία των 30 ημερών εμφανίζεται ακόμη σε αγκύλες στο σχέδιο κανονισμού και συνεπώς δεν έχει οριστικοποιηθεί.
Το πλαίσιο καταλαμβάνει και επιχειρήσεις εκτός Ευρωπαϊκής Ένωσης. Πάροχοι κοινωνικών δικτύων, video-sharing υπηρεσιών, online games, AI companions και conversational chatbots που προσφέρουν τις υπηρεσίες τους στην ΕΕ χωρίς να είναι εγκατεστημένοι σε αυτή θα πρέπει να ορίζουν νομικό εκπρόσωπο σε κράτος μέλος.
Το EU KIDS Act αποτελεί πρόταση κανονισμού. Για να αποκτήσει δεσμευτική ισχύ θα πρέπει να ολοκληρωθεί η νομοθετική διαδικασία στο Ευρωπαϊκό Κοινοβούλιο και το Συμβούλιο.
