Ανησυχία για τις deepfake διαφημίσεις με K-pop καλλιτέχνες – Αυξάνονται τα περιστατικά δημιουργίας σεξουαλικού περιεχομένου με χρήση τεχνητής νοημοσύνης.
Μια νέα ανησυχητική τάση έχει προκαλέσει έντονες αντιδράσεις στα μέσα κοινωνικής δικτύωσης, καθώς deepfake βίντεο με πρωταγωνιστές K-pop idols χρησιμοποιούνται σε διαφημίσεις εφαρμογών τεχνητής νοημοσύνης, εγείροντας νέους προβληματισμούς για την κατάχρηση της τεχνολογίας σεξουαλικού περιεχομένου εις βάρος διασήμων.
Οι διαφημίσεις αυτές, που κυκλοφόρησαν πρόσφατα σε πλατφόρμες σύντομων βίντεο όπως το TikTok και το Instagram, προωθούν εφαρμογές που επιτρέπουν στους χρήστες να δημιουργήσουν ψεύτικα βίντεο στα οποία δύο άτομα φιλιούνται.
Οι χρήστες καλούνται να ανεβάσουν μία δική τους φωτογραφία και μία εικόνα του αγαπημένου τους K-pop idol, με αποτέλεσμα την παραγωγή ενός ψευδούς και παραπλανητικού βίντεο.
Στιγμιότυπα από αυτές τις διαφημίσεις έχουν κυκλοφορήσει ευρέως στο διαδίκτυο, προκαλώντας την οργή των θαυμαστών της K-pop κοινότητας, οι οποίοι τις χαρακτήρισαν ανησυχητικές και παρεμβατικές.
Ένα μέλος διαδικτυακής κοινότητας έγραψε: «Ακόμα και αφού έκανα αναφορά, η διαφήμιση συνέχισε να εμφανίζεται… Έχω δει και χειρότερες».
Σύμφωνα με την κορεατική νομοθεσία, η μη συναινετική δημιουργία, τροποποίηση, διανομή ή απειλή διανομής σεξουαλικού περιεχομένου μέσω ψηφιακών εργαλείων όπως η τεχνητή νοημοσύνη, συνιστά ποινικό αδίκημα.
Ωστόσο, παρά το νομικό πλαίσιο, τα εγκλήματα που σχετίζονται με deepfake περιεχόμενο έχουν παρουσιάσει έξαρση τα τελευταία χρόνια, αποτελώντας μία από τις πιο πιεστικές απειλές για τους K-pop idols.
Τα αδικήματα αυτά συχνά πηγάζουν είτε από παθολογική λατρεία των θαυμαστών είτε από κακόβουλη πρόθεση πλήγματος της δημόσιας εικόνας των καλλιτεχνών.
Μόλις τον προηγούμενο μήνα, η αστυνομία προχώρησε στη σύλληψη δεκάδων ανδρών, ηλικίας από την εφηβεία έως και τη δεκαετία των 30, για δημιουργία ή διανομή σεξουαλικά παραποιημένων βίντεο με πρωταγωνίστριες διάσημες γυναίκες και διαδικτυακές προσωπικότητες.
Σύμφωνα με τις αρχές της Νότιας Κορέας, συνελήφθησαν 23 διαχειριστές ενός chat room στο Telegram, κατηγορούμενοι για παραβιάσεις του Νόμου Προστασίας Ανηλίκων και του Νόμου για Ειδικές Περιπτώσεις Τιμωρίας Σεξουαλικών Εγκλημάτων.
Δεκατρείς από τους υπόπτους οδηγήθηκαν σε απαγγελία κατηγοριών, ενώ άλλοι 60 χρήστες που φέρεται να συμμετείχαν στη συνομιλία, επίσης συνελήφθησαν.
Οι εταιρείες ψυχαγωγίας της Νότιας Κορέας έχουν αρχίσει να υιοθετούν πιο ενεργητικά μέτρα απέναντι στη διογκούμενη απειλή.
Την ίδια ημέρα που η αστυνομία ανακοίνωσε τις συλλήψεις, η K-pop εταιρεία HYBE επιβεβαίωσε ότι κάποιοι από τους υπόπτους είχαν στοχοποιήσει καλλιτέχνες της.
Η εταιρεία δήλωσε ότι η επιτυχία της αστυνομικής επιχείρησης ήταν αποτέλεσμα της συνεργασίας της με τις αρχές, περιλαμβανομένης και μιας άμεσης γραμμής επικοινωνίας με την αστυνομία.
Σύμφωνα με τη HYBE, η εταιρεία υπέγραψε μνημόνιο συνεργασίας (MOU) με την Αστυνομία της Βόρειας Gyeonggi στις 25 Φεβρουαρίου, με στόχο την αντιμετώπιση των εγκλημάτων που σχετίζονται με deepfake περιεχόμενο.
Έκτοτε, η εταιρεία αναφέρει ότι καταγγέλλει συστηματικά παράνομο περιεχόμενο στις αρχές και παρέχει πληροφορίες για τη διευκόλυνση των ερευνών.
Ο διευθύνων σύμβουλος της HYBE, Lee Jae-sang, ανέφερε σε δήλωσή του: «Θα συνεχίσουμε να απαντάμε σε εγκλήματα που παραβιάζουν το δικαίωμα εικόνας και την αξιοπρέπεια των καλλιτεχνών μας με μηδενική ανοχή και χωρίς διακανονισμούς».
Μερικές ημέρες αργότερα, και η Cube Entertainment, που εκπροσωπεί το γυναικείο συγκρότημα i-dle, ανακοίνωσε νομικές ενέργειες ως απάντηση σε παραποιημένα βίντεο και διαδικτυακές επιθέσεις κατά των μελών του συγκροτήματος.
Στις 18 Απριλίου, η εταιρεία εξέδωσε δήλωση σχετικά με το σεξουαλικά προσβλητικό περιεχόμενο και τις διαδικτυακές επιθέσεις κατά του συγκροτήματος.
«Αυτή τη στιγμή συγκεντρώνουμε αποδεικτικά στοιχεία και προετοιμάζουμε κάθε πιθανή αστική και ποινική νομική ενέργεια μέσω των νομικών μας εκπροσώπων», ανέφερε η εταιρεία.
Επίσης, πρόσθεσε ότι οποιοσδήποτε διανέμει παραποιημένα βίντεο ή αναρτά δυσφημιστικό περιεχόμενο θα αντιμετωπίσει πλήρεις νομικές συνέπειες, χωρίς καμία επιείκεια ή διακανονισμό.
Η κορεατική νομοθεσία προβλέπει ποινή φυλάκισης έως και επτά έτη ή χρηματικό πρόστιμο έως 50 εκατομμύρια γουόν (περίπου 31.990 ευρώ) για τη δημιουργία ή διανομή σεξουαλικά παραποιημένου deepfake περιεχομένου.
Αν το αδίκημα διαπραχθεί με σκοπό το κέρδος, η ποινή αυξάνεται σε ελάχιστο όριο τριών ετών φυλάκισης. Η κατοχή, αγορά, αποθήκευση ή παρακολούθηση τέτοιου περιεχομένου τιμωρείται με ποινή έως και τρία έτη φυλάκισης ή χρηματικό πρόστιμο έως 30 εκατομμύρια γουόν (19.190 ευρώ).
Καθώς η τεχνολογία συνεχίζει να εξελίσσεται, οι απειλές κατά της ιδιωτικότητας και της αξιοπρέπειας των καλλιτεχνών γίνονται πιο σύνθετες και ύπουλες.
Η συντονισμένη αντίδραση των αρχών και των εταιρειών ψυχαγωγίας είναι ζωτικής σημασίας για την προστασία όχι μόνο των διάσημων προσώπων, αλλά και των δικαιωμάτων κάθε ατόμου στον ψηφιακό κόσμο.
