Με τις ραγδαίες εξελίξεις στην τεχνητή νοημοσύνη, το κοινό συνειδητοποιεί όλο και περισσότερο ότι αυτό που βλέπετε στην οθόνη σας μπορεί να μην είναι αληθινό. Το ChatGPT θα γράψει τα πάντα, από ένα σχολικό δοκίμιο μέχρι ένα ανόητο ποίημα. Το DALL-E μπορεί να δημιουργήσει εικόνες ανθρώπων και τόπων που δεν υπάρχουν. Το Stable Diffusion ή το Midjourney μπορούν να δημιουργήσουν μια ψεύτικη διαφήμιση μπύρας — ή ακόμα και ένα πορνογραφικό βίντεο με πρόσωπα πραγματικών ανθρώπων που δεν έχουν συναντηθεί ποτέ.
Το λεγόμενο “deepfake πορνό” γίνεται ολοένα και πιο κοινό, με τους δημιουργούς deepfake να δέχονται πληρωμένα αιτήματα για πορνό με ένα άτομο της επιλογής του αγοραστή και μια πληθώρα πλαστών βίντεο που δεν είναι ασφαλή για εργασία να κυκλοφορούν σε ιστότοπους αφιερωμένους σε deepfakes.
Ο ιστότοπος ζωντανής ροής Twitch κυκλοφόρησε πρόσφατα μια δήλωση κατά του deepfake πορνό, αφού άρχισαν να κυκλοφορούν μια σειρά από deepfake που στόχευαν δημοφιλείς γυναίκες streamers του Twitch. Τον περασμένο μήνα, το FBI εξέδωσε μια προειδοποίηση σχετικά με τις «διαδικτυακές απάτες εξαγοράς», κατά τις οποίες οι απατεώνες χρησιμοποιούν περιεχόμενο από τα μέσα κοινωνικής δικτύωσης ενός θύματος για να δημιουργήσουν deepfakes και στη συνέχεια απαιτούν πληρωμή για να μην τα κοινοποιήσουν.
Τι είναι το deepfake πορνό; Πόσο δημοφιλής είναι
Τα Deepfakes αναφέρονται σε οπτικό περιεχόμενο που δημιουργείται με τη χρήση τεχνολογίας AI, προσφέροντας στον καθένα πρόσβαση μέσω εφαρμογών και ιστοτόπων. Οι αλγόριθμοι βαθιάς μάθησης που χρησιμοποιούνται μπορούν να αφαιρέσουν ρούχα από εικόνες γυναικών και να τα αντικαθιστούν με γυμνά τμήματα του σώματος. Ενώ θα μπορούσαν επίσης να επηρεάσουν άνδρες, οι αλγόριθμοι συνήθως εκπαιδεύονται σε εικόνες γυναικών.
Τα Deepfakes τράβηξαν πραγματικά την προσοχή του κοινού το 2017 και δύο χρόνια αργότερα, το 2019, υπήρχαν 14.678 deepfake βίντεο στο διαδίκτυο και το 96% ήταν πορνογραφικά. Εκείνη την εποχή, όλα αυτά παρουσίαζαν γυναίκες, σύμφωνα με έρευνα από τα εργαστήρια Deeptrace.
Η άνοδος του πορνό AI προσθέτει ένα άλλο επίπεδο πολυπλοκότητας σε αυτό, όπου νέες τεχνολογίες όπως το Stable Diffusion δημιουργούν ψεύτικες εικόνες πορνό. Αυτές οι συνθετικές σεξουαλικές εικόνες δημιουργούνται από την τεχνητή νοημοσύνη, καθώς δεν απεικονίζουν πραγματικά γεγονότα, αλλά εκπαιδεύονται σε εικόνες πραγματικών ανθρώπων, πολλά από τα οποία κοινοποιούνται χωρίς συναίνεση. Στους διαδικτυακούς χώρους, είναι δύσκολο να διαχωριστεί κανείς συναινετικά από τις μη συναινετικά διανεμημένες εικόνες.
Η δημιουργία ψεύτικων ερωτικών εικόνων δεν είναι εγγενώς κακό. Οι διαδικτυακοί χώροι μπορούν να είναι ένας πολύ καλός τρόπος για να εξερευνήσετε και να απολαύσετε τη σεξουαλικότητά σας. Ωστόσο, όταν δημιουργούνται και διανέμονται ψεύτικες γυμνές εικόνες ανθρώπων χωρίς τη συγκατάθεσή τους, γίνεται βαθιά επιβλαβές.
Θα μπορούσαν και να δημιουργήσουν ψεύτικες ερωτικές εικόνες με σκοπό την εξάλειψη των κακοποιήσεων προς γυναίκες που επιδέχονται βιασμό και τα βίντεό τους να κυκλοφορούν ελεύθερα στο διαδίκτυο. Θα μπορούσαν να χρησιμοποιηθούν από γυναίκες πρωταγωνίστριες ερωτικών ταινιών για την παραγωγή τους και την παραγωγή εικόνων σε ιστότοπους όπως το Only Fans. Δηλαδή η χρήση του θα μπορούσε να ευνοεί και συγκεκριμένες καταστάσεις.
Είναι πιθανόν πως οι δημιουργοί αυτών των πορνογραφικών deepfakes δεν έχουν προσωπική επαφή ή γνωριμία με τα άτομα που επιλέγουν να παρουσιάσουν ψευδώς. Αυτό μπορεί να οφείλεται στο γεγονός ότι η επίθεση μέσω deepfake στοχεύει συγκεκριμένες προσωπικότητες, συχνά γυναίκες, με σκοπό να τις φιμώσει ή να τις ντροπιάσει με τη διάδοση παραπλανητικών πληροφοριών.
Μέσω της ενημέρωσης και του λογοκριτικού ρόλου που επιτελεί το Stable Diffusion, η δημιουργία πορνό AI έχει δημιουργήσει περιορισμούς στη διάδοσή της. Το 2018, η πλατφόρμα Reddit απαγόρευσε τη χρήση τεχνητής νοημοσύνης σε ορισμένες ομάδες που σχετίζονται με πορνογραφία, ενισχύοντας έτσι την ασφάλεια στον διαδικτυακό χώρο.
Σε διάφορες χώρες, έχουν εισαχθεί νομοθετικά μέτρα για την καταπολέμηση της κοινής χρήσης (και όχι της δημιουργίας) deepfake πορνό.
Για παράδειγμα, στο Ηνωμένο Βασίλειο, υπάρχει ένας νόμος που καλύπτει αυτόν τον τομέα, ενώ στις Ηνωμένες Πολιτείες, μόνο τέσσερις πολιτείες έχουν υιοθετήσει νομοθεσία για την πορνογραφία που βασίζεται σε deepfakes. Ορισμένοι από αυτούς τους νόμους είναι ευρείς και καλύπτουν τη σεξουαλική κακοποίηση που βασίζεται σε εικόνες, περιλαμβάνοντας και τα ψεύτικα πορνό.
Η ανησυχία για το πώς η απειλή της έκθεσης μέσω σεξουαλικής κακοποίησης που βασίζεται σε εικόνες επηρεάζει τις καθημερινές αλληλεπιδράσεις των εφήβων κοριτσιών και των γυναικών στο δίκτυο αυξάνεται, και αναμένεται να απαιτήσει περαιτέρω έρευνα για τις επιπτώσεις αυτών των καταστάσεων στην ψυχολογική και κοινωνική ευημερία.
Προκειμένου να αντιμετωπιστούν οι πιθανές αρνητικές επιπτώσεις της τεχνητής νοημοσύνης στη βιομηχανία πορνογραφίας, είναι σημαντικό να λαμβάνονται προφυλάξεις. Αναφέρω μερικές συστάσεις:
Ανάπτυξη Δεοντολογικών Κατευθυντήριων Γραμμών:
Η βιομηχανία πρέπει να αναπτύξει και να επιβάλει δεοντολογικές κατευθυντήριες γραμμές που θα καθοδηγούν τη χρήση της τεχνητής νοημοσύνης. Αυτές οι κατευθυντήριες γραμμές θα πρέπει να περιλαμβάνουν ηθικές αρχές για τη δημιουργία, τη διανομή και την κατανάλωση πορνογραφικού περιεχομένου.
Ευαισθητοποίηση και Εκπαίδευση:
Είναι απαραίτητο να αυξηθεί η ευαισθητοποίηση των καταναλωτών και των καλλιτεχνών για τους κινδύνους της τεχνητής νοημοσύνης στην πορνογραφία. Εκπαιδευτικά προγράμματα μπορούν να παρέχουν πληροφορίες για τον εντοπισμό και την αναφορά παράνομου και ανήθικο περιεχομένου.
Διαφάνεια και Λογοδοσία:
Η βιομηχανία πρέπει να είναι διαφανής σχετικά με τη χρήση της τεχνητής νοημοσύνης. Οι πλατφόρμες πρέπει να είναι υπεύθυνες για τον έλεγχο παράνομου περιεχομένου και να υπάρχουν συνέπειες για την παραβίαση δεοντολογικών προτύπων.
Ενδυνάμωση των Ερμηνευτών:
Οι καλλιτέχνες πρέπει να έχουν περισσότερο έλεγχο επί της χρήσης της εικόνας τους σε περιεχόμενο που δημιουργείται από την τεχνητή νοημοσύνη. Αυτό περιλαμβάνει τη δυνατότητα ελέγχου και αφαίρεσης του περιεχομένου από τις πλατφόρμες.
Υποστήριξη της Έρευνας:
Είναι σημαντικό να ενισχυθεί η έρευνα για τις επιπτώσεις της τεχνητής νοημοσύνης στη βιομηχανία πορνογραφίας. Αυτό μπορεί να συμπεριλαμβάνει την ανάλυση των επιπτώσεων του περιεχομένου που δημιουργείται από την τεχνητή νοημοσύνη στους καταναλωτές και τους καλλιτέχνες, καθώς και την ανάπτυξη πρακτικών εργαλείων και στρατηγικών μετριασμού. Οι ερευνητές θα πρέπει να εξετάσουν τις ψυχολογικές και κοινωνικές επιπτώσεις στους ανθρώπους που εμπλέκονται, καθώς και να προτείνουν πιθανές λύσεις για την αντιμετώπιση των προκλήσεων.
Με αυτά τα μέτρα, μπορεί να επιτευχθεί ένα περιβάλλον που σέβεται την ηθική και προστατεύει την αξιοπρέπεια των ατόμων που εμπλέκονται στη βιομηχανία πορνογραφίας. Η ανάπτυξη στρατηγικών για τον έλεγχο και τη ρύθμιση της χρήσης της τεχνητής νοημοσύνης μπορεί να συμβάλει στην προστασία της ιδιωτικής ζωής και της ασφάλειας των ατόμων, ενώ παράλληλα ενισχύει την ευαισθητοποίηση για τους κινδύνους που ενέχει η τεχνητή νοημοσύνη σε αυτόν τον τομέα.
*Φωτογραφία εξωφύλλου: pinterest