Πώς η ΑΙ παράγει πορνογραφία

Τον περασμένο Οκτώβριο το συμβούλιο μιας φυλακής στη Λουιζιάνα συνεδρίασε για να αποφασίσει την πιθανή αποφυλάκιση ενός κρατουμένου καταδικασμένου για φόνο. Στην επιτροπή κλήθηκε να δώσει τη γνώμη της και μία γιατρός με χρόνια εμπειρία στην ψυχική υγεία.

Ωστόσο, τη συνεδρίαση δεν παρακολούθησαν μόνο οι ενδιαφερόμενοι. Ομάδα από τρολ του Διαδικτύου «έκλεψε» μία φωτογραφία της γιατρού από ένα σύντομο βίντεο της τοποθέτησής της που κυκλοφόρησε δημοσίως και, με τη βοήθεια της τεχνητής νοημοσύνης, την «έγδυσε» και την παρουσίασε γυμνή στο Διαδίκτυο.

Δεν είναι η πρώτη φορά που η τεχνολογία του ΑΙ χρησιμοποιείται για να δημιουργηθούν ψεύτικες εικόνες οι οποίες προωθούν το μίσος, την κακοποίηση ή τις θεωρίες συνωμοσίας. Ιστότοποι όπως το διαβόητο 4Chan, όπου οι χρήστες μπορούν να μοιράζονται μηνύματα ανώνυμα, έχουν λειτουργήσει πολλές φορές στο πρόσφατο παρελθόν ως διαμοιραστές τέτοιου περιεχομένου.

Ανθρωποι που παρακολουθούν επισταμένως τη διάδοση μηνυμάτων μίσους στο Διαδίκτυο σχολιάζουν πως πλέον οι χρήστες του έχουν στη φαρέτρα τους μία σειρά πολύ εξελιγμένων εργαλείων τεχνητής νοημοσύνης, τα οποία θα χρησιμοποιήσουν στο μέλλον για να προωθήσουν τις τοξικές θέσεις τους. Ο Κέιλουμ Χουντ, διευθυντής του Κέντρου για την Αναχαίτιση του Ψηφιακού Μίσους, εξηγεί πως οι πλατφόρμες σαν το 4Chan είναι γεμάτες με «νέους ανθρώπους που μπορούν να εξοικειωθούν πολύ γρήγορα με τις νέες τεχνολογίες», όπως το ΑΙ, ώστε να «προωθήσουν την ιδεολογία τους σε ένα ευρύ κοινό».

Εργαλεία που χρησιμοποιούν τεχνητή νοημοσύνη, όπως είναι το Dall-E και το Midjourney, μπορούν να δημιουργήσουν νέες πρωτότυπες φωτογραφίες ακολουθώντας γραπτές οδηγίες. Ομως, τέτοιου είδους εργαλεία νέας γενιάς χρησιμοποιούνται για να δημιουργήσουν ψεύτικη πορνογραφία ή να «αφαιρέσουν» τα ρούχα από υπάρχουσες φωτογραφίες. «Χρησιμοποιούν ΑΙ για να φτιάξουν φωτογραφίες που απεικονίζουν ακριβώς αυτό που θέλουν», εξηγεί ο Χουντ.

Μέχρι στιγμής δεν υπάρχει κάποιος ομοσπονδιακός νόμος που να απαγορεύσει τη δημιουργία ψεύτικων εικόνων, αφήνοντας ανθρώπους σαν την ιατρό της επιτροπής στη Λουιζιάνα σε αμηχανία σχετικά με το πώς πρέπει να κινηθούν νομικά.

«Κάθε εικόνα που αναπαράγεται στο Διαδίκτυο και παρουσιάζει μέλη μας ή συνεργάτες μας με αρνητικό τρόπο θα προσπαθήσουμε με κάθε νομικό μέσο να απαγορευθεί», δήλωσε ο Φράνσις Αμποτ, διευθυντής της επιτροπής. «Πρέπει όμως να κινηθούμε εντός του πλαισίου του νόμου – και αυτό δεν καθορίζεται από εμάς».

Η πολιτεία του Ιλινόι, για παράδειγμα, επέκτεινε την υπάρχουσα νομοθεσία σχετικά με την εκδικητική πορνογραφία ώστε οι εικονιζόμενες και οι εικονιζόμενοι σε πορνογραφικές εικόνες που έχουν παραχθεί με χρήση ΑΙ χωρίς τη συγκατάθεσή τους να μπορούν να μηνύουν τους δημιουργούς αλλά και τους διαμοιραστές.

Ελλείψεις στο νομικό πλαίσιο για τις ψεύτικες εικόνες μέσω τεχνητής νοημοσύνης, οι οποίες προωθούν το μίσος, την κακοποίηση ή τις θεωρίες συνωμοσίας.

Φωνές

Νωρίτερα φέτος, η ElevenLabs, νεοσύστατη εταιρεία τεχνολογίας τεχνητής νοημοσύνης, δημιούργησε ένα εργαλείο που μπορούσε να κατασκευάσει μία πειστική ψηφιακή απομίμηση της φωνής διάφορων ανθρώπων.

Σχεδόν αμέσως μετά την κυκλοφορία της εφαρμογής εμφανίστηκαν στο 4Chan σύντομα κλιπ της Αμερικανίδας ηθοποιού Εμα Γουάτσον, γνωστής από τις ταινίες του Χάρι Πότερ, να διαβάζει εδάφια από το «Ο αγών μου» του Αδόλφου Χίτλερ.

H ElevenLabs έσπευσε να επιβάλει περιορισμούς, απαιτώντας από τους χρήστες να εγγραφούν με την ταυτότητά τους και να πληρώσουν για να χρησιμοποιήσουν το εργαλείο δημιουργίας φωνής. Εκτοτε έχουν κυκλοφορήσει αμέτρητα βίντεο σε πλατφόρμες με εκατομμύρια χρήστες, όπως το YouTube και το TikTok, στα οποία ακούγονται ψευδώς φωνές διασήμων συχνά να αναπαράγουν παραπλανητικά πολιτικά μηνύματα.

Τον Οκτώβριο ο πρόεδρος Τζο Μπάιντεν εξέδωσε εκτελεστικό διάταγμα με το οποίο απαιτούσε κάθε εταιρεία που παράγει τέτοιους είδους περιεχόμενο να το «μαρκάρει» με μία ψηφιακά ανεξίτηλη ταμπέλα.

Πρόσφατα η Μeta, ιδιοκτήτρια του Facebook και του Instagram –που έχει μπει στην «κούρσα» της τεχνητής νοημοσύνης– αποφάσισε να αποκαλύψει δημοσίως τον κώδικα με τον οποίο μπορεί κανείς να φτιάξει ένα ρομπότ που ανταποκρίνεται σε μηνύματα χρησιμοποιώντας ΑΙ (Chatbot).

Η κίνηση αυτή ήρθε ως αποτέλεσμα της γενικότερης προσέγγισης του «open source», που ακολουθείται ευρέως στην ακαδημία και που βασίζεται στη σκέψη πως η ευρεία πρόσβαση σε νέες ανακαλύψεις έχει τη δυνατότητα να επιταχύνει τη βελτίωσή τους.

Το αποτέλεσμα ήταν στους επόμενους μήνες να πολλαπλασιαστούν οι αναρτήσεις με σεξουαλικό ή ακροδεξιό περιεχόμενο που κυκλοφορούν στο Διαδίκτυο. Χρήστες κατάφεραν να βρουν τρόπο να κατασκευάζουν δικά τους προγράμματα παραγωγής γυμνών εικόνων, παρακάμπτοντας έτσι κάθε περιορισμό που έχει επιβληθεί.

Απάντηση

Αυτός ο ιστότοπος χρησιμοποιεί το Akismet για να μειώσει τα ανεπιθύμητα σχόλια. Μάθετε πώς υφίστανται επεξεργασία τα δεδομένα των σχολίων σας.