Στις 20/03/2024 συμμετείχα σε ρεπορτάζ του Αντώνη Κρητικού για τα Deepfakes και τους κινδύνους της Τεχνητής Νοημοσύνης. Στα πλαίσια του ρεπορτάζ δημιουργήσαμε 2 χιουμοριστικά deepfakes με τα πρόσωπα και τις φωνές Ελλήνων πολιτικών.
Μπορείτε να παρακολουθήσετε το ρεπορτάζ στο παρακάτω βίντεο.
Με αφορμή το ρεπορτάζ θέλω να παραθέσω και τις δικές μου σκέψεις πάνω στο θέμα.
Ο Κίνδυνος
Οι ραγδαίες εξελίξεις στον τομέα της Τεχνητής Νοημοσύνης τα τελευταία χρόνια έχουν φέρει μεγάλο ενθουσιασμό σε πολλούς, αλλά και μεγάλη ανησυχία.
Η χρήση της Τεχνητής Νοημοσύνης για την διασπορά ψευδών ειδήσεων και και την παραπληροφόρηση είναι μία από τις πραγματικές και τις πολύ σημαντικές επιπτώσεις αυτής της τεχνολογίας.
Η παραποίηση εικόνων και βίντεο με διάφορα ψηφιακά μέσα δεν είναι κάτι καινούριο. Με την χρήση της Τεχνητής Νοημοσύνης (ΤΝ) όμως, έχουμε δύο πολύ ουσιαστικές αλλαγές.
Η πρώτη αφορά την ευκολία με την οποία μπορούν να δημιουργηθούν παραπλανητικά βίντεο και εικόνες. Με την χρήση ΤΝ δεν χρειάζεται κάποιος να γνωρίζει ένα επαγγελματικό πρόγραμμα επεξεργασίας βίντεο και εικόνων, και δεν χρειάζεται να αφιερώσει πολλές ώρες προσωπικού χρόνου και προσπάθειας για να δημιουργήσει ένα αληθοφανές αποτέλεσμα. Χρησιμοποιώντας εφαρμογές ΤΝ, ένας χρήστης με λίγες τεχνικές γνώσεις μπορεί μέσα σε λίγες ώρες, ή πολλές φορές και λίγα λεπτά, να δημιουργήσει πολύ ρεαλιστικά deepfakes, και να αντιγράψει την φωνή κάποιου δημόσιου προσώπου, χρησιμοποιώντας μόνο μερικά λεπτά από την φωνή του σαν δείγμα. Αυτή η ευκολία και η αυτοματοποίηση που προσφέρουν οι εφαρμογές ΤΝ είναι ένας ακόμα λόγος που βλέπουμε όλο και πιο συχνά παραπλανητικές ειδήσεις που προβάλουν κάποιο βίντεο ή εικόνα που είναι προϊόν ΤΝ.
Η δεύτερη αλλαγή που φέρνει η χρήση της ΤΝ έχει να κάνει με την ελεύθερη πρόσβαση και την διαθεσιμότητα αυτών των εφαρμογών στο ευρύ κοινό. Κάποιες από τις εταιρείες και τους οργανισμούς που αναπτύσουν τις εφαρμογές και τα μοντέλα ΤΝ αποφασίζουν να διαθέτουν τον κώδικα ή τα εκπαιδευμένα μοντέλα ελέυθερα στην ερευνητική κοινότητα και τους χρήστες του διαδικτύου. Πολλές από τις σημαντικότερες εφαρμογές που χρησιμοποιούμε σήμερα βασίζονται στην λογική του “Λογισμικού Ανοιχτού Κώδικα”, καθώς με αυτόν τον τρόπο, ερευνητές και ερασιτέχνες από ολόκληρο τον κόσμο μπορούν να μελετάνε την εκάστοτε τεχνολογία και να συνεισφέρουν στην ανάπτυξη της. Κάποιοι όμως υποστηρίζουν ότι δεν πρέπει να εφαρμόζεται το ίδιο μοντέλο στις εφαρμογές την ΤΝ, καθώς καθίσταται αδύνατος ο έλεγχος της χρήσης των εφαρμογών και οι αρνητικές επιπτώσεις υπερκαλύπτουν τα οφέλη. Δεν είναι παράλογο να σκεφτούμε πως όσο περισσότερος κόσμος έχει πρόσβαση σε αυτές τις εφαρμογές, τόσο αυξάνονται και οι πιθανότητες για κάποια κακόβουλη ενέργεια.
Το Αντίκτυπο
Η πιο άμεση επίπτωση της κακόβουλης χρήσης αυτών των εφαρμογών ΤΝ, είναι η ταχύτερη και μαζικότερη εξάπλωση ψευδών ειδήσεων. Ένας ανυποψίαστος χρήστης είναι πολύ πιθανό να πέσει θύμα παραπληροφόρησης, αν παρακολουθήσει ένα βίντεο με το πρόσωπο και την φωνή ενός ανθρώπου που γνωρίζει. Το πρόβλημα όμως υπάρχει και ανάμεσα σε πιο εξοικειωμένους χρήστες, καθώς οδηγούμαστε σε μία συνθήκη όπου δεν θα μπορούμε να διακρίνουμε εύκολα την αλήθεια από το ψέμα.
Λογισμικό Ανοιχτού Κώδικα
Προσωπικά, θεωρώ την ελεύθερη και ανοικτή διάθεση των μοντέλων ΤΝ μία κίνηση προς την σωστή κατεύθυνση. Ενώ αναγνωρίζω την πιθανότητα κακόβουλης χρήσης όταν δεν υπάρχει πλέον κανένας έλεγχος για την χρήση τους, πιστεύω πως οι θετικές συνέπειες αυτής της κίνησης είναι περισσότερες. Δίνοντας την δυνατότητα της χρήσης των εφαρμογών στο ευρύ κοινό, αυξάνεται η εξοικείωση του κόσμου με τις δυνατότητες αυτής της νέας τεχνολογίας, και κατά συνέπεια, αυξάνεται και η επαγρύπνηση του για τις περιπτώσεις παραπληροφόρησης. Αν η χρήση των εφαρμογών ΤΝ ήταν δυνατότητα και προνόμιο λίγων, τότε οι κακόβουλες ενέργειες, ενδεχομένως να ήταν πιο στοχευμένες, πιο προσεγμένες και πιο επικίνδυνες, καθώς θα απευθύνονταν σε ένα πιο ανυποψίαστο κοινό.
Επιπλέον, η ελεύθερη διάθεση των μοντέλων ΤΝ επιτρέπει σε οποιονδήποτε να τα μελετήσει και να ανιχνεύσει εγκαίρως πιθανά κενά ασφαλείας, ή να αναπτύξει μεθόδους για την ενίσχυση της ποιότητας και της ασφάλειας των μοντέλων.
