Πως θα σου φαινόταν αν κάποιος θα μπορούσε να μιμηθεί την φωνή σου μέσα σε λίγα δευτερόλεπτα; Κι όμως, αυτό κάνει η VALL-E.
Πρόκειται για τη νέα AI της Mirosoft η οποία έχει μια… τρομακτική δυνατότητα: Μπορεί να μιμηθεί τη φωνή κάποιου, μελετώντας απλώς ένα δείγμα ήχου 3 δευτερολέπτων.
Σύμφωνα με το Arstechnica, η VALL-E μπορεί να ταιριάξει τόσο το ηχόχρωμα όσο και τον συναισθηματικό τόνο του ομιλητή, ακόμη και να την παραμορφώσει με ακουστική δωματίου.
Θα μπορεί κάποια στιγμή στο μέλλον να χρησιμοποιηθεί σε εξατομικευμένες ή υψηλής ποιότητας text-to-speech apps.
Ωστόσο, υπάρχει και ένα ζοφερό σενάριο, το οποίο το βλέπουμε αυτή τη στιγμή με τα deepfakes, τα οποία ενέχουν κακόβουλη χρήση. Η Microsoft επέλεξε να μην καταστήσει τον κώδικα ανοιχτού κώδικα, ενδεχομένως λόγω των κινδύνων που ενέχει η τεχνητή νοημοσύνη που μπορεί να βάλει λέξεις… στο στόμα κάποιου.
“Δεδομένου ότι η VALL-E θα μπορούσε να συνθέσει ομιλία που διατηρεί την ταυτότητα του ομιλητή, μπορεί να ενέχει πιθανούς κινδύνους στην κακή χρήση του μοντέλου, όπως η παραποίηση της αναγνώρισης φωνής ή η πλαστοπροσωπία”, έγραψε η εταιρεία στην ενότητα του paper, με τίτλο “Ευρύτερες επιπτώσεις”.
