Нові технології генерації мови на основі штучного інтелекту відкривають великі можливості, але водночас приховують у собі небезпеку зловживання. З одного боку, реалістичні голоси дають змогу поліпшити взаємодію людини і машини, зробити її більш природною. З іншого боку, ті самі технології дають можливість створювати переконливі підробки голосів реальних людей і використовувати їх на шкоду.

Особливо гостро ця проблема проявилася у сфері телемаркетингу та політичної агітації по телефону. Так звані "рободзвінки" – автоматизовані дзвінки із записаними повідомленнями давно використовуються для масових розсилок. Тепер же замість стандартних комп’ютерних голосів шахраї отримали можливість генерувати будь-які голоси, починаючи від знаменитостей і закінчуючи політиками.

Яскравим прикладом зловживання стала масова розсилка від імені президента США Джо Байдена під час його передвиборчої кампанії. Понад 20 000 виборців отримали дзвінок, у якому підробка голосу Байдена закликала демократів не брати участь у голосуванні. Цей інцидент наочно продемонстрував небезпеку використання технологій генерації мови з політичною метою.

Щоб припинити подібні зловживання, Федеральна комісія зі зв’язку США ввела заборону на використання синтезованих голосів у роборіжках. За словами голови FCC Джессіки Розенворсель (Jessica Rosenworcel), це дасть правоохоронним органам додаткові повноваження для притягнення шахраїв до відповідальності. Однак єдиного рішення, як запобігти неправомірному використанню технологій синтезу мови, поки що немає. З одного боку, потрібно розвивати методи розпізнавання підробок.

З іншого боку, необхідний комплексний підхід – від законодавчого регулювання до підвищення медіаграмотності користувачів. У будь-якому разі, відповідальність за використання потужних технологій лежить насамперед на самих розробниках та їхніх етичних принципах.