Meta запустила ИИ-переводы Reels с синхронизацией губ— Affelist

Meta внедряет функцию перевода аудио в видео с помощью ИИ

Meta стремится расширить доступ к контенту в приложении, внедряя аудиопереводы с помощью своих продвинутых инструментов ИИ-перевода, которые даже способны имитировать движение губ в синхронизации с озвучкой.

Как видно на этом примере, пользователи Facebook теперь смогут просматривать определённый контент на другом языке, используя развивающиеся инструменты аудиоперевода Meta AI, которые могут создавать эффект, будто люди в видео говорят на другом диалекте.

Как объясняют в Meta:

Meta AI Translations использует звук и тембр вашего собственного голоса, чтобы перевод ощущался максимально аутентичным. А функция синхронизации губ подстраивает движения рта под переведённое аудио, создавая впечатление, что вы действительно говорите на другом языке в Reels. Meta разрабатывает эту технологию уже некоторое время, и последние достижения в области воссоздания речи с помощью ИИ теперь позволяют запустить её в широком масштабе, начиная с автоматических переводов с английского на испанский (и наоборот). Авторы смогут сами решать, активировать ли аудиоперевод в редакторе Reels, с помощью нового переключателя «Перевести ваш голос с Meta AI».

Как видно на этом примере, вы также можете включить автоматическую синхронизацию губ или оставить видео без изменений, переведя только аудиодорожку ролика.

«Если вы хотите просмотреть перевод перед публикацией, можно включить соответствующий переключатель. После этого вы получите уведомление (или сможете зайти в Professional Dashboard), чтобы проверить и утвердить перевод. Принятие или отклонение перевода никак не повлияет на ваш оригинальный, непереведённый ролик».

Переведённые Reels будут показываться зрителям на их предпочтительном языке, при этом они будут получать уведомление о том, что ваш ролик переведён с помощью Meta AI. Зрители также смогут управлять тем, на каких языках они хотят видеть переводы.

Это может стать полезным инструментом для расширения вашей аудитории благодаря реалистичным переводам контента на другие языки. И хотя на старте доступен только испанский, Meta заявляет, что в ближайшем будущем добавит и многие другие языки.

Как и во всех системах автоматического перевода, ошибки неизбежны, поэтому Meta даёт несколько советов, которые помогут системе точнее считывать движения губ:

  • система поддерживает перевод максимум для двух спикеров, при этом авторам лучше избегать одновременной речи, чтобы повысить точность;

  • авторам рекомендуется минимизировать фоновый шум и/или музыку в переводимых Reels;

  • Meta отмечает, что построение новой аудитории на другом языке в каком-то смысле похоже на старт с нуля, поэтому для завоевания внимания этой аудитории потребуется время.

Таким образом, инструмент не идеален, и переводы будут иметь ограничения. Но он может помочь вам охватить значительно больше людей, открывая доступ к новым зрителям.

Кроме того, Meta предоставляет администраторам Facebook-страниц возможность добавлять до 20 собственных дубляжных аудиодорожек к одному Reels.

«Как и в случае с переводами Meta AI, зрители будут слышать ваш ролик на своём языке, что позволит вам продолжать выстраивать более глубокие связи с разной аудиторией без языковых барьеров».

Эти добавленные вручную аудиодорожки не будут синхронизированы с движениями губ, но всё же станут ещё одним способом наладить связь на других языках.

Affelist
Добавить комментарий