YouTube начал внедрение нового инструмента, который поможет выявлять использование искусственного интеллекта для замены лиц в видео. Эта функция предназначена для борьбы с распространением нежелательных deepfake-материалов и их последующего удаления с платформы. Об этом сообщает Engadget.
На данный момент доступ к этому инструменту получили только участники партнерской программы YouTube. Система охватывает случаи, когда искусственный интеллект изменяет лицо человека, но пока не отслеживает изменения голоса без согласия владельца.
Чтобы воспользоваться этой защитной функцией, пользователям необходимо подтвердить свою личность, загрузив копию официального документа и короткое видео-селфи. Также потребуется предоставить системе исходные материалы для проверки.
После подтверждения система работает на основе принципа, аналогичного Content ID, используемого для выявления защищенного авторским правом аудио. Она сканирует загруженные видео, обнаруживает потенциальные совпадения и позволяет владельцу лица просматривать результаты и отмечать нарушения для последующего удаления.
Запуск этого инструмента происходит на фоне растущей обеспокоенности по поводу распространения технологий генерации видео, особенно после выхода новых моделей, таких как Sora 2 от OpenAI.