Google закрыла свою вычислительную платформу для создателей дипфейков

Google долгое время вообще не проверяла задачи, которые выполняют выделенные процессоры. Лишь недавно стали известно, что в компании решили запретить производство дипфейков в Colaboratory. Это вскрылось совершенно случайно: пользователи просто не смогли запустить один из генераторов дипфейков. Платформа выдала предупреждение о том, что запускаемый код, возможно, запрещен правилами.

«Дипфейки были добавлены в перечень запрещенных действий на Colab после того, как мы заметили множество оскорбительных видео, созданных пользователями», — сообщил порталу TechCrunch представитель Google.

Дипфейками (deepfake) с недавнего времени стали называть методику синтеза изображений на основе искусственного интеллекта: например, можно объединить на фото или видео тело одного человека с головой второго. Нейросети стали работать на столь высоком уровне, что иногда реально сложно определить, является ли видео подлинным или это «склейка». Но, как и для любой обработки видео, создание дипфейков требует значительных ресурсов: в частности, производительной видеокарты.

Сервисы вроде Colaboratory позволяют выполнять все вычисления в облаках, так что для ресурсоемкого монтажа видео оказывается достаточно даже обычного офисного компьютера. Платформа позволяет разработчикам писать, редактировать и выполнять код на языке Python прямо в интернет-браузере. Добавим, что к числу других запретов Colaboratory относится добыча криптовалюты, DoS-атаки, работа с торрентами или участие в одноранговых сетях файлообмена.

Впрочем, журналисты предполагают, что Google могла пойти на такой шаг не из этических, а из чисто коммерческих побуждений: дипфейк-проекты тратят слишком много бесплатных ресурсов. Эксперты отмечают, что запрет может серьезно ослабить «индустрию» дипфейков в целом, так как именно Colaboratory раннее делала процесс «монтажа» таких роликов настолько простым, что в интернете уже появились многочисленные инструкции, с помощью которых дипфейк-видео сможет создать буквально любой человек без какого-либо опыта программирования. Действия Google конечно, это не убьют технологию в целом, просто теперь ей смогут воспользоваться только профессионалы.