Платформа Character.AI, специализирующаяся на общении и ролевых играх с искусственно созданными персонажами, презентовала новую модель для генерации видео под названием AvatarFX. На данный момент AvatarFX доступна в закрытом бета-тестировании. Она предлагает возможность анимации персонажей в разных стилях и с разнообразными голосами. Эти персонажи могут варьироваться от человекоподобных до животных из 2D-мультфильмов. В отличие от аналогичных решений, таких как OpenAI Sora, AvatarFX не просто генерирует видеоматериалы по текстовым командам. Пользователи могут создавать видео на основе существующих статичных изображений, например, анимируя фотографии реальных людей.
Однако подобные технологии могут быть использованы в недобросовестных целях, как сообщает ресурс TechCrunch: недобросовестные пользователи могут загружать фото знаменитостей или знакомых, чтобы заставить виртуального персонажа произнести или сделать что-то компрометирующее. Хотя технологии дипфейков развиваются уже давно, их интеграция в такие популярные продукты как Character.AI усиливает риски.
В прошлом году разговор ИИ-персонажа из «Игры престолов» с 14-летним подростком закончилось трагично. В ответ на это администрация сервиса ввела родительский контроль и дополнительные меры безопасности. В компании не комментировали возможные риски, связанные с использованием AvatarFX.
Как сообщалось ранее — Роднина оценила отсутствие зрительского интереса к фильму о ней