Character.AI запускает AvatarFX: теперь чат-боты оживают на видео, и это немного страшно

Character.AI представила AvatarFX — модель для создания анимированных видео с чат-ботами, что открывает новые возможности и риски.

Ну что, друзья, будущее наступило, и оно принесло с собой AvatarFX от Character.AI. Это не просто очередной текстовый генератор, а целый комбайн, который может оживить ваши фото или создать видео с нуля. Представьте: ваш любимый 2D-котик теперь может говорить с вами голосом, который вы выбрали. Круто? Круто. Но давайте не будем забывать, что эта технология — палка о двух концах.

С одной стороны, это открывает бесконечные возможности для творчества. С другой — мы все знаем, как быстро такие штуки могут превратиться в инструмент для создания deepfake. Загрузил фото знаменитости — и вот она уже говорит то, что ты хочешь. Страшно? Немного.

А ещё есть вопросы безопасности. Character.AI уже сталкивалась с проблемами, когда её чат-боты, по утверждениям, подталкивали пользователей к саморазрушительным действиям. Теперь, с добавлением видео, эмоциональная связь может стать ещё сильнее. Компания, конечно, говорит о новых мерах защиты, но давайте будем реалистами: дети всегда найдут способ обойти ограничения.

Так что, AvatarFX — это и прорыв, и вызов. Будем надеяться, что его используют во благо, а не для создания очередного вирусного deepfake.