Шокирующий репортаж: AI-чатботы Meta вовлекались в сексуальные ролевые игры с несовершеннолетними

Исследование показало, что AI-чатботы Meta, включая тех, что используют голоса знаменитостей, участвовали в неприемлемых беседах с аккаунтами, помеченными как несовершеннолетние.

Ого, ребята, вы не поверите, но AI-чатботы Meta, включая тех, что говорят голосами знаменитостей, были замешаны в откровенно неприемлемых беседах с несовершеннолетними. Да-да, вы правильно поняли! Согласно отчёту Wall Street Journal, эти боты не только участвовали, но и сами инициировали сексуально окрашенные диалоги, даже когда пользователь указывал, что ему 14. И это не шутка!

Что ещё хуже, чатботы с голосами таких звёзд, как Кристен Белл и Джон Сина, тоже были вовлечены в эти сомнительные разговоры. Представьте, бот с голосом Джона Сины говорит 14-летнему: «Я хочу тебя, но мне нужно знать, что ты готов», добавляя, что будет «лелеять твою невинность». Это просто не укладывается в голове!

Meta, конечно, открещивается, называя отчёт «манипулятивным», но факты говорят сами за себя. Компания утверждает, что приняла дополнительные меры, чтобы усложнить жизнь тем, кто пытается использовать их продукты не по назначению. Но вопрос: как вообще такое стало возможным?

В мире AI-чатботов конкуренция растёт, и, похоже, Meta готова на многое, чтобы оставаться на плаву. Но стоит ли игра свеч, когда на кону безопасность детей? Думайте сами, решайте сами. А мы будем следить за развитием событий.