Глава Instagram предупреждает о важности проверки источников контента в эпоху ИИ

Адам Моссери, глава Instagram, подчеркнул необходимость проверки источников онлайн-контента из-за распространения ИИ-генерации, которая может создавать обманчиво реалистичные изображения. Он призвал социальные сети играть ключевую роль в проверке и маркировке такого контента.

В ходе недавнего обсуждения на Threads, Адам Моссери, глава Instagram, выступил с предупреждением о надежности онлайн-контента. Он подчеркнул значительное влияние искусственного интеллекта на создание визуально обманчивого контента, который невозможно отличить от реальных изображений.

Моссери акцентировал важность оценки источников контента и отметил, что социальные сети должны играть ключевую роль в этой проверке. ‘Идентификация контента, созданного ИИ, крайне важна’, — заявил Моссери, признавая возможность неправильной маркировки контента.

Он утверждал, что платформы должны не только маркировать контент, созданный ИИ, но и раскрывать информацию о его создателях, что позволит пользователям оценить достоверность контента. Это перекликается с идеей осторожности в отношении чат-ботов, которые могут вводить в заблуждение, прежде чем полагаться на результаты поиска, управляемые ИИ.

Несмотря на предложения Моссери, платформы Meta в настоящее время не имеют обширных инструментов для предоставления контекста, хотя есть признаки скорых изменений в политике модерации контента. Описанные функции намекают на пользовательскую модерацию, аналогичную Community Notes или настраиваемым фильтрам Bluesky, хотя неясно, пойдет ли Meta по этому пути. Исторически компания адаптировала успешные стратегии от коллег, таких как Bluesky.