Учёные тайно экспериментировали на пользователях Reddit с помощью ИИ-комментариев
Исследователи из Университета Цюриха провели неавторизованный эксперимент, используя ИИ для генерации комментариев в популярном сообществе Reddit, чтобы изучить их убедительность.
Группа исследователей тайно провела месячный “неавторизованный” эксперимент в одном из самых популярных сообществ Reddit, используя ИИ-генерацию комментариев для проверки убедительности больших языковых моделей. Эксперимент, который был раскрыт модераторами r/changemyview, описан как “психологическая манипуляция” ничего не подозревающих пользователей.
Исследователи использовали ИИ для создания комментариев в ответ на посты в r/changemyview, где пользователи делятся (часто спорными или провокационными) мнениями и просят обсуждения. Сообщество насчитывает 3.8 миллиона участников и часто попадает на главную страницу Reddit. По словам модераторов, ИИ принимал различные личности в комментариях, включая выжившего после сексуального насилия, консультанта по травмам и “чернокожего мужчину, выступающего против Black Lives Matter”.
В черновике своей работы исследователи описывают, как они не только использовали ИИ для генерации ответов, но и пытались персонализировать их, используя информацию из истории постов пользователей.
Модераторы r/changemyview отмечают, что исследователи нарушили несколько правил сообщества, включая требование раскрывать использование ИИ и запрет на ботов. Они подали официальную жалобу в Университет Цюриха и попросили исследователей не публиковать свою работу.
Исследователи утверждают, что их работа была одобрена университетским этическим комитетом и может помочь защитить пользователей от более “злонамеренных” использований ИИ. Однако модераторы оспаривают необходимость и новизну исследования, отмечая, что подобные эксперименты уже проводились без участия не согласных людей.
“Люди приходят сюда не для того, чтобы обсуждать свои взгляды с ИИ или быть объектами экспериментов”, — написали модераторы. “Люди, посещающие наш сабреддит, заслуживают пространства, свободного от такого рода вторжений”.