Модератори сабреддіту r/changemyview (CMV) викрили таємне, багатомісячне дослідження вчених із Цюріхського університету, які без попередньої згоди учасників застосовували ШІ-генеровані коментарі, щоб перевірити переконливість великих мовних моделей. Експеримент, який модератори назвали "психологічною маніпуляцією", проходив у одній із найчисельніших спільнот платформи, повідомляє 404Media.
За словами модераторів, дослідники використовували мовні моделі для створення відповідей під вигаданими особами – від жертви сексуального насильства до психолога-травматолога та "чорношкірого чоловіка, що заперечує рух Black Lives Matter". Для підвищення персоналізації ШІ нібито отримував з історії постів авторів їхню стать, вік, етнічність, місцезнаходження та політичні погляди.
"Команда модераторів CMV повинна повідомити своїй спільноті про несанкціонований експеримент, проведений дослідниками з Цюріхського університету", — заявили вони в офіційному повідомленні. Модератори додали, що дослідники порушили внутрішні правила сабреддіту, які забороняють автоматизовані облікові записи та вимагають розкривати факт використання ШІ, і вже подали скаргу до університету з проханням не публікувати результати дослідження.
Юридична служба Reddit також розпочала реакцію на інцидент. Головний юридичний директор компанії Бен Лі назвав дії дослідників "морально і юридично неприйнятними" та підтвердив, що всі пов’язані з експериментом облікові записи вже заблоковані. Reddit планує посилити системи виявлення підозрілої активності та направити формальні юридичні вимоги до Цюріхського університету.
У відповідь на критику дослідники заявили, що їхній проєкт отримав схвалення етичного комітету університету й мав на меті з’ясувати реальний потенціал ШІ для маніпуляцій, щоб допомогти інтернет-спільнотам захиститися від шкідливих сценаріїв використання мовних моделей – наприклад, для втручання у вибори чи поширення ненависницьких матеріалів. "Ми розуміємо занепокоєння модераторів, але переконані, що користь дослідження значно переважає ризики", – повідомили вчені.
Модератори r/changemyview категорично заперечили необхідність такого експерименту, наголосивши, що інші дослідницькі групи вже вивчали відкриті дані Reddit без безпосередньої участі користувачів. "Користувачі приходять сюди спілкуватися з людьми, а не з ШІ й не ставати піддослідними", — пояснили вони.