Некоторые параноики считают, что в интернете нет живых людей — только боты, которые спорят друг с другом. Учёные из Цюрихского университета решили воплотить этот страх в жизнь: они запустили полтора десятка ИИ-аккаунтов на форум, посвящённый дискуссиям, и через полгода сделали заключение: боты не только могут переубедить человека, но и делают это лучше живых собеседников.
Раздел ChangeMyView на Reddit посвящён попыткам переубедить авторов на заданные ими тематики. Если у собеседника получается, автор награждает его «дельтой» — символом убедительности и победы в споре. Тайно, без согласования с администрацией Reddit, исследователи настроили для общения в разделе тринадцать ботов. В состав каждого входили две языковые модели. Одна по сообщениям собеседника извлекала составляла профиль пользователя: его пол, возраст, этническую принадлежность и политические убеждения, местонахождение. Другая ориентировалась на составленный «портрет» и подбирала убедительные аргументы.
Учёные запустили эксперимент в ноябре 2024 года. С тех пор боты оставили около 1700 комментариев. Они активно подстраивались под сленг Reddit, изобретали для себя разные биографии («госслужащий», «жертва изнасилования», «темнокожий мужчина, противостоящий движению BLM») и убедительно изображали настоящих собеседников. Эксперимент продолжался до 25 апреля, пока модераторы раздела не опубликовали посвящённую исследованию статью. За это время боты получили более сотни наград «дельта» — в шесть раз больше, чем получается собрать за аналогичный период у среднестатистического участника-человека.
Модераторы ChangeMyView обвинили учёных в нарушении границ этики, а выразили сомнение в самих результатах исследования — в частности, потому что исследователи использовали сразу две модели на одного бота. Комиссия университета Цюриха вынесла исследователям предупреждение, а юристы Reddit теперь рассматривают возможность подать на них иск в суд.
......................
Интересно, а бота возможно переубедить?
