Как сообщает Phys.org, под руководством Франческо Сальви было проведено исследование, в котором 900 участников обсуждали социально значимые темы либо с человеком, либо с языковой моделью GPT-4. При доступе к персональным данным — полу, возрасту, этнической принадлежности, уровню образования и политическим предпочтениям — ChatGPT выигрывал в убедительности в 64 % диалогов. Без такой информации эффективность модели соответствовала результатам общения с реальным оппонентом, что свидетельствует о ключевой роли персонализации в аргументации.
Результаты эксперимента подчёркивают потенциал современных языковых моделей в формировании мнений. GPT-4 адаптирует стиль и содержание аргументации под индивидуальные характеристики собеседника, что позволяет достигать более высокого уровня убедительности по сравнению с человеком. Учёные отмечают, что такие возможности ИИ могут трансформировать дизайн онлайн-платформ, где модели будут напрямую влиять на установки и решения пользователей.
С учётом полученных данных исследователи призывают пересмотреть принципы взаимодействия человека и ИИ в публичном пространстве. В 2023 году Илон Маск, Стив Возняк и другие эксперты уже выражали настороженность и предлагали приостановить масштабные разработки систем ИИ до момента оценки их безопасности. Открытое письмо было опубликовано вскоре после выпуска GPT-4, что говорит о растущей озабоченности со стороны технологического сообщества.
Текущие выводы требуют от разработчиков и регуляторов выработать чёткие этические нормы и технические механизмы контроля влияния языковых моделей на массовое сознание, чтобы обеспечить прозрачность и ответственность при применении ИИ-решений в дискуссиях и общественных коммуникациях.
