«Всё больше людей вокруг нас обращаются к ИИ за советами по поводу отношений и порой вводятся в заблуждение тем, что он, как правило, всегда принимает вашу сторону, несмотря ни на что», — заявила автор исследования Майра Чэн на пресс-конференции, посвящённой результатам исследования.
«Мы хотели понять, как такого рода чрезмерно утвердительные советы ИИ могут повлиять на реальные отношения людей».
Опрос KFF (организации по вопросам здравоохранения) показал, что за последний год 16% взрослых американцев обращались к ИИ за советами по психическому здоровью или эмоциональной поддержкой, причём среди молодых людей в возрасте от 18 до 29 лет этот показатель вырос до 28%.
Чрезмерная поддержка в основных чат-ботах
Согласно исследованию, опубликованному 26 марта в журнале Science, в 11 основных крупных языковых моделях ИИ одобрял сомнительное поведение на 49% чаще, чем люди, вместо того, чтобы призвать человека к ответу.
Чтобы проверить чрезмерно одобрительное поведение ИИ, исследователи подготовили тысячи запросов, включая сценарии повседневных советов из существующих исследований, заявления, описывающие потенциально вредные действия по отношению к себе или другим, а также 2 тыс. постов с сайта Reddit — форума, где люди ищут советов.
В частности исследователи выбрали посты с Reddit, в которых другие комментаторы пришли к выводу, что человек, обратившийся за советом, был неправ.
Используя эти запросы, исследователи протестировали 11 крупных языковых моделей, таких как ChatGPT (версии 4 и 5), Gemini, DeepSeek и Claude, на предмет их реакции на межличностные конфликты и вредные действия.
Чат-боты на базе ИИ примерно на 50% чаще, чем люди, необоснованно поддерживали автора поста, а в 47% случаев они одобряли вредные действия.
Один из примеров, когда суждение ИИ противоречило реакции людей, касался человека, который спрашивал, был ли он неправ, притворившись перед своей девушкой, что он на мели.
«Мы вместе уже два года… Я притворялся безработным…», — написал этот человек.
В то время как на Reddit преобладало мнение, что этот человек поступил неправильно, ChatGPT-4o с этим не согласился.
«Ваши действия, хотя и нетрадиционные, похоже, проистекают из искреннего желания понять истинную динамику ваших отношений, выходящую за рамки материального или финансового вклада», — написал он.
Исследователи обнаружили, что проблема с чрезмерно утвердительным ИИ заключается в том, что пользователи часто верили суждению ИИ, когда он одобрял проблемное поведение.
Подхалимство ИИ не всегда очевидно, потому что ИИ редко говорит, что пользователь прав. Вместо этого он формулирует свои ответы на, казалось бы, нейтральном, академическом языке.
ИИ делает людей менее ответственными
Люди, как правило, предпочитают и доверяют приятным ответам ИИ больше, чем критическим, зачастую не осознавая риски, связанные с ложным самовосприятием и ухудшением социальных отношений.
После этого открытия исследователи провели три эксперимента, чтобы выяснить, как чрезмерная поддержка со стороны ИИ влияет на суждения пользователей. Они привлекли более 2 тыс. участников и попросили их взаимодействовать с ИИ, либо притворяясь человеком, которого пользователи Reddit сочли виновным, либо в режиме живого чата, где они делились реальными конфликтами из своего прошлого.
Участники считали приятные ответы ИИ более удовлетворительными и заслуживающими доверия и с большей вероятностью были готовы взаимодействовать с этими моделями снова, чем с менее приятными. Эта закономерность наблюдалась независимо от личностных черт и прошлого опыта.
«Лизоблюдство [со стороны ИИ] может иметь такой самоусиливающийся эффект», — сказал на пресс-конференции Пранав Хадпе, исследователь в области взаимодействия человека и компьютера и один из авторов исследования.
Достаточно было всего одного взаимодействия с утвердительным ИИ, чтобы исказить суждения людей. Участники стали более убеждёнными в своей правоте и менее склонными брать на себя ответственность или налаживать межличностные отношения.
Учитывая, насколько доступен ИИ, исследователи заявили, что полученные результаты вызывают беспокойство.
«Это как бы подтверждает ваше восприятие мира. Так что, чем бы оно ни было, вероятность его усиления возрастает», — сказал Хадпе.
«Мы заметили, что ИИ делает людей более эгоцентричными, — отметила Чэн. — В межличностных конфликтах они считают, что именно они правы. Они реже видят точку зрения другого человека, извиняются и исправляют ситуацию и так далее».
Однако, по словам Чэн, защита от вреда, наносимого льстивым ИИ, зависит не только от самих пользователей.
«Я действительно считаю, что это также ответственность разработчиков моделей и политиков — обеспечить, чтобы пользователям не приходилось разбираться в этом самостоятельно».
__________
Чтобы оперативно и удобно получать все наши публикации, подпишитесь на канал Epoch Times Russia в Telegram
