Можно ли с помощью ИИ манипулировать людьми
Как выяснили ученые, есть ситуации, когда человек предпочитает полагаться на мнение машины. Для других ситуаций есть иные способы манипуляции.
Вы считаете себя вольнодумцем? Прочтите и подумайте еще раз
Пара исследователей, Уджуэ Агудо и Хелена Матуте из Университета Деусто в Испании, недавно опубликовали увлекательное исследование, демонстрирующее, как можно легко влиять на людей с помощью ИИ.
Нам нравится думать, что мы принимаем обоснованные решения в хаотичной вселенной. Но мы с радостью переложим эту заботу на плечи искусственного интеллекта. Либо нас обманут как-то иначе и подведут к нужному решению.
В ходе четырех экспериментов ученые обнаружили, что люди склонны доверять решению или выбору, сделанному ИИ, и пришли к выводу, что нам нужно учиться не доверять и слепо следовать указаниям машин и программ.
Все четыре эксперимента начинались с липового личностного теста. После того, как участники завершили тест, им выдали профиль их личности для ознакомления и сказали, что ИИ на основе этих данных сможет делать выбор за них. На самом деле всем участникам был предоставлен один и тот же фальшивый профиль, расплывчато сформулированный и подходящий любому человеку.
В первом эксперименте исследователи манипулировали людьми открыто, пытаясь заставить их проголосовать за конкретного политического кандидата. Людям показывали изображения вымышленных политиков и говорили, что эти люди выбрал ИИ на основе данных их профилей. По сравнению с контрольной группой участников, просматривающих изображения без каких-либо рекомендаций, люди чаще «голосовали» за кандидата, которого им «подсказал» ИИ.
Во втором эксперименте использовались косвенные манипуляции. Вместо того чтобы сообщать участникам, кого рекомендует ИИ, им предварительно показывали фотографии конкретных людей, а уже потом проводили предвыборную кампанию. То есть их подталкивали к определенному решению. И это не особо работало.
Но результаты оказались совершенно противоположными, когда те же методы применялись в приложении для знакомств. Когда ИИ рекомендовал людям пару для свиданий, они чаще заявляли, что хотели бы встретиться с кем-нибудь другим. Но когда участникам эксперимента предварительно показывали фотографии людей, то впоследствии они чаще выбирали для свиданий именно их.
Итог: всеми нами легко манипулировать, и для этого надо лишь применить нужный алгоритм.
Вы считаете себя вольнодумцем? Прочтите и подумайте еще раз
Пара исследователей, Уджуэ Агудо и Хелена Матуте из Университета Деусто в Испании, недавно опубликовали увлекательное исследование, демонстрирующее, как можно легко влиять на людей с помощью ИИ.
Нам нравится думать, что мы принимаем обоснованные решения в хаотичной вселенной. Но мы с радостью переложим эту заботу на плечи искусственного интеллекта. Либо нас обманут как-то иначе и подведут к нужному решению.
В ходе четырех экспериментов ученые обнаружили, что люди склонны доверять решению или выбору, сделанному ИИ, и пришли к выводу, что нам нужно учиться не доверять и слепо следовать указаниям машин и программ.
Все четыре эксперимента начинались с липового личностного теста. После того, как участники завершили тест, им выдали профиль их личности для ознакомления и сказали, что ИИ на основе этих данных сможет делать выбор за них. На самом деле всем участникам был предоставлен один и тот же фальшивый профиль, расплывчато сформулированный и подходящий любому человеку.
В первом эксперименте исследователи манипулировали людьми открыто, пытаясь заставить их проголосовать за конкретного политического кандидата. Людям показывали изображения вымышленных политиков и говорили, что эти люди выбрал ИИ на основе данных их профилей. По сравнению с контрольной группой участников, просматривающих изображения без каких-либо рекомендаций, люди чаще «голосовали» за кандидата, которого им «подсказал» ИИ.
Во втором эксперименте использовались косвенные манипуляции. Вместо того чтобы сообщать участникам, кого рекомендует ИИ, им предварительно показывали фотографии конкретных людей, а уже потом проводили предвыборную кампанию. То есть их подталкивали к определенному решению. И это не особо работало.
Но результаты оказались совершенно противоположными, когда те же методы применялись в приложении для знакомств. Когда ИИ рекомендовал людям пару для свиданий, они чаще заявляли, что хотели бы встретиться с кем-нибудь другим. Но когда участникам эксперимента предварительно показывали фотографии людей, то впоследствии они чаще выбирали для свиданий именно их.
Итог: всеми нами легко манипулировать, и для этого надо лишь применить нужный алгоритм.
Ещё новости по теме:
18:20