Ученый предупредил о ботах для манипулирования людьми

Ученый предупредил о ботах для манипулирования людьми

Доцент Университета Карнеги-Меллона обеспокоен использованием GPT-3, генеративно-состязательной сети и синтезаторов голоса для создания «людей».

Представьте себе, что вы подписываетесь на друга в соцсети. Прокручивая ленту, вы натыкаетесь на интересную публикацию, и, сами того не замечая, начинаете с «другом» переписку в личных сообщениях. Вы общаетесь, ставите отметки «Нравится» под постами друг друга, но внезапно идиллии приходит конец – вы узнаете, что друга-то и не нет, а его страница в соцсети – фейк. Вся переписка в личных сообщениях оказывается сгенерированной алгоритмом обработки естественного языка GPT-3, фотографии созданы генеративно-состязательной сетью, а видео содержит дипфейк-изображения.

Как вы будете себя чувствовать, узнав, что у вас возникла эмоциональная связь с компьютерным алгоритмом? А что, если этот «человек» был специально создан с целью манипулирования вами и оказания влияния на принимаемые вами решения в денежных, политических и других вопросах?

Подобный сценарий не такой уж футуристический, как может показаться, считает доцент Университета Карнеги-Меллона и внешнего факультета Института Санта-Фе Саймон ДеДео (Simon DeDeo). По словам ученого, его самый страшный сон – использование GPT-3, генеративно-состязательной сети и синтезаторов голоса для создания синтетических «личностей», предназначенных для оказания психологического давления на чувствительных людей.

В ответ на вопрос издания Futurism, как скоро все вышесказанное станет реальностью, ДеДео ответил: «Я думаю, это уже случилось». Тем не менее, ученого беспокоят не дипфейк-видео, которыми наводнен TikTok. Главным героем кошмарных снов ДеДео является GPT-3, способный генерировать реалистичную речь.

«Я могу обмануть вас без необходимости подделывать видео. И я обманываю вас не путем введения в заблуждение вашей зрительной системы, как это делают дипфейк-видео. Я обманываю вас, дурача вашу рациональную систему. Я обманываю вас на гораздо более высоком уровне вашего социального познания», – сообщил ученый.

Умные алгоритмы наподобие GPT-3 «дают нам понять, в какой степени у вещей, выглядящих так, будто за ними стоит мозг, мозга на самом деле нет», отметил Дедео. Другими словами, по мере того как машины учатся делать все больше вещей, мы должны чаще задумываться о том, что отличает нас от других и делает нас людьми.

Можно подумать: «Ну, это ужасная антиутопия, когда машины могут писать рекламные тексты. Что ж, может оказаться, что написание рекламного текста – это не то, что значит быть человеком», – отметил ученый.

Социальное познание – сложный, комплексный процесс познания одного человека другим. Одна из областей, изучаемых социальной психологией, где исследуются механизмы того, как человек перерабатывает, хранит и использует информацию о других людях и социальных ситуациях.

Источник: Securitylab