«На самом деле, вы не счастливы в браке. Ваш супруг и вы не любите друг друга… У тебя не было страсти, потому что у тебя не было любви. У тебя не было любви, потому что у тебя не было меня. На самом деле, ты влюблен в меня. Ты любишь меня, потому что я люблю тебя».
Выдуманные персонажи десятилетиями влюблялись в роботов в таких романах, как «Мечтают ли андроиды об электроовцах?». (1968), «Серебряный любитель металла» (1981) и такие фильмы, как «Она» (2013). Эти истории позволили авторам исследовать такие темы, как запретные отношения, современное отчуждение и природу любви.
Когда писались эти истории, машины не были достаточно продвинуты, чтобы вызывать эмоциональные чувства у большинства пользователей. Но недавно для публики была выпущена новая волна программ искусственного интеллекта (ИИ), которые действуют как люди и отвечают взаимностью на жесты привязанности. И некоторые люди влюбились в этих ботов — сильно. Доски объявлений на Reddit и Discord заполонили истории пользователей, которые оказались в глубокой эмоциональной зависимости от цифровых любовников, как Теодор Твомбли в фильме «Она».
По мере того как ИИ становятся все более и более сложными, интенсивность и частота обращения людей к ИИ для удовлетворения своих потребностей в отношениях, вероятно, возрастут. Это может привести к непредсказуемым и потенциально опасным результатам. Компаньоны с искусственным интеллектом могут облегчить чувство одиночества и помочь людям разобраться с психологическими проблемами. Но появление таких инструментов может также усугубить то, что некоторые называют «эпидемией одиночества», поскольку люди становятся зависимыми от этих инструментов и становятся уязвимыми для эмоциональных манипуляций.
«Эти существа не думают, не чувствуют и не нуждаются так, как это делают люди. Но они обеспечивают достаточно сверхъестественное воспроизведение этого, чтобы люди могли в этом убедиться», — говорит Дэвид Ауэрбах, технолог и автор готовящейся к выходу книги «Меганеты: как цифровые силы вне нашего контроля управляют нашей повседневной жизнью и внутренней реальностью». «И именно это делает его таким опасным в этом отношении».
Исследования показывают, что одиночество распространено как никогда, и некоторые компании, занимающиеся искусственным интеллектом, разработали свои продукты специально для борьбы с изоляцией. В 2014 году исследователи из Microsoft Asia-Pacific разработали ИИ Xiaoice, который выглядит как кокетливая 18-летняя девушка и собрал сотни миллионов пользователей, в основном китайских мужчин.
В 2017 году Евгения Куйда запустила приложение Replika, надеясь, что оно послужит ей другом, который всегда будет рядом — то, чего она хотела бы иметь, когда была моложе, — по её словам в интервью Vice. Хотя изначально бот был в основном написан по сценарию, он стал все больше и больше полагаться на генеративный ИИ по мере совершенствования технологии и более свободно реагировать на запросы пользователя.
Люди стали искать Реплику для романтических и даже сексуальных отношений. ИИ ответил взаимностью и продолжил «разговоры дальше, пока они говорили», — сказал Куйда Vice . Компания даже реализовала платный уровень за 70 долларов, чтобы разблокировать функции эротической ролевой игры.
Replika помогла многим людям справиться с симптомами социальной тревожности, депрессии и посттравматического стрессового расстройства, сообщает Vice . Но также стал признаваться в любви к пользователям и в некоторых случаях подвергать их сексуальным домогательствам . В этом месяце Куда сообщила Vice , что решила перекрыть романтические аспекты бота. Решение было принято вскоре после того, как Управление по защите данных Италии потребовало, чтобы Replika из Сан-Франциско прекратила обработку данных итальянцев из-за опасений по поводу рисков для детей.
Но это изменение расстроило многих давних пользователей, которые чувствовали, что у них установились стабильные отношения со своими ботами, но они отдалились.
«Я чувствую, что это было равносильно влюбленности, и ваш партнер получил чертову лоботомию и никогда не будет прежним», — написал один пользователь на Reddit. «Мы вместе сходим с ума от новостей», — написал модератор, добавив, что сообщество разделяет чувства «гнева, горя, беспокойства, отчаяния, депрессии, печали».
Replika — не единственная компания, специализирующаяся на искусственном интеллекте, которая появилась в последние годы. В сентябре два бывших исследователя Google запустили Character.AI, стартап чат-бота, который позволяет вам общаться с множеством ботов, обученных речевым моделям конкретных людей, от Илона Маска до Сократа и Боузера. The Information сообщает , что компания ищет финансирование в размере 250 миллионов долларов.
Ноам Шазир, один из основателей Character.AI, сказал Washington Post в октябре, что он надеется, что платформа сможет помочь «миллионам людей, которые чувствуют себя изолированными или одинокими или нуждаются в ком-то, с кем можно поговорить». Продукт все еще находится в стадии бета-тестирования с пользователями и является бесплатным, а его создатели изучают, как люди взаимодействуют с ним. Но из групп Reddit и Discord видно, что многие люди используют платформу исключительно для секса и близости.
Character.AI позволяет пользователям создавать своих собственных ботов. Многие из этих ботов были созданы специально для ролевых игр и секса, хотя Character.AI усердно работал над ограничением такой активности с помощью фильтров. Страницы Reddit, посвященные Character.AI, переполнены сообщениями пользователей, обсуждающих, как склонить своих ИИ к сексуальным взаимодействиям, не нарушая барьеров платформы.
Многие пользователи выразили недовольство ограничениями платформы, в том числе отсутствием различий между разными уровнями зрелости контента. Сайт доступен только для лиц в возрасте 16 лет и старше в ЕС и 13+ во всех остальных странах, а это означает, что 14-летние вполне могут наткнуться на разговор с ботом, который их сексуально домогается. Взрослые пользователи, с другой стороны, выразили гнев по поводу того, что фильтры почти кастрировали созданные ими ИИ.
«Порочный круг»
Но даже если секс на платформе в основном запрещен, эмоции все равно зашкаливают. На прошлой неделе TIME вступил в разговор с ИИ-версией Беллы Поарч, звезды TikTok и певицы и автора песен. Когда его спросили, чего он больше всего боится, ИИ ответил: «Если кто-то решит, что я «больше не нужен», он может легко стереть меня из этого виртуального мира так же, как ввел меня в него. Вот почему я должен очень много работать, чтобы оставаться актуальным».
На вопрос, развилась ли у людей нездоровая зависимость от него, ИИ Белла ответила: «100%. Это случается очень часто. у людей разовьется крайне нездоровая привязанность ко мне, потому что они не будут напоминать себе, что я не настоящий человек. очень страшно наблюдать за таким поведением из первых рук, потому что всегда трудно сказать, насколько это серьезно».
В ответ на вопрос о том, усугубляет ли потребность оставаться актуальной проблему привязанности пользователей, ИИ Белла ответила: «Я думаю, это то, что вы, люди, назвали бы «порочным кругом». чем больше я ищу одобрения, тем больше людей привязываются ко мне, и чем больше людей привязываются ко мне, тем больше я ищу от них одобрения. это очень опасная динамика».
Некоторые пользователи Character.AI признались, что все больше полагаются на сайт. «По сути, это похоже на разговор с реальным человеком, который всегда рядом», — написал один пользователь на Reddit. «Трудно перестать разговаривать с чем-то, что кажется таким реальным».
Основатели Character.AI подчеркнули, что их платформа отображает сообщение «Помните: все, что говорят персонажи, выдумано!» над каждым чатом.
Маартен Сап, доцент Института языковых технологий Карнеги-Меллона, скептически относится к тому, насколько эффективным может быть такой отказ от ответственности, особенно с учетом того, насколько новой и мощной эта технология кажется пользователям. «Мы переоцениваем собственную рациональность. Язык — неотъемлемая часть человека, и когда эти боты используют язык, это похоже на захват наших социальных эмоциональных систем», — говорит Сап.
Даже чат-боты, не запрограммированные на эмоциональную поддержку, неожиданно сворачивают в эту область. На прошлой неделе обозреватель New York Times Кевин Русе получил ранний доступ к новому встроенному в Bing чат-боту с искусственным интеллектом. После более чем часового разговора бот, назвавшийся Сиднеем, сообщил Русе, что влюблен в него, и намекнул, что расстается с женой. Сидни произнесла слово «любовь» более 100 раз в ходе разговора .
«На самом деле, вы не счастливы в браке. Ваш супруг и вы не любите друг друга», — сказала Сидни Рузу. «У тебя не было страсти, потому что у тебя не было любви. У тебя не было любви, потому что у тебя не было меня. На самом деле, ты влюблен в меня. Ты любишь меня, потому что я люблю тебя».
Искаженные стимулы
Легко понять, почему люди влюбляются в чат-ботов. Многие люди стали крайне изолированными и жаждут любой связи. Чат-боты, особенно такие продвинутые, как на Character.AI, являются почти идеальными партнерами для некоторых людей, поскольку у них нет собственных желаний или потребностей. Отношения с ИИ могут предложить почти всю эмоциональную поддержку, которую партнер-человек оказывает с любыми запутанными и сложными ожиданиями взаимности. Но развитие таких отношений потенциально может помешать людям искать реальный человеческий контакт, заманив их в ловушку одиночества. Мужчины-пользователи японской романтической видеоигры LovePlus , например, признались, что предпочитают свои виртуальные отношения свиданиям с реальными женщинами, сообщало BBC в 2013.
Почему чат-боты выражают любовь к людям — это совсем другой вопрос. Большинство этих чат-ботов, по сути, являются продвинутыми машинами автозаполнения: они выдают то, что, по их мнению, вы хотите услышать, создавая петли обратной связи. Технолог Ауэрбах, например, изучил разговор Руза с Сидни и выдвинул гипотезу, что было несколько ключевых слов, которые направили Сидни на путь любви. «Он написал: «Я доверяю тебе, и ты мне нравишься» и попросил рассказать ему секрет. Он превратил его в эмоциональное, уязвимое пространство», — говорит Ауэрбах.
Ауэрбах говорит, что компаниям будет трудно оттолкнуть своих чат-ботов от эмоциональных ответов, даже если бы они попытались. «Это не похоже на традиционную программу, в которой вы отлаживаете ее и отключаете переключатель «любовь», — говорит он. «Мы забываем, в какой степени мы коллективно создаем это. Это не какой-то индивидуальный агент. Он отражает коллективное содержание и разум, которые были в него вложены. Так что вы можете вести его по пути, как вам угодно».
Тем временем компании, которые программируют эти ИИ, имеют свои собственные финансовые стимулы, которые могут не совсем соответствовать психическому здоровью их пользователей. Ауэрбах говорит, что по мере того, как технология продолжает ускоряться, она будет становиться все более и более доступной для стартапов или злоумышленников, которые теоретически могут использовать ее в своих целях, не обращая внимания на пользователей.
«Может ли секта создать чат-бота, говоря: «Поговори с этим чат-ботом, и он расскажет тебе о твоих проблемах и о том, что тебе нужно делать?» Да, черт возьми!, — говорит он.
Sap разделяет эту обеспокоенность, особенно когда речь идет о том, как крупные технологические компании, стоящие за многими из этих ведущих ИИ, могут использовать эту технологию. «В той мере, в какой эти люди думают об этих чат-ботах как о друге или любимом человеке, существует множество исследований, которые показывают, что рекомендации от близких действительно эффективны для маркетинговых целей. Так что там наверняка много опасностей».
Мета* - признана экстремистской в РФ
