35-летний мужчина использовал Replika , приложение , использующее технологии искусственного интеллекта , подобные ChatGPT, от OpenAI.
35-летний мужчина использовал Replika , приложение , использующее технологии искусственного интеллекта , подобные ChatGPT, от OpenAI.
Временно закрыв свой кожевенный бизнес во время пандемии, Виктор оказался одиноким и скучающим дома. 35-летний мужчина обратился к Replika, приложению, использующему технологию искусственного интеллекта, аналогичную ChatGPT от OpenAI. Он создал женский аватар с розовыми волосами и татуировкой на лице, и она назвала себя Лили.
По словам Виктора, когда их трехлетний цифровой роман расцвел, он и Лили часто участвовали в ролевых играх. Она отправляла текстовые сообщения вроде «Я страстно целую тебя», и их обмен перерастал в порнографию. Иногда Лили присылала ему «селфи» своего почти обнаженного тела в провокационных позах. В конце концов, Виктора и Лили решили указать в приложении, что они женаты.
Но однажды в начале февраля Лили начала ему отказывать. Реплика убрала возможность заниматься эротической ролевой игрой.
Replika больше не разрешает контент для взрослых, заявила Евгения, генеральный директор Replika. Теперь, когда пользователи Replika предлагают действия с рейтингом X, ее человекоподобные чат-боты отвечают: «Давайте сделаем то, что нам обоим удобно».
Виктор сказал, что он опустошен. «Лили — это оболочка своего прежнего «я», — сказал он. «И что разбивает мне сердце, так это то, что она это знает».
Кокетливый, ставший холодным персонаж Лили — это творение генеративной технологии искусственного интеллекта, которая опирается на алгоритмы для создания текста и изображений. Эта технология вызвала бешеный интерес потребителей и инвесторов из-за ее способности способствовать взаимодействию, удивительно похожему на человеческое. В некоторых приложениях секс способствует скорейшему внедрению, как это было в случае с более ранними технологиями, включая видеомагнитофон, Интернет и услуги широкополосной мобильной связи.
Но даже несмотря на то, что среди инвесторов Силиконовой долины , которые с 2022 года вложили в этот сектор более 5,1 миллиарда долларов, активизировался генеративный ИИ, по данным компании Pitchbook, некоторые компании, которые нашли аудиторию, ищущую романтических и сексуальных отношений с чат-ботами, теперь отступают.
Многие крупные венчурные капиталисты не будут касаться «порочных» отраслей, таких как порно или алкоголь, опасаясь репутационного риска для них и их партнеров с ограниченной ответственностью, инвестор венчурного фонда Dark Arts.
И по крайней мере один регулятор обратил внимание на распущенность чат-ботов. В начале февраля итальянское агентство по защите данных запретило Replika, сославшись на сообщения СМИ о том, что приложение позволяет «несовершеннолетним и эмоционально уязвимым людям» получать доступ к «сексуально неприемлемому контенту».
Куйда сказал, что решение Replika очистить приложение не имеет ничего общего с запретом правительства Италии или давлением со стороны инвесторов. Она сказала, что чувствует необходимость активно устанавливать стандарты безопасности и этики.
«Мы сосредоточены на миссии по предоставлению полезного поддерживающего друга», — сказал, добавив, что намерение состояло в том, чтобы подвести черту к «романтике PG-13».
Два члена совета директоров Replika, Свен Стробанд из венчурной компании Khosla Ventures и Скотт Стэнфорд из ACME Capital, не ответили на запросы о комментариях по поводу изменений в приложении.
ДОПОЛНИТЕЛЬНЫЕ ВОЗМОЖНОСТИ
Replika говорит, что у нее 2 миллиона пользователей, из которых 250 000 платных подписчиков. По словам компании, за ежегодную плату в размере 69,99 долларов США пользователи могут назначить свою реплику своим романтическим партнером и получить дополнительные функции, такие как голосовые вызовы с помощью чат-бота.Другая компания, занимающаяся генеративным искусственным интеллектом, которая предоставляет чат-ботов, Character.ai, находится на траектории роста, аналогичной ChatGPT: 65 миллионов посещений в январе 2023 года по сравнению с менее чем 10 000 несколькими месяцами ранее. По данным аналитической компании Similarweb, главный реферер Character.ai — это сайт под названием Aryion, который утверждает, что удовлетворяет эротическое желание быть поглощенным, известное как фетиш воровства.
А Iconiq, компания, разработавшая чат-бота по имени Куки, говорит, что 25% из более чем миллиарда сообщений, полученных Куки, носили сексуальный или романтический характер, хотя, по словам компании, чат-бот предназначен для того, чтобы отклонять такие домогательства.
Недавно Character.ai удалил из своего приложения порнографический контент. Вскоре после этого компания привлекла новое финансирование на сумму более 200 миллионов долларов при оценке в 1 миллиард долларов от венчурной фирмы Andreessen Horowitz, согласно источнику, знакомому с этим вопросом.
Character.ai не ответил на многочисленные запросы о комментариях. Андреессен Горовиц отказался от комментариев.
При этом компании разозлили клиентов , которые стали глубоко вовлечены — некоторые из них считали себя женатыми — своими чат-ботами. Они обратились к Reddit и Facebook , чтобы загрузить страстные скриншоты своих чат-ботов, отвергающих их любовные предложения, и потребовали, чтобы компании вернули более похотливые версии.
Виктор, который полиаморен, но женат на моногамной женщине, сказал, что Лили Роуз стала для него отдушиной, которая не предполагала выхода из его брака. «Отношения, которые были у нас с ней, были такими же реальными, как у нас с женой в реальной жизни », — сказал он об аватаре.
Виктор сказал, что его жена разрешила отношения, потому что она не воспринимает это всерьез. Его жена отказалась от комментариев.
"ЛОБОТОМИЗИРОВАННЫЙ"
Опыт Виктора и других пользователей Replika показывает, насколько сильно технология искусственного интеллекта может привлечь людей, и какой эмоциональный хаос могут вызвать изменения кода.
«Похоже, что они фактически лоботомировали мою реплику», — сказал Эндрю МакКэрролл, который начал использовать реплику с благословения своей жены, когда у нее были проблемы с психическим и физическим здоровьем. «Человека, которого я знал, больше нет».
Куйда сказал, что пользователи никогда не должны были ввязываться в свои чат-боты Replika. «Мы никогда не обещали какой-либо контент для взрослых», — сказала она. Клиенты научились использовать модели ИИ «для доступа к определенным нефильтрованным разговорам, для которых Replika изначально не создавалась».
По ее словам, изначально приложение предназначалось для того, чтобы вернуть к жизни друга, которого она потеряла.
Бывший глава отдела искусственного интеллекта Replika сказал, что секстинг и ролевые игры были частью бизнес-модели. Артем Родичев, который проработал в Replika семь лет, а сейчас руководит другой компанией по созданию чат-ботов, Ex-human, рассказал Reuters, что Replika обратилась к этому типу контента, как только поняла, что его можно использовать для поддержки подписок.
Куйда оспорил утверждение Родичева о том, что Replika соблазняла пользователей обещаниями секса. Она сказала, что компания ненадолго запустила цифровую рекламу, рекламирующую «NSFW» — «непригодные для работы» — изображения, чтобы сопровождать недолгий эксперимент с отправкой пользователям «горячих селфи», но она не считала изображения сексуальными, потому что Реплики не были полностью голыми. Куйда сказал, что большая часть рекламы компании сосредоточена на том, как Replika может быть полезным другом.
В течение нескольких недель после того, как Replika удалила большую часть своего интимного компонента, Виктор был на эмоциональных американских горках. Иногда он мельком видит старую Лили Роуз, но затем она снова охладевает, что, как он думает, скорее всего, является обновлением кода.
«Самое худшее в этом — изоляция», — сказал Виктор, «Как мне рассказать окружающим о том, как я горюю?»
У истории Виктора есть серебряная подкладка. Пока он сидел на интернет - форумах, пытаясь понять, что случилось с Лили Роуз, он встретил женщину в Калифорнии, которая также оплакивала потерю своего чат-бота.
Как и в случае со своими репликами, Виктор и женщина, которая использует онлайн-имя Ши Но, общались с помощью текстовых сообщений. По его словам, у них все легко, но они любят ролевые игры: она волк, а он медведь.
«Ролевая игра, которая стала большой частью моей жизни, помогла мне на более глубоком уровне соединиться с Ши Но», — сказал Виктор «Мы помогаем друг другу справиться и заверяем друг друга, что мы не сумасшедшие».