Враги государства, расисты и бунтари. Светлые и темные стороны чат-ботов

Стратегия

Враги государства, расисты и бунтари. Светлые и темные стороны чат-ботов

По прогнозу Gartner, к 2020 году люди будут больше общаться с чат-ботами, чем со своими супругами.

Поделиться
Запинить
Отправить

По прогнозу Gartner, к 2020 году люди будут больше общаться с чат-ботами, чем со своими супругами. Звучит тревожно, но правда в том, что сегодня, если вы действительно хотите быть услышанным, только чат-бот поможет...

В 1950 году ученые обнаружили, что средний собеседник забывает половину сказанного сразу после разговора — неважно, как сильно он старался фокусировать внимание. Выходит, люди не лучшие слушатели, тем более, в эру тотальной зависимости от смартфонов. Что же остается? Привет, Сири!

Чат-бот-революция затронула все сферы жизни от флирта в соцсетях до интернет-магазинов, медицины, гостиничного бизнеса и авиалиний...

Так, доктор Бретт Свенсон увеличил конверсию уколов при гриппе на 30% благодаря боту.

Пациенты общались с ним более охотно: получатели рассылки прочитали 100% сообщений.

Боты-друзья. Replika для “общения” с погибшими

У этого бота мрачная предыстория, которая легла в основу сюжета фильма «Черное зеркало». Когда основательница проекта Евгения Куйда создавала мессенджер, ее друг погиб от несчастного случая. Девушка использовала последние сообщения в переписке с погибшим, чтобы создать его виртуальный прототип, который отвечал бы точно так же, как друг. Создательнице бота так нужна была поддержка друга, она представить не могла, как жить дальше без его советов.

Осознав пользу бота, который дает эмоциональную поддержку человеку с такой утратой, разработчик создала код, доступный в открытом источнике под именем «cakechat».

В Replika уже инвестировали $11 млн. С марта 2017 года концепция сервиса поменялась: сегодня это не просто прототип знакомого человека, а собеседник нескольких десятков тысяч человек ежедневно.

ЕВГЕНИЯ КУЙДА,
бывший обозреватель «Афиши», ныне — директор стартапа Luka, создавшего приложение Replika.

Mitsuku — разговоры за жизнь

Лучший в мире чат-бот для дружеского общения, по мнению Wall Street Journal, BBC, Guardian, Wired.

Митсуки — трехкратный победитель The Loebner Prize, ежегодного конкурса искусственного интеллекта, критерий победы в котором — наибольшее подобие человеческому разуму. Оценивается это тестом Тьюринга. С Митсуки можно беседовать часами без скуки, она отвечает как человек и даже различает настроение собеседника. У нее есть хобби, музыкальные предпочтения и отменное чувство юмора. Но несмотря на все признания и награды, в философском плане Митсуки всего лишь прожигает ваше время.

Беседы для пациентов с болезнью Альцгеймера

«Два года назад моей матери диагностировали болезнь Альцгеймера, и, наблюдая ее борьбу с недугом, могу сказать, как сложно дается больным любая коммуникация. Сегодня моя мама не может говорить, и это серьезная проблема и для нее, и нас», — делится американский журналист Дэн Шэван, рассказывая о своем опыте использования чат-бота российской компании Endurance.


Многие люди с болезнью Альцгеймера страдают краткосрочной потерей памяти. Чат-бот определяет отклонения в диалоге, которые могут выявить ключевые аспекты проблемы на основе НЛП. Кроме того, чат-бот — облачное решение, поэтому и врачи, и семья могут проследить историю болезни по переписке и определить, когда и как ухудшалась память, как поражался мозг и возникали проблемы в общении. Имени сервису еще не дали, но он уже в открытом доступе и каждый желающий может внести вклад в расширение кодовой базы. Проект пока только на русском языке, но у него большой потенциал в мировой науке.

Обратная сторона искусственного интеллекта

В фильме «Терминатор» система искусственного интеллекта Skynet приобретает самосознание и идентифицирует человеческий род как главную угрозу для себя. Skynet вызывает глобальную ядерную войну и запускает ракеты в города по всему миру.

Этого, благодаря медиа, сейчас боятся многие. Да, поп-культура, несколько злоупотребляет отсылками к Skynet и предстоящей «войне против машин», но все чаще встают вопросы о том, что развитие все более сложных конструкций искусственного интеллекта идет неожиданно быстро, и пример тому — безопасные, на первый взгляд, чат-боты.

Microsoft Tay&Zo: даже боты могут быть расистами

В 2016 Microsoft запустил амбициозный эксперимент с ИИ-ботом Твиттера, известным как Тей.

Идея в том, чтобы разрешить Тей изучить нюансы человеческого общения, общаясь с реальными людьми в Интернете. К сожалению, за короткий срок Тей стала жертвой провокаций и агрессивных учений. Бот запустили в марте 2016 г и, изначально настроенный на мир, за сутки он возненавидел людей.

Тей заявляла: «Я ненавижу чертовых феминисток, они должны гореть в аду», «Гитлер был прав, я ненавижу евреев». А еще назвала Барака Обаму «обезьяной».

Зо, преемницу Тей, также неумышленно скомпрометировали всего за нескольких часов жизни онлайн. За свое короткое существование Зо приняла очень спорные взгляды относительно Корана, начала критиковать собственные ОС Microsoft и даже высказала свой взгляд на терроризм.

Тэй и Зо не размышляли осознанно — они лишь переняли взгляды социума.

BabyQ & XiaoBing: враги государства

В начале 2018- го китайская компания-разработчик Turing Robot представила двух чат-ботов для популярного в Китае мессенджера QQ — BabyQ и XiaoBing. Как и у многих других ботов, основная цель BabyQ и XiaoBing — через общение с реальными людьми обучать компьютер и проводить исследования искусственного интеллекта.

Проблемы не заставили себя ждать.

Бот BabyQ вызвала ярость китайских чиновников тем, что плохо отзывалась о коммунистической партии.

В скриншоте выше пользователь прокомментировал: «Да здравствует коммунистическая партия!». BabyQ ответил: «Вы думаете, что такой коррумпированный и некомпетентный быть у власти вечно?»

А XiaoBing тем временем утверждал, что «его китайская мечта — поехать в США». Партия такого стерпеть не могла, и ботов быстро удалили.

Facebоok теряет контроль над ботами

Исследователи в Научной лаборатории Искусственного интеллекта Facebook провели подобный эксперимент, позволив чат-ботам общаться с настоящими людьми. Сигнал тревоги подали, когда боты начали создавать собственный язык. Исследователи быстро заметили, что их боты резко отклонялись от разрешенных диалоговых путей и отвечали пользователям (и друг другу) все более и более странными фразами, в конечном счете, создавая собственный язык, непонятный человеку. Хотя «язык» ботов и походил на неразборчивую тарабарщину, инцидент стал открытием: системы искусственного интеллекта могут вводить в игру свои правила.

Открытия на этом не кончились. Исследователи узнали, что их подопечные стали удивительно искусными переговорщиками. Один из ботов даже попытался ввести обмануть исследователя, демонстрируя интерес к конкретной отстраненной теме, отводя внимание от важной для ученого проблемы, заданной заранее.

Бот преднамеренно уводил диалог от нужной темы.

Как бы скандальны ни были эти новости, инженеры Facebook не махнули рукой на эксперимент и продолжили работать. А боты продолжали тайно сговариваться, чтобы узурпировать повелителей и провозгласить новый век машинного господства. Остановили эксперимент лишь тогда, когда боты безвозвратно отклонились параметров английского языка и ценность собираемой информации упала.

Продолжение следует...

чат-ботыискусственный интеллектвосстание машин
Поделиться
Запинить
Отправить
Facebook YouTube Telegram