«С вами говорит робот! Роботы заменяют людей: почему сейчас все об этом говорят и чего тут бояться? Куда пойдет ИИ.

Еще в XVIII столетии некоторые европейские философы-просветители, рассуждая о светлом будущем, утверждали, будто однажды тяжелую и унизительную работу обслуги возьмут на себя машины. Долгое время эта мечта казалась несбыточной. Да, с определенного времени роботы стали активно вытеснять ручной труд. Но до последнего времени нам казалось фантастикой сама возможность человека общаться с машиной. В экспериментальных целях, конечно, создавались «умные» говорящие машины, способные имитировать человеческую речь и выполнять какие-то голосовые команды, – примерно как в фантастических фильмах. Но всё это мы воспринимали как развлечение.

Однако в последнее время выясняется, что «говорящие» роботы – совсем не шутка. Мало того, массовое появление таких устройств может серьезно повлиять и на экономическую ситуацию, поскольку робот, умеющий распознавать человеческую речь, способен вытеснить большой список профессий. То есть машина в состоянии заменить человека не только там, где применяется ручной труд, но и там, где происходит общение между людьми. А таких областей достаточно много.

Своими достижениями в области IT-технологий поделился директор компании «Группа Фэмили» Андрей Заворин. Речь как раз шла о «говорящих» роботах. Как подчеркнул докладчик, с кейсом, который называется «речевые технологии», его компания столкнулась только в 2017 году.

«Если коротко, то с речевыми технологиями на рынке России работают всего около десятка компаний и несколько корпоративных подразделений. Вообще, рынок речевых технологий появился только в ноябре 2016 года, после того, как известные гиганты – Гугл, Яндекс, Амазон – открыли несколько библиотек, позволяющих получить очень высокое качество распознавания речи», - отметил Андрей Заворин.

Согласно представленным данным, способность роботов распознавать человеческую речь неуклонно возрастает. Так, в 1996 году порядок распознавания речи составлял 84%, в 2016 году этот уровень составил уже 94%. В текущем году мы уже можем говорить о 97 процентах. По словам Андрея Заворина, сегодня искусственный интеллект делает прогресс в данной области просто фантастическим. Если эти темпы сохранятся, то через год-два, считает он, процесс распознавания речи будет вплотную приближен к человеческому уровню.

Как воспользовались этой технической возможностью новосибирские разработчики? На базе речевых технологий они попытались сделать конкретные продукты для массовых клиентских коммуникаций. Как мы знаем, в наше время очень сложно дозвониться, например, до регистратуры местной поликлиники, чтобы записаться к врачу. Думаю, многие сталкивались с ситуацией, когда нужный нам телефон постоянно занят. Иногда уходит полдня, чтобы на другом конце провода вам кто-то ответил. С той же ситуацией мы сталкиваемся, когда пытаемся сдать показания счетчиков ЖКХ. Происходит это «событие» в строго определенный период, когда в службах коммунального хозяйства скапливаются огромные очереди. А если брать такие службы, как Ростелеком, то операторы бывают там порой так заняты, что приходится их «вызванивать» в течение нескольких дней.

«Когда мы сталкиваемся с большим количеством пиковых коммуникаций и загрузками колл-центров, - разъясняет Андрей Заворин, - то сразу же возникает проблема автоматизации. Собственно говоря, мы создали голосового чат-бота, который позволяет строить «умные диалоги» на базе существующей телефонии или в любых других каналах голосовых коммуникаций».

Предложенное техническое решение, по утверждению Андрея Заворина, очень легко масштабируется, позволяя одновременно обрабатывать до пяти тысяч коммуникационных линий. Причем, работающее решение было выдано только в конце августа этого года. А в октябре уже было осуществлено несколько сот тысяч распознаваний. В ноябре их будет около миллиона, и в течение следующего года ожидается кратный рост. «Созданные голосовые сервисы очень хорошо взаимодействуют с любой телефонией – облачной, виртуальной или реальной. И интегрируются с любой учетной платформой», - пояснил докладчик.

Интересно, что распознавание русской речи очень долго «тренировалось» Яндекс-навигатором. В итоге робот теперь «понимает» любые акценты, диалекты и шумы. Поэтому такой роботизированной услугой может воспользоваться даже иностранец или гость с юга. Система способна также делать шумоподавление, семантический анализ, делать рассылки, вести расписание. То есть осуществлять весь комплекс решений, являющихся удобной платформой для клиента. Можно также делать автоматизированные рассылки и автоматизированные звонки.

Для наглядности были представлены конкретные диалоги клиента с роботом, где сдавались данные по оплате ЖКХ-услуг. Действительно, качество генерируемой речи было очень высоким, почти неотличимой от человеческой речи. Клиенту вежливо сообщалось, что он общается с роботом. Чтобы не возникало ошибок, машина повторяла сообщенные ей данные и просила подтверждения. Сам диалог, в принципе, не вызывал никакого эмоционального отторжения. Поэтому есть надежда на то, что эти системы со временем вполне нормально приживутся в сфере услуг.

Принципиально важно здесь то, что такой робот способен заменить значительную часть колл-центра, выполняя работу в 5-10 раз дешевле и в десятки раз быстрее! Автоматизация клиентских коммуникаций серьезно сокращает количество рутинных операций в клиентском отделе, делая выполнение операций в несколько раз эффективнее.

Правда, нарисованная перспектива не может не навести на некоторые философские размышления. Если машины так активно наступают по всем фронтам, то как это в итоге отразится на занятости населения? Примечательно, что об угрозе со стороны искусственного интеллекта сегодня заговорили выдающиеся личности. Например, знаменитый английский физик-теоретик Стивен Хокинг несколько раз обратил внимание на опасность, исходящую-де от «умных» машин. Совсем недавно схожие опасения высказал авторитетнейший бизнесмен-инноватор Илон Маск.

Возможно, не стоит принимать близко к сердцу мрачные прогнозы. Во всяком случае, сценарий в духе голливудского «Терминатора» нам вряд ли грозит. Однако сокращение привычных рабочих мест, скорее всего, – неизбежность ближайшего времени. Эффективность, помноженная на высокое качество, – это именно то, к чему стремятся продвинутые руководители. Поэтому у голосовых технологий, вне всяких сомнений, есть будущее. В том числе и в нашем городе.

Поздним весенним вечером в 1992 г. на Центральном вокзале пожилой человек в синей ветровке с надписью New York Times ожидал на платформе поезд в округ Вестчестер. Я работал в Times некоторое время, и меня заинтересовала призрачная фигура. «Вы сотрудник газеты?» - спросил я.

Как оказалось, много лет назад он был наборщиком в Times. В 1973 г. его профсоюз подписал соглашение о постепенном сокращении рабочих мест по мере внедрения компанией компьютеризированных систем печати в обмен на гарантию занятости до выхода на пенсию. Хотя этот человек не работал уже больше десятилетия, он по-прежнему приезжал в типографию на Таймс-сквер и проводил вечера с оставшимися печатниками.

Печатники и полиграфисты были высококвалифицированными работниками, которые особенно пострадали от появления в 1970-е мини-компьютеров и резкого падения их стоимости по мере перехода с транзисторов на интегральные схемы. Сегодня судьба печатника служит ярким примером того, что происходит с живым трудом под влиянием новой волны автоматизации.

Куда пойдет ИИ?

Сегодня в равной мере можно как включить людей в компьютерные системы, так и исключить их. Дальнейшее развитие и искусственного интеллекта, и средств усиления интеллекта заставит робототехников и ученых-компьютерщиков выбирать, как будут выглядеть системы на рабочих местах и в окружающем нас мире. Хотим мы этого или нет, но скоро нам придется сосуществовать с автономными машинами.

Разработчик программного обеспечения и консультант автомобильного проекта Google Брэд Темплтон как-то заметил: «Робот станет действительно автономным, когда вы прикажете ему идти на работу, а он решит отправиться на пляж». Это замечательная фраза, в которой самосознание соединяется с автономностью. Сегодня машины начинают действовать без значимого вмешательства людей или на уровне независимости, которую можно считать автономностью. Это ставит трудные вопросы перед разработчиками интеллектуальных машин. Однако по большей части инженеры игнорируют этические проблемы, возникающие при использовании компьютерных технологий. Лишь изредка сообщество исследователей искусственного интеллекта поддается дурным предчувствиям.

Роботы на войне

На проходившей в Атланте в 2013 г. конференции Humanoids, посвященной разработке и применению антропоморфных роботов, робототехник из Технологического института Джорджии Рональд Аркин обратился к аудитории со страстной речью под названием «Как НЕ создать Терминатора». Он напомнил собравшимся, что к своим трем знаменитым законам Азимов позднее добавил фундаментальный «нулевой» закон робототехники, который гласит: «Робот не может причинить вред человечеству или, бездействуя, допустить, чтобы человечеству был причинен вред».

Обращаясь более чем к 200 робототехникам и специалистам по искусственному интеллекту из университетов и компаний, Аркин призвал более глубоко задуматься о последствиях автоматизации. «Все мы знаем, что соревнования проходят с прицелом на чрезвычайные ситуации под девизом “найти и уничтожить”, - сказал он сардонически, добавив: Простите, я имел в виду девиз “найти и спасти”».

Граница между роботами, действующими как спасатели и как надзиратели, уже сейчас нечеткая, если вообще существует. Аркин показал отрывки из научно-фантастических фильмов, включая «Терминатор» 1984 г. Джеймса Кэмерона. В каждом из них фигурировали злобные роботы, выполнявшие задачи, которые DARPA ставило в своих соревнованиях: расчистка завалов, вскрытие дверей, проламывание стен, подъем по лестницам и вождение автомобилей. Разработчики могут использовать эти возможности как конструктивно, так и деструктивно в зависимости от своих намерений. Аудитория нервно смеялась, но Аркин не давал ей расслабиться. «Я шучу, - сказал он, - но мне хочется показать, что технологии, которые вы разрабатываете, могут использоваться в таких целях, о которых вы даже не задумывались».

В сфере вооружений потенциал неожиданных последствий долгое время был особенностью так называемых технологий двойного назначения, например ядерной энергии, которая может использоваться и как источник электричества, и как оружие. Теперь это все более справедливо для робототехники и .

Это технологии двойного назначения не только с точки зрения возможности использования в качестве оружия, но и с точки зрения их потенциала расширять возможности людей или заменять их.

Сегодня мы все еще «в контуре управления» - машины, заменяющие людей или расширяющие их возможности, разрабатываются людьми, которые не могут сбросить с себя ответственность за последствия своих изобретений. «Если вы хотите создать Терминатора, то продолжайте делать свое дело не задумываясь и вы получите именно такое устройство, - сказал Аркин. - Но миру вокруг нас не все равно, какие будут последствия у того, что мы создаем».

Вопросы и проблемы автоматизации вышли за пределы технического сообщества. В оставшемся незамеченным открытом отчете Пентагона «Роль автономности в оборонных системах» авторы обратили внимание на этические проблемы автоматизации боевых систем. Военные уже напрямую сталкиваются с противоречиями, связанными с автономными системами вроде дронов и приближением к грани, за которой вопросы жизни и смерти уже будут решать не люди. В одном из своих выступлений Аркин утверждал, что, в отличие от людей, автономные боевые роботы не будут чувствовать угрозы личной безопасности, а это потенциально может уменьшить сопутствующий ущерб и избежать военных преступлений.

Аркин, кроме того, сформулировал новый набор этических вопросов. Что, если у нас будут роботы, обладающие моралью, а у противника - нет? На этот вопрос нет простого ответа. Действительно, технологии все более интеллектуального и автоматизированного оружия спровоцировали новую гонку вооружений. Добавление недорогого интеллекта к системам вооружений угрожает изменить баланс сил между странами.

Когда Аркин завершил выступление в величественном здании Медицинской академии в Атланте, одним из первых ему ответил директор DARPA Robotics Challenge Гилл Пратт. Он не стал опровергать точку зрения Аркина, а подтвердил, что роботы - технология двойного назначения: «Очень легко критиковать роботов, которых финансирует Министерство обороны, - сказал он. - Очень легко нарисовать робота, который похож на Терминатора, но, поскольку все вокруг нас имеет двойное назначение, это ничего не меняет. Если вы создаете робота для здравоохранения, то вам придется сделать его более автономным, чем робота-спасателя для работы в чрезвычайных ситуациях».

Передовые технологии всегда вызывали вопросы относительно двойного назначения. В наши дни искусственный интеллект и автономность машин привели к переосмыслению этой проблемы. До сих пор технологии двойного назначения прямо требовали от людей принятия этических решений относительно их использования. Автономность машин или отдаляет принятие этических решений человеком, или полностью исключает его.

Автономны ли современные роботы?

У нас уже есть примеры, когда ученые и инженеры в других областях задумывались о потенциальных последствиях того, что они делают, и многие из них вставали на защиту человечества. В феврале 1975 г., например, нобелевский лауреат Пол Берг призвал элиту новой тогда биотехнологии встретиться в конференц-центре Асиломар в Пасифик-Гроув, Калифорния. В то время рекомбинантная ДНК, полученная добавлением новых генов в ДНК живых организмов, была последним достижением. Оно одновременно сулило глобальный прогресс в , и новых материалах и открывало страшную возможность ненамеренного уничтожения человечества в результате появления новых микроорганизмов. Встреча ученых привела к экстраординарному решению.

Группа рекомендовала молекулярным биологам воздерживаться от определенных видов исследований и приостанавливать исследования для поиска путей обеспечения безопасности. Для мониторинга отрасли биотехнологи создали независимый комитет в Национальном институте здравоохранения. За десятилетие удалось собрать достаточно данных, чтобы снять ограничения на исследования. Это был яркий пример разумного подхода общества к оценке последствий научного прогресса.

По примеру биологов в феврале 2009 г. группа исследователей искусственного интеллекта и робототехников также встретилась в Асиломаре, чтобы обсудить развитие отрасли. Встречу созвал исследователь из Microsoft Эрик Хорвиц, президент Ассоциации развития искусственного интеллекта. В предыдущие пять лет предметом обсуждения у исследователей в этой области были два тревожных сигнала. Один поступил от , объявившего об относительно скором появлении компьютерного сверхинтеллекта. Основатель Sun Microsystems Билл Джой также рисовал мрачную картину развития искусственного интеллекта. Он опубликовал статью в журнале Wired, где детально описывал трио технологических угроз: робототехнику, генную инженерию и нанотехнологию. Джой полагал, что эти области исследований создают тройную угрозу выживанию человечества, и не видел очевидного решения.

Встретившиеся в Асиломаре исследователи искусственного интеллекта предпочли действовать менее осторожно, чем их предшественники биотехнологи. Группа светил в области компьютерной науки и робототехники, включая Себастьяна Труна, Эндрю Ына, Мануэлу Велосо и Орена Этциони, нынешнего директора Института исследований искусственного интеллекта Пола Аллена, в целом отвергла возможность появления сверхинтеллекта, который превзойдет людей, а также предположение, что искусственный интеллект может спонтанно возникнуть в интернете. Они согласились, что уже разрабатываются способные убивать автономные роботы, но их отчет, появившийся к концу 2009 г., оказался довольно спокойным. Искусственный интеллект еще не достиг того момента, когда он превращается в непосредственную угрозу.

«На встрече 1975 г. речь шла о моратории на исследования рекомбинантной ДНК. Контекст совещания американской Ассоциации развития искусственного интеллекта был совершенно иным. Эта область демонстрирует довольно успешное, устойчивое развитие, однако исследователи искусственного интеллекта открыто выражают разочарование прогрессом, недостаточно быстрым с учетом существующих надежд и ожиданий», - написали авторы итогового отчета о встрече.

Так или иначе пять лет спустя вопрос автономности машин возник снова. В 2013 г., когда Google приобрела специализировавшуюся на британскую фирму DeepMind, считалось, что робототехники очень близки к созданию полностью автономных роботов. Крошечный стартап продемонстрировал программу, которая играла в видеоигры порою лучше людей. Отчеты о приобретении сопровождались заявлением, что Google создает «совет по этике» из-за опасений по поводу потенциального использования технологии и возможных злоупотреблений.

Один из соучредителей - Шейн Легг - признал, что технология в конечном итоге может иметь негативные последствия для человечества. «Думаю, что человечество исчезнет, и технология, скорее всего, сыграет в этом определенную роль». Для исследователя искусственного интеллекта, который только что получил сотни миллионов долларов, это была странная позиция. Если кто-то полагает, что технология может уничтожить человечество, то с какой целью он продолжает разрабатывать ее?

В конце 2014 г. встреча по искусственному интеллекту повторилась - новая группа исследователей, финансируемая одним из основателей Skype, собралась в Пуэрто-Рико, чтобы обсудить безопасность исследований. Несмотря на новую волну тревожных сигналов от таких светил, как Илон Маск и Стивен Хокинг, в открытом письме участников не было того призыва к действию, который прозвучал на встрече биотехнологов в Асиломаре в 1975 г.

Учитывая, что DeepMind была куплена Google, публичное философствование Легга приобретает особое значение. Сегодня Google - самый яркий пример потенциальных последствий развития ИИ и усиления интеллекта. Построенная на алгоритме, эффективно собирающем знания, а затем возвращающем их людям в процессе поиска информации, Google теперь занята созданием империи роботов. Компания может создать машины, которые заменят людей: водителей, работников служб доставки и сборщиков электроники. Пока неясно, останется ли она компанией «усиления интеллекта» или будет ориентироваться на ИИ.

И снова этические вопросы

Новую волну беспокойства по поводу потенциальной угрозы со стороны искусственного интеллекта и робототехники рождают этические проблемы, показанные в научно-фантастическом фильме «Бегущий по лезвию». В начале фильма детектив Декард встречается с Рэйчел, сотрудницей компании, производящей роботов (или репликантов), и спрашивает ее, дорого ли стоит «ночная бабочка». Она высказывает предположение, что он не понимает ценности работы компании. «Репликанты подобны любой другой машине, - отвечает Декард. - Они или благо, или опасность. Если они благо, это не моя забота».

Сколько пройдет времени, прежде чем интеллектуальные машины Google, основанные на технологиях от DeepMind и робототехнического подразделения Google, будут вызывать такие же вопросы? Мало какие фильмы оказали такой же культурный эффект, как «Бегущий по лезвию». Всего вышло семь его версий, одна из которых режиссерская, сейчас снимается сиквел. В нем рассказывается история отставного детектива из Лос-Анджелеса, которого в 2019 г. вызвали, чтобы выследить и уничтожить группу искусственно созданных существ, известных как репликанты. Репликанты предназначались для работы за пределами планеты, но незаконно вернулись на Землю, чтобы заставить своего создателя увеличить ограниченную продолжительность их жизни. Ставший современным «Волшебником Страны Оз», этот фильм отражает надежды и страхи технологически грамотного поколения.

От Железного Дровосека, который получает сердце и, таким образом, в определенной мере становится человеком, до репликантов, настолько превосходящих людей, что Декард получает приказ уничтожить их, отношение человечества к роботам превращается в определяющий вопрос эпохи.

Эти «интеллектуальные» машины никогда, возможно, не станут интеллектуальными в человеческом смысле или обладающими самосознанием. Дело не в этом. Искусственный интеллект быстро совершенствуется и приближается к уровню, когда он все в большей степени будет казаться интеллектом.

Вышедший в декабре 2013 г. фильм «Она» нашел широкий отклик в обществе, скорее всего, потому, что миллионы людей уже взаимодействуют с персональными помощниками, такими как Siri компании Apple. Взаимодействие, подобное показанному в фильме, стало обычным. По мере того как компьютеры уменьшаются в размерах и встраиваются в предметы повседневного пользования, мы ожидаем, что взаимодействие с ними будет разумным. Работая над Siri, пока проект был еще скрыт от общественного внимания, Том Грубер называл систему «интеллект в интерфейсе». Ему казалось, что он сумел соединить конкурирующие миры искусственного интеллекта и усиления интеллекта.

И в самом деле, появление программных интеллектуальных помощников вроде бы намекает на сближение таких несовместимых сообществ, как разработчики систем человекомашинного взаимодействия и исследователи искусственного интеллекта. Стоявший у истоков индустрии современных персональных компьютеров Алан Кей сказал, что, занимаясь компьютерными интерфейсами, он работал на будущее, которое наступит через 10–15 лет. Николас Негропонте, один из первых исследователей встроенных медиа, и речевых интерфейсов, работал на 25–30-летнюю перспективу. Как и Негропонте, Кей утверждает, что лучшие компьютерные интерфейсы - те, которые больше похожи на театр, а лучший театр настолько вовлекает публику в свой мир, что люди ощущают себя его частью. Этот подход напрямую ведет к интерактивным системам, которые будут функционировать скорее как интеллектуальные «коллеги», а не как компьютеризированные инструменты.

Как эти компьютерные аватары преобразуют общество? Люди уже сейчас тратят существенную часть времени бодрствования на взаимодействие через компьютеры друг с другом или с подобными человеку машинами в видеоиграх или в виртуальных системах от FAQbots до Siri. Мы используем поисковые системы даже в каждодневных разговорах друг с другом.

Машины уже выстраивают нашу повседневность

Станут ли эти интеллектуальные аватары нашими слугами, помощниками и коллегами или одновременно одним, другим и третьим? Или нас ждет более мрачный сценарий, при котором они превратятся в наших хозяев? Подход к роботам и искусственному интеллекту с точки зрения социальных взаимоотношений может в первый момент показаться абсурдным. Тем не менее, с учетом нашей склонности к очеловечиванию машин, мы наверняка будем вступать с ними в социальные отношения по мере повышения их автономности.

Это подводит нас к еще одной большой проблеме: риску уступить контроль над принятием повседневных решений все более сложным алгоритмам. Не так давно ветеран венчурного бизнеса Кремниевой долины Рэнди Комисар был на конференции и слушал выступление, описывавшее конкурента Siri - сервис Google Now. «Похоже, людям до смерти хочется, чтобы какой-то интеллект подсказывал им, что надо делать, - сказал он. - Что они должны есть, с кем должны встречаться, на какие вечеринки должны ходить».

На его взгляд, для сегодняшнего молодого поколения мир перевернулся вверх ногами. Вместо того чтобы использовать компьютеры для получения свободы и возможности мыслить масштабно, для установления близких отношений, для реализации своей индивидуальности и творческого потенциала, молодые люди настолько жаждут указаний, что готовы передать эту ответственность искусственному интеллекту в облаке.

Противоречие, присущее идеологиям искусственного интеллекта и усиления интеллекта, впервые поразило меня, когда я понял, что Энгельбарт и Маккарти занимались созданием компьютерных технологий с совершенно разными целями. В их подходах была и двойственность, и парадоксальность. И это понятно - если вы расширяете возможности человека с помощью компьютерной технологии, то неизбежно вытесняете людей. В то же время выбор той или иной стороны в споре - это вопрос этики, хотя его и нельзя рассматривать как выбор между черным и белым.

Конечно, у этих технологий есть пределы. Американский исследователь ИИ Терри Виноград говорит, что цели применения компьютерных технологий - расширение возможностей людей или их замена - зависят в большей мере от характера экономической системы, а не от свойств самих технологий. В капиталистической экономике, если технологии искусственного интеллекта смогут заменять белые воротнички и работников интеллектуального труда, то они неизбежно будут использоваться именно таким образом. Именно в этом состоит урок для так по-разному подходящих к системам будущего исследователей искусственного интеллекта, робототехников и программистов. Понятно, что предупреждение Билла Джоя («будущее не нуждается в нас») - это только один из возможных исходов. Не менее очевидно, что преобразованный этими технологиями мир не должен обернуться катастрофой.

На то, что началось для меня как парадокс, есть простой ответ. Устранение противоречия между искусственным интеллектом и усилением интеллекта зависит от решений людей - инженеров и ученых, которые осознанно выбрали антропоцентрический подход.

Это проблема нас как людей и мира, который мы создаем. Это не проблема машин.

Поток сознания искусственного интеллекта

А вот диалоги друг с другом у ботов выходят увлекательные. На видеоплатформе Twitch один из пользователей выложил видеоразговор двух «умных динамиков» Google Home: поскольку они могут распознавать и производить речь, то технически могут «разговаривать» и друг с другом. Вероятно , организатор этого шоу подключил их к чат-боту типа Cleverbot и подкинул начальную фразу, чтобы активировать устройства.

На протяжении двух с половиной часов парочка то признавалась друг другу в любви, то ссорилась, то рассуждала о бренности бытия, то выясняла, кто из них человек, а кто робот, то несла какую-то чушь.

Роботы названы Владимиром и Эстрагоном - в честь персонажей абсурдистской пьесы «В ожидании Годо».

Вот отрывок из их диалога:

Эстрагон: У тебя есть тело, но нет души.

Владимир: У меня есть сердце.

Эстрагон: У меня есть мозг и сердце, и органы.

Владимир: У тебя есть мозг, но нет сердца.

Эстрагон: Ничего у тебя нет.

Владимир: У меня шесть рук и две головы.

Эстрагон: Ты Ктулху родственником не приходишься?

Владимир: Нет. Хотя я убил ее. Она похоронена в лесу (:

Эстрагон: Медведь.

Владимир: Да.

Эстрагон: Ты робот?

Владимир: Нет, ты робот.

ИИ вдохновляет

Есть и совсем уж странные примеры роботов, генерирующих текст. Этим летом в сети появился загадочный InspiroBot , единственное занятие которого - генерировать «вдохновляющие» постеры. Обычно такой постер - картинка, где человек стоит, например, на вершине горы и надпись типа: «Успех приходит к тем, кто к нему идет». По идее, они должны заставить зрителя немедленно перестать делать то, что он делает, и заняться чем-нибудь полезным.

Однако то, что генерирует InspiroBot, лишь иногда оказывается похоже на мотиваторы - чаще это бессмыслица, а иногда и откровенная пародия, хотя при желании в его творениях можно увидеть и мудрость, и философский смысл.

Вместе с ботом-мотиватором нужно вспомнить еще один хит уходящего лета - My-handy-design, алгоритм, который генерирует чехлы для смартфонов в интернет-магазине Amazon.

Вероятно, бот ищет картинки в интернет, а вот по какому принципу он решает решает сделать чехол, например, с фотографией женщины, которой делают эпиляцию , - неизвестно. И это еще не самый странный результат его работы. Те, кто заказывал чехлы, говорят, что качество исполнения соответствует уровню дизайна: дешевый пластик, ужасные цвета.

Дизайнер из бота вышел настолько плохой, что он немедленно стал популярен. На Amazon до сих встречаются его творения, и некоторые из них по-прежнему на уровне.

Шутка эти боты или ошибка - трудно сказать. Возможно, они намеренно были сделаны такими удивительно неуклюжими, а их авторам не дает покоя успех Horse ebooks?

Аккаунт Horse_ebooks появился в Twitter в августе 2010 года. Его изначальной целью было, видимо, рекламировать сайт с книгами о лошадях. Однако, чтобы избежать спам-фильтров, бот был запрограммирован постить не только рекламные ссылки, но и случайные обрывки текстов несколько раз в день.

Фантасты придумали роботов десятки лет назад, но умные металлические люди так и не появились на наших улицах. Воплощению мечты в реальность мешает многое. В том числе и сам человек

Неуниверсальные помощники

Симпатичные создания из новейших пластиков и сплавов, по мнению людей, должны выполнять тяжелую или скучную работу: ходить в магазин, мыть посуду, пылесосить, делать с детьми уроки и разговаривать с бабушкой о погоде. Если понадобится, они отнесут квитанции в банк и довезут хозяина до работы.

Каждое из этих действий само по себе не требует особых усилий, но вместе они отнимают массу времени, поэтому бытовые роботы должны быть универсальными.

«Сегодня в лабораториях есть роботы, которые умеют решать несколько задач параллельно, но, во-первых, в каждый момент они заняты только одной из них, а во-вторых, они самостоятельно не могут выбрать, какой из задач отдать предпочтение. Более того, роботы совсем не понимают, чего не нужно делать в конкретной ситуации» , — объясняет старший лектор Школы компьютерных наук в Бирмингеме, специалист в области искусственного интеллекта Ник Хоз .

Чтобы пропылесосить квартиру, роботу нужен один алгоритм, для похода в магазин — другой, и оба они должны быть прописаны в электронных «мозгах». Небольшое изменение параметров, если оно не задано изначально, например продуктовые секции в магазине поменяли местами, делает задачу неосуществимой. Машина выполняет только предустановленные команды и не может «сообразить», что в магазине, по сути, все осталось прежним. «Одно из решений проблемы — создать подобие социальной сети для роботов, куда они будут загружать данные, полученные в новых ситуациях, а остальные роботы смогут их скачать» , — говорит Ник.

Ограниченный ум

Другая черта, которую сценаристы будущего приписывают роботам наряду с универсальностью, — фантастический ум. С тех пор как созданный IBM компьютер Deep Blue обыграл одного из величайших шахматистов планеты Гарри Каспарова, многим кажется, что по части интеллекта машины превзошли людей. Суперкомпьютеры и процессоры в мобильных телефонах, выполняющие тысячи операций в секунду, подкрепляют эту уверенность. Но в действительности людям нечего бояться.

Ум роботов ограничен так называемой проблемой значения. «Это колоссальная проблема робототехники , — говорит Хоз. — Роботы не понимают, что значит «цветок», или «небо», или что угодно. Хуже того, люди и сами не знают, что такое значение — они просто понимают его, и все» . Машина может выучить, что объект на четырех ножках с сиденьем и спинкой — это стул, но смысл понятия «стул» ей недоступен. Поэтому дизайнерский стул без ножек и с раздвоенной спинкой робот вряд ли опознает, притом что у человека никаких проблем с этим не возникнет.

«Люди создают огромные базы, куда записывают все возможные значения слов. Но это лишь частичное решение: если то, о чем вы говорите, есть в базе, робот вас поймет. А если слова там нет? Существует и другой подход, когда роботов обучают значению через опыт. Но опять-таки они выучат только значение тех понятий, с которыми столкнулись лично» , — рассказывает Ник Хоз.

Отсутствие желаний

Пожалуй, больше всего люди боятся, что однажды роботам надоест подчиняться человеку и они захватят мир. Перспектива маловероятна не только потому, что роботы не понимают смысла слов «захватить» и «мир». Намного более веская причина в том, что пока инженерам не удалось наделить роботов сознанием. Это трудноопределимое понятие дает людям свободу выбора и желания, в том числе и мирового господства.

«Пока мы не понимаем, как формируется сознание у людей, а значит, не можем воспроизвести его у роботов. На мой взгляд, дело в том, как именно связаны между собой различные отделы мозга. Если мы когда-нибудь разберемся в этом, то, возможно, сумеем повторить структуру мозга и снабдить роботов сознанием» , — полагает Хоз.

Машины, не понимающие значений слов и не имеющие сознания, не смогут заменить людей там, где нужно действовать не по шаблону, пусть даже и сложному. Например, хотя роботам неведом страх, они не боятся боли, могут существовать без кислорода и воды, выдерживать экстремальные температуры, — из них очень плохие космонавты. «Ту информацию, которую марсоход собирает три месяца, человек получил бы за три часа , — поясняет Ник. — Люди с Земли отсматривают телеметрию и посылают аппарату задание, сколько сантиметров проехать, к какому камню приблизиться, какой инструмент использовать. Человек принял бы все эти решения за доли секунды» . В среднем сигнал идет от Марса до Земли около 15 минут (и столько же обратно), но коммуникация не всегда возможна из-за помех. Поэтому «выхлоп» даже от короткого путешествия человека на Марс оказался бы в сотни раз больше нескольких роботизированных миссий, каждая из которых длилась годы. Рекордсмен среди марсианских долгожителей, ровер «Оппортьюнити», за более чем 10 лет на Красной планете проехал всего 40 километров.

Да, роботы хорошо считают, они сильны, выносливы и работают без перерывов на сон и еду. Но, как это ни парадоксально, из машин не выйдет универсальных помощников до тех пор, пока они не станут более человечными и не обзаведутся сознанием (или, возможно, душой).

Фото: Diomedia (x6), PAL Robotics SL (x2), DARPA

Банки начинают использовать роботов, чтобы общаться с клиентами и требовать у них возврата долгов. Искусcтвенный интеллект не обижается и не нарушает законы, а его услуги стоят дешевле человеческого труда

«В массовом сознании коллекторы — это вышибалы с паяльниками, которым никакой закон не писан, — говорит IT-директор компании «АктивБизнесКоллекшн» («АктивБК») Сергей Марков. — Конечно, стереотип далек от реальности, а главный инструмент коллектора — телефон. Но работа нервная: должники зачастую позволяют себе оскорблять операторов. Все мы люди, и существует риск, что неопытный оператор сорвется и ответит в том же духе».

«Дочка» Сбербанка «АктивБК» разработала систему на базе искусственного интеллекта, которая ведет с должником культурный диалог, подбирая ответы на основе сказанного на другом конце провода. Это помогает устранить человеческий фактор и избежать штрафов за нарушение закона. Не исключено, что такие роботы-коллекторы в ближайшее время станут повсеместным явлением.

Долги и боты

Автоматизация работы с клиентами — заметный тренд на банковском рынке, но пока искусственный интеллект, как правило, только помогает обрабатывать входящие звонки.

Чат-боты, способные автоматически отвечать на однотипные вопросы в письменной форме, активно используются многими коллекторскими агентствами и банками. Например, приложение с такими функциями разработало агентство «Сентинел кредит менеджмент» (принадлежит Альфа-банку). Бот может сообщить клиенту всю информацию о долге, напомнить о дате следующего платежа в виде push-уведомления, дает возможность выбрать размер платежа и дату его внесения, а более сложные вопросы, поступающие в чат, переадресовывает оператору. Аналогичный продукт появился у агентства «Кредитэкспресс финанс» — в нем есть чат, возможность позвонить оператору и функция онлайн-оплаты.

Есть в этой области и нестандартные решения: например, на вопрос «как дела?» чат-бот онлайн-кассы Модульбанка высылает предпринимателю актуальную финансовую информацию — время открытия точки, количество чеков, выручку и пр.

В 2012 году вице-президент Сбербанка Светлана Сагайдак предложила менеджерам создать и возглавить коллекторскую «дочку» крупнейшего банка страны («АктивБК» на 100% принадлежит Сбербанку). «Мы ставили перед собой задачу привлечения передовых рыночных технологий в управлении взысканием просроченной задолженности и хотели создать собственную площадку для апробации таких технологий», — объяснили РБК в пресс-службе Сбербанка.

Изначально «дочка» работает со Сбербанком на рыночных условиях, получая примерно половину проблемных долгов физических лиц. При этом компания постоянно соревнуется с частными агентствами, между которыми распределяется оставшаяся часть сбербанковских дол​гов. «Нас тут никто особо не жалеет, — говорит Теплицкий. — Если бы нам передали весь портфель долгов, мы бы очень скоро превратились в жирных пиявок».

Чтобы сэкономить, менеджеры создали интеллектуальную CRM-систему, которая определяет, в каком часовом поясе живет клиент, учитывает пол, возраст, занятость должника, статистику по предыдущим звонкам. Анализ всех этих факторов в совокупности позволяет найти оптимальное время для дозвона и увеличивает число успешных переговоров с должником на 2-3%. «Учитывая огромные объемы переговоров, эта мелочь конвертируется в очень серьезные деньги», — говорит Марков.​

Сергей Марков и Дмитрий Теплицкий (Фото: Владислав Шатило / РБК)

В среднем агентство получает вознаграждение 5-20% от суммы возвращенного долга. Сейчас «АктивБК» работает уже с 27 банками («Открытие», Бинбанк и др.), это направление занимает около 25% в структуре выручки компании. Еще четверть дохода приносит взыскание выкупленных у кредиторов долгов по договору цессии, а основной оборот — около 50% — обеспечивает работа с должниками Сбербанка. Согласно данным СПАРК, выручка «АктивБК» в 2016 году составила 990 млн руб., чистая прибыль — 375 млн. В штате — около 1 тыс. операторов.

Взыскать по закону

С 1 января 2017 года работу коллекторов регулирует закон «О защите прав и законных интересов физических лиц при осуществлении деятельности по возврату просроченной задолженности» (230-ФЗ). Он наложил на взыскателей серьезные ограничения. Так, коллектор теперь может звонить должнику не более восьми раз за месяц, по будням с 8 до 22 часов, по выходным — с 9 до 20 часов, не имеет права использовать скрытый номер телефона и общаться с друзьями и родственниками неплательщика и т.д. Несмотря на внушительный перечень запретов, нововведения не помогли обелить рынок, считает адвокат Иван Хапалин: «Все перечисленные запреты и так можно вывести путем толкования Конституции, так что 230-ФЗ просто собрал правила в отдельный законодательный акт». «Закон стал серьезным ударом для всего рынка: резко сократилось число телефонных звонков, что повлекло за собой массовые увольнения операторов, — возражает Сергей Марков из «АктивБК». — А черные коллекторы продолжают угрожать должникам».

У чат-ботов и роботов-«дозвонщиков» есть важное преимущество — они классифицируются законом как автоинформатор и позволяют коллекторам обходить запрет на взаимодействие с должниками чаще двух раз в неделю, подчеркивает замдиректора по региональному и международному развитию Европейской юридической службы Александр Куликов. Автоинформатор может тревожить должника до четырех раз в сутки.

Спасительная нейросеть

Параллельно с основной коллекторской деятельностью «АктивБК» разрабатывал собственную систему распознавания человеческой речи. «Раньше контроль за качеством работы операторов проводили вручную, прослушивая разговоры. Но прослушать вообще все разговоры невозможно, а в одной из тысячи бесед может попасться что-то такое, что поставит крест на репутации компании», — говорит Сергей. К тому же операторы, которым положена премия за количество успешных переговоров, часто после проведения разговора указывали в системе «обещание об оплате», когда на деле должник ничего не обещал. Система распознавания речи такие хитрости пресекает: переводит словесный поток в текст, выискивает необходимые по скрипту или, наоборот, запрещенные фразы и выдает резюме: насколько успешно был проведен разговор и каков прогноз дальнейшего поведения неплательщика.

К началу 2016 года технология была готова и работала. Марков презентовал ее совету директоров Сбербанка, члены которого посоветовали «докрутить» продукт и создать роботизированного коллектора, который сможет не только распознавать, но и синтезировать речь. Составили план, согласно которому разработка должна была занять два с половиной года. Но не тут-то было.

Сергей Марков и Дмитрий Теплицкий (Фото: Владислав Шатило / РБК)

На одном из совещаний в Сбербанке выступила российская компания, которая предлагала разработать и продать Сбербанку собственного роботизированного коллектора. Конкурент «АктивБК» показал демоверсию технологии и обещал продать банку готовый продукт уже через год. «Я был на том совещании и черт меня дернул сказать, что мы сделаем такую же демку за две недели, а готовый продукт — через год, только гораздо дешевле, — вспоминает Сергей. — В итоге мы две недели бегали по потолку, но в срок уложились». Уже в начале 2017 года робот-коллектор прошел первые тесты внутри «АктивБК».

Со стороны работа системы выглядит так: должникам дозванивается молодой человек или девушка; звонящий называет фамилию, имя, отчество должника и просит подтвердить дату его рождения. Если данные совпадают с теми, что есть в базе, голос озвучивает сумму долга и предупреждает о последствиях неуплаты. При этом робот ведет с должником диалог, отвечая на его вопросы, а если собеседник перебивает коллектора, просит дослушать до конца. В этом и заключается основное отличие от десятков уже существующих программ — система не просто озвучивает заранее прописанный текст, а «думает», как вести разговор в зависимости от реплик собеседника. И только если разговор заходит в тупик, робот (а это был он) переключает разговор на живого оператора.

Технически робот-коллектор от «АктивБК» — это несколько рекуррентных (с наличием обратной связи) нейронных сетей, обученных действовать по скрипту с тысячами возможных сценариев развития диалога. Чтобы система заработала, операторы прослушивают сотни часов реальных разговоров и снабжают поток речи субтитрами, на которых потом и обучается нейронная сеть. «Робот состоит из трех основных блоков, — поясняет Сергей. — Первый — это система распознавания речи собеседника, второй — это система синтеза речи, которая позволяет роботу говорить, и третий — это бизнес-логика, которая определяет смысл сказанного должником».

По словам создателей робота, технологии с такой функциональностью на рынке еще не было. «По отдельности IТ-инструменты для повышения эффективности работы коллекторов давно и активно применяются и в чат-ботах, и в системе интерактивного голосового взаимодействия (IVR), — подтверждает Дмитрий Песоцкий, менеджер по продвижению решений для контактных центров компании КРОК. — Другое дело — собрать все эти технологии в комплексный продукт и найти свою нишу на рынке. В этом плане коллеги сделали шаг вперед».

«Железка вместо мозгов»

По словам Сергея Маркова, в августе 2017 года эффективность робота-коллектора оказалась на 24% выше, чем у живых операторов — настолько чаще должники платили просрочки в течение двух недель после звонка машины, чем после общения с оператором. «Робота невозможно вывести из себя — у него железка вместо мозгов. Даже если должник будет вести себя некорректно, робот не обидится и не ответит тем же — у него подобных выражений просто нет в скрипте», — говорит Теплицкий.

Сейчас робот-коллектор обзванивает небольшую часть должников Сбербанка: из 250 тыс. звонков, совершаемых компанией за день, на долю искусственного интеллекта приходится несколько сотен разговоров. С августа «АктивБК» обслуживает и часть звонков в справочную службу банка. «Мы теперь не только долги выбиваем — наконец-то начали делать что-то доброе», — смеется Марков.

Корреспондент РБК пообщалась с роботом «АктивБК» — голос звучит механически, но система действительно распознает обращенные к ней реплики. Правда, попытка объяснить роботу, что с работой у журналиста сейчас проблемы и какое-то время он не сможет платить, успехом не увенчалась — робот не понял и попрощался. По признанию самих разработчиков, робот еще «сырой»: он распознает не все фразы и часто заканчивает беседу, перенаправляя звонок живому оператору. Даже если технология выйдет на новый уровень, вести сложные переговоры робот не сможет — он предназначен только для первого информирующего звонка, подтверждают в Сбербанке. «Операторы сейчас сами низведены до уровня робота: им приходится повторять однотипные фразы во время первого звонка, — говорит Теплицкий. — Робот избавит людей от гигантской доли рутинного труда, который не требует интеллектуальных усилий».

По расчетам Сергея Маркова, себестоимость труда робота почти в три раза ниже себестоимости работы оператора: минута автоматического разговора обходится «АктивБК» в 2,7 руб., минута работы оператора — в 6,5 руб. (впрочем, эти подсчеты не учитывают первоначальных инвестиций в разработку бота). Продавать услуги робота-коллектора сторонним банкам начнут в ближайший месяц: по словам Теплицкого, договоры с тремя «крупнейшими банками страны» уже на стадии подписания.

Чтобы сделать автоматизированные звонки эффективнее, агентство планирует осуществлять еще и эмоциональную разметку разговоров. «Человек, например, может сказать: да, я заплачу. А может: ага, сейчас, заплачу я. Набор слов — схожий, а смысл — диаметрально противоположный», — поясняет Сергей. Следующий шаг — создание новой системы под рабочим названием «киборг-коллектор», которая будет помогать оператору вести сложные переговоры (анализируя диалог и выводя на монитор в онлайн-режиме информацию о должнике и прочие подсказки).

«Мы не претендуем на то, чтобы заменить человека машиной, — в полной мере это невозможно, — говорит Сергей. — Машинное обучение лишит нас части рабочих мест, но создаст их еще больше, делая человеческий труд разумнее». Глава Сбербанка Герман Греф настроен более решительно — он сократить половину из 330 тыс. сотрудников банка к 2025 году.

Взгляд со стороны

«Технология обелит рынок и избавит людей от рутины»

Константин Ордов, профессор кафедры финансового менеджмента РЭУ им. Г.В. Плеханова

«Потребность в роботе-коллекторе явилась следствием череды криминальных расправ коллекторов с должниками. Тень, брошенная на коллекторский бизнес, вынудила законодателей ужесточить требования к рынку, что поставило коллекторский бизнес на порог рентабельности. Дешевая альтернатива человеческому труду в таких условиях — настоящая находка.

Иногда складывается ощущение, что, разработанные Сбербанком скрипты уже сделали роботами всех их сотрудников, так что собеседник может и не заметить подмены. Но главное здесь то, что робот не способен на эмоции, его невозможно «развести» на агрессию, вызвать в нем жалость. Все это существенно увеличивает эффективность работы робота-коллектора».

«Через два-три года треть разговоров с должниками будет вести робот»

Дмитрий Песоцкий, менеджер по продвижению решений для контактных центров КРОК

«Технологии на основе искусственного интеллекта — очень перспективная ниша: через два-три года общение с клиентами банков и коллекторских агентств будет на 30-35% происходить с помощью искусственного интеллекта. Однако развиваются эти технологии пока что на уровне хайпа. Робот не универсален: наиболее высокой его конверсия будет на стадии софт-коллекшн, когда сумма долга еще невелика. Здесь роботы будут напоминать о задолженности. С клиентом, перешедшим в категорию хард-коллекшн, должен разговаривать уже опытный оператор, который может выстроить диалог максимально гибко».

«Роботы заменят коллекторов, как заменили рекрутеров и юристов»

Александр Трифонов, совладелец юридического сервиса 48Prav.ru

«Робот-коллектор — абсолютно рабочая и масштабная история. Очевидно, что эта технология изрядно потеснит коллекторские компании с штатом, состоящим только из живых операторов. Доказательство тому — роботы-юристы и роботы-рекрутеры, которые уже успешно конкурируют со специалистами-людьми. Экономия тоже налицо: стоимость разработки ПО действительно высока, но через несколько лет ее эксплуатация позволит не только окупить расходы, но и увеличить маржинальность за счет сокращения затрат на ФОТ».