Як люди спілкуються з віртуальними помічниками. Уривок з книги «Homo Roboticus?»

Діалогові системи поступово стають невід’ємною частиною наших повсякденних взаємодій. Звичайно, таке партнерство не завжди розвивається так, як ми очікуємо. В грудні 2013 р. сенсацією став фільм «Вона», любовний роман з Хоакіном Феніксом в головній ролі і голосом Скарлетт Йоханссон. Цей науково-фантастичний фільм показує наше недалеке майбутнє, в якому самотній чоловік з Південної Каліфорнії закохується в операційну систему. Сюжет здався цілком правдоподібним багатьом глядачам. В кінці 2013 р. мільйони людей по всьому світу вже не перший рік спілкувалися з Siri компанії Apple і не сумнівалися в тому, що «віртуальні агенти» поступово перетворюються з новинок в звична справа.

В якійсь мірі фільм «Вона» присвячений і сингулярності — ідеї про те, що швидко розвивається машинний інтелект в кінцевому підсумку перевершить людини і стане незалежним. Фільми «Вона» і «Перевага» — інший пронизаний ідеєю сингулярності фільм, що вийшов на екрани навесні наступного — найбільше цікаві тим, як вони підносять відносини між людиною і машиною. У «Вищість» взаємодія людини з комп’ютером переходить з приємного в похмуре, і в кінцевому рахунку сверхинтеллектуальная машина знищує нашу цивілізацію. У фільмі «Вона» відносини між людиною і операційною системою розпадаються, оскільки електронний інтелект розвивається настільки швидко, що йому стає мало навіть тисяч одночасних відносин, він перевершує людство і… йде.

Це, звичайно, фантастика, але з чимось подібним у реальному світі Лізл Каппер зіткнулася майже на десятиліття раніше. Каппер, у той час генеральний директор займалася розробкою віртуального співрозмовника австралійської компанії My Cybertwin, переглядала реєстраційний журнал створеного нею сервісу My Perfect Girlfriend з зростаючим жахом. My Perfect Friend повинен був стати чат-ботом, що демонструє технології обробки природної мови, пропоновані компанією Каппер. Але експеримент пішов не в ту сторону. Прочитавши повідомлення веб-сайту, Каппер виявила, що стала оператором цифрового борделю.

Технологія віртуальних співрозмовників існує з часів експериментів Вейценбаума з програмою Eliza. Швидкий розвиток комп’ютерних технологій спростило відносини між людьми і машинами. У книзі «Самотні разом: Чому ми очікуємо від технологій більшого, ніж один від одного» соціолог з Массачусетського технологічного інституту Шеррі Теркл висловлює занепокоєння у зв’язку з тим, що технології розширюють взаємодія людини з машинами на шкоду контактам між людьми.

«Я вважаю, що технологія спілкування завжди буде розчаровувати, оскільки вона обіцяє те, чого не може дати, — пише Теркл. — Вона обіцяє дружбу, але здатна створити “видимість”. Хочемо ми насправді штампувати друзів, які ніколи не будуть друзями?»

Соціологи вже давно описали це явище як помилкове відчуття єдності — «псевдосообщество», — і воно не обмежено людино-машинним взаємодією. Наприклад, клієнт банку може цінувати відносини з касиром, хоча вони існують тільки в контексті комерційних операцій і являють собою не більш ніж ввічливе, поверхневе знайомство. Теркл також вважає, що відносини між людьми і роботами, які вона спостерігала в дослідницьких лабораторіях Массачусетського технологічного інституту, не можна відносити до справжнім. Машини створюються для вираження синтетичних емоцій з тим, щоб викликати певну реакцію людини або з’ясувати, як він буде реагувати.

Саме такі емоційні, якщо не відверто сексуальні розмови користувачів з Perfect Girlfriend побачила Каппер. Молода ділова жінка, яка виросла в Зімбабве і мала ступінь в області психології, перш займалася розробкою програм навчання для центрів раннього розвитку дітей. Каппер переїхала в Австралію як раз перед крахом міхура доткомів. В Австралії вона спробувала себе у розробці пошукових систем і створила Mooter, програму індивідуалізованого пошуку. Але Mooter не могла протистояти глобальному панування Google. Хоча її згодом компанія стала публічною, у 2005 р. Каппер пішла з неї разом з діловим партнером Джоном Закосом, яскравим австралійським дослідником штучного інтелекту, з юності зачарованим ідеєю створення віртуальних співрозмовників. Разом вони перетворили My Cybertwin в бізнес, що продає технологію FAQbot банкам і страховим компаніям. Ці боти відповідали на запитання користувачів веб-сайтів про продукти і послуги.

Технологія, що дозволяла надавати неперсоніфіковану інформацію клієнтам і економити гроші на колл-центрах і телефонного зв’язку, була дуже популярною, але в той час ще недостатньо зрілою. Хоча My Cybertwin і домоглася деякого первісного успіху, у неї були конкуренти, і Каппер шукала виходи на нові ринки. Вони спробували перетворити My Cybertwin в сервіс, створює програмний аватар, який забезпечує взаємодію в інтернеті, навіть коли його власник не в мережі. Це була фантастична ідея, але результати вона принесла скромні.

Каппер відповідає ухильно і нейтрально на питання, віднімають чи віртуальні помічники робочі місця. В інтерв’ю вона підкреслює, що вони не замінюють працівників безпосередньо, і концентрує увагу на рутинній роботі, яку її Cybertwin роблять у багатьох компаніях і таким чином вивільняють людей для більш складних і престижних завдань. В цей же час Закос на конференціях стверджував, що при порівняльному оцінюванні відповідей на запитання по тексту Cybertwin і операторів колл-центру Cybertwin виграє у людей з точки зору задоволеності споживача. За його словами, після розгортання комерційної системи на веб-сайті найбільшого банку країни, Національного банку Австралії, більше 90% відвідувачів сайту думали, що спілкуються з людиною, а не з програмою. Щоб бути переконливим, інтелектуальний агент на веб-сайті банку повинен відповідати не менше ніж на 150 000 запитань — така можливість цілком забезпечується сучасними системами обробки і зберігання інформації.

Стаття по темі

«В цій темі я дилетант»: уривок з нової книги Олександра Соколова

Незважаючи на небажання обговорювати питання ліквідації робочих місць, наслідки роботи Каппер і Закосу, швидше за все, будуть відчутними. Значною мірою зростання армії білих комірців у США після Другої світової війни пояснюється швидким поширенням систем комунікації — агенти по телефонних продажів, телефоністи, працівники служб технічної підтримки і забезпечення продажів були необхідні для створення в компаніях інфраструктури для зв’язку клієнтів з персоналом. Комп’ютеризація змінила ці професії: колл-центри перемістилися за кордон, а автоматичні комутатори першого покоління замінили велику толіку телефоністів. Софтверні компанії на зразок виділилася з SRI Nuance, яка пропонує системи незалежного від мовця розпізнавання голосу, почали радикально перетворювати колл-центри клієнтської підтримки і системи бронювання авіаквитків. Незважаючи на неприйняття споживачами голосової пошти, технології, подібні My Cybertwin і Nuance, скоро поставлять під загрозу робочі місця, пов’язані з взаємодією з клієнтами по телефону. Інтелектуальний агент My Cybertwin може бути недостатньо хорошим, щоб пройти повний тест Тюрінга, але він був на крок попереду більшості чат-ботів, доступних через інтернет в той час.

Каппер абсолютно впевнена, що скоро ми будемо жити в світі, де віртуальні роботи стануть звичайними компаньйонами людини. У неї немає філософських сумнівів, які мучать дослідників начебто Вейценбаума і Теркл Вона також не бачить проблеми, якщо людина і Cybertwin будуть взаємодіяти з моделі «головний — підлеглий». У 2007 р. Каппер почала експериментувати з програмами під назвою My Perfect Boyfriend і My Perfect Girlfriend. Як і слід було очікувати, трафік на сайті Girlfriend виявився істотно більше, тому вона встановила платний доступ до окремих видів сервісу. І що б ви думали, 4% користувачів, швидше за все чоловіки, з тих, хто вже відвідував сайт, погодилися платити за створення онлайн-відносин. Їх попередили, що на іншому кінці немає нічого навіть віддалено людського, що це алгоритм, який тільки наслідує людині. Але вони були готові платити за послугу, хоча в той час не спостерігалося нестачі «секс-чатів» з реальними людьми.

Причина, можливо, в наступному. На зорі ери персональних комп’ютерів існував успішний видавець текстових ігор — компанія Infocom, рекламний гасло якої виглядав так: «Краща графіка — у вашій голові». Не виключено, що взаємодія з роботом розкріпачує з-за відсутності на іншому кінці лінії людини. Може бути, справа тут взагалі не у відносинах з людьми, а в почутті контролю та можливості зайняти положення головного або… підлеглого.

Незалежно від психологічної основи таких взаємодій, Каппер була шокована. Вона бачила в них більше людського, ніж розраховувала. Тому, хоча бізнес успішно розвивався, вона відступила і закрила My Perfect Girlfriend в 2014 р. На її погляд, бізнес треба було будувати на чомусь іншому. Як виявилося, ділове чуття Каппер спрацювало вчасно. Успіх компанії Apple Siri змінив ринок віртуальних агентів. Комп’ютерний світ став сприймати діалогові системи не як незвичайні новинки, а як основну форму взаємодії з комп’ютером. Ще до My Perfect Girlfriend Каппер зрозуміла, що для успіху бізнес необхідно розгортати в США. Вона привернула необхідні кошти, перейменувала My Cybertwin в Cognea і відкрила відділення в Кремнієвій долині і в Нью-Йорку.

Навесні 2014 р. Каппер продала свою компанію IBM. Комп’ютерний гігант після перемоги у матчі над гросмейстером Гаррі Каспаровим у 1997 р. з не менш гучною рекламною кампанією виставив одного зі своїх роботів проти двох кращих гравців телевікторини «Своя гра». У 2011 р. система Watson компанії IBM здобула перемогу над Бредом Раттером і Кеном Дженнінгсом. Багато хто вважав цю перемогу доказом переваги штучного інтелекту над людиною. Але дійсність була не такою однозначною. Суперникам робота дуже рідко вдавалося натиснути кнопку раніше Watson. У комп’ютера була переважна механічне перевагу, що мав мало спільного з штучним інтелектом. Коли у нього була статистична впевненість у правильності відповіді, він міг натиснути кнопку набагато раніше за людей.

Іронія в тому, що IBM історично позиціонувала себе як компанія посилення інтелекту, а не компанія, яка прагне замінити людей. З 1950-х рр.., коли IBM залишила дослідження в області штучного інтелекту , компанія прагне не афішувати, що її комп’ютери нерідко заміняють людей. Після перемоги Watson компанія представляла своє досягнення як крок до розширення можливостей працівників і заявляла про плани створити на основі цієї технології інтелектуального помічника для лікарів і медсестер.

Стаття по темі

Як набратися розуму-розуму: фрагмент з книги Станіслава Дробишевського «Достающее ланка»

Однак перетворення системи Watson у радника лікарів йшло зі скрипом, і компанія розширила сферу її застосування. Сьогодні бізнес-група Watson розробляє програми, які неминуче замінюють людей. Watson спочатку працювала в режимі «питання — відповідь», розвиваючись у напрямі фундаментальних цілей у сфері штучного інтелекту В поєднанні з Cognea система Watson отримала здатність вести бесіду. Як вона буде використовуватися? Дилема, перед якою стоять IBM та її інженери, відома. Watson може з рівним успіхом служити інтелектуальним помічником професіоналів і замінювати їх. У момент зародження індустрії штучного інтелекту IBM відійшла від неї. Куди вона піде в майбутньому — питання.

Учасник “Своєї гри” Кен Дженнінгс не бачить у перемозі IBM нічого доброго: “Якщо у XX ст. роботи на складальної лінії замінювали фабричних робітників, то нове покоління “мислячих” машин замінює працівників сфери інтелектуальних послуг, яку представляємо ми з Бредом. “Учасник телевікторини” — перша професія, ліквідована системою Watson, але я впевнений, що вона не остання”.

Книгу можна придбати на сайті видавництва.

Свої побажання та побоювання, свої найщиріші вітання та обурення Ви можете надсилати безпосередньо до Столиці Світу на [email protected]. Ми раді допомогти всім, хто радий допомогти нам. Щира подяка, пані та панове!

Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *