Технологія LVA та штучний інтелект – Амір Ліберман для Verdict

Як терористичний акт в Ізраїлі призвів до створення компанії з аналізу голосу і розпізнавання емоцій?

У цьому інтерв’ю генеральний директор Nemesysco Амір Ліберман розповідає, чому він заснував свою компанію та як, на його думку, технології можуть допомогти організаціям розкрити справжні емоції людей у простій розмові. 

Це може здаватися незвичним, як для технологічної компанії, але Nemesysco прямо заявляє, що не використовує штучний інтелект (ШІ). Використовуючи так званий багаторівневий аналіз голосу (LVA), алгоритм Nemesysco інтерпретує емоції людини на основі неконтрольованих психофізичних змін її голосу. «ШІ — це навчена модель, упереджена людиною, яка її навчила. Технологія аналізу голосу це не система на основі штучного інтелекту», — каже Ліберман, протидіючи тенденціям штучного інтелекту в усьому, що особливо поширено серед ізраїльських стартапів.

Заснована в 2000 році в Нетанії, Ізраїль, Nemesysco починала, як компанія з безпеки, але згодом розрослась, аби запропонувати інструменти для запобігання шахрайства, автоматизовану оцінку ризиків, тести на розкриття особистості та системи оцінки робітників перед працевлаштуванням. Серед клієнтів і партнерів: Nestle, Endemol, Alianz і Castel. 

Розкажіть мені трохи про вашу компанію, Nemesysco.

Ще В 1997 році в Ізраїлі стався теракт. Що я тоді хотів зробити, так це  створити детектор брехні. Цей теракт забрав життя трьох молодих матерів. Це справді розривало серце. Мені хотілось створити швидкий детектор брехні, який ми могли б встановити на кордонах і запитувати людей, що приїздять до Ізраїлю: «Чи плануєте ви вчинити напад смертника?»

Тож це була дуже наївна думка 24-річного хлопця. Спочатку, коли ми розпочали дослідження, цим, звісно, займались лише я і мої друзі. Ми почали з дуже наївного способу, ми брали людей і записували, як вони кажуть: «Якого кольору небо? Небо зелене, трава блакитна, я королева Англії…» І зрештою ми отримали те, що реакція була дуже незначна, не було нічого особливо помітного.

А потім так сталось, що один із моїх друзів поставив дуже відверте запитання, і система підхопила відповідь, неначе бомба, що вибухнула на екрані: все почервоніло, бо насправді хлопець збрехав. Тож це був момент, коли ми фактично зрозуміли, що брехня повинна мати певний сенс, має бути суттєвою. Потім ми виявили, що отримали не просто брехню, а й побачили всі її різні складові.

Ми отримали університетський набір даних, підготовлений в Ізраїлі. Він був побудований на тесті Струпа  (коли ви бачите картку, на якій написано слово «червоний», але зеленим кольором), який викликає таку ж реакцію в організмі, як і брехня . Принаймні в нашій системі було таке припущення. Насправді — це не брехня: конфлікт є, але не брехня.

Чи виявлення брехні все ще є основною частиною вашого бізнесу?

Ні, я б сказав, що ні. Спочатку ми були суто компанією в сфері безпеки. Але ще в 2005 році ми зробили перехід.

Насправді — так, брехня цікава, але як щодо того, щоб дізнатися більше про особистість свого співробітника? Справжню особистість. Знаєте, це розплющує їм очі на те, що вони навіть самі не знали про себе. Коли вони говорять про це, коли стикаються з результатами. Як роботодавець чому б вам не спробувати зрозуміти, хто такий працівник, щоб призначити його на правильну посаду?

Тому в якийсь момент ми сказали: гаразд, це не виявлення брехні. Справа в тому, що такого поняття як “детектор брехні” — не існує. Повірте, я цим займаюся 24 роки. Детектору брехні — не існує!

Амір Ліберман

Все, що ви можете зробити, це представити стимули та показати реакцію. Ми можемо зловити момент, коли ви відчуваєте небезпеку, коли відчуваєте напругу, коли хочете битися, але все одно втікаєте. Насправді це дуже цікавий момент у часі, коли ви минули певний етап, з яким не хочете стикатися. Це дуже дивна ситуація. Отже, ми можемо побачити ці набори емоцій, але це не брехня, а реакція довкола неї.

З якими секторами працює ваша компанія?

Ми продовжуємо працювати з урядами. Ми працюємо з розслідуваннями, і це, насправді, дуже позитивний досвід, тому що, для прикладу, ви не зможете використовувати нашу систему, катуючи когось. Це не працює. Тож ми  пропагуємо щось на кшталт чесного розслідування, і це мені дуже подобається.

Також ми співпрацюємо зі страховими компаніями, агентствами, які займаються рекрутингом, кредитними службами, банками та маркетинговими агентствами.

Ми працюємо з HR від точки входу до точки виходу. Від найму та оцінки правдивості до оцінки особистості, співбесід і того, як люди себе почувають в організації. Усі опитування, які проводять звичайні люди — можуть трохи підшліфовувати правду. Щось може замовчуватись лише тому, що люди не хочуть нікого образити. Але це контрпродуктивно як для них, так і для організації.

Сьогодні ми також багато працюємо з медичними додатками. І більше того – ми значно розширили горизонти, оскільки наша технологія була використана в ігрових розвагах та телевізійних шоу для знайомств. Кілька разів ми були представлені у шоу (Big Brother TV Series).

Чому важливо розпізнавати емоції, а не просто аналізувати голос?

Питання дуже просте: Ви хочете знати правду? Мені, як менеджеру, потрібно приймати рішення на основі якісних даних. І якщо дані не точні, то вони нікому не потрібні.

Вам не здається, що люди вже мають здатність виявляти емоції? Чи справді нам для цього потрібні технології чи ШІ?

Я не впевнений, що штучний інтелект – це правильно; ми зараз ще поговоримо про ШІ.

Справа в тому, що, по-перше, люди дуже погано вловлюють емоції інших людей. Це факт. Ми завжди приходимо додому зі своїм власним мішком емоцій. У нас був поганий день, щось трапилося з котом, щось трапилося з чоловіком; знаєте, ви оцінюєте все зовсім по-різному. Тому ми хочемо чогось абсолютно неупередженого. Щось, що бачить вас таким, яким ви є.

Амір Ліберман

Це дуже цікавий вибір слів. Особливо тому, що багато людей, які виступають проти розпізнавання емоцій, скажуть, що воно за своєю суттю є упередженим і що в ньому неможливо позбутися упередженості. Як ви на це реагуєте?

Тому що це ШІ. ШІ — це навчена модель упередженою людиною. Але наша технологія — це не система на основі ШІ.

ШІ схожий на експертизу ДНК. Ми знаємо, як виглядають конкретні послідовності голосових патернів і з чим вони повинні асоціюватися з точки зору емоційної реакції. Ми знаємо, як це виглядає; нам не потрібен штучний інтелект для цього.

Це справді виклик з емоціями — їх неможливо зважити. Немає правильного визначення того, що таке щастя. Один хлопець задоволений трьома очками, інший — 60 очками. Масштабу не було. Ми були першими, хто насправді запропонував масштаб. Ось що ми робимо.

Це дійсно працювало з нуля, розбудовуючи всю теорію. Не лише як теорія, а як наука, яка ґрунтується на доказах. Ми — перші, хто фактично запропонував кількісні вимірювання емоцій.

Наша технологія була розроблена без жодних припущень, з нуля на основі початкових біомаркерів, які були обчислені за голосом. Ми просто спостерігали, як вони змінюються під час дзвінків у реальному житті.

Потім, впродовж нашого безперервного дослідження записаного аудіо, яке ми отримували, деякі сеанси викликали унікальну реакцію по деяким з цих змінних. Наша робота здійснювалась в ручному режимі, але потім ці дуже унікальні та очевидні сеанси були додані до списку припущень і перевірені щодо інших, менш значущих даних з тієї ж групи емоцій.

Але все ж таки масштаби визначила людина. Чи це не залишає місця для упередженості?

Спочатку ми аналізували та визначали стрес. Коли ми починали, все було побудовано на стресі. Ні про які інші емоції не було даних, їх було неможливо визначити. І ми брали записи з літаків, що розбиваються, пілотів, що подають аварійне сповіщення. Ми взяли записи засуджених до смертної кари безпосередньо перед подією, і були нюанси, на які ми звернули увагу. І саме тоді ми почали розрізняти: де крайній стан стресу, а де нормальний, побудували шкалу між ними.

Тепер ми могли нормалізувати його від нуля до 100, маючи справу лише з реальними даними та матеріалами з реального життя.

Існує також аргумент, що емоції різних людей виражаються по-різному залежно від їхнього культурного виховання та соціального походження. Як ви пояснюєте цю упередженість?

Це чудове запитання. Дякую!

Отже, з теоретичної точки зору, все, що ви можете контролювати, будь то ваш вибір слів, те, як ви їх вимовляєте, гучність — усе це слід ігнорувати. Це навіть не варто брати до уваги, тому що ви можете цим керувати. 

Тому ми говоримо про всі ті інгредієнти, які ви не можете контролювати. І тоді, мабуть, ми всі однакові: всі ми люди, одна й та сама тварина. У всіх нас однакова мозкова діяльність, і наш мозок побудований дуже, дуже подібно, якщо не ідентично.

Чим, на вашу думку, ви відрізняєтесь від своїх конкурентів?

Ми не засновані на ШІ. Сьогоднішній підхід полягає в тому, щоб залучити акторів, які виражають різні емоції у різний спосіб в різних масштабах, і сказати: добре, давайте навчати цим емоціям. І давайте використаємо модель для навчання цим емоціям. Ми працюємо зовсім інакше. Ми фактично працювали з нуля.

Коли ви берете штучний інтелект, вчите його розпізнавати всі ці виражені емоції, у той момент, коли система робить помилку та класифікує актора, який виражає злість, як розлюченого, в цей момент я розумію, що маю кинути все та повернутися до креслярської дошки.  Якщо мене дурять актори, як я можу залишатися вірним істинній меті системи? Тому ми працюємо саме зі справжніми емоціями.

Амір Ліберман

Вам не здається, що є певні речі, які люди мають намір приховати, і вони повинні залишатися прихованими? Як ви реагуєте на те, що люди кажуть, що це посягання на приватне життя і свободу?

Це завжди складне питання, і, звичайно, все має бути зроблено згідно із законами, відповідно до того, що дозволено та справедливо.

Справа в тому, що якщо я, як працівник, маю можливість сказати, що я відчуваю до свого боса, і я кажу: «Я вважаю, що він чудовий босс». Але глибоко всередині я знаю, що босс жахливий, і це позначається на моєму голосі.

І не тільки на моєму, але, можливо, на голосі кількох інших людей, які зробили те саме. Вони також сказали, що босс чудовий, але всі вони почувалися по-різному. Вам не здається, що виграють усі, крім цього поганого босса?

Добре, мій аргумент: якщо людина хоче щось приховати, хіба вона не має права щось приховувати?

Ви завжди маєте право відмовитися від тесту, ви завжди маєте право не приймати участі. У будь-якому випадку, якщо ви не хочете брехати, не брешіть.

Але якщо ви хочете брехати, чи вам не дозволять брехати?

Послухайте, якщо я роботодавець і плачу вам зарплату, я хочу якнайкраще використовувати свої гроші, щоб досягти найкращої продуктивності та найкращого середовища, наскільки це можливо. Для цього мені потрібно грунтувати своє рішення на знаннях, і чим кращі знання, тим кращими можуть бути мої рішення.

Ви сказали, що людина завжди повинна мати право відмовитися від тесту, а це означає, що вона завжди повинна знати, що цей  тест відбувається і що її емоції контролюються технологією, але споживачі не завжди про це знають. Що би Ви відповіли на це?

Я вважаю, що краще, коли люди знають, що відбувається, і усвідомлюють наслідки. Але знову ж таки, знаєте, ви працюєте з Facebook, ділитеся своїм життям з усіма, ви ділитеся своїми найінтимнішими моментами з родиною.

За вами і так стежить багато всього. Те, як ви пишете, все, що ви друкуєте, все, що ви говорите, як швидко ви друкуєте на клавіатурі. Справа не в технології, яка використовується, а в тому, як саме вона використовується.

Ви хочете сказати, що погана не технологія, а люди, які стоять за нею?

Зараз ваш мобільний телефон знає про вас більше, ніж ви самі коли-небудь дізнаєтеся. Не кажучи вже про виявлення емоцій, він знає, що вам подобається, а що ні, і знає, о котрій годині ви прокидаєтеся, хто вам подобається, з ким ви розмовляєте, а з ким не розмовляєте.

Він знає все, знає, де ви перебуваєте кожну секунду дня. Якщо Ви думаєте, що у вас є конфіденційність, подумайте ще раз. Я не думаю, що хоча б хтось сьогодні у світі має почуття приватності.

Посилання на першоджерело:

https://www.verdict.co.uk/voice-emotion-detection-technology/