5+ проколов голосовых помощников: баги программ-ассистентов

«Болезнь Джокера» и другие проколы Alexa

Начнем с бага голосового помощника Alexa, которым оборудованы умные устройства от Amazon. Засыпая, пользователь одного из таких гаджетов услышал «жуткий смех». Согласитесь, сложно не вспомнить многочисленные фильмы о восстании машин, особенно если ты один в пустой квартире. И этот случай не единственный: другой пользователь рассказывал, что однажды смех Alexa прервал его деловой разговор, чем доставил массу неудобств, едва не сорвав сделку.

Представители Amazon на информацию о «болезни Джокера» (так называются неконтролируемые приступы смеха) отреагировали довольно спокойно. По словам разработчиков, они давно знали о проблеме и работают над ее решением. Причина в том, что ИИ порой неправильно распознает команды и может принять случайную фразу за команду «Alexa, laugh» («Aлeксa, посмейся»). Например, что-то похожее случилось с еще одним пользователем и его фразой «patio turn» («поворот патио» или «превращение патио» — не спрашивайте, в каком контексте он ее сказал). Впрочем, это объясняет случай с деловым разговором. А как быть с засыпающим пользователем?

В настоящее время функцию убрали. Теперь, прежде чем засмеяться, Alexa сначала уточняет, что умеет это делать. Смех же раздается только после подтверждения со стороны пользователя. Плохо то, что он остался таким же жутким и неестественным. Но в Amazon, скорее всего, знают и об этом, работая над улучшением функции.

А работать есть над чем. Стоит вспомнить хотя бы, как несколько лет назад телеканал CW6 знатно потроллил Amazon с их умной колонкой Echo. По ТВ была передача, в которой рассказывалось об уязвимых местах голосового помощника Alexa — неумении различать голоса. Из-за этого ассистент следует указаниям любого человека, в том числе и детей. А уж они могут заказать и приказать что угодно.

В качестве примера ведущий тогда произнес фразу: «I love the little girl, saying 'Alexa, order me a dollhouse», что переводится как «Мне нравится та девочка, которая сказала: «Алекса, купи мне кукольный домик». Вроде бы вполне безобидно. Вот только умные колонки, что работали в этот момент у зрителей, смотрящих передачу, массово стали заказывать на Amazon те самые кукольные домики. Интересно, а если они услышат что-то из разряда черного юмора, например, вопрос «как ограбить банк»? Позвонят в 911?

Как случайно перезагрузить iPhone и другие баги Siri

Считается, что «яблочная» техника — образец надежности и безопасности. Но несколько лет назад в сети появилась информация о необычной реакции голосового помощника Siri на слово «дефис». При включенном ассистенте после пяти повторений этого слова iOS-устройство зависает, а потом самопроизвольно перезагружается. После повторного включения работоспособность гаджета восстанавливается, но лишь до следующего пятикратного произнесения того самого слова. Кстати, баг проявляется и в русской, и в английской языковой версиях. В последней — на слово «hyphen», которое и переводится как «дефис».

Совсем недавно у Siri обнаружился и еще один баг — к счастью, не столь неприятный — проблемы с подсчетом возраста владельца гаджета. Похоже, что голосовой помощник не учитывает дни и месяцы рождения, а ориентируется только на год. Из-за этого вы «становитесь старше» раньше времени. Особых неудобств в этом, конечно, нет, но все же будет несколько неприятно, если однажды Siri слишком рано начнет вас считать 40-летним «стариком», а вовсе не 39-летним мужчиной в полном расцвете сил.

А еще оказалось, что Siri очень переживает о личной жизни своего владельца. Так, некая Сесилия Муле из Нэшвилла, шт. Теннесси, решила обсудить со своим смартфоном понравившегося ей парня. Голосовой помощник отреагировал на это весьма своеобразно — отправил молодому человеку сообщение от лица Сесилии: «Ты мне когда-нибудь напишешь?» Парень такого напора не оценил и заблокировал девушку.

Дальнейшие эксперименты пользователей удивили еще сильнее. Оказывается, «подвесить» iPhone можно даже без слов. Достаточно набрать на виртуальной клавиатуре пять дефисов при включенной Siri. Хвала Apple, что они отреагировали на ошибку максимально оперативно и выпустили патч, убирающий уязвимость.

Как «сломать» Алису

Родная и всем хорошо знакомая Алиса — пожалуй, самый популярный голосовой помощник у нас в стране. Надо отдать «Яндексу» должное, они хорошо поработали над своим детищем. В сети можно найти немало статей, как «сломать» Алису, но почти ничего из этого не работает. Уже не работает — разработчики оперативно устраняют такие баги. Так, например, Алиса больше не заикается на просьбу озвучить единственное число слов «опилки», «ставни» или «заморозки», не допускает произнесения матерных слов даже при чтении текстов песен и ловко уходит от ответа на старый пошловатый прикол про «скажи триста».

Но нам все же удалось обнаружить баг, которому уже немало времени, а он все еще не исправлен. Попробуйте сами: спросите Алису про расстояние от Минска до Рима. Чуть задумавшись, она ответит, что дорога займет больше 110 часов, а расстояние составит более 7700 километров (точные цифры варьируются). Не находите, что многовато по масштабам Европы? И вы абсолютно правы: на карте видно, что маршрут Алиса строит не до итальянской столицы, а до нигерийской — города Абуджа. С маршрутами между другими европейскими городами (кроме Рима) подобных проблем нет.

Кстати, если попросить Алису построить маршрут до Второго Рима (так называли Константинополь — ныне Стамбул) или Третьего Рима (Москва), то ассистент проложит путь до совсем другого места. Возможно, Алиса отправит вас в испанский город Толедо на улицу Рима, дом 3? А может, куда-то еще? Ну ладно, таких тонкостей ассистент может и не знать.

А вот на похожее по звучанию на «Рим» слово «Крым» Алиса реагирует вполне адекватно и строит правильные маршруты.

Общие проблемы голосовых ассистентов

Конечно, я рассказал лишь о некоторых багах, с которыми сталкиваются пользователи голосовых помощников. Их куда больше, и знаем мы далеко не обо всех. Да что мы — даже сами разработчики порой признаются, что не всегда понимают, что они там напрограммировали и как это решать. Вот, например, простая и общая для всех ассистентов проблема — они активируются по определенной фразе. И неважно, кто эту фразу произнес. Попробуйте громко сказать в офисе «Привет, Алиса» и посмотрите, у скольких из ваших коллег сработает смартфон. Допускаю, что не у всех, а только у половины. Ведь сейчас «Яндекс» добавил возможность менять имя активации голосового помощника. Правда, выбор пока невелик: Алиса или Яндекс.

А иногда «разбудить» голосового помощника можно, даже не желая этого. Вот несколько примеров слов, на которые они реагируют:

• Alexa: unacceptable, election, letter (в переводе «недопустимо», «выборы» и «письмо»);
• Google Home: OK, cool; Okay, who is reading (в переводе «Хорошо, круто» и «Хорошо, кто читает»);
• Siri: a city, hey jerry (в переводе «город» и «эй, Джерри»);
• Cortana: Montana (в переводе «Монтана»);
• Алиса: Лиса.

Несмотря на кажущуюся простоту проблемы, решить ее довольно сложно. Ведь искусственный интеллект голосовых помощников запрограммирован с учетом различия в произношении и речи разных людей. Поэтому ему просто необходимы какие-то допуски. Иначе пользоваться Алисой или Siri смогли бы только люди с идеальной речью.

Напоследок интересный факт, который не имеет прямого отношения к багам голосовых помощников, но мне бы хотелось им поделиться. В 2017 году американские статистики отметили резкое падение популярности имени Alexa. Это оказалось связано с ростом популярности умных колонок от Amazon. Просто родители не хотели, чтобы гаджет реагировал всякий раз, когда они обращаются к ребенку. И наоборот.

И еще один факт, теперь об Алисе: ее разработчики сначала планировали назвать Майей, но отказались от этой идеи из-за опасности большого количества ложных срабатываний. Уж слишком похоже на название месяца.