Советы по адаптации голосовых интерфейсов для поисковых запросов
Основатель студии дизайна Big Medium Джош Кларк — об излишней самоуверенности поисковых систем и голосовых помощников.
Журналистка Адриана Джеффрис уверена, что хуже поддельных новостей могут быть только блоки с ответами от Google, и в чём-то она права.
Сниппеты на первой странице выдачи Google появляются в 15% случаев, позиционируются как готовые ответы на введённые запросы и выступают попыткой как можно быстрее показать то, что аналитик Дэнни Салливан называет «единственно верным ответом». «К сожалению, не все из этих ответов действительно верны», — пишет Джеффрис. Посмотрите хотя бы на эту карточку:
Ситуация усугубляется, когда речь заходит о голосовых интерфейсах, таких как Echo или Google Home, ведь они предлагают нам всего один ответ, создавая впечатление, что он — единственный.
Я вижу здесь две проблемы: информации и презентации. В этой статье я коснусь презентационной части, поскольку именно дизайнеры интерфейсов данных могут помочь пользователям распознать ложную информацию, избежать которой вряд ли удастся. Но сначала я хочу прояснить, почему это так меня беспокоит.
И Джеффрис, и Салливан приводят примеры наиболее дурацких ответов, представленных Google в качестве единственно верных: «Президенты заодно с мафией», «Динозавры жили несколько тысяч лет назад», «Обама — король Америки» и так далее. А вот какой ответ появился в блоке Google на запрос «Порочны ли женщины?»:
Самые ужасные ответы получаются, когда поисковые алгоритмы сталкиваются с неоднозначными запросами. В остальных случаях это просто ошибка ранжирования: Google находит страницу с релевантной информацией, но выбирает из неё неправильный отрывок.
Редактор Gizmodo Том Скокка пишет о том, что произошло, когда он задал безобидный вопрос: «Сколько времени займёт карамелизация лука?»: «Самый выдающийся информатор в мире — Google — рассказывает своим пользователям, что карамелизация лука займёт около пяти минут. Он вытащил этот ответ из статьи, смысл которой заключается совершенно в обратном. Приведённая мной цитата из Times показывает, как возникает ложь, которую алгоритм выдаёт за авторитетное мнение по существу вопроса».
Возможно, нечто похожее послужило причиной абсолютно бессмысленного ответа, который блогер Джон Грубер получил от помощника Alexa, спросив, как сделать мартини: «Мартини — это коктейль, составленный из одной части джина и шести частей вермута». Те, кто любят мартини, знают, что, следуя этому рецепту, вы получите невероятно мерзкое пойло.
Стандартный рецепт Международной ассоциации барменов предписывает смешивать шесть частей джина и одну часть вермута. В этом случае, Alexa вместо того, чтобы давать неверный ответ, должна была сказать: «Я не знаю, посмотри в "Википедии"».
Следует отметить, что среди миллиардов запросов, которые ежедневно получают поисковики, такие примеры встречаются очень редко. Google, Siri, Alexa и подобные им сервисы потрясающе умны. Тот факт, что они могут распознавать произвольные запросы и находить полезную информацию в бескрайних глубинах интернета, — уже настоящее чудо. Их точность поразительна. Поэтому я могу простить им некоторые ошибки.
Гораздо труднее извинить ту уверенность, с которой они представляют неверный ответ, создавая впечатление, что он наиболее полный и исчерпывающий. Это уже проблема дизайна. И именно с этой проблемой будут сталкиваться новые сервисы, поскольку при создании интерфейсов мы всё больше используем машинное обучение и искусственный интеллект.
Существует также проблема, выходящая далеко за рамки плохих коктейлей и недожаренного лука. Это проблема, связанная с политической пропагандой, где полным ходом идёт ожесточённая информационная война. Там результаты поисковой выдачи становятся весьма эффективным оружием: проведённое в 2014 году исследование индийских учёных показало, что порядок и содержание результатов поисковой выдачи могут сдвинуть электоральные предпочтения неопределившихся граждан на 20%.
Более того, уверенное представление ложной информации может провоцировать ненависть и даже стоить кому-то жизни. Журналистка The Guardian Кэрол Кэдволладр описывает собственный шок, когда она увидела ответ Google на вопрос «Порочны ли евреи?»: «Я не задавала этот вопрос. Я вообще о нём не думала. Он уже был в поисковике, я просто нажала Enter и получила ответ Google: "Евреи порочны по своей сути". На моём экране были все доказательства этого: целая страница результатов, и девять из десяти подтверждали этот ответ».
Дилан Руф, признанный виновным в массовом убийстве, однажды наткнулся на похожий набор результатов поиска, когда искал «преступления чёрных по отношению к белым». Момент, когда он обнаружил несколько страниц нацистской пропаганды, Руф называл переломным — тем, который привёл его к убийству девяти человек в церкви Чарльстона. «С этого дня я уже не был прежним», — говорил он об этом опыте.
Многие склонны доверять ответам, выданным поисковыми сервисами. В этом частично виновата сама презентация ответа, выражающая ничем не подтверждённую уверенность и несуществующий авторитет. Этакие «единственно верные ответы» от излишне самоуверенных машин.
Как нам сделать интерфейсы более скромными? Как создавать системы, которые будут достаточно умными, чтобы сомневаться в своей компетентности?
Я не уверен, что могу ответить на эти вопросы, но я могу задать ещё несколько полезных вопросов. Я задаю их себе, когда работаю с интерфейсами для ботов и рекомендательных систем.
- Когда нам следует пожертвовать скоростью ради точности?
- Как можно обозначить неопределённость или двусмысленность?
- Как можно определить зоны враждебной информации?
- Как можно обеспечить контекст ответа?
- Как можно адаптироваться к речевым и другим интерфейсам с низким разрешением?
Наши сервисы наперебой стараются находить самые быстрые и самые подходящие ответы. Поначалу Google выдавал список страниц, которые с наибольшей вероятностью содержали запрашиваемую вами информацию.
Хотите узнать погоду в Нью-Йорке? Вот ссылки на страницы, которые расскажут об этом. Затем Google начал сам отвечать на вопросы: «Не нужно переходить на другие страницы, мы покажем прогноз прямо над результатами поиска».
Сейчас Google выдаёт ответы на некоторые запросы прямо в поисковой строке:
Я часто повторяю, что работа дизайнеров состоит в том, чтобы сокращать время между намерением и действием. Наша задача — подвести желаемое действие максимально близко к тому моменту, когда пользователь поймёт, чего он хочет. Google выдаёт действие (ответ) даже раньше, чем вы формулируете своё намерение (вопрос). Поисковик предсказывает ваши запросы уже после нескольких набранных символов.
Во многих интерфейсах скорость считается конкурентным преимуществом, а потраченное сверх необходимости время — едва ли не врагом. Для нашей отрасли характерно излишнее преклонение перед скоростью загрузки и интерпретации данных, хотя эти метрики отнюдь не исчерпывают базовую потребность пользователя «как можно быстрее получить результат».
Но, хотя этот подход работает для простых запросов вроде прогнозов погоды и поиска дат или адресов, он становится опасным для более амбициозных тем — особенно, когда эти темы неоднозначны. «Производительность — это не скорость загрузки страницы, — говорит дизайн-директор Land Rover Джерри Макговерн, — Это скорость ответа». Ответ должен быть прежде всего верным.
Разумное стремление к скорости должно сдерживаться более значимой потребностью в достоверности и точности фактов. Всегда есть некий предел, где уверенность в ответе уступает место риску ошибиться. Это тот момент, когда сервис больше не должен предоставлять «единственно верный ответ». И дизайнеры должны быть очень честными и бдительными, когда он наступает.
Я считаю, что Google и другие «умные» сервисы нуждаются в настройке. Пока они слишком часто жертвуют точностью ради скорости и поэтому выдают уверенные, но неверные или противоречивые ответы.
В каждом сервисе этот переломный момент так или иначе запрограммирован. В Google его можно определить по отсутствию блока с ответом в самом верху страницы выдачи. Если поисковик не находит ответа, в котором он полностью уверен, в 85% случаев он возвращается к старому «олдскульному» списку результатов поиска. По словам Джона Грубера, это как раз тот случай, когда «лучше сказать "я не знаю", чем дать неправильный ответ».
Устраивает ли нас такая альтернатива? Возможно, вместо выбора из двух вариантов («Я знаю ответ» и «Я не знаю ответа») мы бы предпочли «Мне кажется, я знаю»? Но это уже следующий шаг в разработке подобных сервисов.
Один из моих любимых Twitter-аккаунтов — это @picdescbot, бот, который подписывает произвольные изображения, прогоняя их через API компьютерного зрения Microsoft. Как правило, он попадает в яблочко, но время от времени делает до смешного наивные ошибки.