РусEng
IT Аутсорсинг Новости Искусственный интеллект: области применения и снижение рисков

Искусственный интеллект: области применения и снижение рисков

от 17.09.2019

 Об областях применения и снижении рисков при использовании искусственного интеллекта рассказывает Александр Казённов, руководитель корпоративной практики ДКИС ALP Group.

Искусственный интеллект (ИИ) всего за какие-то год-два стал одной из самых обсуждаемых тем в бизнес-сообществе. Интерес к ней возникает на стыке реальных проблем, решить которые с помощью более привычных инструментов предприятиям не удалось, и завышенных ожиданий, сформированных и подпитываемых совместными маркетинговыми усилиями гигантов мировой ИТ-отрасли. Естественно, при этом в тени остаются пока ещё слабо проработанные, но действительно сложные вопросы, например, об ответственности за принятые нейронной сетью решения, или за решения, принятые человеком на основе данных, сформированных или предварительно отфильтрованных и обработанных с помощью тех или иных инструментов ИИ.

Из-за отсутствия собственного опыта топ-менеджерам компаний, стремящихся максимально использовать возможности современных ИТ для развития своего бизнеса и улучшения системы управления предприятием, трудно не стать жертвой ложного ажиотажа и точно провести грань, разделяющую задачи, решение которых уже можно передать ИИ, и фантастические ожидания, которые не могут быть реализованы в принципе или на данном уровне развития технологий. Было бы полезно взглянуть на реальные примеры применения ИИ и на перспективные области применения ИИ, обсуждаемые серьезными экспертами в сфере применения ИТ на предприятии. Этому и посвящена данная колонка. При этом я опираясь и на реальный опыт нашей компании, и на данные других компаний, полученные из надежных источников.

Что хорошо освоено, а что за гранью возможного?

К числу задач, с которыми ИИ справляется отлично, относятся различные варианты распознавания тех или иных паттернов в больших совокупностях данных. Особенно, если возможные объекты (цифры, дорожные знаки, лица конкретных людей, марки машин и т. п.) известны заранее или когда имеются большие выборки для обучения нейронных сетей. В бизнесе, в медицине, в организации городской инфраструктуры, в области обеспечения безопасности, в военной сфере есть очень много действительно актуальных задач этого типа. И это – первые кандидаты на передачу системам ИИ.

Одна из наиболее проработанных технологий — это распознавание лиц по фото или по видеоданным с камер наблюдения. Применения этой технологии в пропускных системах организаций и в системах безопасности умных домов и целых мегаполисов уже никого не удивляют. Алгоритмы продолжают развиваться, что повышает качество работы систем в сложных случаях: при плохом освещении, наклонах и поворотах головы, бликах на стекле а/м, даже при попытках изменить внешность.

Появились инструменты, которые еще недавно можно было увидеть только в остросюжетном кино. Например, сотрудник «приближает» снимок с камеры видеонаблюдения, а картинка не только не ухудшается, а с увеличением масштаба становится все четче и четче, хотя камера не позволяет этого сделать. ИИ уже способен вот так обрабатывать и выравнивать видеопотоки. Это новая технология, появившаяся чуть больше года назад, к сожалению, не в России. Она еще более расширит уже вполне привычное применение ИИ в видеонаблюдении и системах безопасности.

Но имеются и многие другие технологии улучшения текста, фото и «живой» картинки, которые предприятия могут с успехом использовать для улучшения распознавания документов, для анализа настроения покупателей в торговых залах, перед рекламными щитами, экранами систем Digital Signage и во многих других случаях. Причем российские компании активно создают такие решения. Так, в этом году на нескольких профильных конференциях демонстрировался целый ряд таких систем. Одна из них прямо с камеры видеонаблюдения находит в толпе зачинщиков беспорядков, получает изображения их лиц и проводит идентификацию по базам данных социальных сетей. Там выложено так много личной информации, что шанс «увернуться» крайне мал.

Было показано эффектное применение еще одной уже реализованной технологии, позволяющей связать распознавание лиц и консолидацию данных о людях. Человек летит на вертолете, направляет камеру на толпу людей и в прямом эфире демонстрирует данные о находящихся в ней людях. То есть, «картинка» с камеры распознается и сопоставляется с открытыми источниками информации. Это не только соцсети, но и любые другие ресурсы, где мы публикуем наши телефоны, почту, фото, адрес. Дополнив такое приложение технологиями брокеров данных и особым интернет-сервисом, нетрудно сформировать виртуальную общую базу данных, которая агрегирует массу сведений о пользователе: с какого смартфона мы выходим в интернет, какую информацию обрабатывает смартфон, какие транзакции проводятся (если устройство пользователя еще и заражено вирусом). Эта база данных уже охватывает огромное число людей и фактически может очень многое о нас рассказать: сколько мы тратим, где бываем, какие у нас привычки, что мы делаем, что читаем.

Если это соединить с автораспознованием «на ходу», что технически не составляет особых проблем, то мы вплотную приближаемся к практической реализации другого сюжета из одного научно-фантастического сериала. Ты проходишь мимо незнакомого человека и видишь, что он все про тебя и про других людей знает и понимает: это хороший человек, а этот какой-то «странненький» и лучше перейти на другую сторону дороги. Но суждения эти выносит не человек, а ИИ. И это на самом деле страшно. Первые носимые устройства такого класса начали появляться, вспомните хотя бы проект Google Glass.

И для этого не нужен настоящий ИИ, способный осознать себя, который еще неизвестно, когда появится. Достаточно связать уже имеющиеся доступные технологии («слабый ИИ» для распознавания лиц и эмоций, доступ к данным, Web-сервисы, интеграция источников информации и аккуратная консолидация данных). Именно такая доступность, а вовсе не несовершенство технологий, должна привести к ограничениям на использование ИИ, введения регулирования.

Моделирование и прогнозные модели

Наша компания применяет ИИ в первую очередь для прогнозирования. Опираясь на этот опыт и на опыт наших клиентов, могу утверждать, что это еще одна сфера, где применение ИИ уже может дать весьма ощутимые результаты. Приведу два небольших примера.

Одна из наших внутренних систем, использующих ИИ, позволила нам улучшить обработку запросов, поступающих от клиентов. У нас есть периодически пополняемая и обновляемая сводка данных, показывающая частоту различных запросов, время их поступления и длительность разрешения. Этих данных достаточно, чтобы с помощью модели относительно быстро и с приемлемой точностью спрогнозировать сроки выполнения новых задач. В итоге мы получили еще два преимущества. Во-первых, резко упростился процесс получения исходных данных для оценки сроков выполнения и стоимости проекта. Если данных не хватает, мы можем дать упрощенную оценку или использовать усредненную информацию из похожих кейсов. Во-вторых, работающая прогнозная модель позволила организовать обработку сообщений по принципу «электронной очереди». Опираясь на различные индикаторы, мы довольно точно прогнозируем, когда наши специалисты отработают каждое зарегистрированное обращение, и уведомляем об этом инициатора запроса. В большинстве случаев получается плотное эффективное планирование, дающее приемлемые для заказчика сроки и позволяющее хорошо использовать наши ресурсы. Но если сроки неприемлемы для заказчика (например, из-за конкуренции за ресурсы с задачами других клиентов), он может обратиться к владельцу нужной системы и в ручном режиме постараться выполнить ее пораньше.

Мы экспериментируем в области встраивания ИИ в финансовые инструменты, например, для уменьшения дебиторской задолженности, так как наши контрагенты по ряду причин время от времени задерживают платежи, и нам нужно управлять этой ситуацией: как можно раньше прогнозировать её, действовать проактивно и вырабатывать комплексный отклик компании.

Отмечу, что эти же или подобные инструменты прогнозирования широко используют наши заказчики, получая от них ощутимую пользу. Это и контроль просроченных обязательств контрагентов, и анализ их дебиторской задолженности, и комплексная оценка их кредитоспособности.

Мы достоверно знаем об успешных применениях прогнозных и аналитических решений в логистике, где ИИ позволяет оптимально выстроить цепочки поставки, цепочки отгрузки и прокладывать лучшие пути (например, динамически оптимизировать маршрут с учетом пробок, причем как реальных, так и прогнозируемых). Это не новость, а отработанная сфера применения ИИ. Так делают многие компании, отвечающие за перевозки.

Итоги

Говоря о практическом применении ИИ, нельзя не вспомнить о внедрение ИИ у Сбербанка. Ранее для безопасного использования банковских карт клиент придумывал кодовое слово, сейчас его заменили голосовой идентификацией. При получении карты клиента фотографируют и записывают его голос. Теперь при обращении в колл-центр ему уже не нужно вспоминать кодовое слово, которое большинство людей забывает. ИИ по голосу определяет, действительно ли звонит клиент или кто-то другой, кто пытается выдать себя за него. Это удобнее. Но есть оборотная сторона медали, когда уже другой ИИ синтезирует (подделывает) голос потребителя. По понятным причинам это создаёт различного рода уязвимости и вызывает недоверие к новой технологии.

На мой взгляд, именно распознавание лиц, прогнозные модели и речевые технологии — это те варианты ИИ, которые достигли уровня, когда их можно применять в информационных системах российских предприятий для решения действительно актуальных задач бизнеса.

Эффект еще более возрастает, если компания комбинирует ИИ с другими технологиями (с базами данных, Big Data, брокерами данных, с системами управления рисками и комплексными GRC-решениями, системами коммуникации с клиентами, системами Digital Signage, системами анализа поведения потребителей в торговых залах и в онлайне, системами сегментирования клиентской базы, системами роботизации и непрерывного улучшения процессов).

Однако, при этом возникает ряд новых рисков, часть которых порождается ничем не уравновешенными и пока не отрегулированными огромными возможностями, которые получает организация, применяющая такие решения. Но есть и риски другого рода, вытекающие отчасти из фундаментальных особенностей применяемых технологий (например, невозможности понять причину того, почему нейронная сеть приняла именно это решение), а отчасти — из-за высокой вероятности ошибок ИИ и практической невозможности проверить и контролировать его.

Полностью устранить эти проблемы на текущий момент нельзя, но можно снизить риски, связанные с упущениями при внедрении ИИ, с недостаточным вниманием к действительно важным вопросам.

Как снизить риски ИИ

Что можно порекомендовать компаниям, которые задумываются использовать ИИ на практике?

В первую очередь, необходимо понять, какую задачу вы собираетесь решить. Вполне возможно, что это можно сделать гораздо более простым и дешевым способом, чем внедрение какого-либо варианта ИИ. Далее нужно взвесить затраты на решение — как с использованием ИИ, так и без него. Начальные затраты могут оказаться совсем небольшими, ведь на рынке имеется множество бесплатных библиотек, которые достаточно легко внедряются и где качественно реализованы весьма мощные алгоритмы.

Однако эта дешевизна может оказаться обманчивой. С одной стороны, надо учесть полные затраты на внедрение, включая привлечение специалистов соответствующей квалификации, создание ИТ-инфраструктуры для работы с большими объемами данных (например, обучающей выборкой фотографий лиц). И не забыть учесть расходы на ИТ-инфраструктуру (физические серверы и/или аренда IaaS, усиление систем хранения и обеспечение безопасности данных, приобретение нужного ПО и т.д.) и на сопровождение системы. С другой стороны, нужно как-то оценить возможный ущерб (прямой и репутационный) от ошибок ИИ, которые не только неизбежны, но на первом этапе будут достаточно многочисленными. И понять, можно ли выявлять эти ошибки до того, как они приведут к негативному эффекту, и сколько это стоит. А если такая проверка практически невозможна (зачастую так и будет), то во что выльется создание системы как можно более раннего обнаружения проблем, а также механизмов, позволяющих пострадавшей стороне информировать компанию об ошибках или других негативных последствиях применения ИИ, а её сотрудникам — быстро рассматривать эти жалобы, устранять ошибки и предоставлять заявителю какую-то компенсацию, чтобы сохранить его лояльность.

Если пройден и этот шаг, приходит время задуматься над самым сложным вопросом — верить ли ИИ или нет. Если говорить о распознавании картинки, то здесь — да. А если, например, какая-то библиотека используется в системе вынесения судебного приговора, то можно ли на нее положиться? Последняя ситуация совершенно реальна. Так, в Великобритании 80% штрафов уже выписывают системы ИИ: просто берется картинка с камеры видеонаблюдения — и готово, штраф выписан. Разумеется, областей применения ИИ, где ответственность высока, намного больше. Уже сегодня это: решения о выдаче кредитов, отбор кандидатов на замещение вакансий, оценка квалификации и качества работы сотрудников по множеству показателей (от которой зависит материальное вознаграждение и карьерный рост), разработка продукции и мн. др.

Дальше нужно как можно четче определить зоны ответственности за те или иные ошибки. Предположим, вы повесили на ИИ расчёты с контрагентами. И пометили как валидный акт, полученный от контрагента и обработанный алгоритмами ИИ, в которых использовались какие-то готовые библиотеки (скажем, для оптического распознавания напечатанной информации). Данные из этого документа автоматически вносятся в учетную систему. Но если при распознавании возникла ошибка, и какое-то поле получило неправильное значение, то как упростить выявление и расследование инцидента? Для этого в учетной системе должна ставиться пометка, что информация была внесена автоматически, чтобы потом, при расследовании, можно было правильно раскрутить всю цепочку событий. Но это не всё. Ошибка ИИ, допущенная в системе расчетов с контрагентами, теперь породила ошибки в учете, которые могли повлиять на многие бизнес-процессы и управленческие решения. Кто несет ответственность за это? Программист, давший вам эту библиотеку? Финансовый директор, санкционировавший и оплативший покупку и внедрение библиотеки? Человек или комитет, принявший решение о её использовании? Или кто-то еще? В этом простейшем примере ответственность можно повесить на контролёра, пропустившего несовпадение значений полей в печатном и электронном документе, но в более сложных случаях проконтролировать ИИ практически невозможно. А если еще и зоны ответственности размыты, то возникает хаос.

Вот типичный пример ситуации, где разграничение зон ответственности очень поможет. Бухгалтер, с которого система автоматизации, использующая ИИ, снимает кучу рутинной работы, будет обеими руками голосовать за нее. При этом он почти наверняка будет думать, что эта система не только выполняет его работу, но и отвечает за нее. И будет крайне удивлен, и раздосадован, когда за её ошибки его лишат премии или как-либо иначе накажут. Он будет настаивать на том, что: «это не я, это ИИ, почему же виноватым оказался я?»

Сразу после внедрения новых инструментов со встроенным ИИ необходимо изменить регламенты работы сотрудников компании, т.к. на определенных участках эти ИТ-системы существенно облегчат работу и позволят высвободить значительные людские ресурсы, часть которых надо направить на проверку ИИ, а другую часть — на какие-либо другие задачи.

И последнее, но очень важное. Нужно оценить полные фактические затраты на содержание «ИИ-хозяйства» и рассчитать реальную стоимость проекта. И каждый раз сравнивать фактические затраты с ожидаемыми, о которых мы говорили выше.

Этот алгоритм убережет организацию от достаточно тяжелых ошибок, которые могут породить необоснованное разочарование в возможностях ИИ.

 

Архив новостей

Яндекс.Метрика