Искусственный интеллект (ИИ) может с пользой применяться в самых разных сферах государственного управления. Например, в организации дорожного движения - данные в режиме реального времени собираются со светофоров, камер видеонаблюдения и других источников, позволяющих оптимизировать транспортные потоки.
Но несмотря на очевидные возможности, роль ИИ, автоматизации и робототехники в госполитике и предоставлении услуг продолжает вызывать споры. Например, удастся ли не позволить алгоритмам, основанным на данных за прошедший период, увековечить или укрепить укоренившиеся за десятилетия сознательные или бессознательные предрассудки или ошибки? Когда допустимо использование моделей глубинного обучения "черного ящика", в которых логика, используемая при принятии решений, возможно, не объяснима и не понятна даже специалистам по данным, разрабатывающими базовые алгоритмы?
Чтобы получить представление об отношении граждан к ИИ и его использованию в управлении, BCG опросила более 14 тыс. интернет-пользователей по всему миру ("Взгляд населения на использование искусственного интеллекта (ИИ) в работе государства"). Респондентам задали следующие вопросы: насколько для них приемлем факт принятия определенных решений компьютером, а не человеком? каковы их опасения в связи с использованием ИИ органами власти? насколько они обеспокоены влиянием ИИ на экономику и рабочие места?
Осторожный оптимизм
Как правило, граждане положительно относятся к идее использования ИИ властями, но уровень поддержки колеблется в зависимости от варианта использования ИИ. В целом респонденты положительно отнеслись ко всем 13 потенциальным видам использования ИИ, охваченных опросом, за исключением принятия решений в системе правосудия (использование ИИ в вопросах налогообложения и социального обеспечения, регулирование ИИ для защиты рабочих мест, использование ИИ для получения "живых данных", а также предиктивной аналитики для обслуживания оборудования, доверить ИИ принятие решений в области правосудия и формирования рекомендаций по медицинскому лечению).
Так, 51% опрошенных не согласились с использованием ИИ для определения невиновности/виновности в уголовном процессе (в России 48% против), а 46% высказались против его использования при принятии решений об условно-досрочном освобождении. Хотя теоретически ИИ может снизить субъективность таких решений, до сих пор существуют обоснованные опасения относительно вероятности ошибки или предвзятости алгоритма. Кроме того, алгоритмы не в состоянии по-настоящему понять смягчающие обстоятельства и сопутствующую информацию, которые, по мнению многих, следует учитывать при принятии таких решений.
С другой стороны, высок уровень поддержки использования ИИ во многих базовых процессах принятия решений органами власти, например, в администрировании налогов и системы социального обеспечения, отслеживании мошенничества и несоблюдения правовых норм, и, в меньшей степени, в вопросах иммиграции и оформлении виз. Высказана существенная поддержка использования ИИ при принятии не связанных с учетом неоднозначных факторов решений, например, для оптимизации дорожного движения и транспортных потоков. Респонденты в значительной мере поддержали использование ИИ для профилактического обслуживания общественной инфраструктуры и оборудования, например, дорог, поездов и автобусов. Наконец, высокая поддержка выражена использованию ИИ в каналах клиентского обслуживания, например, для виртуальных помощников, аватаров и виртуальной и дополненной реальности.
Поддержано применение ИИ в медицинской диагностике и распознавании изображений (приемлемо для 51% респондентов), предоставляющее значительные возможности для повышения быстроты выполнения и точности медицинских диагнозов. С другой стороны, граждане выразили несколько меньшую уверенность в целесообразности применения ИИ для рекомендаций по вопросам лечения, и в целом их отношение к применению ИИ в медицине сильно рознилось от страны к стране.
В среднем примерно каждый пятый респондент "не выразил согласие или несогласие" на вопрос о поддержке ИИ для конкретных случаев применения. Властям следует расширять разъяснительную работу и информирование населения о потенциальных видах применения ИИ, их преимуществах и издержках. Во многих случаях граждане, возможно, даже не знают, что их власти уже используют ИИ для поддержки или автоматизации некоторых из перечисленных видов деятельности.
Не доверяю власти – доверяю ИИ
Хотя результаты опроса выявили ряд очевидных тенденций, углубленный анализ указывает на случаи как совпадения взглядов, так и расхождений между различными регионами и возрастными группами. Население стран, относящихся к группе "новые рынки", как правило, более позитивно оценивает использование ИИ властями. Мы обнаружили, что граждане в странах с развитой экономикой, как правило, менее поддерживают использование ИИ органами власти, чем граждане развивающихся стран. Например, граждане, опрошенные в таких странах, как Эстония, Дания и Швеция, меньше других приветствуют использование искусственного интеллекта, а тройка стран-энтузиастов состоит из Китая, Объединенных Арабских Эмиратов (ОАЭ) и Индонезии.
Поддержка использования ИИ властями умеренно коррелирует с доверием к власти. Чтобы власти получали поддержку, необходимую для расширенной реализации возможностей ИИ, требуется доверие к институтам власти. Как мы обнаружили, странами, в которых граждане в максимальной мере поддерживают ИИ, являются Индия, Китай, Индонезия, Саудовская Аравия и ОАЭ. Этот показатель практически соответствует перечню стран, демонстрировавших максимальный уровень доверия к органам власти в соответствии с ежегодным глобальным обзором Edelman Trust Barometer 2018 г. В порядке убывания четыре страны на первых местах в этом списке: Китай, ОАЭ, Индонезия и Индия.
Кроме того, наш анализ показал, что страны с развивающейся экономикой и страны, в которых уровень коррупции регистрируется или воспринимается как высокий, также более склонны поддерживать ИИ: Саудовская Аравия (57 место), Китай (77 место), Индия (81 место) и Индонезия (96 место).
Кстати, в России использование ИИ в госуслугах поддержали 36-41% респондентов в разных возрастных группах, против - 18-23%.
Напрашивается вывод: граждане предпочитают принятие решений ИИ, а не человеком при низком уровне доверия к аппарату власти. Использование ИИ чаще поддерживают поколение миллениалов и городские жители. Набольшую поддержку (57%) использованию ИИ властями высказывают молодые люди в возрасте 18–34 лет. Кроме того, молодые респонденты реже, чем пожилые, выражали несогласие с использованием ИИ (21% против 29% соответственно). Максимальную поддержку использованию ИИ высказали жители густонаселенных городских районов - 61%; в пригородах показатель составил 52%, в небольших городах 50%, а в сельской местности и отдалённых районах 43%.
Кроме того, граждане более молодого возраста и жители городов выразили минимальное беспокойство по поводу ИИ в ответе на вопрос: "Что вас больше всего беспокоит в отношении использования ИИ властями?" Хотя обнаружить причинно-следственную связь в различных взглядах разных когорт населения не легко, результаты нашего опроса, как правило, связаны с отношением населения к высоким технологиям в других опросах, обычно отражающих относительный опыт, цифровую зрелость и коэффициент принятия таких технологий. Это наводит на мысль, что поддержка использования ИИ со временем, естественно, будет расти, но подчеркивает и необходимость того, чтобы, стремясь заручиться поддержкой принятия ИИ, власти выстраивали коммуникационную политику с учетом опасений разных аудиторий.
Проблемы использования ИИ
Как и прежде, граждан серьёзно беспокоят этические последствия использования ИИ. Впрочем, общий уровень озабоченности ниже, чем ожидалось. Отвечая на вопрос о возможной озабоченности в связи с использованием ИИ властями, 32% граждан выразили обеспокоенность тем, что до сих пор не решены важные этические проблемы, а 25% обеспокоены возможностью предвзятости и дискриминации. Названы и другие серьезные проблемы: отсутствие прозрачности при принятии решений (31%), точность результатов и анализа (25%) и способность государственного сектора использовать ИИ (27%). Общий уровень озабоченности по поводу использования ИИ властями на данном этапе, по-видимому, относительно низок.
Эти данные, возможно, связаны с тем, что население еще только начинает принимать ИИ, или с низким уровнем информированности о потенциальных рисках; возможно действие обоих факторов. С другой стороны, граждане очень обеспокоены влиянием ИИ на трудовую занятость. Отвечая на вопрос о последствиях ИИ для экономики и общества, граждане выразили серьезную обеспокоенность в связи с наличием работы в будущем (согласны 61%), необходимостью регулировать ИИ для защиты рабочих мест (согласны 58%) и потенциальным влиянием ИИ на рабочие места (согласны 54%).
Респонденты приблизительно поровну разделились на согласных и несогласных в ответах на вопрос об адекватности состояния систем налогообложения, образования и социального обеспечения в их странах в мире, в котором ИИ присутствует на каждом шагу. Например, если ИИ действительно приведет к резкому сокращению занятости, как отреагируют системы социального обеспечения и образования? Как это повлияет на налогообложение и на способы финансирования властями свей деятельности? Та же картина наблюдается в ответах на вопрос о том, делают ли власти достаточно для управления воздействием высоких технологий на рабочую силу и экономику и для взаимодействия с населением в вопросах воздействия ИИ.
Что могут сделать власти
Результаты нашего опроса важны и значительны для властей в деле использования и разработки политики в отношении ИИ. Выбор варианта использования ИИ и решение этических вопросов имеют первостепенное значение для снижения обеспокоенности граждан. Граждане явно обеспокоены утратой свободы действий человека при принятии определенных решений, особенно в столь важных областях, как здравоохранение и правосудие. Опасения в связи с возможностью предвзятости и дискриминации являются важнейшим фактором, влияющим на выбор варианта применения ИИ. ИИ обладает потенциалом снижения человеческой предвзятости, как когнитивной, так и социальной, которая влияет на принятие решений человеком. Например, при когнитивной предвзятости люди непропорционально высоко полагаются на первую получаемую информацию вместо того, чтобы беспристрастно взвесить весь объем информации. Социальная предвзятость исходит из убеждений и мировоззрения предшествующих эпох и иногда проявляется в дискриминации. Алгоритмы способны минимизировать как шум, так и предвзятость при принятии решений. Например, алгоритмы могут взвешивать все исходные данные в точном соответствии с инструкциями.
Устранить предвзятость очень сложно. ИИ обучается на данных, большая часть которых получена в результате человеческой деятельности. К сожалению, эта деятельность не избавлена от человеческой предвзятости, так что возможно создание систем, которые усиливают и увековечивают уже существующие предрассудки. Создание моделей, свободных от этой предвзятости, остается серьезной технической проблемой. Например, проведенное в США исследование показало, что система COMPAS, используемая для оценки вероятности рецидивизма уголовных преступников, имеет расовые предубеждения. В некоторых случаях, таких как модели "черного ящика", может отсутствовать возможность понять, как была получена та или иная рекомендация или решение, и, таким образом, удовлетворить традиционные требования властей в отношении объяснимости, прозрачности и возможности проверки. Это тем более актуально для столь сложных инструментов, как нейронные сети и глубинное обучение.
Власти столкнутся с необходимостью тщательно выбирать, как и где запускать пилотные проекты, а в конечном итоге их масштабировать. Кроме того, следует рассматривать вопрос о способах привлечения граждан к участию в этих пилотных проектах. Так, Швейцария изучает возможность переселения лиц, ищущих убежища, в разные регионы страны с использованием ИИ. С конца 2018 года Швейцарский государственный секретариат по миграции и некоммерческая Лаборатория иммиграционной политики приступят к опробованию нового метода для распределения лиц, ищущих убежища, в кантоны по всей стране. Алгоритм позволит чиновникам переселять таких лиц в кантоны, которые оптимально соответствуют характеристикам переселенцев (больше шансов найти работу), а не распределять их случайным образом. Затем программа несколько лет будет отслеживать переселенцев, сравнивая их уровень занятости с показателями других лиц, въехавших в страну одновременно с переселенцами.
Необходимо также создать – или воссоздать – доверие к институтам власти и высокие этические принципы их функционирования. Для граждан чрезвычайно важна прозрачность: властям следует ставить ее во главу угла. Это означает наличие четких представлений об этической значимости ИИ, а также о том, как ИИ будет – и как не будет – применяться. Властям следует подчеркивать роль человека в принятии решений органами власти. В некоторых случаях для принятия решений может использоваться лишь ИИ, но во многих других случаях работа ИИ должен подкрепляться человеческой логикой и играть поддерживающую роль в принятии решений.
Если мы хотим, чтобы граждане доверяли властям в вопросах использования ИИ, критически важным будет вопрос надлежащего надзора за ИИ. Регулирование должно быть тщательно продумано, обеспечивая баланс между необходимостью ограничивать использование властями личных данных и ИИ и одновременно позволяя властям внедрять инновации в использование высоких технологий.
Для принятия гражданами ИИ критически важно решать проблемы естественной озабоченности в связи с вопросами трудовой занятости в будущем. Слияние последних разработок в области больших данных, вычислительной мощности компьютеров при применении облачных технологий и нейронных сетей (которые в общих чертах следуют моделям человеческого мозга и нервной системы для распознавания паттернов) способствовало и ускорило развитие ИИ. С учетом того, что средства массовой информации и прочие структуры сосредоточивают внимание на росте числа роботов и их потенциальном воздействии на людей, не удивительно, что возможные потери рабочих мест в результате использования ИИ вызывают у граждан повышенное беспокойство. Машины начинают доминировать в экономике, поэтому страх перед "технологической безработицей" является вполне реальным. Реалистичность такой угрозы - совсем другой вопрос. Тем не менее, если власти не решат проблему страха перед потенциальной утратой занятости и общей неуверенности - посредством общественного диалога и политических мер, обеспечивающих сеть поддержки наиболее пострадавших, - эти предполагаемые угрозы могут создать существенный барьер развитию ИИ.
Гражданам следует оказывать поддержку и предоставлять возможность ориентироваться в вопросах новых направлений трудовой деятельности с помощью стратегий обучения на протяжении всей жизни и более целенаправленной профессиональной ориентации.
По мере внедрения ИИ властям надо повышать собственный уровень информированности и готовиться к более широкому применению ИИ. Технологии быстро развиваются, а это значит, что министрам и государственным служащим необходимо базовое понимание ИИ. Они могут ускорять приобретение знаний и опыта, установив партнерские отношения с компаниями, стартапами, университетами и т.д., хотя на это может уйти какое-то время из-за необходимости найма сотрудников и повышения квалификации.
Властям необходимо в попытках задействовать всю мощь ИИ продолжать двигаться вперед, но действовать осторожно. Прозрачность сфер и методов применения ИИ органами власти будет иметь важнейшее значение для утверждения легитимности технологии в глазах граждан и для смягчения их опасений по поводу любых возможных негативных последствий применения ИИ для их жизни. Но есть и хорошая новость: существует немало областей, в которых граждане осознают преимущества высоких технологий. Как для органов власти, как и для многих других организаций, цифровая эра может принести огромные преобразования - но только если они смогут взять с собой в это путешествие и граждан.
Свежие комментарии