Каждый день мы, вероятно, будем взаимодействовать с той или иной формой искусственного интеллекта (ИИ). Он работает за кулисами во всем: от социальных сетей и приложений для навигации по трафику до рекомендаций по продуктам и виртуальных помощников.
Системы искусственного интеллекта могут выполнять задачи или делать прогнозы, рекомендации или решения, которые обычно требуют человеческого интеллекта. Их цели устанавливаются людьми, но системы действуют без явных человеческих инструкций.
Поскольку ИИ играет все более важную роль в нашей жизни как на работе, так и дома, возникают вопросы. Насколько мы готовы доверять системам ИИ? И каковы наши ожидания в отношении развертывания ИИ и управления им?
Чтобы выяснить это, мы опросили национально репрезентативную выборку из более чем 2500 австралийцев в июне и июле 2020 года. Наш отчет , подготовленный KPMG под руководством Николь Гиллеспи, показывает, что австралийцы в целом мало знают о том, как используется ИИ. мало доверяют системам ИИ и считают, что их нужно тщательно регулировать.
Большинство принимают или терпят ИИ, немногие одобряют или принимают его
Доверие играет центральную роль в повсеместном принятии и внедрении ИИ. Однако наши исследования показывают, что австралийская общественность неоднозначно относится к доверию к системам ИИ.
Почти половина наших респондентов (45%) не желают делиться своей информацией или данными с системой ИИ. Двое из пяти (40%) не желают полагаться на рекомендации или другие результаты работы ИИ-системы.
Кроме того, многие австралийцы не уверены в надежности систем искусственного интеллекта, но более вероятно, что они будут воспринимать ИИ как компетентные, чем те, которые должны быть спроектированы честно и гуманно.
Несмотря на это, австралийцы обычно принимают (42%) или терпят ИИ (28%), но лишь немногие одобряют (16%) или принимают его (7%).
ИИ больше доверяет исследованиям и обороне, чем бизнесу
Когда дело доходит до разработки и использования систем искусственного интеллекта, наши респонденты больше всего доверяли австралийским университетам, исследовательским институтам и оборонным организациям, что они делают это в общественных интересах. (Более 81% были как минимум умеренно уверены.)
Меньше всего австралийцы доверяют коммерческим организациям в разработке и использовании ИИ (37% нет или низкая степень уверенности). Это может быть связано с тем, что большинство (76%) считают, что коммерческие организации используют ИИ для финансовой выгоды, а не для общественной.
Эти результаты предлагают предприятиям возможность сотрудничать с более надежными организациями, такими как университеты и исследовательские институты, чтобы гарантировать, что ИИ разрабатывается и развертывается этичным и заслуживающим доверия способом, который защищает права человека. Они также предполагают, что компаниям необходимо дополнительно подумать о том, как они могут использовать ИИ таким образом, чтобы добиться положительных результатов для заинтересованных сторон и общества в целом.
Требуется регулирование
В подавляющем большинстве (96%) австралийцы ожидают, что ИИ будет регулироваться, и большинство ожидают внешнего независимого надзора. Большинство австралийцев (более 68%) от умеренного до высокого доверяют федеральному правительству и регулирующим органам в регулировании и управлении искусственным интеллектом в интересах общества.
Однако действующее регулирование и законы не оправдывают ожиданий сообщества.
Наши результаты показывают, что самым сильным фактором доверия к ИИ является вера в то, что действующих нормативных актов и законов достаточно, чтобы его использование было безопасным. Однако большинство австралийцев либо не согласны (45%), либо не согласны (20%) с этим.
Эти результаты подчеркивают необходимость укрепления нормативно-правовой базы, регулирующей ИИ в Австралии, и доведения этого до общественности, чтобы помочь им чувствовать себя комфортно при использовании ИИ.
Австралийцы ожидают этичного развертывания ИИ
Чего ждут австралийцы при развертывании систем ИИ? Большинство наших респондентов (более 83%) имеют четкие ожидания в отношении принципов и практик, которых они ожидают от организаций при проектировании, разработке и использовании систем ИИ, чтобы заслужить доверие.
Они включают:
Большинство австралийцев (более 70%) также были бы более склонны использовать системы искусственного интеллекта, если бы существовали механизмы гарантии для поддержки стандартов и надзора. К ним относятся независимые проверки этики ИИ, сертификаты этики ИИ, национальные стандарты объяснимости и прозрачности ИИ и кодексы поведения ИИ.
Организации могут укрепить доверие и побудить потребителей использовать системы искусственного интеллекта, когда это уместно, путем четкой поддержки и внедрения этических норм, надзора и подотчетности.
Пробел в знаниях об ИИ
Большинство австралийцев (61%) сообщают, что плохо разбираются в ИИ, в том числе плохо осведомлены о том, как и когда он используется. Например, хотя 78% австралийцев сообщают об использовании социальных сетей , почти двое из трех (59%) не знали, что приложения для социальных сетей используют ИИ. Только 51% сообщили, что слышали или читали об ИИ в прошлом году. Эта низкая осведомленность и понимание является проблемой, учитывая, насколько широко ИИ используется в нашей повседневной жизни.
Хорошая новость заключается в том, что большинство австралийцев (86%) хотят больше узнать об ИИ. Когда мы рассматриваем эти факторы вместе, появляется потребность в общественной программе повышения грамотности в области ИИ.
Одна из моделей этого исходит из Финляндии , где в рамках поддерживаемого правительством курса по обучению искусству ИИ планируется обучить более 5 миллионов граждан ЕС. На данный момент на курс записано более 530 000 студентов .
В целом, наши результаты показывают, что доверие общества к системам ИИ можно повысить, укрепив нормативно-правовую базу для управления ИИ, оправдав ожидания австралийцев в отношении надежного ИИ и повысив грамотность Австралии в области ИИ.