- Рост экономики, основанной на искусственном интеллекте, ставит под угрозу уровень доверия — и открывает возможности для переосмысления доверия.
- Доверие к ИИ складывается из двух составляющих: восприятия компетентности и намерений технологии.
- По мере распространения автономного ИИ мы должны переосмыслить понятие доверия на трёх разных уровнях.
Как однажды заметил лауреат Нобелевской премии Кеннет Эрроу, в каждой экономической сделке присутствует элемент доверия. Сегодня, когда всё больше сделок совершается с помощью ИИ-агентов, это доверие сталкивается с новыми трудностями. Уровень доверия в мире снижается, в то время как присутствие ИИ-агентов в нашей повседневной жизни и бизнес-системах стремительно растёт.
При пессимистичном сценарии это может подорвать доверие. При оптимистичном — открывает возможности для переосмысления доверия и стимулирования экономического роста.
Связь между общественным доверием и экономическими показателями хорошо изучена. По данным Deloitte Insights, увеличение доли доверяющих людей в стране на 10 процентных пунктов должно повысить ежегодный рост реального ВВП на душу населения примерно на 0,5 процентного пункта. Однако эта взаимосвязь меняется по мере того, как мы переходим от взаимодействия между людьми к агентному обмену.
Доверие будет и дальше влиять на результаты в экономике, основанной на искусственном интеллекте. Главный вопрос заключается в том, какое доверие будет иметь наибольшее значение и как его укрепить?
На пути к экономике ИИ-агентов
Цифровая экономика становится агентской. ИИ-агенты превращаются из вспомогательных инструментов в автономные сущности, которые выполняют транзакции, распределяют ресурсы и принимают решения.
ИИ развивался десятилетиями, но сегодня мы переживаем переломный момент. Согласно Циклу хайпа Gartner для искусственного интеллекта, агенты ИИ находятся на пике ожиданий, а ожидаемый период внедрения составляет 2–5 лет. К 2028 году ~33% корпоративных программных приложений будут включать агентский ИИ, при этом не менее 15% повседневных рабочих решений будут приниматься автономно с помощью агентов ИИ. Экономика, основанная на искусственном интеллекте, станет полноценной реальностью, требующей совершенно новых форм подотчётности, сотрудничества и доверия.
В основе доверия лежат два фундаментальных компонента: компетентность (способность выполнять задачи) и намерения (цель действий). Хотя сейчас мало кто сомневается в компетентности передовых технологий, намерения остаются неясными.
Почему доверие бывает разным и почему это важно
Исследования показывают, что уровень доверия к ИИ значительно варьируется в зависимости от региона и демографических характеристик. Согласно исследованию KPMG и Мельбурнского университета, жители стран с развитой экономикой меньше доверяют ИИ (39 % против 57 %) и охотнее принимают его (65 % против 84 %) по сравнению с жителями стран с развивающейся экономикой. С социологической точки зрения в этих странах доверие по-прежнему основано на межличностных отношениях или традиционных институтах.
В последнем глобальном отчёте Edelman Trust Barometer текущая ситуация описывается как «кризис недовольства». Чем сильнее чувство недовольства, тем глубже недоверие к ИИ. Люди, испытывающие повышенное чувство несправедливости или недовольства, значительно меньше доверяют ИИ и испытывают заметно большее беспокойство по поводу его использования в бизнесе. По мере того как доверие к институтам снижается, растёт и беспокойство по поводу растущей роли ИИ в бизнесе и управлении.
Важно понимать, как формируется доверие.
Способы заслужить доверие
По мере распространения автономных агентов мы должны переосмыслить функции доверия в трёх ключевых областях:
- Доверие между людьми. Основой межличностного доверия остаются общие ценности, взаимность и прошлый опыт. Но цифровой слой меняет наше восприятие других людей. Когда знакомое лицо на видеозвонке может оказаться аватаром, созданным искусственным интеллектом, психологические сигналы, на которые мы полагаемся при формировании доверия, перестают работать. Это поднимает новые вопросы о подлинности, идентичности и нормах взаимодействия в гибридном мире, где есть и люди, и искусственный интеллект.
- Доверие между агентами. Доверие между агентами ИИ формируется посредством обмена сигналами — историей работы, репутационными данными и прогнозируемым поведением. Агенты будут оценивать друг друга по компетентности (техническое исполнение, надёжность) и намерениям (соответствие целей, прозрачность принятия решений). Доверие в этой сфере становится инженерной проблемой: как спроектировать системы, которые смогут оценивать, подтверждать и адаптировать доверие с течением времени.
- Доверие между человеком и ИИ-агентом. Чтобы люди доверяли ИИ-агентам, эти агенты должны демонстрировать устойчивую идентичность и предсказуемое поведение. Люди доверяют постоянству. Точно так же, как мы запоминаем надёжных партнёров, ИИ-агенты должны запоминать пользователей и адаптироваться к ним, обеспечивая непрерывность и согласованность взаимодействия. Доверие подрывается, когда ИИ ведёт себя непредсказуемо или притворяется тем, кем не является. Подлинность и память должны быть встроены в структуру агента.
Основы доверия в эпоху ИИ
Одной из самых серьёзных проблем, связанных с доверием к ИИ, остаётся отсутствие ясности в отношении намерений агента. Например, беспилотные автомобили могут быть статистически безопаснее, чем автомобили с водителями-людьми, но многие всё равно не доверяют им из-за неопределённости в отношении ценностей, которыми они руководствуются при принятии решений.
Это указывает на более широкую потребность в прозрачных и понятных намерениях систем ИИ — не только в возможностях, но и в мотивах. С точки зрения систем мы также сталкиваемся с техническими проблемами: как обеспечить бесперебойный и безопасный обмен данными, как проверять подлинность агентов на разных платформах и как создавать общие протоколы, позволяющие передавать не только информацию, но и само доверие.
Но, пожалуй, самая сложная задача связана с мышлением. Как отметила венчурная компания Sequoia Capital, для успеха в агентской экономике требуется нечто большее, чем просто новые технологии, — требуется новый тип лидерства, который понимает, что могут и чего не могут делать агенты ИИ и как ими следует управлять.
Окно возможностей искусственного интеллекта
В ближайшие пять лет у нас будет небольшой, но критически важный период для формирования механизмов доверия в мире автономных агентов. По прогнозам Grand View Research, к 2030 году объем мирового рынка ИИ-агентов достигнет 50,31 миллиарда долларов. По мере развития экономики агентов ставки будут высоки как никогда. Мошенничество и угрозы безопасности могут расти в геометрической прогрессии, если не будут созданы надежные механизмы доверия.
Эксперты назвали 2024 год «Годом дипфейков». С течением времени развитие автономных ИИ-агентов будет только расширять возможности для создания подделок и мошенничества. Это чревато снижением уровня доверия и ухудшением экономических показателей. Например, Центр финансовых услуг компании Deloitte прогнозирует, что GenAI может привести к убыткам от мошенничества в размере 40 миллиардов долларов только в США. Убытки в масштабах мировой экономики превысят размер рынка ИИ-агентов.
Мы можем позволить недоверию расти из-за путаницы, манипуляций и цифровой перегрузки. Или же мы можем создать новые системы доверия, основанные на ясности, последовательности и общих человеческих ценностях, дополненные интеллектуальными агентами.