- Искусственный интеллект может принести пользу человечеству и устойчивому развитию, но для создания надёжных мер безопасности в первую очередь необходимо расширять возможности местных экосистем ИИ.
- Правила доверия и безопасности, которые классифицируют определённые регионы или профили пользователей как представляющие «риск», могут ограничивать их участие в цифровой экономике.
- Для создания и масштабирования новой модели доверия и безопасности ИИ потребуется сотрудничество государственных и частных партнёров и их адаптация к конкретным геополитическим, экологическим и культурным особенностям.
Для устранения неравенства в сфере искусственного интеллекта (ИИ) необходимо обеспечить, чтобы модели и решения на основе ИИ учитывали местные особенности в развивающихся странах. Необходимо срочно переосмыслить подход к доверию и безопасности, перейдя от реактивных и кризисных мер к проактивным, упреждающим и адаптивным мерам, ориентированным на безопасность и инклюзивность людей.
ИИ становится всё более мощной технологией, которая может принести пользу человечеству и устойчивому развитию, но для создания инструментов и коалиций, необходимых для обеспечения надёжных мер безопасности, в первую очередь следует расширять возможности местных экосистем ИИ во всех странах. В этой статье мы приводим доводы в пользу переосмысления доверия и безопасности — важнейших составляющих для устранения неравенства в сфере ИИ.
Как в настоящее время описываются доверие и безопасность?
«Доверие и безопасность» — это термин, с которым не всегда знакомы в развивающихся странах, но он часто влияет на повседневное взаимодействие людей. Традиционно под доверием и безопасностью понимаются правила и политика, которые компании частного сектора внедряют для управления рисками и их снижения, влияющими на использование их цифровых продуктов и услуг, а также системы оперативного контроля, определяющие реактивные или проактивные ограничения. Решения, которые определяют эти методы обеспечения доверия и безопасности, влияют на то, к чему пользователи могут получить доступ в интернете, а также на то, что они могут говорить или делать.
В то время как некоторые из этих решений связаны с соблюдением законодательства или безопасностью, в других случаях они представляют собой независимые политики, которые компании разрабатывают с учётом пользовательского опыта и интересов бизнеса. Компании, как правило, самостоятельно устанавливают правила доверия и безопасности с ограниченной отчётностью, прозрачностью и местным сотрудничеством в развивающихся странах.
Непреднамеренный риск исключения
Решения, связанные с доверием и безопасностью, встроены в коллективный цифровой опыт пользователей. Несмотря на то, что эти фильтры часто задумываются как позитивные и защитные меры, без комплексного подхода, основанного на правах человека, они могут стать препятствиями, ограничивающими возможности людей в полной мере пользоваться цифровыми инструментами и сервисами.
Например, правила доверия и безопасности, которые классифицируют определённые регионы или профили пользователей как представляющие «риск», могут ограничить их участие в цифровой экономике, что приведёт к непредвиденным последствиям в виде исключения из системы. Вот несколько сценариев, с которыми могут столкнуться пользователи:
‘Удержание’ средств, размещенных на
При отправке или получении онлайн-платежей некоторые регионы или типы транзакций могут быть отнесены к категории «высокого риска». Для защиты денег на счет может быть наложено ограничение, временно ограничивающее доступ к ним. Однако длительные периоды ожидания могут существенно нарушить привычный уклад жизни, задерживая выплаты сотрудникам или оплату товаров первой необходимости, например, аренды.
Задержки в списках Google Maps
В некоторых регионах компаниям, пытающимся внести свою компанию в список на Картах Google, может потребоваться длительное время ожидания утверждения. Это связано с тем, что служба доверия и безопасности Google не может легко подтвердить подлинность новых адресов в некоторых странах и не может легко проверить деловые документы, написанные на некоторых местных языках. Отсутствие компании в поиске Google или на Картах может повлиять на привлечение нового бизнеса и получение доставок.
Заблокирован на онлайн-площадках
Продавцы товаров или услуг, использующие онлайн-площадки, такие как Airbnb или Alibaba, могут быть заблокированы из-за автоматических фильтров по ключевым словам, что приводит к блокировке их объявлений. Таким продавцам часто разрешается обжаловать это решение только на английском языке или использовать менее надёжное программное обеспечение для перевода, что ограничивает их возможности оспорить или отменить решение, если оно было принято с превышением полномочий. Невозможность вести бизнес онлайн может привести к значительной потере дохода.
Хотя некоторые из этих методов обеспечения доверия и безопасности могут быть продиктованы благими намерениями, есть случаи, когда они приводили к негативным результатам. Механизмы восстановления, которые зависят от контекста и локализованы, должны рассматриваться компаниями как расширение мер по обеспечению доверия и безопасности. Это может означать, например, использование местных данных для оценки и оптимизации доверия и безопасности, чтобы сократить продолжительность и объем удержания средств, обеспечивая эффективную обратную связь за счет интеграции местных языков.
Тем не менее, защита и возможность оспаривать эти решения распределены неравномерно. Компании, как правило, предоставляют пользователям на своих внутренних рынках и в странах с развитой экономикой больше возможностей и полномочий для обжалования решений и формирования политики технологических платформ.
Несмотря на то, что компании в развивающихся странах ускоренными темпами внедряют технологии, они часто сталкиваются со значительными препятствиями на пути к получению применимых на местном уровне мер, предотвращающих цифровой вред. Это неравенство особенно заметно, когда таксономии доверия и безопасности, а также системы оценки рисков разрабатываются компаниями из развитых стран без полного учёта местных условий, культур и проблем.