LinkedIn, профессиональный сетевой гигант, недавно был пойман на сборе пользовательских данных для обучения своего генеративного искусственного интеллекта. Противоречие усугублялось тем фактом, что LinkedIn начал сбор этих данных без предварительного явного согласия своих пользователей. Вместо этого все пользователи были автоматически зарегистрированы, что означает, что их данные использовались, если они не принимали активного решения не делиться ими.
В ответ на негативную реакцию главный юрисконсульт компании опубликовал блог и часто задаваемые вопросы, в которых рассказал о предстоящих изменениях в пользовательском соглашении и политике конфиденциальности, вступающих в силу 20 ноября, чтобы лучше объяснить, как собираются пользовательские данные. Однако ни в блоге, ни в часто задаваемых вопросах не объясняется, для чего будут использоваться эти пользовательские данные.
Неопределённость привела к возобновлению споров о том, насколько пользователи на самом деле контролируют свои данные и должны ли такие компании, как LinkedIn, быть более прозрачными в отношении своей политики использования данных. Должны ли отрасль или правительство устанавливать стандарты прозрачности, как это делается в пищевой промышленности, где есть этикетки с информацией о пищевой ценности?
О чем они вам не говорят? – Представляем масштабные модели действий
Что на самом деле LinkedIn делает с информацией, которую они собирают? Уже созданные большие языковые модели (LLM) используют гораздо больший набор контента, чем когда-либо могли предоставить данные LinkedIn, так почему же Microsoft идёт на такие ухищрения, чтобы тайно собирать их?
Причина в том, что построение большой языковой модели — не единственное генеративное решение искусственного интеллекта, которое может быть создано с использованием больших объемов данных. LinkedIn, похоже, обучает модели нового типа — модели крупных действий (LAM). В отличие от традиционных языковых моделей, которые предсказывают следующее слово или фразу, модели больших действий нацелены на предсказание следующих действий пользователей на основе их прошлых действий.
У LinkedIn есть не только данные о том, что писали пользователи, но и обширный набор данных о действиях пользователей. Анализируя связи пользователей, их прошлые места работы, прочитанные статьи, понравившиеся публикации и многое другое, LinkedIn может разработать модель, которая будет предсказывать, что пользователи будут делать дальше в своей профессиональной деятельности.
Представьте себе потенциал: LinkedIn может предсказывать, кто принимает на работу, кто ищет работу или кто ищет конкретные услуги, и все это на основе активности пользователей. Эта возможность может произвести революцию на рынке труда и в профессиональных сетях, предоставив LinkedIn мощную прогностическую модель, за доступ к которой многим рекрутинговым организациям и организациям, оказывающим бизнес-услуги, придется заплатить значительную плату.
Это также поднимает важные этические вопросы, связанные с конфиденциальностью данных и согласием пользователей. Не сомневайтесь, LinkedIn не одинок в своих начинаниях. Многие организации изучают аналогичные технологии, используя данные распознавания лиц и носимых устройств для обучения своих моделей ИИ. По мере распространения этих технологий потребность в надёжной защите конфиденциальности и прозрачной политике использования данных будет только расти.
Как нам создать прозрачность в области искусственного интеллекта?
По мере того, как технологии искусственного интеллекта становятся всё более распространёнными, возникает необходимость в поиске баланса между инновациями и этичным использованием данных. Такие платформы, как LinkedIn, должны гарантировать пользователям полный контроль над своими данными, и LinkedIn по большей части справляется с этим требованием. Однако к этому требованию необходимо добавить, что пользователи должны быть заранее и полностью проинформированы о том, как используются их данные. Автоматический подход с согласием пользователя может способствовать развитию искусственного интеллекта, но он оставляет пользователей в неведении и создаёт ощущение потери контроля над личной информацией. Чтобы завоевать доверие, компании должны уделять приоритетное внимание прозрачности и контролю со стороны пользователей, предлагая понятные и доступные варианты управления настройками данных.
Одно из предложенных решений, которое, по моему мнению, имеет потенциал, — это подход к прозрачности с помощью «пищевых этикеток». В то время как на этикетках продуктов питания указано, что вы кладёте в свой организм, компании, которые собирают данные, должны чётко указывать, какие данные они собирают и для чего они их используют.
Аналитики фондового рынка в таких сетях, как CNBC, должны раскрывать определённую информацию об инвестициях. Компании, использующие ИИ, также должны раскрывать информацию о том, как они используют данные, в понятном и доступном формате. Это может включать информацию о том, собирают ли они пользовательские данные, используются ли эти данные в моделях обучения ИИ и генерируются ли ИИ рекомендации, которые пользователи получают от программного обеспечения. Такая прозрачность позволит пользователям принимать более обоснованные решения о том, как они хотят использовать свои данные.
В случае с LinkedIn существующие в других странах правила конфиденциальности данных уже оказывают сдерживающее воздействие на скрытое обучение ИИ в компании. В разделе часто задаваемых вопросов LinkedIn прямо указано, что их модель ИИ не обучается на данных пользователей, находящихся в ЕС, Европейской экономической зоне, Великобритании, Швейцарии, Гонконге или Китае — странах с жёсткими законами о конфиденциальности данных. В США ответственность за обеспечение прозрачности ИИ и этичного использования данных лежит как на компаниях, так и на частных лицах. Без государственного или федерального регулирования пользователям придётся требовать от таких компаний, как LinkedIn, большей прозрачности, а также принимать активное участие в управлении своими данными и быть в курсе того, как они используются. Только совместными усилиями можно достичь баланса между инновациями и конфиденциальностью, чтобы технологии искусственного интеллекта приносили пользу всем нам, не ставя под угрозу нашу личную информацию.
Что я должен сделать, чтобы защитить себя?
По мере того, как искусственный интеллект продолжает внедряться в различные платформы, вопросы согласия пользователей и конфиденциальности становятся всё более актуальными. Хотя искусственный интеллект может улучшить вашу профессиональную деятельность, важно убедиться, что это не происходит за счёт вашей конфиденциальности. Такие компании, как LinkedIn, должны работать над улучшением механизмов получения согласия и более чёткой коммуникацией о том, как используются данные пользователей.
На данный момент лучший способ — быть в курсе событий и принимать активное участие в управлении своими данными. Регулярно просматривайте настройки конфиденциальности и при необходимости отказывайтесь от них, чтобы сохранить контроль над своей личной информацией. Точно так же, как вы регулярно меняете пароли, возьмите за правило просматривать настройки конфиденциальности на сайтах и в приложениях, которыми вы пользуетесь. Такой упреждающий подход поможет вам быть в курсе любых изменений, таких как новая политика использования данных в LinkedIn, и убедиться, что вас устраивает то, как используются ваши данные.