Поставщики технологий, такие как Amazon, Google, Meta и Microsoft, давно стремились решить проблемы, связанные с влиянием предвзятости в наборах данных, используемых для обучения систем искусственного интеллекта (ИИ). Инструменты, такие как Fairness Indicators от Google и Sagemaker Clarify от Amazon, помогают ученым выявлять и смягчать вредные предвзятости в данных и моделях, созданных с использованием машинного обучения. Но внезапное, быстрое внедрение последней волны инструментов ИИ, использующих масштабные языковые модели для создания текста и изображений для маркетологов, представляет новый класс вызовов.
Генеративный искусственный интеллект (genAI) — это невероятный прорыв, но он не человек, и он не будет делать именно то, что люди ожидают. Его модели обладают предвзятостью так же, как и у людей. Быстрое коммерциализирование моделей и приложений genAI вывело источники предвзятости за пределы инструментов и техник, доступных в настоящее время отделам по науке о данных. Усилия по смягчению должны выходить за пределы применения технологий и включать в себя новые модели функционирования, структуры и участие сотрудников.
Маркетологи часто являются самыми видимыми пользователями genAI
Как ведущие и самые видимые пользователи genAI в большинстве организаций — и люди, ответственные за восприятие бренда — маркетологи оказываются на передовой по смягчению предвзятости ИИ. Эти новые вызовы часто требуют чуткого человеческого контроля для выявления и устранения предвзятости. Организации должны разрабатывать лучшие практики во всех функциях, обслуживающих клиента, командах по данным и аналитике, а также в юридической службе, чтобы избежать ущерба своим брендам и организациям.
Основная функция маркетинга — использовать инструменты для поиска и доставки сообщений людям, наиболее вероятно получившим выгоду от продуктов и услуг бизнеса. Рекламные и маркетинговые технологии включают в себя технологии прогнозирования, основанные на оптимизации, предназначенные для определения того, какие пользователи с наибольшей вероятностью откликнутся и какие сообщения с наибольшей вероятностью их заинтересуют. Это включает в себя такие решения, как сегментация и таргетинг клиентов, а также решения о лояльности клиентов.
Поскольку технология зависит от исторических данных и суждений людей, существует риск укрепления и усиления предвзятостей, скрытых внутри организации, а также в коммерческих моделях, над которыми маркетологи не имеют контроля.
Аллокативный и репрезентативный ущерб
Когда алгоритмы непреднамеренно не одобряют сегменты клиентов с этническими или расовыми характеристиками из-за исторических социально-экономических факторов, препятствующих участию, результат часто описывается как “вред от распределения”. В то время как решениям с высокой отдачей, таким как одобрение кредита, уделяется наибольшее внимание, повседневные маркетинговые решения, такие как получение специального предложения, приглашения или воздействие рекламы представляет собой более распространенный источник вреда.
Смягчение аллокативного ущерба было целью многих инструментов и практик науки о данных. GenAI, однако, вызывает опасения о другом типе ущерба. «Репрезентативный ущерб» относится к стереотипным ассоциациям, которые появляются в рекомендациях, результатах поиска, изображениях, речи и тексте. Текст и изображения, созданные genAI, могут включать в себя изображения или описания, которые усиливают стереотипные ассоциации этнических групп с определенными профессиями, деятельностью или характеристиками.
Некоторые исследователи придумали фразу «стохастические попугаи», чтобы выразить идею о том, что масштабные языковые модели могут бессознательно реплицировать и усиливать общественные предвзятости, присутствующие в их обучающих данных, подобно попугаям, бессознательно повторяющим слова и фразы, которые ими обладали. Конечно, известно, что и люди отражают бессознательные предвзятости в контенте, который они производят. Несложно привести примеры, когда маркетинговые ошибки приводили к репрезентативным ущербам, вызывавшим мгновенные негодования. К счастью, такие грубые промахи относительно редки, и большинство агентств и маркетинговых команд обладают суждением и операционной зрелостью, чтобы обнаружить их до того, как они причинят вред.
GenAI поднимает планку по двум направлениям.
Во-первых, использование genAI в производстве контента для персонализированных впечатлений увеличивает возможности для таких ошибок, ускользающих от обзора и обнаружения. Это обусловлено как всплеском нового создания контента, так и различными комбинациями сообщений и изображений, которые могут быть представлены потребителю. Предотвращение репрезентативной предвзятости в персонализированном контенте и диалогах чат-ботов требует масштабирования активного надзора и тестирования навыков, чтобы избежать непредвиденных ситуаций, вызванных с непредсказуемым поведением ИИ.
Во-вторых, в то время как вопиющие ошибки привлекают наибольшее внимание, тонкий репрезентативный вред встречается чаще, и его трудно устранить. Взятые по отдельности, они могут казаться безобидными, но они создают кумулятивный эффект негативных ассоциаций и слепых зон. Например, если используемый ИИ-ассистент по написанию текстов бренда — продукта потребительского спроса, постоянно называет клиентов женщинами, основываясь на предоставленных ему образцах копий, его результаты могут укрепить стереотип “домохозяйки” и со временем создать предвзятую ассоциацию с брендом.
Решение проблем в genAI
Тонкая репрезентативная предвзятость требует более глубоких уровней навыков, контекстуальных знаний и разнообразия для ее выявления и устранения. Первым шагом является признание необходимости включения надзора в обычные операции организации. Рассмотрим следующие шаги:
Оцените риск. Предвзятость заражает genAI через его обучающие данные, подтверждение человека и повседневное использование. Внутреннее и агентское принятие genAI для операций с контентом должно предшествовать целенаправленному обучению, уточнению ответственности и плану регулярных аудитов и тестов предвзятости.
Формализуйте принципы. Согласуйте все стороны по принципам разнообразия и включения, которые применяются к конкретным опасностям предвзятости в genAI. Начните с заявленных принципов и политик организации и включите их в аудиты предвзятости в их отношении к этим принципам. Установите ограничения справедливости во время обучения и вовлеките разнообразную группу человеческих рецензентов для выявления предвзятого контента. Четкие рекомендации и постоянная ответственность имеют важное значение для обеспечения этичного генерирования контента ИИ.
Учитывайте контекст. Культурная значимость и разрушительные события меняют восприятие способами, которые genAI не обучен распознавать. Усвоение LLM значимых событий может привести к событиям и изменению общественного восприятия. Руководители отдела маркетинга могут консультировать специалистов по коммуникациям и персоналу о том, как улучшить программы обучения, включив в них темы, связанные с искусственным интеллектом, чтобы подготовить команды к задаванию правильных вопросов о существующих практиках и планах внедрения. Они также могут убедиться, что тестовые данные содержат примеры, которые потенциально могут вызвать предвзятость.
Активно сотрудничайте. Убедитесь, что сотрудники отдела маркетинга тесно сотрудничают со специалистами по обработке данных. Контролируйте разнообразные и репрезентативные наборы данных, используя как инструменты анализа данных, так и обратную связь с людьми на всех этапах разработки и внедрения моделей, особенно по мере того, как тонкая настройка базовых моделей становится все более распространенным явлением. Поскольку маркетологи рассматривают изменения в персонале и обучении с помощью искусственного интеллекта, уделите приоритетное внимание расширению масштабов проверок и обратной связи, необходимых для устранения предвзятости.
Если руководители отдела маркетинга будут следовать этим шагам при соблюдении внутренних правил genAI, они будут серьезно защищать свой бренд, что в дальнейшем может принести огромные дивиденды. В то время как даже крупные игроки в этой сфере стремятся устранить предвзятость внутри genAI, не все принимают во внимание все эти шаги, что может привести к серьезным пробелам в их проектах под руководством genAI.