Рост недоверия к ИИ со стороны потребителей услуг

Искусственный интеллект (ИИ) часто преподносится как переломный момент практически в любой отрасли. Предполагается, что он сделает всё, к чему прикасается, умнее, быстрее и эффективнее, но когда мы смотрим на то, как ИИ используется в бизнесе, часто обнаруживается разрыв между шумихой и тем, что происходит на практике. Но его растущая интеграция в маркетинг привела, как к возможностям, так и к проблемам, особенно в отношении доверия потребителей.

Обычно предполагается, что эта технология будет упоминаться в любом питче или проекте, чтобы продемонстрировать дальновидность мышления, однако между людьми, которые рекламируют возможности, и теми маркетологами, кому удаётся добиться измеримых результатов, улучшенных с помощью ИИ, остаётся заметный разрыв. Маркетологи традиционно быстрее осваивают новые технологии, но придерживаются осторожного подхода, включающего наблюдение, исследования и пробные тестовые запуски. Нет ничего плохого в том, чтобы бизнесмены искали эффективные инструменты и кратчайшие пути, которые могут оказаться выгодными — ведь отказ от инновационных технологий только потому, что они выводят вас из зоны комфорта, может быть недальновидным решением.

Тем не менее, стали повсеместно возникать такие тревожные тенденции, как негативная критика инструментов, базирующихся на искусственном интеллекте. Такое отношение проистекает из раздутых обещаний, и пристального рассмотрения истинных возможностей этой инновации, которая часто использует вводящие в заблуждение заявления для маскировки этических проблем. Первоначальный позитивный тренд омрачается завышенными ожиданиями, которые приводят к скептицизму потребителей, особенно когда возможности ИИ преувеличиваются без достаточной доказательной базы.

Специалисты утверждают, что потенциал любого инструментария в маркетинге должен быть основан на практических, проверенных приложениях для укрепления устойчивого доверия потребителей. Несмотря на некий (не очень значительный) преобразующий потенциал ИИ в улучшении понимания потребителей и оптимизации стратегий, сохраняется значительный разрыв между риторикой отрасли и реальными результатами. При этом, компании-разработчики стали гораздо более интенсивно преувеличивать возможности своих программных продуктов, что приводит к разочарованию, подпитывая негативный настрой. Цель этих фирм предельно ясна — они заинтересованы в расширении центров обработки данных, реализации новых мощных процессоров, модулей быстродействующей оперативной памяти и сопутствующего оборудования. Но цикл преувеличения и негативной реакции создаёт серьёзные проблемы для ответственного внедрения действительно эффективного решения, что дополнительно вызвано такими проблемами, как развитое единожды предубеждение и нерешённые вопросы сохранения конфиденциальности.

Любое ответственное внедрение всего нового требует перехода от соблюдения требований к прозрачности, участию человека и сотрудничеству заинтересованных сторон. Этот принцип является стратегическим императивом для поддержания доверия и конкурентного преимущества. Но разработчики и крупные технологические компании не перестают делать преувеличенные заявления о возможностях ИИ, чтобы продемонстрировать инновационную полезность или этическую осведомлённость без существенного подтверждения, маскируя свои более глубокие структурные проблемы. Такие символические демонстрации часто направлены на обеспечение легитимности без соответствующих существенных изменений. А в контексте маркетинга, подобная форма стратегического искажения информации может подорвать доверие широкого слоя основных целевых потребителей. Ширится растущее общественное недовольство предполагаемыми неудачами, превышением полномочий Бигтехами или этическими нарушениями в применении новых технологий искусственного интеллекта.

Вполне понятное недовольство возникает, когда ажиотаж вокруг новинки не соответствует реальному опыту или, когда непрозрачные системы ставят под угрозу автономию пользователей, справедливость или конфиденциальность данных. Таким образом институциональные противоречия на уровне отрасли и оспариваемая логика заявлений могут катализировать общественное сопротивление доминирующим технологическим нарративам. Уже появился термин «искусственный обман» (AI Washing) — это преднамеренное или неосторожное преувеличение возможностей искусственного интеллекта, которое, как правило, происходит путём представления основанных на правилах или предварительно запрограммированных функций, как автономных, адаптивных или этически управляемых систем. Это явление ещё больше провоцирует пристальное внимание специалистов смежных цифровых отраслей, разочарование и критику.

Что касается специализации в маркетинге, то одной из существенных проблем является неоднозначное использование термина «ИИ» для этого сегмента деятельности, которому часто не хватает чёткого определения. Это приводит к неопределённости и низкой эффективности в различных маркетинговых приложениях. Для этой специализации не очень подходит общее определение, которое описывает ИИ, как технологию, которая имитирует интеллектуальное поведение в таких областях, как распознавание языка и образов, а также управляет глобальными знаниями и распространяет их, предоставляя полезную информацию. Такие характеристики возможностей не отвечают задачам, актуальным для маркетинговых действий. Это прекрасно поняли разработчики, выпустив в свет несколько другую формулировку, где определили искусственный интеллект, как агента, который воспринимает окружающую среду, обрабатывает информацию посредством рассуждений и/или обучения, а также эффективно воздействует — физически или виртуально — для интеллектуального влияния на эту среду. Но это определение не вполне отражает спектр заявленных возможностей.

Несомненно, что, автоматизируя сложные управленческие задачи, такие как генерация лидов и сегментация клиентов, которые традиционно зависели от человеческого опыта, ИИ повышает эффективность и точность принятия стратегических решений. Но анализируя структурированные (демографию и показатели продаж) и неструктурированные (комментарии и отзывы клиентов) данные, предприятия также могут получать более быструю и точную информацию, даже при использовании более простых статистических инструментов, не привлекая нейросети с подтверждаемым обучением. Хотя, надо признать, что возможности хорошо отлаженного инструмента ИИ, не только обеспечивают получение информации о поведении клиентов и рыночных тенденциях в режиме реального времени, но и дают конкурентное преимущество, способствуя более быстрому и обоснованному реагированию на изменение конъюнктуры или ситуации.

Существуют также ограниченные возможности, когда инструменты ИИ позволяют анализировать эффективность рекламных кампаний конкурентов или выявляют прогностические ожидания клиентов, что является ключевым элементом повышения вовлеченности и успеха кампаний. Но пока нет убедительных подтверждений стопроцентной работоспособности этого функционала прогнозирования психосоциальной динамики. Развитие персонализированного онлайн-маркетинга и его способность воздействовать на уязвимые места потребителей, усугубляют дисбаланс сил между бизнесом и населением, вызывая опасения по поводу автономии и конфиденциальности.

Гипертаргетинг с использованием больших данных может повысить вовлеченность и взаимодействие, но также вызывает опасения по поводу эксплуатации слабостей потенциальных покупателей (эта проблема уже скорее этическая, которыми бизнес зачастую пренебрегает). Для предотвращения злоупотреблений существуют различные ведомства государственных регуляторов, которые констатируют, что непрозрачность алгоритмов ИИ требует повышения подотчётности частных технологических корпораций, для предотвращения этических и нормативных проблем, что усиливает необходимость сотрудничества между различными заинтересованными сторонами для ответственной интеграции.

В связи с этим звучат призывы к всеобъемлющим реформам в законодательстве о маркетинге для защиты потребителей от сложных стратегий цифровой эпохи. Некоторые ответственные социальные внедрения предлагают мощные улучшения, способные решать реальные проблемы и генерировать ценные рыночные данные. Например, недавно представленный инструмент, не только борется с телефонным мошенничеством, автоматически взаимодействуя с мошенниками и разоблачая их тактику, но и служит формой маркетингового исследования, анализируя схемы злоумышленников для повышения защиты потребителей и укрепления имиджа бренда. Но успех и принятие таких систем всё равно зависят от соответствия общественным нормам и ожиданиям, формируемым коллективным вкладом различных заинтересованных сторон, включая потребителей, маркетологов, политиков и лидеров сообществ.