Покупки через ИИ-агентов: банки предупредили о рисках мошенничества и утечки данных

Шесть крупных банков, включая Bank of America и Capital One, выступили с предупреждением о потенциальных рисках, связанных с использованием ИИ-агентов для осуществления покупок. В своем отчете они подчеркивают, что такая форма торговли может привести к увеличению случаев мошенничества, утечек данных и ошибочных транзакций. Финансовые учреждения призывают к разработке единых стандартов для работы с подобными сервисами.

Согласно информации, опубликованной изданием Gizmodo, банки обеспокоены тем, что растущая автономия ИИ-агентов может негативно сказаться на прозрачности, безопасности и конфиденциальности в процессе покупок, а также на совместимости различных платформ.

Особенно тревожит то, что пользователи могут не понимать, почему ИИ выбирает тот или иной товар или способ оплаты. В результате агент может ошибиться, потратить больше средств, чем предполагалось, или стать инструментом для обмана.

В отчете также отмечается, что ИИ-агенты могут предпочитать определенные товары или платежные системы из-за комиссий или более низких затрат на обработку запросов, а не из соображений выгоды для пользователей.

Банки выражают особую озабоченность по поводу возможных утечек данных. Эти системы могут получить доступ к конфиденциальной информации о платежах, учетных записях пользователей и других данных, что делает их потенциальными мишенями для злоумышленников. Например, уязвимость в ИИ-ассистенте Meta Muse, недавно выявленная и устраненная компанией, могла позволить злоумышленникам перехватить контроль над ассистентом и воспользоваться предоставленными пользователем разрешениями.

Тем не менее, банки не отказываются от идеи использования ИИ в процессе покупок. В отчете говорится, что агентская торговля может стать нормой, но для этого необходимы четкие стандарты и механизмы защиты прав потребителей. Группа банков выработала пять основных принципов для развития этой технологии: прозрачность, безопасность, защита конфиденциальности и данных, возможность выбора и совместимость систем.

В настоящее время участники консорциума работают над созданием нового документа, в котором будут более подробно изложены практические аспекты применения этих принципов.