Банки предупредуваат: агентите за купување со вештачка интелигенција ги надминуваат заштитите од измами

Коалиција на големи банки предупреди дека агентите за купување потпомогнати од вештачка интелигенција создаваат нови ризици за потрошувачите во врска со измами, измамништво и приватност на податоците, и дека технологијата се движи побрзо отколку што можат да држат чекор постојните индустриски стандарди и заштитата на потрошувачите. Групацијата ги вклучува NatWest, Bank of America, ING, Capital One, ASB Bank од Нов Зеланд и Commonwealth Bank of Australia.

Банките објавија извештај во кој ги изнесуваат принципите за тоа како треба да се развива агенциската трговија — во која алатките со вештачка интелигенција избираат и купуваат стока во име на купувачот — и соопштија дека планираат да поднесат низа предлози до креаторите на политиките. „Потрошувачите не се сигурни дали вештачката интелигенција ќе дејствува во нивен интерес“, се вели во извештајот. „Тие се загрижени дека агентите со вештачка интелигенција може да купат погрешна работа или да потрошат премногу — или уште полошо, да ги загубат парите поради измами и измамништво. Не се сигурни дали ќе бидат заштитени или на кого ќе треба да се обратат ако нешто тргне наопаку.

Меѓу ранливостите што ги истакнува извештајот се наоѓаат агенти со вештачка интелигенција кои собираат податоци за картички од клиентите и ги поднесуваат на сајтови на трети страни, како и ризикот агентите да претпочитаат опции за плаќање со помалку заштитни мерки за потрошувачите. Според банките, злонамерни актери исто така би можеле да ги компромитираат или да се претставуваат како агенти со вештачка интелигенција и трговци, или да применат нови методи на социјално инженерство. „Кога нешто тргне наопаку, постои нејасна и неефикасна распределба на одговорноста, а спорските постапки не ги вклучуваат сите релевантни страни во синџирот на вредност“, додаваат банките.

Извештајот дополнително тврди дека потрошувачите и трговците треба да ја задржат автономијата во изборот на платформи за агенциска трговија со вештачка интелигенција и дека конкурентските системи треба беспрекорно да функционираат меѓусебно. Предупредувањето доаѓа во момент кога технолошки компании, меѓу кои OpenAI, Anthropic, Google и Meta, ги промовираат чат-ботовите со вештачка интелигенција како алатки за купување, а трговците на мало се движат кон обликување на препораките на тие чат-ботови. Британскиот трговец на мало John Lewis соопшти дека пребарувањата од агенти со вештачка интелигенција пораснале на 2,5 отсто од вкупните, од 0,3 отсто една година претходно.

Прифаќањето на вештачката интелигенција во купувањето кај потрошувачите останува нерамномерно. Истражување на PYMNTS Intelligence покажа дека половина од американските потрошувачи изјавиле дека завршиле купување на мало со некаква помош од вештачка интелигенција, но само околу еден од четворица рекле дека би биле удобни целосно да ги препуштат и купувањето и плаќањето на агент со вештачка интелигенција. Извештајот на банките доаѓа и во време кога американските регулатори го засилуваат своето внимание кон вештачката интелигенција во финансиските услуги. Банкарските испитувачи го вклучија надзорот над вештачката интелигенција во рутинските банкарски проверки, притискајќи ги кредиторите за тоа како ја управуваат технологијата во функциите со повисок ризик — иако сè уште не е напишан посебен правилник за вештачка интелигенција.