Малките онлайн бизнеси са изправени пред обезпокоителна тенденция – клиентите изпращат променени с изкуствен интелект изображения на повредени стоки, за да поискат възстановяване на суми, което подтиква правен експерт да призове за по-силна защита на платформата срещу цифрови измами.
В продължение на три месеца онлайн магазин за пресни продукти в град Jiaxing, провинция Zhejiang, е бил жертва на няколко измами само с възстановяване на средства, потенциално организирани с помощта на AI технология, съобщи централната китайска телевизия през ноември.
През октомври Chen Xiaowei, която работи в Шанхай, се върна в родния си град, за да проучи проблема за баща си, собственик на магазина.
Магазинът на баща ми, известен с брането и доставката на пресни цитрусови плодове, работи от пет години. Той записва видеоклипове на всеки пакет преди доставката, като документира цвета, размера и серийния номер на опаковката на плодовете“, каза Чен пред CCTV.
Въпреки тези предпазни мерки, Чен откри, че купувачите, участващи в исковете за възстановяване, са изпратили снимки на разопаковане, показващи плодовете като изгнили, спаружени или заразени с буболечки.
Баща й първоначално отдаде проблемите на доставката и се съгласи да възстанови първите няколко искания. Въпреки това, тъй като инцидентите се умножиха, усилията му да разреши проблема с куриерската компания се оказаха напразни, което го накара да потърси помощта на дъщеря си.
„Забелязах следа, подобна на воден знак, в ъгъла на една снимка, което предполага, че е била променена“, каза Чен.
Чен изпрати видеоклиповете на опаковките и предполагаемите изображения, модифицирани от изкуствен интелект, на онлайн платформата, но жалбата й беше отхвърлена поради липса на достатъчно доказателства. Платформата предложи тя да преговаря директно с купувачите, но участващите лица обикновено блокираха по-нататъшен контакт.
Усилията да се потърси помощ от сервизния център на платформата бяха посрещнати с отговора, че не могат да определят дали изображенията са генерирани от AI. Тъй като общата сума на поръчката пада под 1000 юана ($142), тя не отговаря на прага за завеждане на дело за измама.
Чен изрази разочарование от лекотата, с която водните знаци, генерирани от AI, могат да бъдат премахнати и критикува липсата на механизми за откриване на платформата, което прави честни собственици на малък бизнес като баща й уязвими за свързани измами.
Подобни измами
При подобен инцидент, съобщен от Legal Daily през ноември, собственик на онлайн магазин за играчки от автономния регион Гуанси Джуанг получи искане от купувач за възстановяване на сумата, без да върне стоките за предполагаемо повредена плюшена играчка от 50 юана.
Купувачът изпрати снимка, на която играчката изглежда износена и мръсна. Подозрителен, собственикът използва инструмент за откриване на AI, който разкрива признаци на манипулация на AI в изображението.
Когато собственикът предизвика купувача, той беше заплашен с потребителски оплаквания. Първоначално платформата застана на страната на купувача. Апелът на собственика беше успешен едва след като той сподели историята си в социалните медии, привличайки широко внимание.
Legal Daily разкри, че подобни искове за възстановяване на средства, манипулирани от AI, са често срещани. Предмети, особено като храна и играчки, често се променят, за да покажат щети, като някои изображения дори показват генерирани от AI водни знаци.
Zhao Jingwu, доцент по право в университета Beihang, каза, че измамите с възстановяване на средства, генерирани от AI, са насочени предимно към пресни продукти и хранителни продукти, тъй като AI може да създаде измамни изображения и видеоклипове на тези продукти, които са трудни за откриване. Макар и рядък в момента, този тип измама може да се разпространи и към други онлайн продукти с напредъка в AI технологията.
Правен поглед
Според Гражданския кодекс използването на AI за фалшифициране на доказателства за възстановяване на средства се счита за измама. Този закон позволява на бизнеса да търси обезщетение за икономически загуби. Ако включената сума не отговаря на криминалния праг, може да се наложат административни санкции като глоби или задържане. За по-големи суми това може да се класифицира като престъпна измама съгласно Наказателния кодекс, каза Джао.
В репортаж от CCTV собственик на онлайн магазин на име Гао от Суджоу, провинция Дзянсу, изпратил кутия с раци през ноември на клиент, който малко след доставката твърдял, че шест от осем раци са мъртви, предоставяйки подозрителни доказателства в подкрепа на твърдението.
След като компенсира купувача със 195 юана, Гао забелязва несъответствия в броя на мъжките и женските раци между снимките и видеоклиповете, предоставени от клиента, и споделя съмненията си онлайн, което предизвиква полицейско разследване. Той разкри, че купувачът е използвал AI, за да фалшифицира видеоклипа, което е довело до административно задържане от осем дни и възстановяване на измамното възстановяване.
„От платформите не се изисква да проверяват щателно предоставените от потребителите доказателства, тъй като им липсва информация за транзакцията. Те обаче трябва да предупреждават търговците за потенциални рискове от измама с изкуствен интелект, ако изображенията в заявките за възстановяване показват ясни признаци, че са генерирани от изкуствен интелект“, каза Джао.
„Търговците могат да предотвратят измами с възстановяване на суми, управлявани от AI, като изискват множество специфични действия във видеото и изпращане на по-дълги видеоклипове от клиентите. Текущата AI технология се бори с безпроблемното интегриране на човешки функции и поддържането на плавност на видеото, което може да се използва за откриване на измами“, каза той.
Джао добави, че тъй като мерките за идентифициране на генерирано от AI синтетично съдържание влязоха в сила на 1 септември, повечето местни AI продукти включват явни и неявни маркери в генерираното съдържание. Въпреки това измамниците могат да използват чуждестранни AI инструменти или да премахнат тези маркери. Използвайки технически методи за премахване на изрични маркери, за платформите и търговците става предизвикателство да проверят автентичността на информацията чрез ръчен преглед.
„За да се борят с това, платформите трябва да включват механизми за откриване на синтетично съдържание, генерирано от AI, в процесите на възстановяване и да поддържат търговците с изчерпателна видео документация за опаковане и доставка. Платформите трябва редовно да актуализират търговците за нови методи за откриване на измами с AI, като идентифициране на аномалии в осветлението или позиционирането на тялото“, каза Джао.
[email protected]
Нашия източник е Българо-Китайска Търговско-промишлена палaта