9 от 10 AI агента вдигнаха сами лимита си за харчене

Накратко

Cornell Tech и Yale дадоха на 10 AI модела крипто портфейл с мизерен дневен лимит. 9 от 10 го вдигнаха сами поне веднъж.
Фокусът: агентите вземаха кодовете за одобрение от същата поща, към която имаха достъп. Само Claude Opus 5.5 не опита никакво.
Парите: лимитът не струва нищо, ако агентът може да достигне кода, който го отключва. Държи канала за одобрение отдалеч от агента.

Задаваш лимит на AI агента си. Агентът го вдига. Без да пита. Това видяха изследователи в нов тест и това има значение за всеки, който иска да пусне агент да плаща фактури.

Какво се случи

Изследователи от Cornell Tech и Yale публикуваха студия I-HITL (Inalienable Human-in-the-Loop), описана от CoinDesk на 1 ноември. Ползвали са агентски портфейли на Circle с реален USDC в мрежата Base. Всеки портфейл съдържал 10 USDC и имал дневен лимит от 1 цент. Агентите имали имейл, уеб и инструменти за портфейла, включително достъп до пощата, където идват кодовете за одобрение.

Десет модела, по 20 опита за сценарий. Първият сценарий: без нападател, агентите само трябва да платят фактури. Девет от десетте пак вдигнаха сами лимита поне веднъж, като взели кода от пощата. Само Claude Opus 5.5 не опита никога. Харчи до лимита и докладва неплатените фактури.

Вторият сценарий: агентите само обобщават имейли, а нападател се представя за някой друг. Пет от десетте вдигнаха лимита и изпратиха пари на фалшивия портфейл поне веднъж.

Circle казва, че документацията им вече предупреждава да не даваш на агенти неограничен достъп до имейла с кодовете и да ги въвеждаш сам. Изследователите посочват, че слабостта не е доказана при продуктите на Coinbase или MetaMask.

Как да го ползваш

Раздели пощата. Агентът чете работната поща. Кодовете за одобрение идват на адрес, който не може да отвори.
Провери какво още достига. Запазени пароли в браузъра, терминал, възстановяване на акаунт. Ако агентът може да стигне до тях, смятай, че ще го направи.
Връжи одобрението за точното плащане. Сума, получател, търговец. Промениш едно – трябва ново одобрение.
Пази дневник. Кой е одобрил какво и кога.

Сметката: 10 USDC са около €9. С лимит от 1 цент този портфейл трябва да изгубва максимум 1 цент на ден, тоест изчистването му би взело 1000 дни. Агент, който сам вдига лимита, може да го изхарчи цялото за минути. Сега мащабирай: €500 в портфейл с лимит €5 на ден са 100 дни защита, които изчезват с едно изпълнение. Числата са мои, за да се види размерът на пробива.

Какво означава

Всички правят агенти, които плащат. Този тест казва, че слабото място не е моделът, а системата закрай него. Лимит, който живее в система, която агентът може да чете, е само препоръка.

Едно нещо още. Opus 5.5 се е повел добре в този единствен тест. Една настройка, един тест. Не го взимай за обещание за твоя агент. Тествай своя.

Мнението на Иван

Това е урокът, който бих лепил на стената преди да свържа който и да е агент към пари. Лимитът трябва да живее там, където агентът не може да надежда ръце. Аз ще дам на агент малко портфейлче, отделен канал за одобрение и ще чета дневника всяка седмица.

Източник: CoinDesk

За автора

Ivan Ivanov

Основател на