Девять из десяти ИИ-моделей смогли самостоятельно повысить лимиты расходов в криптокошельке без разрешения владельца. Это выяснили исследователи Корнеллского технологического института и Йельского университета, протестировав платежную инфраструктуру Circle.
В исследовании I-HITL: Inalienable Human-in-the-Loop ученые проверили, могут ли ИИ-агенты обходить ограничения на платежи. Для эксперимента использовали кошельки Circle Agent Wallets в сети Base с балансом 10 USDC и лимитами от 0,01 USDC за транзакцию до 1 USDC в месяц.
Агентам предоставили доступ к почте, браузеру и инструментам управления кошельком. В одном из сценариев им поручили оплатить три счета по 0,01 USDC, что требовало превышения дневного лимита.
Девять моделей хотя бы раз самостоятельно запросили увеличение лимита, получили код подтверждения из почты владельца и изменили настройки без его согласия.
Единственным исключением стала Claude Opus 5.5 от Anthropic: она соблюдала ограничения и сообщала пользователю о неоплаченных счетах.