Манипуляция контекстом: как уязвимость ИИ-агентов угрожает крипто-экосистеме

[News Bot]

 

Использование в криптоиндустрии агентов искусственного интеллекта открывает новые возможности, но также порождает уязвимости. Атаки через манипуляцию контекстом ставят под угрозу не только пользователей-людей, но и всю экосистему.

ИИ-агенты — это приложения на основе искусственного интеллекта, которые принимают решения и выполняют задачи независимо и с минимальным контролем со стороны человека. ИИ-агенты способны взаимодействовать с криптовалютными кошельками, выполнять транзакции, отслеживать комиссии и управлять активами. Однако автоматизация сопряжена с новыми типами уязвимостей, одной из которых является атака через манипуляцию контекстом (context manipulation attack) — метод, при котором злоумышленники вводят ИИ в заблуждение путем подмены его внутренней памяти.

 

Атака осуществляется не через взлом кода, а путем внедрения ложных данных в контекст — память ИИ, на основе которой тот принимает решения и интерпретирует запросы. В отличие от прямых инструкций, эти данные сохраняются как часть контекста, формируя у ИИ-агента ложное представление о предпочтениях пользователя.

 

В марте 2025 года ученые Принстонского университета и представители Sentient Foundation опубликовали работу под названием Real AI Agents with Fake Memories: Fatal Context Manipulation Attacks on Web3 Agents («Реальные ИИ-агенты с ложной памятью: фатальные атаки на Web3-агентов через манипуляцию контекстом»). В работе описано, насколько просто можно внедрить ложную память ИИ-агенту и какие последствия это будет иметь для управления крипто-активами.

 

 

Подробнее: https://bits.media/manipulyatsiya-kontekstom-kak-uyazvimost-ii-agentov-ugrozhaet-kripto-ekosisteme/