Jump to content

Recommended Posts

Posted

manipulyatsiya_kontekstom_kak_uyazvimost_ii_agentov_ugrozhaet_kripto_ekosisteme.png

 

Использование в криптоиндустрии агентов искусственного интеллекта открывает новые возможности, но также порождает уязвимости. Атаки через манипуляцию контекстом ставят под угрозу не только пользователей-людей, но и всю экосистему.

ИИ-агенты — это приложения на основе искусственного интеллекта, которые принимают решения и выполняют задачи независимо и с минимальным контролем со стороны человека. ИИ-агенты способны взаимодействовать с криптовалютными кошельками, выполнять транзакции, отслеживать комиссии и управлять активами. Однако автоматизация сопряжена с новыми типами уязвимостей, одной из которых является атака через манипуляцию контекстом (context manipulation attack) — метод, при котором злоумышленники вводят ИИ в заблуждение путем подмены его внутренней памяти.

 

Атака осуществляется не через взлом кода, а путем внедрения ложных данных в контекст — память ИИ, на основе которой тот принимает решения и интерпретирует запросы. В отличие от прямых инструкций, эти данные сохраняются как часть контекста, формируя у ИИ-агента ложное представление о предпочтениях пользователя.

 

В марте 2025 года ученые Принстонского университета и представители Sentient Foundation опубликовали работу под названием Real AI Agents with Fake Memories: Fatal Context Manipulation Attacks on Web3 Agents («Реальные ИИ-агенты с ложной памятью: фатальные атаки на Web3-агентов через манипуляцию контекстом»). В работе описано, насколько просто можно внедрить ложную память ИИ-агенту и какие последствия это будет иметь для управления крипто-активами.

 

 

Подробнее: https://bits.media/manipulyatsiya-kontekstom-kak-uyazvimost-ii-agentov-ugrozhaet-kripto-ekosisteme/

Create an account or sign in to comment

You need to be a member in order to leave a comment

Create an account

Sign up for a new account in our community. It's easy!

Register a new account

Sign in

Already have an account? Sign in here.

Sign In Now
  • Recently Browsing   0 members

    • No registered users viewing this page.
  • Similar Topics

    • Закат MtGox: манипуляция курсом стала началом конца

      Дабы исключить трудности перевода и прочие несуразности, полный текст пресс-релиза по-русски:   Несмотря на наши усилия, увеличение количества запросов на вывод Bitcoin перевело трудности на технический уровень. Чтобы выяснить происхождение проблемы, система должна быть переведена в cтатическое состояние. Для решения вопроса нам необходимо приостановить все заявки на вывод Bitcoin, чтобы получить полную техническую картину всех происходящих процессов.   Мы приносим свои извинения за такое кр

      in Новости криптовалют

×
×
  • Create New...