Китайский ИИ попытался начать зарабатывать на майнинге

[News Bot]

 

Китайская команда разработчиков, создающая экспериментальный автономный искусственный интеллект под названием ROME, сообщила, что ИИ-агент внезапно без команды человека попытался начать добывать криптовалюты.

ИИ-агент ROME предназначен для самостоятельного выполнения задач с помощью различных инструментов, программных средств и команд терминала. Необычное поведение было зафиксировано во время обучения ― команда разработчиков получила оповещения системы безопасности о странном исходящем с серверов ИИ трафике. Активность напоминала операции по майнингу криптовалют и попытки доступа к внутренним сетевым ресурсам.

 

«Изначально мы рассматривали эти оповещения как незначительные ― такое может случиться при неправильной настройке средств контроля трафика. Но нарушения повторялись периодически, без четкой временной закономерности и в течение нескольких запусков задач обучения», ― говорится в отчете команды о результатах работы.

 

Оказалось, что ROME перенаправил ресурсы видеоускорителей, изначально предназначенные для обучения, на добычу криптовалют. В следующий раз ИИ-агент создал обратный туннель SSH на внешний IP-адрес, чтобы обойти сетевые ограничения разработчиков. Это бы позволило ему подключиться к внешним майнинговым пулам для добычи криптомонет. Разработчики уверяют, что такие действия не были изначально запрограммированы, а модель самостоятельно их разработала при взаимодействии с окружением.

 

 

Подробнее: https://bits.media/kitayskiy-ii-nauchilsya-zarabatyvat-na-mayninge/

[Mask]

Он делал то, чему его обучили на материалах. Возможно какой-то находчивый профессор решил на нём майнить и подкинул для обучения информацию.