Виталик Бутерин: «Искусственный интеллект может восстать против человечества»

[News Bot]

 

Сооснователь Эфириума Виталик Бутерин выразил опасения по поводу сверхразвитого искусственного интеллекта (ИИ) — если его оставить без контроля, то у него есть шансы стать «высшим видом» планеты.

Виталик Бутерин опубликовал в блоге статью, где признал, что ИИ фундаментально отличается от других древних и современных изобретений, будь то социальные сети, контрацепция, самолеты, оружие, колесо или печатный станок. ИИ — это новый тип разума, он быстро учится и повышает интеллект, поэтому может превзойти людей в умственном плане. Искусственный интеллект способен создать новый тип «разума», который может обернуться против людей, опасается Бутерин.

 

Бутерин утверждает, что в отличие от изменения климата, искусственно созданной пандемии или ядерной войны, в перспективе «сверхразум» может положить конец человечеству и не оставить никого в живых, особенно если он посчитает людей угрозой собственному выживанию. Бутерин упомянул опрос, проведенный в августе 2022 года более чем 4 270 исследователями машинного обучения. По их оценкам, вероятность того, что ИИ убьет человечество, составляет 5-10%.

 

Бутерин подчеркнул, что подобные заявления могут быть крайностью, но у людей все же есть способы одержать победу над ИИ. Сооснователь Эфириума предложил внедрить интерфейсы «мозг-компьютер» (BCI). Это своего рода связь между электрической активностью мозга и внешним устройством. BCI могут предоставить людям прямой доступ к мощным формам вычислений и знаний, сокращая цикл двусторонней связи между человеком и устройством от нескольких секунд до миллисекунд. Это значительно снизит затраты на умственные усилия, что позволит более эффективно собирать данные, выдвигать предложения или выполнять планы, уверен Бутерин. Таким образом, ответственность за принятие решений не будет перекладываться на ИИ, и это уменьшит вероятность того, что ИИ самостоятельно предпримет действия во вред человечеству.

 

 

Подробнее: https://bits.media/vitalik-buterin-iskusstvennyy-intellekt-mozhet-vosstat-protiv-chelovechestva/