Times: британский профессор Рассел предупредил о риске гибели человечества из-за ИИ
Фото: Виталий Белоусов / РИА Новости
Появление искусственного интеллекта (ИИ), способного решать любые логические задачи, грозит человечеству катастрофой, рассказал в интервью The Times британский ученый, почетный профессор Калифорнийского университета в Беркли Стюарт Рассел.
По его словам, бесконтрольные разработки в этой области привели к тому, что человечество добилось прогресса, которого не ожидало. По мнению Рассела, люди изначально не задумывались, для чего нужен будет этот интеллект. Он считает, что сверхразумные машины в будущем будут сопротивляться попыткам ими управлять и станут опасными.
Ученый предупредил, что люди вероятно не смогут сохранить власть «над сущностями, которые сильнее» их. Он призвал прекратить исследования в этой области. «Ставки уже не могут быть выше: если мы не контролируем нашу собственную цивилизацию, то лишаемся права голоса о нашем будущем существовании», — предупредил он о риске гибели человечества.
По мнению специалиста, если учить ИИ человеческому поведению, то он сможет ставить человеческие цели. «А человеческие цели включают в себя самые разные вещи. Можно только представить, какой катастрофой стало бы появление действительно эффективных систем, которые преследовали бы такие цели», — добавил он.
Ранее ученые из Мичиганского университета выявили, что новая система искусственного интеллекта (ИИ) позволяет роботам проводить до 10 тысяч автономных научных экспериментов в день.
