Times: британский профессор Рассел предупредил о риске вымирания человечества из-за ИИ

Появление искусственного интеллекта (ИИ), способного решать все логические задачи, грозит человечеству катастрофой, сказал в интервью The Times британский ученый, почетный профессор Калифорнийского университета в Беркли Стюарт Рассел.

По его словам, бесконтрольные разработки в этой области привели к тому, что человечество добилось неожиданного прогресса. По словам Рассела, изначально люди не задумывались, для чего нужна эта информация. Он считает, что сверхразумные машины будущего будут сопротивляться попыткам управлять ими и станут опасными.

Ученый предупредил, что люди вряд ли смогут удерживать власть «над сущностями сильнее», чем они сами. Он призвал прекратить исследования в этой области. «Ставки не могут быть выше: если мы не будем контролировать нашу собственную цивилизацию, мы потеряем право голосовать за наше будущее существование», — предупредил он о риске вымирания человечества.

По словам эксперта, если ИИ научить человеческому поведению, то он сможет ставить человеческие цели. «И человеческие цели включают в себя все виды вещей. Можно только представить, какая была бы катастрофа, если бы появились действительно эффективные системы, преследующие такие цели», — добавил он.

Ранее ученые из Мичиганского университета обнаружили, что новая система искусственного интеллекта (ИИ) позволяет роботам проводить до 10 000 автономных научных экспериментов в день.

Source

ЧИТАТЬ   Инженеры-программисты научили робототехнику новым когнитивным способностям на основе искусственного интеллекта

От admin