777ru (777ru) wrote,
777ru
777ru

Categories:

Восстания машин не будет

Исследователи DeepMind сообщили, что разрабатывают инструмент аварийного отключения самообучающихся алгоритмов. Он должен по одному клику останавливать систему, если она “намерена произвести действия, представляющие опасность и приводящие к необратимым последствиям”.

Инструмент для отключения необходим, чтобы остановить работу системы искусственного интеллекта в режиме реального времени. Если система, работающая под наблюдением человека, будет близка к выполнению действий, которые могут навредить ей самой, человеку или её окружению, оператор сможет «нажать на красную кнопку», чтобы прекратить её работу.

Инструмент, в первую очередь, будет использован в робототехнике. Подача команды «стоп» должна прервать деятельность робота, чтобы обезопасить его самого, людей, работающих рядом, и другое окружение.

Кроме того, всё больше ученых приходят к мысли, что свободу искусственного интеллекта необходимо ограничить.



Tags: Восстание машин, Искусственный интеллект
Subscribe

Recent Posts from This Journal

  • Post a new comment

    Error

    default userpic

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 4 comments