Анлайн-дадатак да газеты
"Народная Воля"

Исследователи из Оксфордского университета и принадлежащей Google компании DeepMind приступили к разработке системы аварийного отключения самообучающихся алгоритмов.
13:03 7 чэрвеня 2016
21
Памер шрыфта

«Если такой агент [искусственный интеллект] работает в режиме реального времени под наблюдением человека, то иногда может возникнуть ситуация, при которой оператор будет вынужден нажать на большую красную кнопку, чтобы остановить агента от выполнения действий, опасных для самого агента или его окружения», — приводит статьи, посвященной созданию аварийной системы.

Авторы исследования отмечают, пишет Newsru.com, что самообучающиеся алгоритмы в перспективе могут обнаружить способ обхода или игнорирования штатной стоп-команды оператора. Цель анонсированной работы состоит в том, чтобы создать фреймворк, который не позволит искусственному интеллекту найти способ игнорирования команды отключения.

Так называемая большая красная кнопка при необходимости должна будет гарантированно прервать текущую деятельность робота и максимально обезопасить его и окружающих при потенциально опасной ситуации. Еще одно предназначение кнопки заключается в предотвращении действий, которые могут привести к «необратимым последствиям».

Отметим, что возможный выход искусственного интеллекта из-под контроля не раз ложился в основу сюжетов фантастических книг и фильмов. Кроме того, вопросы безопасности, связанные с разработкой систем ИИ, поднимали известные ученые и предприниматели. Например, о потенциальной опасности ИИ предупреждали основатель компаний Tesla и SpaceX Элон Маск и известный физик-теоретик Стивен Хокинг.

Каб мець магчымасць прачытаць цікавыя і актуальныя артыкулы, купляйце PDF-версію газеты!
Хуткая аплата праз смс-сервіс

Чытайце таксама

Названа неожиданная опасность недосыпания

Ученые Йельского университета выяснили, что недосыпание у подростков может привести к алкогольной зависимости. Об этом сообщается в пресс-релизе на сайте MedicalXpress.
8 снежня 2017

От лекарств нового поколения до космических ядерных энергоустановок

12–13 декабря пройдет II Съезд белорусских ученых, в котором примут участие 2100 делегатов из всех регионов страны.
5 снежня 2017

Шокирующее открытие: в недрах Земли найдены следы множества других планет

Новорожденная Земля "съела" несколько зародышей планет после ее столкновения с Тейей, прародительницей Луны, следы которых геологи нашли в древнейших породах планеты в Гренландии.