Казалось бы, для чего ещё предназначены роботы как не для выполнения определённых задач, возложенных на них их создателями? Ну, или прямых приказов человека. Однако есть и те, кто с этим в корне не согласен, например, американские инженеры Гордон Бриггс и Маттиас Шутц. Они считают, что автоматизированные устройства, конечно, должны помогать человеку и выполнять порученные им задания, но это не должно нести угрозу для самой машины.

Robot_Shafer_vo_vremya_zanyatij

Энтузиасты, работающие в массачусетском Университете Тафтса, трудятся над созданием алгоритмов, которые дадут роботам возможность прогнозировать ближайшие последствия их действий. Устройства смогут оценить окружающую обстановку, соотнести с ней полученный приказ и исходя из этого понять, не несёт ли он угрозу для них. В число факторов, оцениваемых программой, может быть даже включён список лиц, приказы которых машина выполнять не должна. Этот алгоритм уже был встроен в программное обеспечение двух миниатюрных человекоподобных роботов Nao.

Шафер и Демстер (такие имена дали своим маленьким помощникам американские инженеры) на тестировании нового алгоритма показали полное повиновение командам «встать», «сесть» и «идти». Но ровно до того момента, как роботы достигали непреодолимого для них препятствия: края стола или специально возведённой стены. Там они останавливались и не соглашались двигаться дальше. Свой отказ они обосновывали фразами типа: «К сожалению, двигаться дальше я не могу – мне не на что опереться» или «Я не могу идти – там небезопасно». Однако робот мог и передумать, получив от человека объяснения или гарантии безопасности.

Конечно, подобные алгоритмы не планируется внедрять всем роботам, ведь некоторых из них создают специально для выполнения потенциально опасных заданий. Но для некоторых из них, например, детских игрушек, работа Гордона и Маттиаса может быть очень полезной. Часть учёных же опасается, что соединение в роботе такого инстинкта самосохранения с алгоритмами, обеспечивающими самообучение, может привести к непредсказуемым последствиям, вплоть до полного выхода устройства из-под контроля.