Тревожная кнопка помешает искусственному интеллекту выйти из под контроля

Артем Костенко, опубликовано 6 июня 2016 г.
Рубрика: ОС и софт

До сих пор все еще не создан тот самый искусственный интеллект (ИИ), о котором пишут в фантастических романах и снимают фантастические фильмы. Когда это таки-произойдет, человечеству придется всерьез задуматься о своей безопасности, поскольку ИИ в один «прекрасный» день может решить, что ему неплохо и без человека. Но до описываемого голливудскими сценаристами мрачного будущего еще далеко. Однако некоторые уже сейчас начинают потихоньку готовиться к предотвращению кибер-апокалипсиса, вызванного потомками «Скайнета».

panic button

Искусственный интеллект даже в более простом виде, хотя бы в виде той же обученной нейронной сети, может представлять ничуть не меньшую угрозу, чем полноценный ИИ с цифровым эквивалентом сознания. Поэтому компания DeepMind, дочерняя структура Google, разрабатывает отдельный механизм, своеобразный «стоп-кран», за который можно дернуть в подходящий момент и остановить разбушевавшийся ИИ, чтобы не дать ему причинить вред ни людям, ни самому себе.

Между тем, DeepMind считает, что создать универсальную «красную кнопку» для всех видов ИИ будет очень сложно. Одни алгоритмы вообще не нуждаются в механизмах сторонней остановки, тогда как для некоторых других пока даже не разработана сама технология останова. К счастью, старт проекту дан, так что к тому времени, когда искусственный интеллект действительно начнет представлять потенциальную опасность для человечества, надежная «красная кнопка», хочется надеяться, будет уже создана.