Совместимость. Как контролировать искусственный интеллект

HUM AN COMPATIBLE

Artificial Intelligence and the Problem of Control

Stuart Russell

VIKING

Москва, 2021

Перевод с английского

С О В М Е С Т И М О С Т Ь

КАК КОНТРОЛИРОВАТЬ
ИСКУССТВЕННЫЙ
ИНТЕЛЛЕКТ

СТЮАРТ РАССЕЛ

ISBN 978-5-00139-288-0 (рус.)
ISBN 9780525558613 (англ.)

УДК 004.8
ББК 32.813
 
Р24
Переводчик Наталья Колпакова
Научный редактор Борис Миркин, д-р техн. наук
Редактор Антон Никольский

Рассел С.
Совместимость. 
Как 
контролировать 
искусственный 
интеллект / Стюарт Рассел ; Пер. с англ. —  М.: Альпина нон-
фикшн, 2021. — 438 с.

ISBN 978-5-00139-288-0 

В массовом сознании сверхчеловеческий искусственный 
интеллект — технологическое цунами, угрожающее не только 
экономике и человеческим отношениям, но и самой цивилизации. 
Конфликт между людьми и машинами видится 
неотвратимым, а его исход предопределенным. Выдающийся 
исследователь ИИ Стюарт Рассел утверждает, что этого сценария 
можно избежать. В своей новаторской книге автор рассказывает, 
каким образом люди уже научились использовать 
ИИ, в диапазоне от смертельного автономного оружия до манипуляций 
нашими предпочтениями, и чему еще смогут его 
научить. Если это случится и появится сверхчеловеческий ИИ, 
мы столкнемся с сущностью, намного более могущественной, 
чем мы сами. Как гарантировать, что человек не окажется 
в подчинении у сверхинтеллекта?
Для этого, полагает Рассел, искусственный интеллект 
должен строиться на новых принципах. Машины должны 
быть скромными и альтруистичными и решать наши задачи, 
а не свои собственные. О том, что это за принципы и как 
их реализовать, читатель узнает из этой книги, которую самые 
авторитетные издания в мире назвали главной книгой об искусственном 
интеллекте.
УДК 004.8
ББК 32.813

Р24

Все права защищены. Никакая часть этой книги не может быть воспроизведена в какой бы 
то ни было форме и какими бы то ни было средствами, включая размещение в сети интернет 
и в корпоративных сетях, а также запись в память ЭВМ для частного или пуб личного использования, 
без письменного разрешения владельца авторских прав. По вопросу организации доступа 
к электронной библиотеке издательства обращайтесь по адресу mylib@alpina.ru

© Stuart Russell, 2019
 
All rights reserved.
© Издание на русском языке, перевод, оформление. 
ООО «Альпина нон-фикшн», 2021

Эта книга издана в рамках программы 

«Книжные проекты Дмитрия Зимина» 

и продолжает серию «Библиотека «Династия». 

Дмитрий Борисович Зимин — основатель 

компании «Вымпелком» (Beeline), фонда 

некоммерческих программ «Династия» и фонда 

«Московское время».

Программа «Книжные проекты Дмитрия 

Зимина» объединяет три проекта, хорошо 

знакомые читательской аудитории: издание 

научно-популярных переводных книг 

«Библиотека «Династия», издательское 

направление фонда «Московское время» 

и премию в области русскоязычной научно-

популярной литературы «Просветитель».

Подробную информацию о «Книжных проектах 

Дмитрия Зимина» вы найдете 

на сайте ziminbookprojects.ru.

ОГЛАВЛЕНИЕ

Предисловие ............................................................................ 

 
Что, если мы добьемся своего? ............................... 

 
Разумность людей и машин ....................................

 
Как может развиваться ИИ? ................................... 

 
Неправомерное использование ИИ ...................... 

 
Слишком интеллектуальный ИИ .......................... 

 
Спор вокруг не столь могущественного ИИ ........ 

 
Другой подход к ИИ ..............................................

 
Доказуемо полезный ИИ .......................................

 
Затруднение: мы .....................................................

 
Проблема решена? ................................................. 

Приложение А. Поиск решений .......................................... 

Приложение Б. Знание и логика .........................................

Приложение В. Неопределенность и вероятность ............. 

Приложение Г. Обучение на опыте .....................................

Благодарности ....................................................................... 
Благодарность за предоставленные графические 
материалы ............................................................................. 
Примечания .......................................................................... 
Предметно-именной указатель .......................................... 

ПРЕДИСЛОВИЕ

Зачем эта книга? Почему именно сейчас?

Это книга о прошлом, настоящем и будущем нашего осмысления 
понятия «искусственный интеллект» (ИИ) и о попытках 
его создания. Эта тема важна не потому, что ИИ быстро становится 
обычным явлением в настоящем, а потому, что это 
господствующая технология будущего. Могущественные государства 
начинают осознавать этот факт, уже некоторое время 
известный крупнейшим мировым корпорациям. Мы не можем 
с точностью предсказать, как быстро будет развиваться 
технология и по какому пути она пойдет. Тем не менее мы 
должны строить планы, исходя из возможности того, что машины 
далеко обойдут человека в способности принятия решений 
в реальном мире. Что тогда?
Все, что может предложить цивилизация, является продуктом 
нашего интеллекта; обретение доступа к существенно 
превосходящим интеллектуальным возможностям стало бы 
величайшим событием в истории. Цель этой книги — объяснить, 
почему оно может стать последним событием цивилизации 
и как нам исключить такой исход.

СОВМЕСТИМОСТЬ

Общий план книги

Книга состоит из трех частей. Первая часть (главы с первой 
по третью) исследует понятие интеллекта, человеческого 
и машинного. Материал не требует специальных знаний, 
но для интересующихся дополнен четырьмя приложениями, 
в которых объясняются базовые концепции, лежащие в основе 
сегодняшних систем ИИ. Во второй части (главы с четвертой 
по шестую) рассматривается ряд проблем, вытекающих 
из наделения машин интеллектом. Я уделяю особое 
внимание контролю — сохранению абсолютной власти 
над машинами, возможности которых превосходят наши. 
Третья часть (главы с седьмой по десятую) предлагает новое 
понимание ИИ, предполагающее, что машины всегда будут 
служить на благо человечеству. Книга адресована широкому 
кругу читателей, но, надеюсь, пригодится и специалистам 
по ИИ, заставив их пересмотреть свои базовые предпосылки.

ЧТО, ЕСЛИ МЫ ДОБЬЕМСЯ 
СВОЕГО?

М

ного лет назад мои родители жили в английском городе 
Бирмингеме возле университета. Решив уехать 
из города, они продали дом Дэвиду Лоджу , профессору 
английской литературы, на тот момент уже известному 
романисту. Я с ним так и не встретился, но познакомился 
с его творчеством, прочитав книги «Академический обмен» 
и «Тесный мир», в которых главными героями были вымышленные 
ученые, приезжающие из вымышленной версии Бирмингема 
в вымышленную версию калифорнийского Беркли. 
Поскольку я был реальным ученым из реального Бирмингема, 
только что переехавшим в реальный Беркли, создавалось 
впечатление, что некто из «Службы совпадений» подает 
мне сигнал.
Меня особенно поразила одна сцена из книги «Тесный 
мир». Главное действующее лицо, начинающий литературовед, 
выступая на крупной международной конференции, 

СОВМЕСТИМОСТЬ

обращается к группе корифеев: «Что, если все согласятся 
с вами?» Вопрос вызывает ступор, потому что участников 
больше устраивает интеллектуальная битва, чем раскрытие 
истины и достижение понимания. Мне тогда пришло в голову, 
что крупнейшим деятелям в сфере ИИ можно задать тот же 
вопрос: «Что, если вы добьетесь своего?» Ведь их целью всегда 
являлось создание ИИ человеческого или сверхчеловеческого 
уровня, но никто не задумывался о том, что произойдет, 
если нам это удастся.
Через несколько лет мы с Питером Норвигом  начали работать 
над учебником по ИИ, первое издание которого вышло 
в  г. Последний раздел этой книги называется «Что произойдет, 
если у нас получится?». В нем обрисовывается возможность 
хорошего и плохого исходов, но не делается конкретного 
вывода. К моменту выхода третьего издания в  г. 
многие наконец задумались о том, что сверхчеловеческий 
ИИ необязательно благо, но эти люди находились по большей 
части за пределами магистральной линии исследования 
ИИ. К  г. я пришел к убеждению, что это не просто очень 
важная тема, но, возможно, основной вопрос, стоящий перед 
человечеством.
В ноябре  г. я выступал с лекцией в Даличской картинной 
галерее, знаменитом художественном музее в южной 
части Лондона. Аудитория состояла главным образом из пенсионеров — 
не связанных с наукой, просто интересующихся 
интеллектуальными вопросами, — и мне пришлось избегать 
любых специальных терминов. Мне это показалось подходящей 
возможностью впервые опробовать свои идеи на публике. 
Объяснив, что такое ИИ, я огласил пятерку кандидатов на звание «
величайшего события в будущем человечества»:

. 
Мы все умираем (удар астероида, климатическая ката-

строфа, пандемия и т. д.).

ЧТО, ЕСЛИ МЫ ДОБЬЕМСЯ СВОЕГО?

. 
Живем вечно (медицина решает проблему старения).

. 
Осваиваем перемещение со сверхсветовой скоростью и по-

коряем Вселенную.

. 
Нас посещает превосходящая инопланетная цивилизация.

. 
Мы создаем сверхразумный  ИИ.

Я предположил, что пятый вариант, создание сверхразумного  
ИИ, станет победителем, поскольку это позволило бы 
нам справиться с природными катастрофами, обрести вечную 
жизнь и освоить перемещения со сверхсветовыми скоростями, 
если подобное в принципе возможно. Для нашей 
цивилизации это был бы громадный скачок. Появление 
сверхразумного ИИ во многих отношениях аналогично прибытию 
превосходящей инопланетной цивилизации, но намного 
более вероятно. Что, пожалуй, самое важное, ИИ, в отличие 
от инопланетян, в какой-то степени находится в нашей 
власти.
Затем я предложил слушателям представить, что произойдет, 
если мы получим от инопланетной цивилизации 
сообщение, что она явится на Землю через – лет. Слово 
«светопреставление» слишком слабо, чтобы описать последствия. 
В то же время наша реакция на ожидаемое появление 
сверхразумного  ИИ является, как бы это сказать, — индифферентной, 
что ли? (В последующей лекции я проиллюстрировал 
это в форме электронной переписки, см. рис. .) В итоге 
я так объяснил значимость сверхразумного ИИ: «Успех в этом 
деле стал бы величайшим событием в истории человечества… 
и, возможно, последним ее событием».
Через несколько месяцев, в апреле  г., когда я был 
на конференции в Исландии, мне позвонили с Национального 
общественного радио с просьбой дать интервью о фильме «Превосходство», 
только что вышедшем на экраны в США. Я читал 
краткое содержание и обзоры, но фильма не видел, поскольку