Мозг в колбе

В издательстве «Альпина нон-фикшн» вышла книга «Что мы думаем о машинах, которые думают: Ведущие мировые ученые об искусственном интеллекте», в которой собраны мнения мировых ученых, инженеров, философов и писателей — в общей сложности почти 200 эссе. Публикуем четыре из них — о том, заберут ли роботы нашу планету себе, надо ли их бояться или стоит подчиниться, помогут ли нам машины стать умнее, как они изменят образование и не придется ли в будущем человеку выбирать для своего робота школу и вуз.

Не можешь победить — присоединяйся

Фрэнк Типлер. Профессор математической физики Тулейнского университета; автор, совместно с Джоном Барроу, книги «Антропный космологический принцип» (The Anthropic Cosmological Principle), автор книги «Физика бессмертия» (The Physics of Immortality)

Земля обречена. Астрономам уже несколько десятилетий известно, что однажды Солнце поглотит Землю, полностью уничтожив биосферу, если только разумная жизнь не покинет планету до того, как это произойдет. Люди не приспособлены к жизни вдали от Земли — да вообще ни один многоклеточный организм, в основе которого лежат соединения углерода, не приспособлен к этому. Но к этому приспособлен искусственный интеллект, и однажды именно он с загруженными в него сознаниями людей (по сути, единый организм) колонизирует космос.

Несложные подсчеты показывают, что наши суперкомпьютеры уже обладают вычислительной мощностью человеческого мозга. Нам пока неизвестно, как создать сравнимый с ним по уровню и обладающий творческими способностями искусственный интеллект, но через 20 лет у персональных компьютеров будет мощность сегодняшних суперкомпьютеров, а еще через 20 хакеры решат проблему программирования ИИ, и все это произойдет задолго до создания первой нашей колонии на Луне или Марсе. Именно искусственный интеллект, а не человек колонизирует эти планеты или, возможно, разберет их на кусочки. Ни один представитель углеродной жизни не способен пересечь межзвездное пространство.

Нет причин бояться искусственного интеллекта и загруженных в него людей. Стивен Пинкер установил, что по мере развития технологической цивилизации уровень насилия снижается. Разумеется, это происходит благодаря тому, что научный и технический прогресс зависит от добровольного обмена идеями между отдельными учеными и инженерами. Насилие между людьми — пережиток родоплеменного прошлого и возникшего на его основе общества. Представители ИИ будут появляться на свет как личности, а не как члены племени и с рождения иметь установку на научный подход, в противном случае они не смогут приспосабливаться к экстремальным условиям космоса.

Для конфронтации между людьми и искусственным интеллектом нет причин. Человек способен жить в очень узком диапазоне условий окружающей среды — в тонкой кислородсодержащей газовой оболочке вокруг небольшой планеты. В распоряжении искусственного интеллекта будет вся Вселенная. Он покинет Землю, не оглядываясь.

Мы, люди, возникли в Восточно-Африканской рифтовой долине, сейчас это жуткая пустыня. Почти все мы оттуда ушли. Кто-нибудь хочет обратно?

Любой человек, что пожелает присоединиться к искусственному интеллекту в его экспансии, может стать загрузкой — такая технология должна появиться примерно в одно время с разработкой ИИ. Человеческая загрузка будет способна мыслить так же быстро, как компьютер, и если сама того пожелает, то конкурировать с ИИ. Не можешь победить — присоединяйся.

К конце концов присоединятся все люди. Земля обречена, помните? Когда рок будет близок, у любого оставшегося в живых и не желающего умереть человека не останется иного выбора, кроме как стать человеческой загрузкой. А если эти люди пожелают сохранить биосферу, она также может быть загружена.

Искусственный интеллект спасет нас всех.

Это будет дикая гонка

Джон Мазер. Главный астрофизик лаборатории наблюдательной космологии, Центр космических полетов им. Годдарда, НАСА; автор книги «Самый первый свет: подлинная история научного путешествия к началу Вселенной» (The Very First Light: The True Inside Story of the Scientific Journey Back to the Dawn of the Universe)

Мыслящие машины эволюционируют точно так же, как описанные Дарвином живые (и мыслящие) биологические виды, — посредством конкуренции, сотрудничества, борьбы за выживание и воспроизводства. Машины становятся интереснее по мере того, как они учатся понимать физические объекты и управлять ими либо непосредственно, либо при участии людей.

Мы пока не обнаружили такого закона природы, который препятствовал бы появлению настоящего универсального искусственного интеллекта, так что я думаю, что это произойдет, и довольно скоро, учитывая триллионы долларов, что люди инвестируют в электронные аппаратные средства, а также те триллионы, которые заработают потенциальные победители. Эксперты говорят, что мы недостаточно хорошо понимаем, что такое интеллект, чтобы его построить, и тут согласен, но набор из сорока шести хромосом этого тоже не понимает и тем не менее управляет формированием известного нам самопрограммируемого биокомпьютера. Другие эксперты говорят, что закон Мура скоро перестанет работать, и мы не сможем позволить себе совершенствовать аппаратные средства в прежнем темпе; даже если это и так, «скоро» — понятие растяжимое.

Я пришел к выводу, что мы уже поддерживаем эволюцию мощного искусственного интеллекта, а он, в свою очередь, повлияет на развитие привычных нам могущественных сил: бизнеса, индустрии развлечений, медицины, государственной безопасности, производства оружия, власти на всех уровнях, преступности, транспорта, горнодобывающей промышленности, производства, торговли, секса — да чего угодно!

Я думаю, что результаты нам не понравятся. А они могут появиться очень быстро, настолько быстро, что великие империи падут и на их месте вырастут новые, а у людей будет самый минимум времени, чтобы приспособиться к жизни в новой действительности.

Я не знаю, окажется ли кто-нибудь достаточно умным и одаренным для того, чтобы сохранить власть над этим джинном, потому что контролировать, возможно, придется не только машины, но и людей, дорвавшихся до новых технологий и имеющих злые намерения.

Что случится, когда умные роботы станут справляться с большинством наших рутинных дел? Кто будет их строить, кто будет ими владеть и кто потеряет работу? Будут ли роботы распространены только в странах с развитой экономикой или начнется коммерческая экспансия высоких технологий в остальные части мира? Будут ли они достаточно дешевыми, чтобы вытеснить всех фермеров с полей? Будет ли каждая машина обладать собственной личностью и не придется ли нам думать, в какой детский сад ее отправить, в какую школу или колледж? Будут ли роботы конкурировать друг с другом за рабочие места? Станут ли они величайшими гиперсоциальными хищниками, вытеснив людей и сделав их гражданами второго сорта или даже чем-то меньшим? Будут ли они заботиться об окружающей среде? Будут ли обладать чувством ответственности, и если да, то будут ли наделены им изначально или же разовьют его самостоятельно? Нет никакой гарантии, что они станут следовать трем законам робототехники Айзека Азимова.

С другой стороны, я ученый, и мне интересно, как можно применить искусственный интеллект к исследованию новых наук и технологий. Преимущества для космических исследований очевидны: машинам не нужно дышать, они могут выдерживать экстремальные температурные и радиационные условия. Так что им будет куда легче, чем нам, колонизировать Марс. Они смогут отправиться во внешнюю область Солнечной системы, имея больше шансов выйти оттуда на связь, чем нынешние автоматические космические аппараты, а когда-нибудь смогут и полететь к звездам — если захотят.

Так же дело обстоит и с морскими глубинами. У нас уже есть тяжелая техника, работающая на донных буровых установках, но про морское дно мы все еще почти ничего не знаем, а ценность находящихся под водой минеральных и энергетических ресурсов неисчислима. Не исключено, что когда-нибудь случится война роботов в глубинах океана.

Мыслящие машины могут оказаться похожими на нас, с таким же желанием все исследовать, но могут быть и совсем другими. Зачем мне или роботу отправляться в путешествие длиною в тысячу лет к другой звезде через темноту космоса, не имея ни связи с товарищами, ни надежд на спасение, если что-то пойдет не так? Кто-то на такое согласится, кто-то нет. Возможно, мыслящие машины окажутся во многом похожими на свои биологические прототипы.

Это будет дикая гонка далеко за пределами наших самых смелых фантазий или кошмаров. Нет другого способа построить галактическую цивилизацию, за исключением варп-двигателя, и, возможно, кроме нас, никто во всем Млечном Пути не способен на это. Но не факт, что мы переживем столкновение с иным разумом, который сами же и создали.

Искусственный интеллект сделает вас умнее

Терренс Сейновски. Специалист по вычислительной нейрофизиологии; профессор Института Солка; автор, совместно со Стивеном Кварцем, книги «Лжецы, любовники и герои: что новая наука о мозге говорит нам о том, как мы становимся теми, кто мы есть» (Liars, Lovers, and Heroes: What the New Brain Science Reveals About How We Become Who We Are)

Глубинное обучение — актуальная сегодня тема в области машинного обучения. Первые алгоритмы такого рода появились в 1980-х годах, но компьютеры тогда были медленными и могли моделировать лишь несколько сотен нейронов с одним слоем скрытых элементов между вводом и выводом. Обучение на примерах — привлекательная альтернатива искусственному интеллекту, основанному на правилах, ведь его создание — очень трудоемкая задача. С бо́льшим количеством слоев скрытых элементов между вводом и выводом можно получить больше абстрактных свойств из данных для обучения. В структуре коры головного мозга миллиарды нейронов образуют десять слоев. Раньше много спорили о том, насколько будет улучшаться производительность нейронных сетей с ростом их размеров и глубины. В те годы не хватало не только более производительных компьютеров, но также и больших объемов данных для обучения сети.

Благодаря 30 годам исследований, повышению производительности компьютеров в миллион раз и большим данным из интернета мы теперь знаем ответ на этот вопрос: нейронные сети, увеличенные до двенадцати слоев в глубину и имеющие миллиарды связей, превзошли по эффективности лучшие алгоритмы машинного зрения и распознавания объектов, а также коренным образом изменили расшифровку речи. Алгоритмы редко так хорошо масштабируются, а это может означать, что скоро нейронные сети научатся решать и более сложные проблемы. Последние достижения науки и техники позволяют применить глубинное обучение к обработке естественного языка. Глубинные рекуррентные сети с кратковременной памятью научились переводить предложения с английского на французский и продемонстрировали высокие результаты. Другие сети глубинного обучения оказались способны создавать подписи к изображениям, проявив при этом неожиданную проницательность, а иногда даже остроумие.

Контролируемое обучение, использующее нейронные сети, — это шаг вперед, но им все-таки еще далеко до интеллекта. Функции, выполняемые ими, аналогичны некоторым возможностям коры головного мозга — она также увеличивалась в результате эволюции, но для решения сложных познавательных проблем она взаимодействует со множеством других отделов мозга.

В 1992 году Джеральд Тезоро из IBM, используя обучение с подкреплением, получил нейронную сеть, способную играть в нарды на уровне чемпиона мира. Она играла самостоятельно, и единственной обратной связью, которую она получала, был результат: информация о том, какая сторона выиграла.

Мозг использует обучение с подкреплением, чтобы создавать цепочки решений для достижения целей (таких как отыскание пищи) в условиях неопределенности. DeepMind — компания, которую в 2014 году купила Google, — недавно использовала аналогичный подход, чтобы научить нейронные сети играть в семь классических игр Atari. Единственными вводными данными для системы обучения были пиксели экране и набранные очки — та же самая информация, которую используют люди. Программа научилась играть лучше, чем самые опытные игроки.

Какое воздействие эти достижения окажут на нас в ближайшем будущем? Мы не особенно хорошо справляемся с прогнозами последствий новых изобретений, и часто нужно время, чтобы найти для них нишу, но у нас уже есть один пример, позволяющий понять, к чему это может привести. Когда в 1997 году Deep Blue обыграл Гарри Каспарова, чемпиона мира по шахматам, другие шахматисты оставили попытки соревноваться с машинами? Вовсе нет: они стали использовать шахматные программы, чтобы научиться играть лучше, и, как следствие, общий уровень игры в мире повысился.

Люди — не самый быстрый и не самый сильный вид, но мы учимся лучше всех. Люди изобрели формальную школу, где дети много лет трудятся, совершенствуясь в чтении, письме и арифметике и получая более специализированные навыки. Лучше всего, когда взрослый учитель взаимодействует с учеником один на один, подстраиваясь под конкретного ребенка. Однако это трудоемкий процесс. Немногие могут позволить себе индивидуальное обучение, и конвейерная система образования, характерная для большинства сегодняшних школ, — довольно плохая замена. Компьютерные программы могут следить за успеваемостью ученика, а некоторые — даже обеспечивать корректирующую обратную связь в случае с наиболее распространенными ошибками. Однако мозги у всех разные, и компьютер не заменит учителя-человека, выстраивающего долгосрочные отношения с учеником. Можно ли создать искусственного наставника для каждого ребенка? У нас уже есть рекомендательные системы в интернете, которые говорят: «Если вам понравился X, то вам может понравиться и Y», — они построены на анализе данных множества пользователей со схожими паттернами предпочтений.

Когда-нибудь умственное развитие каждого ученика можно будет проследить с самого детства с помощью персонализированной системы глубинного обучения. Современный уровень технологии не может достичь такой степени понимания человеческого разума, но уже сейчас Facebook предпринимает попытки по созданию с помощью имеющейся огромной базы данных друзей, фотографий и лайков модели психического для каждого человека на планете.

Потому я сделаю такой вывод: чем больше будет когнитивных приспособлений, вроде шахматных программ и рекомендательных систем, тем умнее и способнее станут люди.

Смогут ли машины стать такими же умными, как трехлетние дети?

Элисон Гопник. Психолог, Калифорнийский университет в Беркли; автор книги «Ребенок-философ» (The Philosophical Baby)

Машина способна обыграть Каспарова, но может ли она сравниться умом с трехлетним малышом?

Обучение стало основой нового подъема ИИ. Но лучшие ученики во вселенной — это, определенно, человеческие дети. В ходе последних 10 лет изучающие развитие когнитивисты, часто работающие совместно со специалистами по теории вычислительных систем, пытаются выяснить, каким образом детям удается так много всего выучить за столь короткое время.

Удивительно, как сложно предсказать при создании искусственного интеллекта, что будет сделать легко, а что — сложно. Сперва мы думали, что вещи, которыми занимаются умнейшие из людей, вроде игры в шахматы или доказательства теорем — весь этот экстремальный спорт для «высоколобых» — окажутся самыми сложными для компьютеров. В действительности они оказались легкими. А вот то, что может сделать любой дурак, к примеру опознать предмет или поднять его, гораздо труднее. Оказывается, намного проще смоделировать рассуждения хорошо подготовленного взрослого специалиста, чем процесс обучения самого обычного ребенка. Так где же машины, догоняющие по способностям трехлетних детей, и какие типы обучения для них все еще недосягаемы?

За последние 15 лет мы выяснили, что даже младенцы удивительно хорошо справляются с обнаружением статистических паттернов. И специалисты по вычислительным системам изобрели машины, которые тоже исключительно хорошо справляются со статистическим обучением. Технологии вроде глубинного обучения обнаруживают даже очень сложные закономерности в огромных массивах данных. В результате компьютеры вдруг научились делать такое, что раньше для них было невозможно, например давать правильные заголовки для картинок из интернета.

Проблема с таким типом чисто статистического машинного обучения заключается в том, что оно зависит от огромного объема данных, причем они должны быть предварительно обработаны человеческим мозгом. Компьютеры могут распознать картинку из интернета только потому, что миллионы реальных людей редуцировали невероятно сложный набор данных со своей сетчатки до крайне стилизованного, ограниченного и упрощенного снимка со своим котейкой в Instagram, а также дали изображению совершенно определенный заголовок. Антиутопия из одного простого факта: на самом деле все мы — компьютеры Google, пребывающие под наркозом иллюзии, что нам просто нравятся картинки с котиками. Однако даже с такой помощью машинам все еще требуются огромные массивы данных и предельно сложные вычисления, чтобы посмотреть на новое изображение и сказать: «Киса!», а детям для этого нужно дать всего лишь пару примеров.

Кроме того, уровень обобщения для такого статистического обучения ограничен, будь вы ребенком, компьютером или ученым. Более мощный способ познания — формулировать гипотезы о том, как устроен мир, и проверять, насколько они согласуются с фактами. Тихо Браге, Google Scholar своего времени, объединил огромный объем данных астрономических наблюдений и смог использовать их для того, чтобы предсказывать положение звезд в будущем. Но Иоганн Кеплер благодаря своей теории смог делать неожиданные, масштабные, совершенно инновационные прогнозы, находившиеся далеко за пределами кругозора Браге. Дошкольники делают то же самое.

Еще одно большое преимущество машинного обучения — это формализация и автоматизация такого типа проверки гипотез. Байесовская теория вероятности стала важной частью процесса познания. Мы можем математически описать некую случайную гипотезу, например о том, как изменения температуры океана влияют на ураганы, а потом вычислить, насколько вероятно, что такая гипотеза верна, на основании данных наблюдений.

Машины теперь хорошо умеют проверять и оценивать верность гипотез на основании фактических данных, что оказывает влияние на все на свете — от медицинской диагностики до метеорологии. Когда мы изучаем маленьких детей, то видим, что они рассуждают подобным образом, и это отчасти объясняет, как им удается настолько быстро учиться.

Таким образом, компьютеры прекрасно умеют делать выводы из структурированных гипотез, особенно вероятностные выводы. Но действительно сложная проблема состоит в том, чтобы решить, какие гипотезы из всего их множества достойны того, чтобы их проверять. Даже дошкольники удивительно хорошо справляются с построением творческих, нестандартных гипотез. Они как-то сочетают рациональность и иррациональность, системность и случайность, и мы понятия не имеем, как они это делают. Мысли и действия маленьких детей часто выглядят бессмысленными, даже бредовыми — просто попробуйте как-нибудь поиграть в дочки-матери с трехлетними девочками. Именно поэтому психологи, например Пиаже, думали, что дети иррациональны и нелогичны. Но у них также есть сверхъестественная способность нацеливаться как раз на подходящие странные гипотезы; на самом деле они с этим справляются существенно лучше, чем взрослые.

Конечно, идея вычисления заключается как раз в том, что, как только у нас появляется полное детальное описание определенного процесса, мы можем запрограммировать его в компьютере. В конце концов, мы же знаем, что точно существуют физические системы, которые все это умеют. У большинства из нас есть опыт создания таких систем, и даже приятный опыт (по крайней мере, на ранних этапах). Мы называем эти системы детьми. Вычисление — все-таки лучшее и на самом деле единственное научное объяснение тому, как физический объект, которым является мозг, может действовать разумно. Но пока что нам почти ничего неизвестно о том, как устроен творческий процесс познания, который мы наблюдаем у детей. И пока мы этого не узнаем, самые большие и самые мощные компьютеры не сравнятся с маленькими и слабыми человечками.