Аннотация: Статья опубликована в газете "Секретные материалы", N 26, 2017 г.
Татьяна Алексеева
Вторжение роботов началось
Разговоры об искусственном интеллекте и его опасности для человечества то затихают, то снова начинаются с новой силой. В последние месяцы произошел очередной всплеск споров на эту тему: некоторые политики и ученые высказали опасения, что высокоразвитые компьютеры могут захватить власть и уничтожить людей, другие попытались успокоить паникеров, объяснив, что это невозможно, а третьи и вовсе заявили, что счастливое будущее человечества возможно только с появлением искинов. Кто же из них прав? И можно ли дать ответ на этот вопрос?
Предыдущая волна паники, вызванной страхом перед "компьютерами, которые скоро нас поработят", прокатилась по миру в 1997 году, когда чемпион мира по шахматам Гарри Каспаров проиграл шахматную партию компьютеру Deep Blue, созданному компанией IBM. Самые разные люди, и далекие от компьютерных технологий, и специалисты в этом деле, были уверены, что дни человечества сочтены. То, что компьютерная программа оказалась совершеннее, чем живой, способный устать или отвлечься и поэтому допустить ошибку человек, расценивалось как окончательная победа искусственного разума над биологическим, как полное поражение человека перед "железками". И даже самые оптимистично настроенные футурологи пророчили, что в относительно недалеком будущем искусственный интеллект достигнет своего расцвета и либо уничтожит людей, либо не даст им развиваться дальше, и они сами выродятся и вымрут.
С тех пор прошло двадцать лет, и что-то роботы нас до сих пор не поработили - если, конечно, не считать людей, зависимых от виртуальной жизни. Однако компьютерные технологии стремительно развиваются, и очередные достижения в этой области по-прежнему пугают. В том числе и очень высокопоставленных людей.
- Правительствам во всем мире надо торопиться. Пока к власти не пришел искусственный суперинтеллект и не поменял нам всем органы и не нажал кнопку "delete", чтобы обнулить наши мозги, мы еще можем что-то сделать, - заявил на форуме "Открытые инновации" в Сколково премьер-министр России Дмитрий Медведев.
Позже эту фразу главы правительства объявили шуткой, однако подобные опасения высказывал не он один. Так, например, министр экономического развития России Максим Орешкин тоже оказался обеспокоен уровнем развития современных компьютерных технологий. По его мнению, компьютеры уже начали захват власти в мире, хотя люди этого пока не замечают.
- Посмотрите, что происходит: количество вычислительных мощностей начинает расти и расти, появляются майнинг-фермы, которые позволяют делать вычисления, - сказал в своей речи на форуме Максим Станиславович. - Такой глобальный искусственный интеллект эти вычислительные возможности мог бы использовать для своей тренировки, получения новых знаний и развития. Заставить людей многократно плодить вычислительные возможности - первый шаг к захвату мира.
Еще больше подобные прогнозы пугают, если они сделаны серьезными учеными, которые точно "в теме". И пока многие из них тоже относятся к искусственному интеллекту с большой долей пессимизма. В том числе и один из самых известных в современном мире физиков и популяризаторов науки профессор Стивен Хокинг. Еще в 2014 году он говорил о том, что развитие компьютерных технологий может представлять опасность для человечества.
- Появление полноценного искусственного интеллекта может стать концом человеческой расы, - сказал тогда Хокинг в интервью каналу ВВС.
Три года спустя мнение профессора не изменилось.
- Я опасаюсь, что искусственный интеллект скоро сможет вообще заменить людей, - цитирует его журнал "Wired". - Если сейчас люди создают компьютерные вирусы, недалек тот день, когда кто-нибудь разработает искусственный интеллект, который улучшает и воспроизводит сам себя, и это будет новая форма жизни, которая превзойдет людей.
Впрочем, под конец интервью Стивен Хокинг дал понять, что в такой ситуации возможен и оптимистичный исход. По его мнению, "появление мощного искусственного интеллекта будет либо лучшим, либо худшим, что когда-либо случалось с человечеством".
О том, что развитие искусственного интеллекта является "фундаментальной угрозой" человечеству, не раз заявлял и основатель компаний "SpaceX" и "Tesla", производящих космическую технику, Илон Маск.
- Ни ДТП, ни авиакатастрофы, ни отсутствие лекарств или некачественная еда не способны сравниться по уровню опасности с развитием искусственного интеллекта, - считает этот ученый.
О том, насколько серьезны опасения Маска, можно судить по тому факту, что он всегда выступал за невмешательство государственных органов в частный бизнес, однако там, где речь идет о разработке искусственного интеллекта, по его мнению, необходим госконтроль.
Вымрем сами, пока нас не поработили!
В отличие от Хокинга и других разделяющих его точку зрения ученых, люди, от науки далекие, порой боятся искусственного интеллекта гораздо больше - настолько, что объединяются в разные общественные движения, которые призывают все человечество перестать размножаться и самостоятельно вымереть или как минимум резко ограничить рождаемость. Самое известное из таких движений - это, конечно же, "Чайлд-фри", "Свободные от детей", представители которого на словах заявляют, что просто сами не хотят становиться родителями, а на деле осуждают всех, кто решает родить ребенка. Один из главных аргументов сторонников "Чайлд-фри" заключается в том, что "скоро всех работников заменят роботами, большинство людей останутся без работы и умрут с голоду". По их мнению, чем меньше людей будет на Земле к тому моменту, когда роботы смогут освоить все существующие профессии, тем лучше.
Однако по сравнению с другими организациями и движениями, которых пугает нашествие роботов, "Чайлд-фри" - далеко не самая радикальная. Она, по крайней мере, не выступает за то, чтобы вообще не рожать новых людей. Этого требуют другие движения, например VHEMT (сокращение от "Voluntary Human Extinction Movement" - "Движение за добровольное исчезновение человечества"). Его сторонники активно и навязчиво агитируют не рожать детей, аргументируя это в первую очередь тем, что "без людей Земле будет лучше", а во вторую - тем, что, если человечество продолжит существовать и развиваться, его все равно вытеснит разумная техника. Роботы, по мнению членов VHEMT, нанесут экологии еще более серьезный вред, чем уже нанесли люди, так что человечеству следует исчезнуть как можно скорее, до того, как разумные машины стали массовым явлением.
Похожим образом рассуждают и сторонники антинатализма. Это движение тоже пропагандирует отказ от деторождения и исчезновение людей, но по другим причинам. Если члены VHEMT призывают к этому, чтобы сохранить природу, то антинаталисты - чтобы прекратить человеческие страдания. Их основной постулат звучит так: рожать детей неэтично, поскольку каждый человек, даже живущий в благополучных условиях, все равно столкнется в своей жизни с проблемами и несчастьями, следовательно, людям лучше вообще не появляться на свет. А развитие технического прогресса, включая и появление искусственного интеллекта, с точки зрения антинаталистов, принесет человечеству еще больше страданий, в том числе и потому, что искины оставят людей без работы. Так что лучше вымереть до того, как это случится, - в этом антинаталисты и VHEMT полностью сходятся.
Азимов vs Чапек
Мысль о возможности создать механизм с интеллектом, равным человеческому или даже превосходящим его, пришла людям в голову еще в начале ХХ века. И тогда же писатели-фантасты начали задумываться о том, что машины, обладающие разумом, могут оказаться опасными для человека. Первым автором, написавшим об этом, стал чешский писатель Карел Чапек. В 1920 году вышла в свет его пьеса R.U.R. - первое в истории произведение о восстании роботов и, к слову сказать, о самих роботах. Собственно, само слово "робот" впервые было употреблено в этой пьесе. В ней действуют искусственные люди, внешне ничем не отличающиеся от настоящих - в наше время их назвали бы скорее андроидами, а не роботами. Они захватывают власть и истребляют все человечество, оставив в живых лишь одного ученого, чтобы тот воссоздал уничтоженную во время восстания формулу искусственного разума. Но последнему человеку на Земле не удается этого сделать.
Мрачный настрой Чапека по отношению к искусственному интеллекту поначалу передался и другим фантастам. В 1931 году Владимир Владко написал роман "Железный бунт", в котором роботы тоже восстают против людей, уничтожают своего создателя, а потом захватывают власть над остальными людьми. За этими произведениями последовали и другие подобные, менее известные, и так продолжалось, пока всех фантастов-паникеров не успокоил Айзек Азимов, выпустивший в 1950 году сборник рассказов "Я, робот", в котором показал, что искусственный разум можно сделать безопасным для людей, ограничив его запретами причинять человеку вред. После этого фантастика о бунте машин на время вышла из моды, и на смену ей пришли произведения о таких роботах, как у Азимова, руководствующихся в своем поведении тремя законами робототехники. Правда, сам Азимов в некоторых своих рассказах показал, что придуманные им законы не универсальны и что в определенных ситуациях роботы могут их нарушить. Но несмотря на это, фантасты долгое время смотрели на искусственный интеллект с большим оптимизмом.
Новый виток опасений, как бы искины не восстали против людей, начал Артур Кларк. В 1968 году была издана первая часть его цикла романов "Космическая Одиссея", в которой против людей выступил не человекоподобный робот, а огромный стационарный компьютер. С тех пор фантасты вновь стали время от времени обращаться к этой теме, описывая высокоинтеллектуальные и враждебные людям компьютеры, захватывающие власть не при помощи физической силы, а благодаря тому, что они управляют всей созданной людьми техникой. Роботов, похожих на людей, писатели при этом по-прежнему делали по-азимовски добрыми, но с развитием спецэффектов на телевидении в фантастику вернулись и злые роботы. Например, в 1974 году вышла серия знаменитого британского сериала "Доктор Кто" "Робот", в которой его главный герой сражается с гигантским человекообразным роботом. А в 1984 году был снят фильм "Терминатор", повествующий о восстании всех компьютеров, включая и роботов, за которым последовало несколько продолжений.
А поскольку роботы, воюющие с людьми, смотрятся зрелищнее, чем роботы, не способные "причинить вред человеку или своим бездействием допустить, чтобы ему был причинен вред", современные авторы предпочитают именно воюющих. Возможно, поэтому ученые, политики и другие публичные персоны тоже чаще опасаются искинов - привыкли, что в книгах и фильмах разумные машины так и норовят устроить восстание.
Игрушки для детей и для взрослых
Первой книге о роботах скоро исполнится сто лет. Сбылось ли с тех пор хотя бы одно пророчество фантастов, посвятивших свои произведения этой теме? Да, компьютеры есть в каждом доме, и они могут не только обыграть чемпиона мира в шахматы, но и проделать много других действий гораздо быстрее и лучше, чем это сделает человек. Однако заложенные в них программы нельзя назвать полноценным искусственным интеллектом. На некоторых интернет-сайтах есть программы-помощники, отвечающие на вопросы и порой разговаривающие в той же манере, что и люди, но и таким программам до уровня человеческого разума еще очень далеко.
По многим квартирам ездят роботы-пылесосы, но они пока тоже не стремятся поработить своих хозяев - чаще их самих порабощают домашние животные, начинающие кататься на них по комнатам. Что же касается человекообразных роботов, то их пока только время от времени демонстрируют на технических выставках. Нападать на людей, как в фильмах, или отбирать у них рабочие места, как в прогнозах "Чайлд-фри", они тоже что-то не торопятся.
Впрочем, существуют роботы-саперы и роботы-шахтеры, берущие на себя самую опасную и тяжелую работу. На людей эти роботы, к слову, не особо похожи. Например, в австралийских шахтах работают запрограммированные на определенные действия механизмы, больше похожие на экскаваторы и грузовики. И никто из людей-шахтеров против этого не возражает - таких роботов применяют в самых далеких от цивилизованных мест шахтах, куда обычных рабочих не заманить даже самыми щедрыми зарплатами.
Остальные роботы чаще всего служат для развлечения. В Японии выпускается множество роботов-игрушек в виде человечков, а также собак и других животных. В японском же Университете Васэда были созданы роботы, способные играть на музыкальных инструментах: один из них играет на флейте, а другой - на барабане, причем он умеет импровизировать и подстраиваться под остальной оркестр. Китайские робототехники ответили на это разработкой механической руки с четырьмя пальцами, которая может виртуозно играть на электронном органе. А европейцы создали робота-художника, рисующего портреты: сначала он делает снимок лица, а потом переносит его рукой на бумагу.
Создать робота, который был бы очень похож на человека и двигался, как человек, современные технологии тоже позволяют. Все в той же Японии на одной из выставок была представлена роботесса-модель, которая красивой походкой расхаживала по подиуму, демонстрируя одежду. А в одном из баров Австрии клиентов развлекает робот-алкоголик - он выпрашивает у них денег на пиво, а когда набирается нужная сумма, покупает одну кружку и "выпивает" ее, после чего снова отправляется попрошайничать. И конечно же, научившись создавать человекообразных роботов, люди тут же попробовали использовать их для плотских утех. Таких созданий сейчас в мире, наверное, больше, чем любых других роботов - роботессы с самой разной внешностью, на все вкусы, запрограммированные на разное поведение, пользуются большой популярностью у мужчин, не способных завести нормальные отношения с женщинами.
Пожалуй, роботы для секса - это чуть ли не единственное полностью сбывшееся пророчество писателей фантастов: про них писали Рэй Брэдбери и Айзек Азимов. В остальном же то, что описывали в своих книгах авторы ХХ века, так и не сбылось. Может быть, правда, еще сбудется - в далеком или не очень далеком будущем?
Да чего же их бояться?!
Несмотря на то, что многие известные персоны признались в своем страхе перед искусственным интеллектом, некоторые специалисты по робототехнике или люди, косвенно связанные с этой деятельностью, в возможность восстания машин не верят. Например, аналитик компании "Алор Броке" Кирилл Яковенко уверен, что создание полноценного искусственного интеллекта, равного человеческому, невозможно.
- Можно создать имитацию интеллекта, как всем известные "Siri" или "Алиса", но это не настоящий интеллект, - считает он. - Потому что если рассмотреть в качестве исходного прототипа хотя бы один человеческий мозг, который содержит условно сто миллиардов нейронов, то для создания искусственного интеллекта, основанного на компьютере, подобном мозгу, понадобится соединить между собой сто миллиардов процессоров. Причем это соединение должно быть не постоянным: нейроны способны как подсоединяться друг к другу, так и разрушать связи и делают это каждый день, предположительно со скоростью в несколько сотен связей. Иногда этот процесс ускоряется, и большие группы новых связей создаются каждые две недели. И это хаотичный процесс, со сложной обратной связью, создать которую на основе современной архитектуры процессоров невозможно и вряд ли когда-нибудь будет возможно. Бояться, что искусственный интеллект захватит мир, не нужно.
Эту же точку зрения высказывают и люди, далекие от разработок какой-либо техники, которым приходится пользоваться уже имеющимися техническими новинками. Например, писательница Яна Завацкая поняла, что роботы никогда не смогут вытеснить людей с их рабочих мест, после того, как попробовала проехать на машине с навигатором, следуя его подсказкам. Дело было в Германии. Навигатор сначала потребовал от Завацкой съехать с автобана, потом вернуться на него и поехать десять километров в обратную сторону, потом снова съехать, вернуться и ехать дальше в первоначальном направлении. Другими словами, ее заставили ездить туда-сюда без всякой на то причины: в этом месте не было ни ремонтных работ на дороге, ни каких-либо хитрых дорожных развилок. Просто техника почему-то сработала таким образом - может, заложенная в нее программа изначально была написана с ошибкой, а может, в ней случился временный сбой.
- С нетерпением жду автоматические машины без водителя! - прокомментировала писательница это свое дорожное приключение. - В интернете же написали, что скоро всех заменят роботами, значит, заменят. Все потеряют работу, и останется нам единственное развлечение - стоять у автобана, смотреть, как машинки, управляемые компьютером, ездят туда-сюда по кругу, и ржать.
Самым же большим оптимистом в отношении искинов оказался российский президент Владимир Путин.
- Искусственный интеллект - это будущее не только России, это будущее всего человечества, - заявил он во время всероссийского открытого урока, состоявшегося 1 сентября этого года. - Здесь колоссальные возможности и труднопрогнозируемые сегодня угрозы. Тот, кто станет лидером в этой сфере, будет властелином мира. И очень бы не хотелось, чтобы эта монополия была сосредоточена в чьих-то конкретных руках, поэтому мы, если мы будем лидерами в этой сфере, также будем делиться этими технологиями со всем миром, как мы сегодня делимся атомными и ядерными технологиями.