Не грозит ли homo sapiens сон разума? Предложение поразмышлять о науке, технике и глобальных общечеловеческих проблемах привлекло на первое в этом сезоне заседание программы «Точка зрения» довольно большое количество людей. По прошлому опыту знали – встреча с видным специалистом в области искусственного интеллекта будет интересна. Константин Воронцов – руководитель лаборатории машинного обучения и семантического анализа Института искусственного интеллекта МГУ, заведующий кафедрой математических методов прогнозирования ВМК МГУ и кафедрой интеллектуальных систем МФТИ.
Занимаясь 30 лет машинным обучением, он не раз задавался вопросами – куда ведет технологический прогресс? Что должно быть первично в деятельности ученого – создавать возможности или устранять угрозы? Оказалось, ответ лежит не в плоскости математики и технологий. А в философии и идеологии.
Существует множество определений искусственного интеллекта (ИИ). Большинство из них сходятся в том, что это вычислительные технологии, способные имитировать или заменять интеллектуальные функции человека. Так уже на уровне базового понятия закладывается потенциально опасная идея о вытеснении человека машинами.
Воронцов предлагает антропоцентричную (человек в центре всего) версию определения: «ИИ – это вычислительные технологии для повышения эффективности интеллектуального труда людей». Ровно эту функцию они и выполняли на практике всю свою 70-летнюю историю.
Общим местом уже стало: необыкновенная скорость развития ИИ грозит нашей цивилизации непредсказуемыми негативными последствиями. Об опасности неуправляемого совершенствования ИИ предупреждает и Джеффри Хинтон, недавний нобелевский лауреат и один из пионеров нейросетевых технологий в области искусственного интеллекта. Огромные возможности ИИ носят не только созидательный характер. Есть в них и разрушительный потенциал – для поляризации мнений, эскалации технологического неравенства, социальных и военных конфликтов, для мошенничества и организованной преступности. Потому Хинтон призывает мировую общественность скорее разрабатывать протоколы безопасности в сфере искусственного интеллекта. И такая точка зрения находит все больше сторонников в мире.
«Но только ли ИИ опасен?» —спрашивает Воронцов. Научная фантастика и фильмы-катастрофы рисуют нам куда более широкий спектр апокалиптических картин. Восстание машин, истощение ресурсов, изменение климата, природные и техногенные катастрофы, пандемии, новые виды оружия массового уничтожения… Ученый убежден, что опасны не сами технологии, а то, как люди их применяют. Ради каких ценностей и целей? С какими мыслями в голове? Созидательными или разрушительными? Направленными на общее благо или корыстно эгоистичными? «Мы пришли в точку неустойчивого развития, где технологии апокалипсиса слишком дешевы, а необратимый процесс эскалации экзистенциальных рисков может быть запущен горсткой людей, не обязательно осознающих последствия».
Физики, изучая материальный мир, открыли множество законов сохранения: массы, энергии, вещества, момента импульса… Воронцов предлагает закон сохранения цивилизации: «На вероятность самоуничтожения цивилизации особенно влияют: общий объем вырабатываемой энергии, число экзистенциально опасных технологий и количество людей, готовых на все ради своих корыстных интересов в ущерб интересам общества и будущего цивилизации».
Однако удивление участников встречи вызывала не констатация фактов, а предлагаемые им способы решения проблемы. Прежде всего – выработать и поддерживать единство целей и ценностной, картины мира, видения будущего. Осознать то природное зло, которое сидит в самом человеке, в каждом из нас, в силу нашего антропогенеза, биологической эволюции. «Миллионы лет развития нас как хищных социальных животных крепко отпечатались в структурах мозга. Это наш «внутренний зверь», наши стратегии доминирования, защиты территории, защиты от стресса, наши когнитивные искажения, наши семь смертных грехов. Признать наличие проблемы означает сделать первый шаг к ее решению».
Вот так! Пришли послушать специалиста по ИИ, а получили философские размышления о природе человека. О том, что, как и прежде, путь к нравственному прогрессу лежит через просвещение. Что наука дает нам в руки не только серьезные и смертельно опасные игрушки. Но и системные знания о нас самих, о законах толпы, о психологии масс и властных элит, о механизмах социальных лифтов, о пропаганде и манипулировании общественным мнением, о технологиях поляризации мнений и эскалации конфликтов...
Как изменится жизнь общества, если эти знания станут общедоступны, менее табуированы, открыто обсуждаемы? Не придется ли нам – осознав, что это наш последний и единственный шанс выжить коллективно как цивилизации – спешно менять способы мышления, стили жизни, потребления, ведения бизнеса…
Звучит утопически. Но ученый, тем не менее, верит в силу разума и воли коллективного человеческого интеллекта. «Любая идеология основана на страхе и обещании. Цивилизационная – не исключение». Только до сих пор все идеологии разрабатывались одной социальной группой для решения своих проблем в ущерб другим социальным группам. Сегодня наука уже в состоянии предложить действенные инструменты для формирования «человека цивилизованного». Через воспитание, образование, позитивную пропаганду. Или, скажем, через литературные и имитационные эксперименты в форме сетевой компьютерной игры. Главное – надо искать формы консенсуса и цивилизационного единомыслия. Использовать иные механизмы формирования элит. И закреплять их идеологически и законодательно.
Воронцов полагает, что идеология необходима любой цивилизации для устойчивого развития, обеспечения единства целей, ценностей, картины мира и видения будущего. «Почему я считаю, что нужно «думать шире»? Наблюдая тех, кто занимается технологиями из интересов сугубо индивидуалистичных, корыстных, коммерческих или клановых, я убеждаюсь, эти люди не видят дальше собственного носа. Вот почему захотелось расширить их кругозор, заставить задуматься».
Между тем, в его выступлении не чувствовалось менторского тона. Ученый был открыт для вопросов, возражений, протестов. Как математик, как человек, мыслящий нестандартно, он предложил интересную форму подачи – презентацию в виде интеллект-карты (mind-map), позволяющей просто, структурированно, убедительно говорить о сложном. А сам он тут же вносил в нее прозвучавшие «из зала» дополнения. Автору задавали вопросы, спорили. Несколько раз оппонировал Владимир Рушайло. О том, что бизнес по своей сути прагматичен и существует ради прибыли, напомнил Андрей Нечаев. С чем
Воронцов согласился: создание рабочих мест, общественно полезного продукта, многие компании формулируют свою миссию как социально-экономическую. Лично для предпринимателя все это важно. Но в каком приоритетном порядке? Что является смыслом деятельности, что средством, а что побочным результатом?
Не случайно Воронцов предложил тему на стыке наук, поднял ее до философского уровня. Иначе трудно понять – в какую сторону способен увести развитие цивилизации научно-технический прогресс, управляемый ли этот процесс или стихийный, как природное бедствие? Конечно, спорная тема, но с чем согласились участники вечера, какими бы мало осуществимыми ни казались способы решения цивилизационных проблем, говорить, размышлять об этом следует. И это гораздо лучше, чем ужасаться катастрофам сегодняшнего дня или кинокартинам будущей гибели всего живого. Все с удовольствием слушали. Это было интересно, динамично, более понятно, чем предыдущая лекция об ИИ. В финале – аплодисменты от благодарных участников встречи.
Неожиданным возвращением в реальность стало поздравление Нелли Закировой-Гаранян с днем рождения. Такова добрая традиция клуба. А далее разговор о спасении цивилизации продолжился «в кулуарах». Звучали разные мнения. Некоторые говорили о наивности такого подхода – сберегать климат, быть добрыми, умными, образованными… Другие горячились – но это же правильно! Кто-то утверждал, что «нечего технарям делать в философии». Задело за живое! В чем участники встречи были едины – что подобные общения, расширяющие кругозор, пробуждающие разум, следует продолжать.
«Наш так называемый цивилизованный мир находится в этом опасном и жалком положении. И я думаю – уже очень близко к такому же разрушению, которому подверглись прежние цивилизации». Это в свое время сказал Лев Толстой.
Текст: Виктория Чеботарева
Фото: Артем Друзь
ЛЮДИ И МНЕНИЯ
Константин ВОРОНЦОВ:
«Главное зло находится в нас самих, В нашей архаичной звериной потребности доминирования. Она порождает алчность и агрессию, переходящие в конфликты и войны. Наши технологии уже способны менять окружающую нас социальную и природную среду, но наш эмоциональный мозг все еще выстраивает социальные отношения по звериному образцу».
Сергей БАЛАГАНСКИЙ:
«Я поклонник таланта Константина Воронцова. Прежде всего, у меня от его выступления возникло эстетическое ощущение мастерства. Насколько умело, в таком быстром темпе, сжато он смог изложить столь непростую цивилизационную концепцию. Это впечатляет! Я наблюдал как за действиями фокусника. Второе – подкупает гуманистическая направленность его выступления и в целом настроенность на позитив, на развитие человечества».
Владимир РУШАЙЛО:
«Я не большой специалист в области ИИ, но то, что мы услышали, мне понравилось. Многосторонняя информация, есть, над чем подумать. Много было задано вопросов, получено ответов – о мировоззрении, об интеллекте в целом, о развитии человеческой цивилизации и ее сохранении».
Ольга РЕВЯКИНА:
«Я не занимаюсь профессионально ни экономикой, ни бизнесом. Но мне, тем не менее, было интересно. И я считаю, что про науку интересно всем. И что меня особенно порадовало: многие члены Английского клуба сегодня привели на встречу с ученым своих детей. Это здорово. Значит, считают важным, чтоб и дети понимали, какие глобальные проблемы стоят перед миром. Чтобы они не росли, следуя только своим собственным, порой эгоистическим порывам».
Аркадий КЕРНЕР:
«Была интересная лекция, которая нас заставила подумать и посмотреть на некоторые вещи совсем с другой точки зрения. Для меня это пища для разума. Я не могу сказать, насколько лектор прав или не прав и те данные, которые он предоставил, для меня являются реально верными. Но то, что надо призадуматься, это точно».
