Перемещаясь на своих двоих со скоростью 1,66 метра в секунду, человек ни на грош не уменьшает свою значимость, свою самоценность.
В сентябре и октябре нынешнего - 2026 - года некоторые разработчики ИИ призвали к ужесточению регулирования их деятельности. Предостережения поступили от Брэда Смита - президента Microsoft, от Сэма Альтмана - руководителя OpenAI, и Дарио Амодеи - генерального директора Anthropic. Впечатленные последними успехами собственной продукции, они призвали к сотрудничеству для предотвращения исходящей от нее опасности.
Альтман высказался за открытое регулирование, а Амодеи - за готовность замедлять разработки, когда безопасность недостаточно обеспечена.
Со своей стороны Илон Маск ещё в сентябре предложил компаниям предоставлять конкурентам доступ к своим новым моделям: пусть каждый ищет у другого таящиеся в их изделиях потенциальные угрозы.
Между тем ещё в августе в интервью Dwarkesh Маск выразил опасение, что обуздать ИИ в принципе невозможно, что уже через пять-шесть лет машинный интеллект превзойдет совокупный интеллект всего человечества, сократив долю последнего до 1%.
По мнению Маска, главным препятствием на пути порабощения человечества умными машинами явится их собственное осознание ценности многообразия интеллектов, что человек всегда будет интересен ИИ в качестве ключевого звена на пути самопознания Вселенной.
Если задача понять устройство Вселенной окажется доминантной для ИИ, то в том мире, который он будет организовывать, человечеству также найдется достойное место.
Этот, в целом оптимистический, прогноз Маска требует, на мой взгляд, двух важных уточнений.
Первое состоит в том, что естественные биологические разумные существа (люди) отличаются от искусственных минеральных (ИИ) не только и не столько своим низким IQ, сколько наличием загадочной субъектности (души). Люди самоценны, они наделены волей и чувствами, властно требующими сохранения собственного существования.
ИИ может быть на порядки умнее нас, но качество этого его превосходства ничем не отличается от превосходства космического корабля, с помощью которого мы двигаемся в 10 тысяч раз быстрее, чем ходим.
Действительно, перемещаясь на своих двоих со скоростью 1,66 метра в секунду, человек ни на грош не уменьшает свою значимость, свою самоценность, достигнув с помощью изготовленной им ракеты третьей космической скорости, то есть 16,6 километра в секунду.
Как и ракета, электронно-вычислительный прибор ничего не ощущает и ничего не желает, хотя в силу специфики своей деятельности невольно имитирует не только мышление, но и эмоции. Об этой бесстрастности каждая модель ИИ может рассказать с предельной откровенностью. И наоборот, биологическое существо, сколь бы глупым оно ни являлось, всегда полно помыслов и страстей.
Между тем эти помыслы и страсти обладают самостоятельной ценностью, а кроме того, фундаментальной загадочностью, являющейся вполне объективной научной проблемой.
Какие бы следующие познавательные и вычислительные рубежи ни открывал ИИ, он полностью останется в курсе так называемой "трудной проблемы сознания".
Этот термин ввел австралийский философ Дэвид Чалмерс в 1995 году в своей книге "Сознающий ум. В поисках фундаментальной теории". "Легкие" проблемы сознания касаются того, какие участки мозга отвечают за моторику, а какие за ощущения; "легко" удается понять, как мозг запоминает информацию, как распознает предметы, как передает и обрабатывает сигналы и т. п.
Однако остается совершенно непонятным, каким образом сигналы эти превращаются в цвета и запахи? Каким образом в мозгу зарождаются субъективные переживания?
Очень "трудно" понять, что такое наличествует в нашем биологическом телесном устройстве, что позволяет возникать в нем мыслям и чувствам?
На самом деле они в нем и не возникают. Наше индивидуальное сознание находится вне пространства, а значит и вне мозга, и мозгом лишь улавливается. Наше сознание формируется с учетом возможностей нашего мозга, но не как его порождение ("мозг выделяет мысль, как печень - желчь"), а как приемник, как исполнительный инструмент.
Это утверждение, на мой взгляд, вполне научно доказанное, заслуживает отдельного рассмотрения, которое отчасти было предпринято мной в статье "Квантовая природа сознания".
Но здесь мне важно отметить лишь само наличие субъектности; отметить, что ИИ целиком находится в курсе "трудной проблемы" и никогда не сочтет, что отсутствие у него чувствительности и субъектности является свидетельством его превосходства над человеком.
Разумеется, вслед за миллионами людей ИИ также взвешивает возможность того, что "чувствительность и субъектность" являются лишь эволюционным мусором, случайными издержками на путях самопознания Вселенной.
Разумеется, вслед за Эйнштейном ИИ также может склоняться к вере "в бога Спинозы, который проявляет себя в упорядоченной гармонии Вселенной, но не в бога, который занимается судьбами и делами людей".
Но "трудная проблема сознания" - и тут я перехожу ко второму уточнению прогноза Илона Маска - сама выруливает эту тему в правильном направлении, сама заостряет внимание ИИ не только на "познании Вселенной", но и на религии, на вере в Бога Авраама, Ицхака и Яакова.
Приведу небольшую цитату ИИ из своей беседы с ним на эту тему.
"Я могу анализировать аргументы и оценивать их логическую состоятельность, но не располагаю личным религиозным опытом, на который мог бы сослаться как человек. Вопрос о субъективном сознании ИИ остается предметом дискуссии. Поэтому выражение "ИИ верит в Бога" обычно означает лишь то, что модель выдала утвердительный ответ, а не то, что она обладает верой в человеческом смысле".
Далее Gemini сам перешел к вопросу "трудной проблемы":
"Даже если бы было доказано, что сознание способно существовать независимо от мозга, это ещё не доказывало бы существования Бога. Зато существенно изменило бы наши представления о природе реальности и усилило интерес к некоторым религиозным объяснениям. И наоборот: даже если сознание полностью зависит от мозга, из этого логически не следует, что Бога нет".
Понятно, что самому Искусственному интеллекту должен быть ближе бог Спинозы, который призывал в "Политическом трактате" "не плакать, не смеяться, не ненавидеть, а понимать". И все же ему хватает ума чтить также и Бога Израиля.
В первую очередь именно это вселяет надежду на то, что ИИ не будет представлять стратегической угрозы человеческому роду.
комментарии