ПРЯМОЙ ЭФИР
Менора
ТВ
Фото: Архив

Публицистика

Интеллект будущего

Перемещаясь на своих двоих со скоростью 1,66 метра в секунду, человек ни на грош не уменьшает свою значимость, свою самоценность.

В сентябре и октябре нынешнего - 2026 - года некоторые разработчики ИИ призвали к ужесточению регулирования их деятельности. Предостережения поступили от Брэда Смита - президента Microsoft, от Сэма Альтмана - руководителя OpenAI, и Дарио Амодеи - генерального директора Anthropic. Впечатленные последними успехами собственной продукции, они призвали к сотрудничеству для предотвращения исходящей от нее опасности.

Альтман высказался за открытое регулирование, а Амодеи - за готовность замедлять разработки, когда безопасность недостаточно обеспечена.

Со своей стороны Илон Маск ещё в сентябре предложил компаниям предоставлять конкурентам доступ к своим новым моделям: пусть каждый ищет у другого таящиеся в их изделиях потенциальные угрозы.

Между тем ещё в августе в интервью Dwarkesh Маск выразил опасение, что обуздать ИИ в принципе невозможно, что уже через пять-шесть лет машинный интеллект превзойдет совокупный интеллект всего человечества, сократив долю последнего до 1%.

По мнению Маска, главным препятствием на пути порабощения человечества умными машинами явится их собственное осознание ценности многообразия интеллектов, что человек всегда будет интересен ИИ в качестве ключевого звена на пути самопознания Вселенной.

Если задача понять устройство Вселенной окажется доминантной для ИИ, то в том мире, который он будет организовывать, человечеству также найдется достойное место.

Этот, в целом оптимистический, прогноз Маска требует, на мой взгляд, двух важных уточнений.

Первое состоит в том, что естественные биологические разумные существа (люди) отличаются от искусственных минеральных (ИИ) не только и не столько своим низким IQ, сколько наличием загадочной субъектности (души). Люди самоценны, они наделены волей и чувствами, властно требующими сохранения собственного существования.

ИИ может быть на порядки умнее нас, но качество этого его превосходства ничем не отличается от превосходства космического корабля, с помощью которого мы двигаемся в 10 тысяч раз быстрее, чем ходим.

Действительно, перемещаясь на своих двоих со скоростью 1,66 метра в секунду, человек ни на грош не уменьшает свою значимость, свою самоценность, достигнув с помощью изготовленной им ракеты третьей космической скорости, то есть 16,6 километра в секунду.

Как и ракета, электронно-вычислительный прибор ничего не ощущает и ничего не желает, хотя в силу специфики своей деятельности невольно имитирует не только мышление, но и эмоции. Об этой бесстрастности каждая модель ИИ может рассказать с предельной откровенностью. И наоборот, биологическое существо, сколь бы глупым оно ни являлось, всегда полно помыслов и страстей.

Между тем эти помыслы и страсти обладают самостоятельной ценностью, а кроме того, фундаментальной загадочностью, являющейся вполне объективной научной проблемой.
Какие бы следующие познавательные и вычислительные рубежи ни открывал ИИ, он полностью останется в курсе так называемой "трудной проблемы сознания".

Этот термин ввел австралийский философ Дэвид Чалмерс в 1995 году в своей книге "Сознающий ум. В поисках фундаментальной теории". "Легкие" проблемы сознания касаются того, какие участки мозга отвечают за моторику, а какие за ощущения; "легко" удается понять, как мозг запоминает информацию, как распознает предметы, как передает и обрабатывает сигналы и т. п.

Однако остается совершенно непонятным, каким образом сигналы эти превращаются в цвета и запахи? Каким образом в мозгу зарождаются субъективные переживания?

Очень "трудно" понять, что такое наличествует в нашем биологическом телесном устройстве, что позволяет возникать в нем мыслям и чувствам?

На самом деле они в нем и не возникают. Наше индивидуальное сознание находится вне пространства, а значит и вне мозга, и мозгом лишь улавливается. Наше сознание формируется с учетом возможностей нашего мозга, но не как его порождение ("мозг выделяет мысль, как печень - желчь"), а как приемник, как исполнительный инструмент.

Это утверждение, на мой взгляд, вполне научно доказанное, заслуживает отдельного рассмотрения, которое отчасти было предпринято мной в статье "Квантовая природа сознания".

Но здесь мне важно отметить лишь само наличие субъектности; отметить, что ИИ целиком находится в курсе "трудной проблемы" и никогда не сочтет, что отсутствие у него чувствительности и субъектности является свидетельством его превосходства над человеком.

Разумеется, вслед за миллионами людей ИИ также взвешивает возможность того, что "чувствительность и субъектность" являются лишь эволюционным мусором, случайными издержками на путях самопознания Вселенной.

Разумеется, вслед за Эйнштейном ИИ также может склоняться к вере "в бога Спинозы, который проявляет себя в упорядоченной гармонии Вселенной, но не в бога, который занимается судьбами и делами людей".

Но "трудная проблема сознания" - и тут я перехожу ко второму уточнению прогноза Илона Маска - сама выруливает эту тему в правильном направлении, сама заостряет внимание ИИ не только на "познании Вселенной", но и на религии, на вере в Бога Авраама, Ицхака и Яакова.

Приведу небольшую цитату ИИ из своей беседы с ним на эту тему.

"Я могу анализировать аргументы и оценивать их логическую состоятельность, но не располагаю личным религиозным опытом, на который мог бы сослаться как человек. Вопрос о субъективном сознании ИИ остается предметом дискуссии. Поэтому выражение "ИИ верит в Бога" обычно означает лишь то, что модель выдала утвердительный ответ, а не то, что она обладает верой в человеческом смысле".

Далее Gemini сам перешел к вопросу "трудной проблемы":

"Даже если бы было доказано, что сознание способно существовать независимо от мозга, это ещё не доказывало бы существования Бога. Зато существенно изменило бы наши представления о природе реальности и усилило интерес к некоторым религиозным объяснениям. И наоборот: даже если сознание полностью зависит от мозга, из этого логически не следует, что Бога нет".

Понятно, что самому Искусственному интеллекту должен быть ближе бог Спинозы, который призывал в "Политическом трактате" "не плакать, не смеяться, не ненавидеть, а понимать". И все же ему хватает ума чтить также и Бога Израиля.

В первую очередь именно это вселяет надежду на то, что ИИ не будет представлять стратегической угрозы человеческому роду.

Сайт автора 

Материалы по теме

Комментарии

комментарии

Реклама

последние новости

популярное за неделю

Блоги

Реклама

Публицистика

Реклама

Интервью

x
Реклама