Трудно представить, чтобы “шимпанзе оставались у власти”

Интервью Илона Маска с главным редактором The Economist Занни Минтон Беддоус чрезвычайно интересно.

Самое важное: он считает, что примерно через пять лет AI превзойдет совокупный интеллект всего человечества.

Не отдельного человека - именно sum of human intelligence.

По мнению Маска, практически не останется интеллектуальных задач, которые человек выполняет лучше машины.

Беддоус задает Маску ключевой вопрос: означает ли это, что через десять лет люди уже не будут контролировать происходящее?

Маск отвечает - да.

И приводит жестокую аналогию:

если разрыв между AI и человеком будет больше, чем между человеком и шимпанзе, трудно представить, чтобы “шимпанзе оставались у власти”.

Маск говорит уже не о новом технологическом инструменте, а фактически о конце человеческой интеллектуальной монополии.

При этом его отношение к опасности AI заметно изменилось.

Он был громким алармистом.

Теперь его позиция гораздо более фаталистическая: развитие AI уже невозможно остановить.

Он по-прежнему оценивает вероятность катастрофического исхода примерно в 10-20%, но считает, что наиболее вероятен позитивный сценарий - “невероятное изобилие для всех”.

Поэтому задача не “остановить AI”, а попытаться сделать его “ищущим правду, любознательным и благожелательным к человечеству”.

Работа, по Маску, станет необязательной, а деньги могут потерять смысл. Его логика проста: AI + миллиарды гуманоидных роботов смогут производить столько товаров и услуг, что возникнет почти неограниченное предложение. Тогда работа станет чем-то вроде занятия по желанию, а вместо “универсального базового дохода” возникнет то, что он называет “универсальный высокий доход”.

Маск считает: если товары, жилье, транспорт, развлечения и услуги практически неограниченны, возникнет вопрос:

“For what do we need money?”

Он предсказывает не просто рост производительности, а возможное исчезновение экономики дефицита, а вместе с ней - нынешнего значения зарплаты, сбережений и денег.

Самое поразительное в интервью даже не технологический оптимизм Маска.

А его спокойствие по поводу утраты человеком контроля. Раньше он говорил об этом преимущественно как об угрозе.

Сейчас - почти как о неизбежном историческом переходе, который надо не предотвращать, а правильно направить.

Блог автора в Telegram