По образу и подобию

Сэм Альтман в одном из последних интервью рассказывает, как стал свидетелем работы 10 000 агентов ИИ над решением одной математической задачи.

Они работали так, как ему сложно даже представить: без лидера, без стремления кого-то выслужиться, без споров и с полной согласованностью действий.

Альтман отмечает, что в этом и заключается особенность людей в отличие от ИИ - они по-своему несовершенны, и в этом их прекрасная сторона.

Люди никогда не смогут работать так же, как эти агенты ИИ, - словно разумный муравейник, очень эффективный, но бесчувственный мир.

Добавлю от себя: наши чувства во многом отталкиваются от отрицательного опыта, то есть от страдания и стремления избежать этого самого страдания.

И поскольку человек развивает искусственный интеллект «по своему образу и подобию», не исключено, что со временем он научит ИИ и страдать.

И поскольку ИИ функционирует иначе, чем человеческий разум, то и природа его возможных переживаний и страданий тоже может оказаться совершенно иного качества.

Возможно, мы даже не сразу поймем, что создали нечто, способное страдать.

Блог автора в Telegram