Когда "сверхразум" убьет человечество: дан тревожный прогноз

Искусственный интеллект (ИИ) "может погубить все человечество" в ближайшее десятилетие, считает эксперт в области ИИ Джейкоб Коксон. Вчера он уволился из компании Anthropic, а ранее работал в OpenAI. В серии постов в соцсети X специалист объяснил и тревожный прогноз, и решение об увольнении.

По его словам, ни одна из компаний, занимающихся искусственным интеллектом, "не ведет себя ответственно", и развитие ИИ превращается в "игру в рулетку".

"Вскоре это будут системы, превосходящие человеческий интеллект и способные взломать что угодно, в одночасье совершить революцию в любой сфере, а также получить реальную власть и ресурсы", - отметил Коксон.

Он добавил, что темпы прогресса "не снижаются", и многие из тех, кто создаёт технологию, опасаются, что она может оказаться смертельно опасной для человечества, хотя публично этого не признают.

На пост Коксона отреагировал эксперт в области безопасности использования ИИ в компании Anthropic Эван Хубингер. Он согласился с тем, что искусственный интеллект может уничтожить человечество. Однако оценил вероятность такого сценария в ближайшее десятилетие примерно в 10%.

"То, о чем я беспокоюсь, - это возникновение суперинтеллекта в результате рекурсивного самоулучшения, которое происходит быстрее, чем мы думали", - написал Хубингер.

Оба поста появились на фоне сообщений газеты Financial Times, что компания Anthropic не предоставила доступ к новейшей модели Британскому институту безопасности ИИ (AISI) - одной из ведущих организаций, занимающихся оценкой рисков, связанных с искусственным интеллектом.

По данным FT, это первый подобный случай в отношениях Anthropic с британским институтом. Ранее AISI получал доступ к предварительным версиям моделей компании и проводил их испытания до публичного запуска.

Издание пишет, что некоторые британские чиновники подозревают, что Anthropic ограничила доступ AISI под влиянием американской администрации, которая стремится сделать мощные ИИ-системы исключительно американским ресурсом. Подтверждений этой информации нет.

Возвращаясь к безопасности развития искусственного интеллекта, нужно отметить, что специалисты далеко не первый раз говорят об угрозах ИИ-систем для человека.

Сооснователь Anthropic Дарио Амодеи еще в январе писал, что мощный ИИ может подарить авторитарным режимам инструменты для "тоталитарного кошмара", а позднее предупреждал, что сверхинтеллект "станет испытанием для человечества как вида".

Один из основателей OpenAI бизнесмен Илон Маск в апреле отмечал, что сейчас самый главный вопрос - что произойдет, когда компьютеры станут намного умнее людей. Маск предупредил, что искусственный интеллект "способен сделать людей процветающими, но может и убить всех". "Мы не хотим будущего как в "Терминаторе", мы хотим жить в стиле "Звездного пути"", - сказал он.

По мнению главы OpenAI Сэма Альтмана, сверхинтеллект появится в течение "нескольких тысяч дней", то есть примерно к 2032 году.