Филдсовскую медаль нередко называют математическим аналогом Нобелевской премии.
Искусственный интеллект научился решать задачи, над которыми математики бились годами. Казалось бы – научная революция, о которой можно только мечтать. Но 25 обладателей Филдсовской медали неожиданно выступили с коллективным предупреждением: если превратить математику в гонку по скоростному получению правильных ответов, победа машин может обернуться поражением самой науки. А разразившийся почти одновременно скандал вокруг решения задачи тысячелетия системой OpenAI показал, что их опасения вовсе не академическая фантазия.
Открытое заявление под названием "Серьезное несоответствие ИИ в математике" (A Severe Misalignment of AI in Mathematics) появилось вчера на портале "Математика и ИИ". Его первоначально 25 лауреатов Филдсовской премии, среди них Теренс Тао, Максим Концевич, Марына Вязовская, Седрик Виллани, Петер Шольце, Пьер Делинь, Андрей Окуньков и другие звезды мировой математики.
Филдсовскую медаль нередко называют математическим аналогом Нобелевской премии, хотя вручается она лишь раз в четыре года и только исследователям не старше сорока. Одновременное публичное выступление двух с лишним десятков ее обладателей – событие из ряда вон выходящее.
Теренс Тао рассказал, что заявление выросло из обсуждений между лауреатами в течение всего одной недели. Обычную долгую процедуру согласований решили сократить: ситуация показалась авторам достаточно срочной, чтобы выступить немедленно.
Примечательно, что письмо начинается вовсе не с жалоб на "страшные машины".
Наоборот, математики признают произошедший технологический скачок. За несколько последних месяцев, пишут они, способности больших языковых моделей выросли настолько, что те уже способны решать серьезные нерешенные задачи из разных областей математики.
Именно поэтому, считают авторы, пора задать менее приятный вопрос: зачем вообще математики решают задачи? Ответ кажется очевидным лишь до тех пор, пока в игру не вступает ИИ.
Для технологической компании знаменитая нерешенная проблема выглядит почти идеальным тестом. Вчера модель не могла ее решить, сегодня сумела. Есть ясный результат, громкий заголовок и отличная демонстрация прогресса.
Но для самих математиков решение задачи никогда не было конечной целью. Авторы декларации сравнивают знаменитые проблемы с ориентирами или маяками. Они важны потому, что дорога к ним обычно заставляет открывать новые идеи, методы и целые области математики. На пути к большому доказательству ведется огромная работа: отдельные попытки и промежуточные итоги месяцами и годами разбирают на семинарах, упрощают, ищут более ясные аргументы, увязывают с прежними теориями и постепенно превращают отдельный прорыв в общее знание.
Поэтому правильный ответ, полученный на последней странице, для математики лишь часть результата.
Иными словами, в науке действует принцип "учись учиться". В целом это аналогично базовой школьной установке – ученик должен не просто написать готовый ответ, а изложить всю цепочку решения, чтобы продемонстрировать понимание задачи и ход собственной мысли. В "большой науке" в роли такого школьника выступает все научное сообщество.
Главная ценность научных открытий состоит в том, что "стало понятно по дороге". И здесь, по мнению 25 лауреатов, интересы математического сообщества и разработчиков ИИ начинают серьезно расходиться.
Если ответы появляются быстрее, чем люди способны их прочитать, проверить, объяснить и встроить в существующую науку, количественный успех может начать разрушать то, что он якобы измеряет.
Авторы используют довольно сильную формулировку: массовое производство все новых истинных или ложных утверждений способно не оживить математику новыми идеями, а, наоборот, уничтожить ту плодородную почву, на которой эти идеи появляются.
Это уже не старый спор "человек против компьютера". Опасение другое: математика может превратиться в огромный склад правильных результатов, которые почти никто не успел понять.
Есть и более прозаическая проблема. Нейросети обучены на колоссальном массиве созданных людьми математических концепций. Новое машинное доказательство может опираться на идеи десятков или сотен предыдущих работ, комбинировать их и развивать дальше. Но если система выдает результат сразу, а компания спешит объявить очередное достижение, то разобраться, откуда именно взялась ключевая идея и кому принадлежит научный приоритет, становится намного сложнее.
Отсюда еще одно предупреждение ученых: стремительная публикация "искусственных решений" создает серьёзные проблемы авторства, научного вклада и плагиата. По мнению авторов письма, при такой скорости зачастую не остается времени даже на нормальное изложение результата и перечисление работ предшественников, не говоря уже о полноценном осмыслении нового метода.
Но, пожалуй, самый любопытный тезис касается не машин, а людей. Математика существует не только в статьях. Знание передается между живыми исследователями: кто-то объясняет доказательство на семинаре, кто-то придумывает более простой вариант, ученик усваивает метод учителя и применяет его к другой задаче.
Если машина перескакивает через весь этот процесс прямо к правильному ответу, возникает разрыв цепочки. Авторы декларации прямо предупреждают: без математиков, которые добровольно возьмутся развивать, объяснять и включать машинные идеи в математический канон, даже верные открытия ИИ могут так и остаться чужеродными объектами, не став полноценной частью человеческого знания.
Теренс Тао объяснил это еще проще. Получить готовое машинное решение великой проблемы, говорит он, все равно что посмотреть первые десять минут фильма, а затем сразу перемотать на финал. Формально история закончена и все сюжетные линии разрешились. Но почти все, ради чего фильм вообще смотрят, осталось между ними.
И проблема, считают авторы письма, далеко не ограничивается математикой. Годы профессионального обучения нужны врачу, инженеру, ученому или художнику не только для того, чтобы в конце концов выдать правильный продукт. За эти годы человек учится понимать предмет, отличать важное от второстепенного, задавать новые вопросы и замечать то, чего раньше никто не замечал.
ИИ все чаще позволяет получить конечный продукт, минуя большую часть этого пути. Возникает неприятная перспектива: общество продолжит получать все больше результатов интеллектуального труда, одновременно теряя людей, которые понимают, как и почему эти результаты появились.
При этом авторы декларации вовсе не предлагают остановить ИИ. Они специально подчеркивают, что искусственный интеллект способен значительно ускорить настоящее математическое исследование и углубить понимание. Вопрос лишь в том, какие цели ему поставят люди.
Будет ли машина помогать математике лучше понимать мир — или математика постепенно превратится в удобный стадион, где технологические компании меряются числом поверженных задач?
Ненаучный скандал вокруг уравнений Навье-Стокса
Почти идеальную иллюстрацию к этому спору математическое сообщество получило еще до публикации заявления (хотя, судя по срокам, письмо начали согласовывать еще до скандала).
8 сентября компания OpenAI (разработчик сервиса ChatGPT) объявила, что ее новая внутренняя система получила доказательство одной из знаменитых задач тысячелетия — проблемы Навье-Стокса.
Это одна из семи особо трудных математических проблем, отобранных Институтом Клэя в 2000 году. За решение каждой из них назначена премия в миллион долларов. За четверть века окончательно закрыть удалось только одну: гипотезу Пуанкаре, доказанную Григорием Перельманом.
Для широкой публики технической стороны Навье–Стокса вполне достаточно в одной фразе: речь идет о фундаментальном вопросе, связанном с уравнениями, которыми математика описывает движение жидкостей и газов.
Над этой проблемой безуспешно работали поколения математиков. Система OpenAI, если доказательство подтвердится, справилась с ней за несколько суток.
Компания сообщает, что 1 сентября, услышав слухи о крупных прорывах в двух задачах тысячелетия, решила испытать свою новую непубличную модель сразу на самых знаменитых нерешенных проблемах.
Сначала почти сотня агентов около 50 часов работала над родственной задачей. После успеха OpenAI сосредоточила ресурсы на Навье–Стоксе. Дальше начался математический штурм совершенно нового типа.
Тысячи экземпляров модели исследовали разные подходы параллельно, обменивались находками, а отдельная система сводила наиболее перспективные идеи вместе. За время работы над Навье-Стоксом агенты отправили 2,7 миллиона сообщений и произвели около 130 миллиардов выходных токенов.
Через 88 часов после начала "мозгового штурма" система получила решение. Еще примерно 17 часов потребовалось на его формализацию и машинную проверку в Lean – механизме верификации объективного доказательства теорем.
Иными словами, вместо одного чрезвычайно талантливого математика, который годами ходит вокруг одной идеи, появилась своего рода временная армия из тысяч исследователей, способных круглосуточно пробовать варианты и мгновенно обмениваться перспективными вариантами с соседями.
Такой сценарий еще недавно выглядел фантастикой. Но научный триумф почти немедленно обернулся скандалом.
Профессор Нью-Йоркского университета Тристан Бакмастер и математик Левент Альпёге, работающий в компании Anthropic (разработчик сервиса Claude), почти год занимались близким направлением исследований.
По словам Бакмастера, настоящий прорыв произошел у них в августе. К 22 числу они уже проверили важный результат и затем практически непрерывно пытались привести полученное доказательство в формализованный вид, пригодный для публикации.
То есть происходило ровно то, о чем несколькими днями позже напишут 25 лауреатов Филдсовской премии.
Математики уже получили результат, но не считали работу законченной. Им еще требовалось до конца понять собственное доказательство, проверить его, очистить от ошибок и привести к общедоступному формату.
Причем они сами активно применяли ИИ. Бакмастер рассказывал, что значительная часть черновиков и промежуточных рассуждений пропускалась через сервисы OpenAI Codex и Claude. Он даже довольно нелестно называл первоначальные машинные доказательства "слопом" (мусором): несколько недель, по его словам, уходило на то, чтобы проверять их, исправлять и превращать в нормальную математику.
А затем информация об их успехе каким-то образом начала циркулировать в профессиональной среде.
OpenAI этого и не скрывает. Компания прямо пишет, что 1 сентября узнала про слух, будто две задачи тысячелетия практически решены, и именно после этого решила сориентировать свою новую модель на эти же проблемы. Позднее выяснилось, что слух относился именно к работе Бакмастера и Альпеге.
Бакмастеру эта последовательность событий представляется весьма тревожной. Он утверждает, что выбранное ими направление было довольно специфическим и почти никто из известных математиков над ним не работал. Кроме того, огромный массив их неопубликованных рассуждений находился в сервисе Codex.
Поэтому он прямо спросил представителей OpenAI: могла ли новая модель обучаться на их пользовательских данных? По словам Бакмастера, сначала ему ответили только, что система не "занималась поиском пользовательских данных". Когда он уточнил вопрос именно про обучение, ясного ответа не последовало.
Позднее OpenAI провела дополнительную проверку и 10 сентября заявила уже категорически: работа Бакмастера в сервисе Codex за два месяца до публикации "не могла повлиять на систему никаким способом, включая обучение".
Компания также подчеркивает, что ее доказательство существенно отличается от работы Бакмастера и Альпеге и что до публичной публикации сотрудники и агенты OpenAI их материалов не видели.
Таким образом, доказательств того, что OpenAI присвоила чужой метод или использовала закрытые данные исследователей, сейчас нет. Есть подозрение Бакмастера. И есть категорическое отрицание OpenAI.
Но дальше история стала ещё неприятнее и "неспортивнее". Бакмастер утверждает, что представители OpenAI предложили ему несколько вариантов совместного объявления результатов.
В одном из них он мог сам написать статью, представляющую решение Навье-Стокса внутренней системой OpenAI. Но его партнера Левента Альпеге, по словам Бакмастера, предполагалось из авторства убрать, поскольку тот работает в Anthropic, прямом конкуренте OpenAI.
Бакмастер отказался. Когда он сообщил, что в случае такого развития событий публично расскажет о переговорах, ему, по его версии, ответили вопросом: "Зачем тебе уничтожать карьеру?", видимо, имея в виду, что тогда ему уже не суждено стать автором знаменитого открытия.
Эта реплика известна только со слов самого Бакмастера и независимо не подтверждена. OpenAI оспаривает его трактовку происходившего. И все же даже без наиболее скандальных обвинений случай выглядит почти учебной иллюстрацией конфликта, о котором говорят лауреаты Филдсовской премии.
Два человека почти год идут по сложному исследовательскому пути. Они получают промежуточный прорыв. Им требуется еще время, чтобы разобраться в нем самим и объяснить его другим.
Корпорация слышит слух о результате. Через несколько дней тысячи ИИ-агентов атакуют аналогичную задачу и предъявляют готовое доказательство.
Это не означает, что OpenAI сделала что-либо нечестное. Но впервые стало очевидно, насколько резко новые технологии способны изменить саму механику научного соревнования.
И последствия могут оказаться парадоксальными. Если математик знает, что достаточно рассказать на конференции о многообещающем направлении, чтобы компания с гигантскими вычислительными ресурсами немедленно отрядила туда несколько тысяч "искусственных математиков" и за выходные добралась до финиша первой, у него появляется рациональная причина ничего никому не рассказывать.
То есть инструмент, созданный для ускорения научного прогресса, способен одновременно сделать научное сообщество более закрытым.
Бакмастер уже фактически говорит именно об этом. После случившегося он заявил, что прежняя гонка за решением знаменитых задач начинает казаться ему бессмысленной и что математикам придется заново задуматься о том, в чем вообще заключается их работа.
комментарии