Лауреаты Филдсовской премии предупредили об угрозах от ИИ в математике
25 обладателей Филдсовской премии выступили с критикой подхода технологических компаний к использованию искусственного интеллекта в математике. В открытом письме ученые заявили, что разработчики слишком торопятся публиковать результаты, полученные с помощью ИИ, не предоставляя достаточных объяснений и не указывая связь с предыдущими исследованиями.
Математики требуют проверять результаты ИИ
По мнению ученых, публикация готовых решений без подробного описания процесса их получения может привести к спорам об авторстве и даже возможном заимствовании чужих идей.
Отдельная проблема — проверка таких результатов. Математическое доказательство должно быть не только формально правильным, но и понятным специалистам. Только после этого его можно использовать в дальнейшей работе и рассматривать как часть научного знания.
Ученые считают, что крупные технологические компании все активнее превращают сложные математические задачи в тесты для своих ИИ-моделей. При этом стремление первым объявить о новом достижении может идти вразрез с принципами научной работы, где важны тщательная проверка и обсуждение результатов.
Готовое доказательство — еще не научное открытие
Авторы письма не отрицают потенциал искусственного интеллекта. Напротив, они допускают, что ИИ способен помочь человечеству справиться с одними из самых сложных математических проблем.
Однако само по себе получение ответа не должно становиться конечной целью. По мнению специалистов, гораздо важнее понять, какие новые методы и идеи стоят за решением.
Если ИИ будет лишь предоставлять готовые доказательства, которые специалисты не смогут полноценно разобрать, это может ограничить развитие математики, считают авторы обращения.
Читайте также: Манифест Папы Римского об ИИ мог написать ИИ.
Претензии к OpenAI
Публикация письма произошла на фоне нескольких споров вокруг OpenAI. В сентябре компания представила результат, связанный с одной из семи «задач тысячелетия». После этого математик, исследовавший связанное с ней уравнение вместе с коллегой, заявил о возможном доступе OpenAI к их рабочим логам в Codex.
Позже математик Андреас Том также выразил претензии к компании. Он обвинил OpenAI в недостаточной прозрачности на фоне возможного использования его ещё не опубликованной научной работы.
Авторы открытого письма отмечают, что вопросы, связанные с использованием ИИ без достаточной прозрачности, выходят далеко за пределы математики. По их словам, аналогичные проблемы могут возникать в самых разных областях науки и творчества.
Ранее Kursiv Uzbekistan писал, что ИИ заменит людей в корпорации Meta.
