Решают, но не понимают: почему светила взялись за открытое письмо
Открытое письмо против использования искусственного интеллекта в математике опубликовали 25 обладателей Филдсовской медали. Текст появился на портале движения Math and AI. Филдсовская премия — высшая награда в этой науке, ее вручают раз в четыре года.
Суть претензии не в том, что ИИ плохо считает. Наоборот. Нейросети научились решать задачи, над которыми математики бились десятилетиями. А вот с пониманием — беда.
«Стремление компаний, занимающихся искусственным интеллектом, использовать решение математических задач в качестве теста производительности наносит ущерб науке математики и математическому сообществу», — сказано в заявлении.
Логика авторов письма такая. Корпорации гонятся за красивыми цифрами в отчетах. Решенная теорема — отличный повод для пресс-релиза. Но за этим фасадом теряется главное: концептуальное понимание проблем. Машина выдает ответ, не объясняя, откуда он взялся.
Что стоит за термином «тест производительности»
Для разработчиков математика превратилась в полигон. Чем сложнее задача, тем весомее доказательство силы модели. Так работает индустрия: нужны измеримые достижения, чтобы привлекать инвестиции.
Математики видят в этом перекос. Если научное сообщество начнет ориентироваться на машину, а не на собственное мышление, пострадает сама дисциплина. Идеализация ИИ — вот что тревожит авторов письма.
Контекст добавляет красок. Десятого сентября компания OpenAI согласилась замедлить разработку передовых систем. В тот же день президент США Дональд Трамп заявил, что искусственный интеллект может оказаться потенциально опасным для страны. Два сигнала из разных лагерей — и оба про осторожность.
Что дальше? Письмо — не регламент и не запрет. Это позиция. Математическое сообщество обозначило границу: инструмент может помогать, но не должен подменять научный поиск. Как на это отреагируют корпорации — вопрос открытый. Пока известна только одна уступка — от OpenAI.
Для университетов и исследовательских групп сигнал тоже важен. Если гранты и публикации начнут оценивать по скорости решения задач машиной, у живых математиков останется меньше пространства для работы. Это уже не абстракция — это то, о чем предупредили лауреаты.