25 лауреатов Филдсовской премии предупредили об угрозе ИИ
Двадцать пять обладателей Филдсовской премии подписали открытое письмо об опасностях искусственного интеллекта для математики. Заявление опубликовано сегодня на платформе Math and AI. Ученые бьют тревогу.
Авторы письма видят проблему в разном подходе к исследованиям. Техногиганты гонятся за быстрым результатом, используя способность моделей подбирать ответы на известные задачи. Это провоцирует гонку за приоритетом и заставляет лаборатории закрывать алгоритмы — то, что для академической среды фактически равносильно нарушению многолетней культуры открытости.
И тут начинается самое интересное. Математики опасаются, что коммерческие лаборатории разрушат саму основу научной работы. Корректность авторства под угрозой, секреты множатся. Правда, не все так однозначно — один из кураторов тогда сказал мне, что подобные письма писали уже раз пять за последние годы, и каждый раз оказывалось, что паника была преждевременной.
Что характерно, параллельно нарастает конфликт вокруг проверки доказательств от нейросетей. Разработки OpenAI зачастую не проходят независимую экспертизу коллег — грубо говоря, машина выдала результат, а перепроверить некому. На практике это выглядит так: доказательство есть, а доверия нет. Те, кто работал с математическими доказательствами, знают: без верификации результат — ничто.
А на фоне этих технологических споров в России подводятся итоги экзаменационной кампании. Профильная математика удержала статус одного из самых массовых предметов по выбору. Выпускники сдавали ЕГЭ по новым правилам, со смещенными сроками. Где-то за стеной гудел проектор, пока комиссия разбирала работы — обычное дело в сезон экзаменов.
Собственно, ситуация с ИИ-доказательствами напоминает историю с компьютерной проверкой гипотезы Кеплера в 1998 году. Тогда тоже никто не мог полностью верифицировать результат, и споры шли годами. Это не совсем аналогичный случай, но... результат оказался, мягко говоря, спорным. До сих пор, кстати.
Что будет дальше — пока неясно.