Про искусственный интеллект всё чаще говорят, что он может изменить не только рынок труда или повседневные сервисы, но и сам способ, которым люди получают знания. Алгоритмы уже пишут тексты и код, обрабатывают изображения, помогают врачам анализировать данные, ищут молекулы с заданными свойствами и предлагают гипотезы для научных исследований. Однако развитие таких систем вызывает не только энтузиазм. Всё заметнее становится другой вопрос: что произойдёт, если машины начнут выдавать правильные или кажущиеся правильными ответы быстрее, чем люди смогут понять, проверить и объяснить путь к ним?
Эта проблема особенно наглядна в математике. Для широкой аудитории математика часто сводится к вычислению верного ответа, но для самой науки результат неотделим от доказательства. Важна не только формула в конце рассуждения, но и последовательность идей, определений и логических шагов, которая показывает, почему утверждение верно. Хорошее доказательство позволяет другим исследователям проверить работу, найти в ней новые связи и использовать её методы при решении других задач.
Открытое письмо по этому поводу написали 24 лауреата Филдсовской премии - одной из самых престижных наград в математике, ее часто называют аналогом Нобелевской премии для этой науки.
Поводом стало заявление компании OpenAI о решении задачи Навье-Стокса - одной из семи "задач тысячелетия". Компания опубликовала 166-страничную работу, созданную с помощью внутренних моделей, которые пока недоступны публике. При этом, отмечает издание, в ней мало объяснений того, как именно получен результат.
Математики считают, что ИИ-компании превращают сложные задачи прежде всего в тест мощности своих моделей. По их мнению, это "вредит математической науке и математическому сообществу", поскольку решение задачи - лишь инструмент, а главная цель математики заключается в понимании и появлении новых идей.
Лауреат Филдсовской премии Теренс Тао, один из наиболее известных современных математиков, и ранее в публичных высказываниях не раз обращал внимание на двойственную природу ИИ-инструментов. Они могут стать сильными помощниками в рутинной работе, в поиске примеров, проверке вычислений и подготовке формальных доказательств. Но использование таких систем требует осторожности: технология способна усиливать исследователя, а может подменять самостоятельное мышление готовыми, но не всегда проверяемыми формулировками.
Эту дилемму можно описать через простую аналогию. Навигатор помогает быстрее добраться до места, но человек, который всегда следует подсказкам приложения, может перестать ориентироваться в городе. Калькулятор ускоряет вычисления, но не объясняет принцип решения задачи. Поисковая система даёт доступ к огромному массиву информации, но не гарантирует, что пользователь отличит надёжный источник от ошибки или манипуляции. ИИ развивает эту логику: он не только находит уже существующие сведения, но и формирует связный ответ, который звучит убедительно даже тогда, когда его отдельные части неточны.
Исследователи называют это явление когнитивной разгрузкой. Человек передаёт часть интеллектуальной работы внешнему инструменту: записной книжке, поисковику, навигатору, калькулятору или языковой модели. Само по себе это не является проблемой. Культура и наука всегда развивались благодаря инструментам, расширявшим память, скорость счёта и возможности наблюдения. Письменность позволила сохранять знания за пределами человеческой памяти, печатный станок сделал их массово доступными, компьютеры открыли путь к моделированию процессов, которые невозможно просчитать вручную.
Однако каждый такой переход требует новых навыков. Пользователь калькулятора должен понимать, какую операцию он выполняет и может ли результат быть реалистичным. Человек, работающий с поисковой выдачей, должен уметь оценивать источники. Пользователь ИИ должен научиться ставить корректные задачи, проверять ответы, распознавать недостоверные утверждения и не принимать правдоподобный текст за доказанный факт. В противном случае технология, призванная освобождать время для сложного мышления, способна ослабить способность к нему.
Для науки это означает необходимость сохранять принцип воспроизводимости. Результат исследования ценен не только потому, что его получил автор, но и потому, что другие специалисты могут изучить исходные данные, методику и ограничения работы. В случае с ИИ этот принцип становится сложнее соблюдать. Современные модели обучаются на огромных массивах данных, а их внутренние механизмы часто трудно интерпретировать даже разработчикам. Если алгоритм предлагает научную гипотезу, проектирует эксперимент или строит математическое рассуждение, исследователям необходимо понимать, как проверить его выводы независимыми методами.
При этом искусственный интеллект уже приносит науке заметную пользу. Машинное обучение помогает анализировать геномные данные, распознавать закономерности в астрономических наблюдениях, ускорять поиск материалов и лекарственных соединений. Алгоритмы могут отсечь заведомо слабые варианты, обработать массивы информации, недоступные одному человеку, и подсказать направления для дальнейшей работы. Но окончательная научная оценка по-прежнему остаётся за исследователем: модель может предложить гипотезу, однако подтвердить её должны эксперимент, расчёт и открытая проверка.
Вопросы прозрачности и контроля выходят далеко за пределы академической науки. Чем более автономными становятся цифровые системы, тем чаще их предлагают использовать в финансах, медицине, государственном управлении, промышленности, образовании и сфере безопасности. Ошибка в рекомендательном сервисе может быть неприятной, но сравнительно безобидной. Ошибка в системе, влияющей на доступ человека к кредиту, выбор лечения, работу критической инфраструктуры или решение о применении силы, имеет совершенно иной масштаб.
Поэтому специалисты по безопасности всё чаще говорят не о запрете ИИ как такового, а о необходимости разделять области его применения по уровню риска. Одни задачи допускают широкую автоматизацию: например, сортировка документов, расшифровка аудиозаписей, помощь в программировании или поиск повторяющихся закономерностей в данных. Другие требуют обязательного участия человека, независимого аудита и понятных процедур ответственности. Чем выше потенциальный ущерб от ошибки, тем важнее возможность проверить, на каких данных и основаниях система пришла к своему решению.
Сложность регулирования состоит в том, что ИИ одновременно воспринимается как источник экономического роста, научного преимущества и военного потенциала. Компании опасаются отстать от конкурентов, государства – уступить в технологической гонке, инвесторы – пропустить следующий большой рынок. В такой ситуации призывы замедлить разработку или ввести жёсткие правила сталкиваются с аргументом о том, что односторонний отказ от развития принесёт выгоду тем, кто продолжит работу без ограничений.
История технологий показывает, что этот конфликт не уникален. Появление электричества, авиации, ядерной энергетики, биотехнологий и интернета сопровождалось одновременно надеждами и страхами. Общество не отказалось от этих направлений полностью, но постепенно формировало правила их использования: стандарты безопасности, профессиональную ответственность, международные договоры, независимый контроль и ограничения для наиболее опасных сценариев.
С искусственным интеллектом, вероятно, потребуется похожий подход. Необходимо определить, где ИИ может безопасно расширять человеческие возможности, а где решения должны оставаться понятными, проверяемыми и подконтрольными человеку. Для математики это означает стремление превращать машинные результаты в доступные доказательства и новые идеи. Для науки – сохранять воспроизводимость и критическую проверку. Для государства и бизнеса – заранее устанавливать ответственность за применение систем с высоким уровнем риска.
ИИ может ускорить работу с информацией, помочь учёным увидеть ранее незаметные связи и сделать сложные инструменты доступнее. Но способность получать ответы не равна способности понимать их смысл. От того, сохранит ли человек привычку проверять, сомневаться и разбираться в основаниях решений, будет зависеть, станет ли искусственный интеллект продолжением человеческого разума или удобной заменой мышления.
Сергей Исаев
- Войдите или зарегистрируйтесь, чтобы отправлять комментарии