В Новосибирском государственном университете прошла встреча с президентом группы компаний InfoWatch и со-основателем «Лаборатории Касперского» Натальей Касперской, которая приехала в Новосибирск Она приехала в Новосибирск для участия в конференции «Отечественный софт: путь к технологическому лидерству», в рамках 12-го Международного форума технологического развития «Технопром-2025».
В ходе посещения университета, она познакомилась с работой Центра искусственного интеллекта НГУ, обсудила возможные варианты сотрудничества с вузом и провела встречу с сотрудниками университета, на которой обсудили ряд актуальных вопросов в области информационных технологий и обеспечения технологического суверенитета России.
Предлагаем несколько цитат эксперта относительно вызовов, с которыми сталкивается российская и мировая ИТ-отрасль.
Проблема «черного ящика»
– Когда мы делаем стандартную базу данных, которые собираем и вводим сами, то потом проблема достоверности извлеченной из нее информации обычно не встает, это вопрос качества сбора информации. Другое дело, когда мы выкачиваем эту информацию из разных источников, как собственно формируются те самые big data (большие данные). Здесь мы сталкиваемся с той самой проблемой «черного ящика» в работе искусственного интеллекта.
В чем она заключается. Как работают алгоритмические решения, там есть шаг один, шаг два, шаг три и дальше мы должны приходим к какому-то результату, понимая путь, по которому мы пришли. Но система глубокого машинного обучения, построенная на нейронных сетях, работает в ином формате, который позволяет системе самой как бы делать выбор. Это что значит? Это значит, мы получаем готовый вердикт, но у нас нет подробного описания, каким образом система к нему пришла, а как уже стало понятно из практики, нейросети часто «галлюцинируют», выдают неверные ответы, основанные на искаженных или выдуманных данных.
Например, если вы задаете в чате с ней один и тот же промт, то каждый раз будете получать немного отличающийся ответ. Это забавно, если вести праздный диалог, но совсем не смешно, когда на основе таких неверных ответов принимаются неверные решения. И это серьезно ограничивает использование искусственного интеллекта, по крайней мере, на данном этапе. Пока не будет предложено какое-то решение проблемы, но в данный момент я таких вариантов не вижу.
Кризис больших языковых моделей
– Вы спрашиваете, когда у нас в стране появятся полностью свои большие языковые модели (GLM), не клоны ChatGPT. А я задам встречный вопрос – а они нам вообще нужны, нам надо сосредотачивать силы на этом направлении? Я считаю, что это очень спорный тезис.
Мое мнение, что это направление развития искусственного интеллекта сильно переоценено. Какие задачи они решают, кроме того, что с их помощью студенты выполняют письменные работы?
Сначала, пока тот же ChatGPT обучали на текстах, созданными людьми, он показывал впечатляющий результат, генерировал тексты, близкие к тем, что пишет человек. И была феерия, ура, мы прошли тест Тьюринга, сейчас будем делать все с помощью искусственного интеллекта. Но потом это качество начало снижаться. И это вполне ожидаемо, нейросети обучаются дальше на контенте, который сгенерирован нейросетями же, там копятся ошибки, и они множатся.
Вы помните, есть такая про кривую Гартнера, которая описывает этапы развития технологии. Она предполагает, что вслед за фазой запуска и пиком завышенных ожиданий, следует «пропасть разочарования» – фаза ослабевания интереса по мере того, как реализация не приносит результатов. И генеративные модели искусственного интеллекта уже почти преодолели свой пик, за которым неизбежно последуют разочарование и спад инвестиций.
Так что пусть американцы и китайцы развлекаются дальше с языковыми моделями, ловят хайп, который скоро пойдет на спад. А у нас есть более актуальные задачи для искусственного интеллекта, такие как надежные автономные системы управления беспилотниками, использование ИИ в обработке данных медицинских анализов и прочих сферах, где он будет брать на себя рутинную работу, но выдавать рекомендации, а не принимать решения.
Новое поколение кадров для ИТ-отрасли
– Когда западные гиганты ИТ-отрасли в конце прошлого века зашли в нашу страну, они стали очень системно и масштабно работать с образованием, с вузами. И вели эту работу почти тридцать лет. В результате выросло целое поколение «айтишников», которые уверены, что все хорошие продукты в их отрасли есть только на Западе, и они в своей работе ориентированы только на Запад. Поэтому совершенно логично, что после начала СВО эта социальная группа показала уровень лояльности к своей стране гораздо ниже, чем в среднем у населения.
Нам сейчас надо вести перепрошивку мышления у работников сферы информационных технологий, это долгая и сложная работа, но без нее не обойтись, иначе наша ИТ-сфера так и останется вторичной по отношению к иностранным игрокам.
Государство это понимает и Минцифры с этого года запускает проект стимулирования российских ИТ-компаний на более активное сотрудничество с вузами. Компаниям поставлено простое условие – если они не сотрудничают с вузами, их будут лишать аккредитации, а это значит рост уплачиваемых налогов в разы. Причем, это сотрудничество не может сводиться к поставкам в университеты оборудования и программных продуктов. IТ-компании обяжут отправлять сотрудников преподавать в вузы, организовывать стажировки и инвестировать в научно-исследовательскую деятельность.
В этом году этот формат в качестве пилота апробируют на нескольких компаниях и если не будет каких-то скрытых проблем, в следующем году его сделают обязательным для всех компаний с оборотом свыше миллиарда рублей в год. Но он будет затрагивать только IT-компании, которые уже прочно утвердились на рынке, и не коснется стартапов.
Сергей Исаев
- Войдите или зарегистрируйтесь, чтобы отправлять комментарии