Путь к слабому ИИ

"Прошли века прежде, чем человечество перешло от филосовских идей о механизации к реальным научным разработкам по созданию искусственного интеллекта и их последующему внедрению в повседневную жизнь людей. Пришлось пережить немало зим разочарований, когда энтузиазм и идеи гасли на фоне недостатка данных и технологий", — рассказывает Оксана Захарова.

По ее словам, наиболее значимыми историческими вехами развития ИИ стали:

1956 год — на Дартмутской конференции ученые впервые использовали термин "искусственный интеллект" и заложили его основы как академической дисциплины;

1997 год — суперкомпьютер Deep Blue обыграл чемпиона мира в шахматном поединке, показав, что машина может быть умнее человека;

2020 год — появление генеративных моделей дало понимание того, что ИИ может не просто считать и работать по алгоритму, но и творить.

"Основополгающую роль в этом развитии сыграли три фактора. Во-первых, огромный объем данных, к которому у нас есть доступ через интернет. Без них ИИ в принципе бы невозможно было создать и тестировать. Во-вторых, железо. Техника и технологии наконец-то догнали научные идеи. Появились доступные видеокарты, способные обеспечить огромное количество ТБ вычислений. И, в-третьих, архитектура трансформеров, заменившая последовательную обработку данных на параллельную с механизмом внимания. Ее разработка дала скорость работе моделей", — отметила эксперт.

Сейчас пользователям доступен слабый или узкий ИИ. Он стоит за большинством привычных сервисов и инструментов, включая чат-боты и языковые модели (типа ChatGPT, "Алисы" и т. п.), рекомендательные системы, голосовых помощников и т. д. Как правило, такой ИИ может выполнять одну или узкий набор задач, опираясь на статистику и паттерны.

"Нужно понимать, что это не какое-то разумное создание, как многие себе его представляют, а некий калькулятор вероятностей — очень быстрый. Он работает на основе мощных статистических моделей, которые находят закономерности в данных и предсказывают наиболее вероятный результат. При этом в отличие от ранних моделей современные способны учиться самостоятельно, и программистам уже не нужно вводить тысячи строк кода, чтобы сформировать нужный алгоритм работы", — объясняет Оксана Захарова.

Польза и риски ИИ

Массовое распространение ИИ, по мнению преподавателя ПГУТИ, отвечает запросу времени. Ритм жизни ускоряется, и такие системы помогают людям не отставать, быть быстрее и эффективнее в учебе, работе, бизнесе:

"Элементарный  пример. Каждый день мы смотрим анализ пробок в городе и на основе этого составляем самый быстрый маршрут. И так почти со всеми сферами жизни. Ведь ИИ сейчас используют практически везде: в медицине, промышленности, науке, медиа, ЖКХ и т. д. Польза колоссальная, но есть и серьезные риски".

В первую очередь — это галлюцинации ИИ. Хоть пользователи успешно освоили навыки написания качественных промптов, многие принимают за веру сгенерированные результаты, а в них могут быть ошибки. В медицине и промышленности, например, это может привести к катастрофическим результатам: человек может пострадать из-за неправильной постановки диагноза, на заводе из-за сбоя в расчетах случится авария:

"Поэтому важно не выключать человека из контура принятия решений. Он должен критически оценивать все полученные от ИИ результаты".

Второй риск связан с влиянием искусственного интеллекта на психику людей — особенно молодых, и межличностные отношения. По словам Оксаны Захаровой, если раньше проблемой было то, что ребята больше общаются в социальных сетях, чем лично друг с другом, то теперь зачастую собеседника заменяет ИИ. Живого взаимодействия с другими людьми становится всё меньше.

ИИ должен развиваться в русле человекоориентированности. Нужен супер-помощник, способный снять с людей стресс рутины, но не заменять их. Финальное решение всегда должно оставаться за человеком.

"Развиваем объяснимый ИИ"

"Сейчас есть некий хайп вокруг концепций сильного (общего) ИИ, супер-ИИ и самопознающего ИИ, которые, как по мне, выглядят пока как некая фантастика. Идея сделать машину умнее человека не нова. Но вот сделать машину осознающей себя — это уже вопрос не математики, на основе которой построены ИИ-алгоритмы, а все-таки биологии и физики. И нужно ли это вообще? Для начала необходимо разобраться с проблемами слабого ИИ. Он должен развиваться таким образом, чтобы становиться всё более полезным инструментом для человека, но не его конкурентом", — считает Оксана Захарова.

Для выполнения этой задачи, как отмечает эксперт, в учебных заведениях нужно развивать направления подготовки специалистов по этике ИИ. Также требуется психологическая экспертиза, чтобы понимать, как искусственный интеллект влияет на восприятие, поведение, эмоциональное состояние людей и делать технологии безопасными и понятными.

"В плане разработки нужны уже не просто программисты, а специалисты, умеющие обучать модели под конкретные отрасли. В ПГУТИ есть хороший выбор прикладных направлений подготовки. Также с 1 сентября при поддержке Минцифры РФ и Аналитического центра при Правительстве РФ мы запустили в работу Центр ТОП ИТ, где обучение проходит через индустриальные треки: студенты решают конкретные задачи наших партнеров. В рамках лаборатории ИИ мы работаем над развитием объяснимого искусственного интеллекта, чтобы модель не просто выдавала результат, а показывала нам, почему она так решила. Без этого, внедрение ИИ — особенно в образование и крупные индустрии — просто опасно", — отметила эксперт. 

Материал подготовлен при поддержке гранта Минобрнауки России в рамках Десятилетия науки и технологий