Иностранные агенты на марше, или Экономическое оружие врага
Доктор физико-математических наук, академик РАН, академик РАО Алексей Семёнов о проблеме «доверия» результатам, предлагаемым искусственным интеллектом сегодня:
«В работе с искусственным интеллектом постоянно возникает вопрос доверия к тому, что уже было сделано. Когда мы проектируем двигатель внутреннего сгорания, то, хорошо всё обсчитав, мы заранее знаем результат. А в случае искусственного интеллекта мы выясняем, что бывают парадоксальные противоречивые результаты, сбитые в ту или иную сторону. И возникает задача, которая называется общим термином «доверенный искусственный интеллект». Это ИИ, результатам, прогнозам и оценкам которого мы можем доверять по тем или иным причинам.
И здесь возникает целая иерархия. Даже аппаратная часть всей вычислительной структуры должна быть соответствующим образом проверена. Всё, начиная с «машинных кодов» и заканчивая языковыми моделями, должно вызывать доверие. Например, это касается проблемы объяснения: когда искусственный интеллект принимает какое-то решение, нужно синтезировать объяснение, которое убедит людей в том, что это решение правильное и выгодное, отыскав подходящие аргументы и прецеденты.
Ведущей организацией в области «доверенного искусственного интеллекта» в нашей стране является Институт системного программирования им. В.П.Иванникова. В этой организации с самого начала ставилась проблема доверенного надёжного проверяемого искусственного интеллекта. И в прошедшие десятилетия ещё до ситуации с санкциями Институт системного программирования был основным поставщиком многих международных корпораций в этом направлении. До сих пор остаётся им для азиатских компаний в тех случаях, когда необходимой частью их продукта являются важные компоненты, гарантирующие правильность работы тех или иных алгоритмов.
Таким образом, организация, в которой работает около 600 человек, обеспечивает ключевые элементы безопасности и надёжности для миллионов пользователей компьютерных устройств по всему миру»
