Разработана новая архитектура ИИ с "прозрачной" логикой работы

МОСКВА, 10 июля. /ТАСС/. Исследователи из России разработали алгоритм, позволяющий создавать "прозрачные" системы искусственного интеллекта, чья логика принятия решений всегда остается принципиально понятной человека. Этот подход ускорит создание систем ИИ, построенных на базе принципа "белого ящика", сообщила пресс-служба Института теоретической и экспериментальной биофизики РАН (Пущино).

"Реализованный нами вариант символического ИИ основан на полностью прозрачных алгоритмах и имеет природу "белого ящика". Этим он принципиально отличается от современного генеративного ИИ, реализованного на непрозрачных алгоритмах, имеющих природу "черного ящика", - пояснил научный сотрудник ИТЭБ РАН Лев Калмыков, чьи слова приводит пресс-служба института.

Как объясняет Калмыков, принцип "черного ящика" выражается в том, что фактически все современные системы ИИ устроены таким образом, что их разработчики и пользователи не имеют понятия о том, что происходит внутри эти алгоритмов, каким образом они принимают решения, какие особенности входящих данных оказывают наибольшее влияние на итоговый результат. Это осложняет их модификацию и оптимизацию, а также может создавать опасные и непредсказуемые ситуации при практическом применении.

Еще в 2016 году для решения этой проблемы в США была запущена программа "Объяснимого ИИ" (XAI), в рамках которой ученым удалось лишь частично интерпретировать то, как именно работает данный "черный ящик" нейросетей. Это ускорило разработку генеративных алгоритмов, но при этом не помогло развеять неопределенность в отношении безопасности систем ИИ и надежности принимаемых ими решений.

Для решения этой проблемы ученые из ИТЭБ РАН и их коллеги из Института биофизики клетки РАН разработали принципиально иную концепцию построения ИИ, основанного на базе так называемых логических клеточных автоматов

Они представляют собой математические конструкции, описывающие пространство из прилегающих друг к другу ячеек-клеток, каждая из которых может находиться в одном из нескольких возможных состояний и менять его на другое при каждом новом шаге вычислений.

Российские ученые использовали логические клеточные автоматы для создания полностью "прозрачной" системы ИИ, способной автоматически проверять экологические гипотезы. При ее помощи они проверили несколько гипотез, связанных с сосуществованием видов, решили парадокс биоразнообразия и просчитали поведение различных процессов в экосистемах. Схожим образом, как считают исследователи, можно создать и системы ИИ общего назначения, а также гибридные системы, сочетающие в себе "белые ящики " и "черные ящики".