ИИ, который можно контролировать: ученые научились отслеживать решения нейросетей
Ученые смогли понять ИИ (фото: Magnific)
Ученые из Университета Лафборо (Великобритания) представили математический план проектирования прозрачных ИИ-систем. Новая разработка позволяет точно отслеживать, как алгоритм учится, запоминает информацию и делает выводы
Об этом сообщает РБК-Украина со ссылкой на результаты исследования, опубликованные в профессиональном вестнике Physica D: Nonlinear Phenomena.
Команда разработала ИИ-систему, имитирующую ключевые аспекты человеческого мышления. В отличие от обычных нейросетей, этот прототип выполняет следующие функции:
Непрерывно обучается: алгоритм не теряет старых знаний при получении новых (проблема, известная как "катастрофическое забывание").
Избегает ложных воспоминаний: система не создает дезинформации в процессе обработки данных.
Объясняет логику: каждое действие ИИ является предсказуемым и прослеживаемым.
Во время первых тестов прототип самостоятельно выучил музыкальные ноты и короткие фразы без помощи человека, а также успешно идентифицировал цвета на изображениях. Весь процесс обработки данных был полностью прозрачным для исследователей.
В чем суть эксперимента?
В основе нового подхода лежит концепция "пластического векторного поля". Это математическая модель, которая описывает, как информация меняется со временем, отражая процессы обработки и хранения данных в настоящем мозге.
"Мы хотели переосмыслить ИИ с самого начала. Мы построили систему, где внутренняя работа когниции полностью открыта", - пояснила ведущий автор исследования, доктор Наталья Янсон.
Ученые пытались ответить на фундаментальные вопросы, что является "кодом" мозга и как связаны память и физическая структура.
Почему современные нейросети - это проблема?
Авторы исследования также проанализировали действующие алгоритмы и пришли к выводу, что их ограничения заложены в самой конструкции.
"Актуальный дизайн ИИ делает невозможным полный контроль над тем, как системы учатся и хранят данные. Это не просто техническое препятствие, а врожденный дефект", - объясняют исследователи.
Именно поэтому современный ИИ часто не может объяснить, почему он сделал тот или иной выбор. Как следствие, его внедрение в критически важных сферах вызывает скорее скепсис, чем энтузиазм.
Каким будет будущее?
Сейчас система является прототипом, требующим масштабирования для реального использования. Однако ученые уверены, что их работа приближает человечество к технологиям, на которые можно уверенно положиться в повседневной жизни.
В чем исследователи видят перспективу:
Безопасная система здравоохранения: диагностические инструменты, логику которых врачи смогут проверить.
Подотчетные решения: автоматизированные ИИ-системы в судах или банковской сфере, которые будут работать прозрачно.
Новое железо: разработка специального оборудования, адаптированного под "прозрачную" математическую модель.
Ученые ставят своей целью создать мощный ИИ, который будет не просто эффективным, а прежде всего понятным и заслуживающим доверия.
