17:09 01.05.2026 Пт 3 мин Эпоха ИИ, который не может объяснить собственные решения, завершается?
Ученые смогли понять ИИ (фото: Magnific) Выбирайте проверенное — добавьте РБК-Украина в любимые источники в Google
Ученые из Университета Лафборо (Великобритания) представили математический план проектирования прозрачных ИИ-систем. Новая разработка позволяет точно отслеживать, как алгоритм учится, запоминает информацию и делает выводы
Об этом сообщает РБК-Украина со ссылкой на результаты исследования, опубликованные в профессиональном вестнике Physica D: Nonlinear Phenomena.
Больше интересного: ИИ не смог измерить красоту: ученые обнаружили скрытые предубеждения алгоритмов
Команда разработала ИИ-систему, имитирующую ключевые аспекты человеческого мышления. В отличие от обычных нейросетей, этот прототип выполняет следующие функции:
Непрерывно обучается: алгоритм не теряет старых знаний при получении новых (проблема, известная как «катастрофическое забывание»).
Избегает ложных воспоминаний: система не создает дезинформации в процессе обработки данных.
Объясняет логику: каждое действие ИИ является предсказуемым и прослеживаемым.
Во время первых тестов прототип самостоятельно выучил музыкальные ноты и короткие фразы без помощи человека, а также успешно идентифицировал цвета на изображениях. Весь процесс обработки данных был полностью прозрачным для исследователей.
В чем суть эксперимента?
В основе нового подхода лежит концепция «пластического векторного поля». Это математическая модель, которая описывает, как информация меняется со временем, отражая процессы обработки и хранения данных в настоящем мозге.
«Мы хотели переосмыслить ИИ с самого начала. Мы построили систему, где внутренняя работа когниции полностью открыта», — пояснила ведущий автор исследования, доктор Наталья Янсон.
Ученые пытались ответить на фундаментальные вопросы, что является «кодом» мозга и как связаны память и физическая структура.
Почему современные нейросети — это проблема?
Авторы исследования также проанализировали действующие алгоритмы и пришли к выводу, что их ограничения заложены в самой конструкции.
«Актуальный дизайн ИИ делает невозможным полный контроль над тем, как системы учатся и хранят данные. Это не просто техническое препятствие, а врожденный дефект», — объясняют исследователи.
Именно поэтому современный ИИ часто не может объяснить, почему он сделал тот или иной выбор. Как следствие, его внедрение в критически важных сферах вызывает скорее скепсис, чем энтузиазм.
Каким будет будущее?
Сейчас система является прототипом, требующим масштабирования для реального использования. Однако ученые уверены, что их работа приближает человечество к технологиям, на которые можно уверенно положиться в повседневной жизни.
В чем исследователи видят перспективу:
Безопасная система здравоохранения: диагностические инструменты, логику которых врачи смогут проверить.
Подотчетные решения: автоматизированные ИИ-системы в судах или банковской сфере, которые будут работать прозрачно.
Новое железо: разработка специального оборудования, адаптированного под «прозрачную» математическую модель.
Ученые ставят своей целью создать мощный ИИ, который будет не просто эффективным, а прежде всего понятным и заслуживающим доверия.
