Фото: ИЗВЕСТИЯ/Юлия Майорова
Специалисты разработали уникальную архитектуру памяти, взяв за основу принципы функционирования человеческого мозга.
По словам специалистов, как биологическая, так и искусственная нейросети формируют во время обучения своеобразные «следы памяти», которые напоминают тропинки в лесу. Если траектории изменяются слишком часто, старые маршруты постепенно исчезают, и соответствующие знания стираются. В случае искусственных нейросетей этот процесс называют «катастрофическим забыванием»: при освоении новой информации предыдущие данные стираются из памяти алгоритма из-за постоянной коррекции параметров сети.
Чтобы преодолеть подобный эффект, исследователи МФТИ адаптировали механизм ревайринга — перестройки нейронных связей — именно так, как он реализован у человека. Такой подход позволяет вместе с традиционными методами обучения обеспечивать нейросеть способностью одновременно сохранять как старую, так и новую информацию. Это минимизирует риски катастрофического забывания и обеспечивает возможность непрерывного обучения искусственного интеллекта на протяжение всего его существования.
«Художественные» возможности ИИ представит ТВ-канал Нейро ТВ.
Специалисты разработали уникальную архитектуру памяти, взяв за основу принципы функционирования человеческого мозга.
По словам специалистов, как биологическая, так и искусственная нейросети формируют во время обучения своеобразные «следы памяти», которые напоминают тропинки в лесу. Если траектории изменяются слишком часто, старые маршруты постепенно исчезают, и соответствующие знания стираются. В случае искусственных нейросетей этот процесс называют «катастрофическим забыванием»: при освоении новой информации предыдущие данные стираются из памяти алгоритма из-за постоянной коррекции параметров сети.
Чтобы преодолеть подобный эффект, исследователи МФТИ адаптировали механизм ревайринга — перестройки нейронных связей — именно так, как он реализован у человека. Такой подход позволяет вместе с традиционными методами обучения обеспечивать нейросеть способностью одновременно сохранять как старую, так и новую информацию. Это минимизирует риски катастрофического забывания и обеспечивает возможность непрерывного обучения искусственного интеллекта на протяжение всего его существования.
«Художественные» возможности ИИ представит ТВ-канал Нейро ТВ.
