name: Байесовский выбор субоптимальной структуры модели глубокого обучения
keyword_list: ГЛУБОКОЕ ОБУЧЕНИЕ, ВЫБОР МОДЕЛИ, БАЙЕСОВСКИЙ ВЫБОР МОДЕЛИ, БАЙЕСОВСКИЙ ВЫВОД, НЕЙРОСЕТИ
abstract: Исследуется проблема автоматического выбора моделей глубокого обучения оптимальной и субоптимальной сложности. Под сложностью модели понимается минимальная длина описания, минимальное количество информации, которое требуется для передачи информации о модели и о выборке. Предлагается получение ее приближенной оценки, основанной на связи минимальной длины описания и обоснованности модели. Для получения оценки обоснованности используются вариационные методы получения оценки обоснованности, основанные на аппроксимации неизвестного апостериорного распределения другим заданным распределением. Под субоптимальной сложностью понимается нижняя вариационная оценка обоснованности модели. Рассматривается графовое представление нейронной сети. Для получения вариационных оценок обоснованности модели используется метод, основанный на градиентном спуске. В качестве метода получения модели субоптимальной сложности применяется метод автоматического определения релевантности параметров с использованием градиентных методов оптимизации гиперпараметров.
chairman_dissertation_council.surname: Журавлев Ю.И.
chairman_dissertation_council.position: главный научный сотрудник
chairman_dissertation_council.degree: Доктор физико-математических наук
organization_supervisor.surname: Соколов И. А.
organization_supervisor.position: директор
organization_supervisor.degree: Доктор технических наук
rubrics.code: 28.23.25
rubrics.name: Модели и системы обучения
rubrics.code: 28.23.37
rubrics.name: Нейронные сети
oecds.code: 01.02.00
oecds.name: Computer and information sciences
oecds.code: 01.02.EP
oecds.name: COMPUTER SCIENCE, ARTIFICIAL INTELLIGENCE
oecds.code: 01.02.ET
oecds.name: COMPUTER SCIENCE, INFORMATION SYSTEMS
speciality_codes.name: Теоретические основы информатики
speciality_codes.code: 05.13.17
supervisors.fio: Стрижов В. В.
supervisors.scientific_degree: Доктор физико-математических наук
supervisors.speciality_code: Теоретические основы информатики
supervisors.responsible_type: Научный руководитель
opponents.fio: Чуличков А. И.
opponents.scientific_degree: Доктор физико-математических наук
opponents.speciality_code: Математическое моделирование, численные методы и комплексы программ
opponents.responsible_type: Оппонент
opponents.fio: Зайцев А. А.
opponents.scientific_degree: Кандидат физико-математических наук
opponents.speciality_code: Математическое моделирование, численные методы и комплексы программ
opponents.responsible_type: Оппонент
protection_organization.short_name: ФИЦ ИУ РАН
protection_organization.name: Федеральное государственное  учреждение "Федеральный исследовательский центр "Информатика и управление" Российской академии наук"
protection_organization.ogrn: 1027739314030
protection_organization.organization_type: Организация
protection_organization.okogu: Министерство науки и высшего образования Российской Федерации
protection_organization.okopf: Федеральные государственные бюджетные учреждения
author_organization.short_name: МФТИ
author_organization.name: Федеральное государственное автономное образовательное учреждение высшего образования "Московский физико-технический институт (национальный исследовательский  университет)"
author_organization.ogrn: 1027739386135
author_organization.organization_type: Организация
author_organization.okogu: Министерство науки и высшего образования Российской Федерации
author_organization.okopf: Федеральные государственные автономные учреждения