Искусственный интеллект помогает ученым делать открытия, но не все могут понять, как он приходит к своим выводам. Один компьютерный ученый из UMaine разрабатывает глубокие нейронные сети, которые объясняют свои открытия способами, понятными пользователям, применяя его работу в биологии, медицине и других областях.
Интерпретируемое машинное обучение, или ИИ, который создает объяснения полученных результатов, определяет фокус исследования Чаофан Чена. Доцент кафедры информатики говорит, что интерпретируемое машинное обучение также позволяет ИИ сравнивать изображения и делать прогнозы на основе данных и в то же время уточнить свои аргументы.
Ученые могут использовать интерпретируемое машинное обучение для множества приложений, от идентификации птиц на изображениях для исследований дикой природы до анализа маммограмм.
«Я хочу повысить прозрачность глубокого обучения и хочу, чтобы глубокая нейронная сеть объясняла, почему что-то такое, как оно думает», — говорит Чен. «Многие люди начали понимать, что глубокая нейронная сеть похожа на черный ящик, и люди должны начать искать способы открыть черный ящик».
Чен начал разрабатывать интерпретируемые методы машинного обучения во время учебы в Университете Дьюка, где в мае получил докторскую степень в области компьютерных наук.
Перед тем как присоединиться к UMaine, Чен и его коллеги из Duke разработали архитектуру машинного обучения, известную как прототипная сеть компонентов (ProtoPNet), чтобы определять и классифицировать птиц на фотографиях, а затем объяснять полученные результаты. ProtoPNet, которую команда завершила в прошлом году, объяснит, почему идентифицированная птица была птицей и почему она олицетворяет особый тип птиц.
Исследователи обучили ProtoPNet определять, что за птица на фотографии. Например, ИИ будет изучать набор прототипных характеристик, характеризующих каждый вид птиц, и сравнивать различные части изображения птицы с этими прототипными характеристиками, характерными для различных видов птиц. Например, ProtoPNet будет сравнивать то, что, по ее мнению, является головой птицы на изображении, с прототипами птичьих голов различных классов птиц. По словам Чена, используя сходство с прототипными чертами вида птиц , ProtoPNet может объяснить, почему на изображении был изображен конкретный вид птиц.
Команда поделилась своими выводами в документе, представленном на 33-й конференции по системам обработки нейронной информации в прошлом году в Ванкувере, Канада.