Что такое сверточная нейронная сеть?
Сверточная нейронная сеть (Convolutional Neural Network, CNN/СНС) — это класс глубоких нейронных сетей в структуре искусственного интеллекта, применяемый преимущественно для анализа и распознавания изображений [1]. Сеть принимает входное изображение и путем сопоставления с базой данных эталонных образцов формирует диагностический результат. Архитектура нейросети вдохновлена принципами функционирования биологических нейронных систем: модель способна к самообучению и повышению точности по мере увеличения объема обработанных визуальных данных и количества выполненных сверток (математического объединения двух наборов данных — нового изображения и имеющегося в каталоге образца — для формирования результирующего признака).
Сверточные нейронные сети рассматриваются как высокоэффективный вспомогательный инструмент для дерматовенерологов, облегчающий диагностику новообразований и патологических элементов кожи. Механизм анализа данных с помощью CNN во многом повторяет логику клинического мышления врача: визуальный образ (входное изображение кожного образования) поступает в аналитическую систему (клинический опыт и база знаний специалиста), где происходит синтез информации с выдачей диагностического класса (окончательный диагноз) или спектра вероятностей (дифференциальный диагноз) [2].
Визуальный характер дерматологии идеально подходит для применения цифровой визуализации новообразований, а сверточные нейросети обладают огромным потенциалом для трансформации клинической практики. Это многогранный метод анализа данных, основанный на сложном математическом аппарате и требующий колоссальных вычислительных мощностей на стыке биологии, математики и компьютерных наук.
Где применяются сверточные нейронные сети?
СНС нашли широкое применение как в гражданском, так и в военном секторе, включая беспилотные летательные аппараты, информационные технологии и электронную коммерцию [3]. В повседневной жизни они обеспечивают автоматическое распознавание лиц в социальных сетях, сортировку фотографий по категориям и формирование персонализированных рекомендаций в интернет-магазинах.
В медицине алгоритмы на базе CNN активно исследуются и применяются для скрининга диабетической ретинопатии, выявления нарушений сердечного ритма и ранней диагностики злокачественных новообразований кожи [3–5].
Принцип работы сверточных нейронных сетей
Основой CNN является вычислительный метод дифференциации классов изображений по специфическим визуальным паттернам (края, контуры, цветовые переходы, изгибы). Базовые признаки затем последовательно преобразуются в более сложные абстрактные структуры через каскад сверточных слоев, слоев пулинга (субдискретизации) и полносвязных слоев.
Шаг 1: Сверточные слои (Convolutional layers)
Исходное изображение оцифровывается и считывается компьютером как матрица пикселей с определенными цветовыми координатами. Далее фрагменты матрицы сканируются специализированными фильтрами (ядрами свертки) [2]. На начальных этапах фильтры настроены на обнаружение простейших геометрических элементов: прямых, диагональных и изогнутых линий, точек. При прохождении фильтра по изображению генерируется карта признаков уменьшенного размера. Зонам полного совпадения присваиваются положительные коэффициенты, участкам несовпадения — значения менее 1. В результате формируется сверточный образ: например, применение линейного фильтра к дерматоскопическому снимку акрального невуса с характерным параллельным бороздковым паттерном (дерматоскопия) даст выраженный положительный отклик. Процесс повторяется многократно с использованием сотен фильтров для извлечения тонких диагностических признаков.
Шаг 2: Слой объединения / пулинга (Pooling layer)
Для оптимизации вычислений и уменьшения размерности карт признаков применяется операция пулинга (субдискретизации), при которой фиксируется наиболее значимая область паттерна, а избыточные окружающие параметры отсекаются [2]. Существуют различные алгоритмы пулинга, однако наиболее распространенным является метод максимального пулинга (max pooling; см. схему ниже).
Упрощенная схема операции максимального пулинга (max pooling): преобразование матрицы 4x4 в матрицу 2x2
Дополнительно на этом этапе применяется нормализация данных — метод, повышающий стабильность и скорость обучения нейросети. Нормализация масштабирует все входные значения к единому диапазону, предотвращая необоснованное завышение значимости отдельных параметров из-за разницы масштабов.
Шаг 3: Выходной полносвязный слой (Output layer)
Для формулирования дифференциально-диагностического заключения нейросеть задействует полносвязный слой, объединяющий информацию всех предшествующих этапов обработки. Это эквивалентно этапу, когда врач-дерматовенеролог сводит воедино разрозненные клинико-дерматоскопические критерии в рабочий диагноз с перечнем нозологий для дифференциальной диагностики.
Точность CNN повышается в процессе постоянного дообучения (в частности, через алгоритм обратного распространения ошибки — back-propagation, при котором система корректирует весовые коэффициенты признаков при каждой допущенной классификационной ошибке) [1].
Преимущества сверточных нейронных сетей
Ключевыми преимуществами применения CNN в диагностике новообразований и поражений кожи являются точность, скорость и экономическая доступность.
- Клиническая точность диагностики меланомы напрямую зависит от опыта и квалификации врача. В контролируемых исследованиях современные CNN продемонстрировали диагностическую точность, сопоставимую с результатами сертифицированных дерматологов экспертного уровня, и этот показатель продолжает расти [6,7].
- Анализ одного снимка новообразования занимает у нейросети от нескольких секунд до пары минут. Процесс может выполняться в любое время и доступен дистанционно при наличии подключения к интернету, что исключает недели и месяцы ожидания очной консультации специалиста.
- Алгоритмы адаптивны и совершенствуют диагностическую точность по мере пополнения базы данных новыми верифицированными клиническими случаями.
- Использование алгоритмов автоматизированной оценки существенно снижает финансовые затраты на первичном диагностическом этапе.
Ограничения и недостатки сверточных нейронных сетей
Среди факторов, сдерживающих повсеместное внедрение CNN в рутинную практику: завышенные ожидания пациентов и специалистов, вопросы конфиденциальности медицинских данных и правовая ответственность.
- Несмотря на высокий интерес к технологии, для ее полноценной интеграции требуются годы. Для обучения CNN необходимы колоссальные массивы верифицированных и стандартизированных клинических изображений (ground truth). Выбор образований для съемки по-прежнему выполняет медицинский работник, квалификация которого критически важна.
- Алгоритмы CNN и системы поддержки принятия врачебных решений подлежат обязательной сертификации и регистрации в качестве медицинских изделий (с повторной валидацией при существенном обновлении алгоритмов) [8].
- Облачная архитектура решений требует безупречной кибербезопасности: шифрования каналов связи, надежного резервного копирования и строгой защиты персональных данных пациентов согласно требованиям регуляторов.
- Специалисты должны учитывать феномен «переобучения» и смещения выборки: модель, демонстрирующая безупречные результаты на одном датасете, может допускать критические ошибки (как гипердиагностику доброкачественных элементов — ложноположительные результаты, так и пропуск злокачественных опухолей — ложноотрицательные результаты) на другой популяции пациентов.
- Остается нерешенным вопрос медико-юридической ответственности: кто несет юридическую ответственность за пропущенную меланому или ятрогенные последствия ошибочного заключения — разработчик программного обеспечения или лечащий врач?
Список литературы
- Rawat W, Wang Z. Deep convolutional neural networks for image classification: a comprehensive review. Neural Comput 2017; 29: 2352–449. DOI: 10.1162/NECO_a_00990. PubMed
- Esteva A, Kuprel B, Novoa RA, et al. Dermatologist-level classification of skin cancer with deep neural networks. Nature 2017; 542(7639): 115–8. DOI: 10.1038/nature21056. PubMed
- Carrio A, Sampedro S, Rodriguez-Ramos A, Campoy P. A review of deep learning methods and applications for unmanned aerial vehicles. Journal of Sensors 2017; 2017: Article 3296874. DOI: 10.1155/2017/3296874. Journal
- Rajalakshmi R, Subashini R, Anjana RM, Mohan V. Automated diabetic retinopathy detection in smartphone-based fundus photography using artificial intelligence. Eye 2018; 32: 1138–44. Journal
- Roffman D, Hart G, Girardi M, et al. Predicting non-melanoma skin cancer via a multi-parameterized artificial neural network. Sci Rep 2018; 8: 1701. DOI: 10.1038/s41598-018-19907-9. PubMed
- Haenssle HA, Fink C, Schneiderbauer R, Ko CJ, Deng J. Man against machine: diagnostic performance of a deep learning convolutional neural network for dermoscopic melanoma recognition in comparison to 58 dermatologists. Ann Oncol 2018; 29: 1836–42. DOI: 10.1093/annonc/mdy166. PubMed
- Mar VJ, Soyer HP. Artificial intelligence for melanoma diagnosis: How can we deliver on the promise? Ann Oncol 2018; 29: 1625–8. DOI: 10.1093/annonc/mdy1913. Journal
- US Food & Drug Administration. Digital health criteria. Updated 22 September 2017. Available at: www.fda.gov/medicaldevices/digitalhealth/ucm575766.htm (accessed 17 September 2018)
Материалы на DermNet
Дополнительные ресурсы
- Классификация рака кожи с помощью глубокого обучения — Стэнфордский университет