Аутсорсинг ИИ и глубокое обучение в сфере здравоохранения - существует ли угроза для конфиденциальности данных?

Джонатан Мартин из Anomali

Доказано, что как новейшие технологии искусственный интеллект (ИИ) и глубокое обучение дают важные сведения о бизнесе. Это особенно актуально для отрасли здравоохранения, - говорит Джонатан Мартин, операционный директор по региону EMEA компании Anomali . , где Freemium AI и программные пакеты для машинного обучения, такие как theano, torch, cntk и tensorflow, могут эффективно прогнозировать такие заболевания, как рак, сердечные приступы и многие другие диагнозы на основе изображений.

Таким образом, интеграция искусственного интеллекта и глубокого обучения в медицинскую практику является неизбежным и важным следующим шагом для отрасли здравоохранения, хотя такое стремление сопряжено с определенными проблемами.

Одна из наиболее серьезных проблем, мешающих организациям в полной мере использовать эти технологии, - это нехватка технически подготовленного персонала. Есть много профессионалов в области кибербезопасности, которые, вероятно, могли бы удовлетворить спрос на технические таланты, но с и без того ограниченным предложением профессионалов в самой индустрии кибербезопасности маловероятно, что предложение удовлетворит спрос в ближайшее время.

Чтобы еще больше усложнить ситуацию для отрасли здравоохранения, внедрение этих технологий требует доступа к личной информации (PII), которая является одним из наиболее целевых данных при кибератаках из-за ее конфиденциального и, следовательно, прибыльного характера.

Национальное общество здравоохранения (NHS) избран, чтобы обойти проблемы с персоналом и конфиденциальностью данных, сотрудничая с Deepmind , компания, приобретенная Alphabet / Google . Это дало Deepmind доступ к 1,6 миллионам медицинских записей, которые включали информацию об анализах крови, медицинской диагностике, истории болезни пациентов и даже более конфиденциальные данные, такие как диагноз ВИЧ и предыдущее употребление наркотиков. Было ли это уместным риском, было источником некоторых разногласий в отрасли.

Как мы видели из атаки WannaCry на NHS, кибератака может иметь разрушительные последствия для отрасли. Однако это не должно мешать организациям обмениваться информацией и расширять ее анализ. Искусственный интеллект и другие технологии необходимы для развития здравоохранения, и наем технических специалистов является неотъемлемой частью полного использования их мощи безопасным способом, исключающим необходимость привлечения сторонних ресурсов. Организации также должны поддерживать последовательность передовых практик, чтобы минимизировать риски организации.

Один из этих передовых методов включает редактирование всей информации, позволяющей установить личность. Любая организация, передающая данные на аутсорсинг, должна вместо этого использовать псевдонимы, где уникальный идентификатор и PII хранятся только у доверенного лица. Также следует удалить полу-конфиденциальную информацию, имеющую значение для модели машинного обучения. Прекрасным примером является географическое положение пациента.

Эти данные могут быть мощным индикатором болезни, но необработанные данные могут быть использованы для обратного проектирования PII данного пациента. Отказ от такой информации - это эффективный компромисс между расширением возможностей ИИ для прогнозирования и защитой конфиденциальности пациента.

Эти оптимальные стратегии могут помочь смягчить большинство опасений, однако это не надежный метод обеспечения конфиденциальности. На данный момент невозможно гарантировать, что ИИ не сможет восстановить вашу PII. В одном исследовании, проведенном CMU, исследователи обнаружили, что номера социального страхования были на удивление предсказуемыми и что алгоритм ИИ обычно может восстанавливать номер социального страхования на основе такой информации, как дата рождения и пол.

В будущем организации могут обратиться к более совершенным технологиям для защиты усилий по передаче частных данных на аутсорсинг. Последние разработки в области федеративного обучения могут повысить гибкость и позволить группам хранить данные локально. Другая родственная технология гомоморфного шифрования также находится в стадии разработки. При гомоморфном шифровании вычисления производятся с зашифрованными данными без необходимости их расшифровки, что значительно снижает проблему безопасности.

На данный момент мы все еще далеки от технологий, решающих напрямую проблему конфиденциальности данных. Однако перспективы получения преимуществ от ИИ слишком велики, чтобы отрасль здравоохранения могла ждать. В ближайшем будущем отрасли должны найти баланс для защиты граждан и предотвращения ненужных уязвимостей.

Автор этого блога - Джонатан Мартин, операционный директор Anomali в регионе EMEA