Как правовое регулирование ИИ повлияет на медицинские устройства?

В конце апреля ожидается проект закона о регулировании искусственного интеллекта в ЕС

Европейский парламент недавно одобрил предложение по регулированию искусственного интеллекта (ИИ), и первый официальный проект ожидается в конце апреля 2021 года. Предложение нацелено на использование ИИ с высоким уровнем риска, в частности, в секторах здравоохранения и медицинских технологий. Также проект установит стандарты для всех продуктов и приложений искусственного интеллекта. Сфера применения законопроекта очень широка: она охватывает все виды использования продуктов ИИ в Европейском союзе, независимо от происхождения или места создания разработчика или владельца ИИ. Он также регулирует не только разработчиков ИИ, но также пользователей этих продуктов и приложений ИИ.

Какие виды технологий будут регулироваться?

Регламент, вероятно, будет применяться к «искусственному интеллекту», «робототехнике» и «связанным технологиям», включая программное обеспечение, алгоритмы и данные, используемые или производимые такими технологиями, разработанными, развернутыми или используемыми в Европейском союзе.

В законопроекте определят, что относится к искусственному интеллекту, робототехнике и связанным технологиям. Вероятно, термины охватят программно-аппаратные системы ИИ , физические машины с возможностями ИИ (робототехника) и другие технологии, например, способные обнаруживать биометрические, генетические или другие данные (родственные технологии). Сектор здравоохранения является ключевой целью нового законодательства, и медицинские устройства, использующие эту технологию, скорее всего, попадут под их действие.

Как новый регламент повлияет на медицинские устройства?

ЕС однозначно держит в поле зрения сектор медицинских технологий с этим предложением, поэтому приложения с высоким уровнем риска почувствуют изменения первыми. Ожидается, что здравоохранение (включая отрасль MedTech) будет определено как сектор высокого риска, а медицинские процедуры и процедуры, включая использование MedTech, будут определены как использование или цели с высоким риском. Практический эффект от этого заключается в том, что операторы медицинских устройств, развертывающие ИИ, могут рассчитывать на то, что они будут работать против предположения, что их использование ИИ сопряжено с высоким риском и при условии соблюдения требований.

Высокий риск должен быть определен надзорным органом государства-члена после оценки риска на основе объективных критериев, таких как конкретное использование или цель ИИ, сектор, в котором они разрабатываются, развертываются или используются, и серьезность возможных травм или вреда, вызванных использованием технологий искусственного интеллекта в медицине. Таким образом, те, кто желает остаться за пределами компетенции надзорного органа, должны будут иметь возможность продемонстрировать надзорному органу со ссылкой на эти широкие критерии, что использование им ИИ в устройстве MedTech не может объективно считаться высоким риском.

Если развертывание ИИ владельцем MedTech будет сочтено высоким риском, тогда ему необходимо будет пройти оценку соответствия, которая будет включать:

  • Гарантия полного контроля со стороны человека в любое время, в том числе таким образом, чтобы при необходимости можно было восстановить полный контроль со стороны человека, в том числе путем изменения или прекращения использования ИИ в медицинском устройстве. Если это еще не часть медицинского устройства, это может означать обязательство владельцев/операторов медицинских устройств встроить в устройство удаленный доступ и контроль для операторов, чтобы гарантировать, что управление может осуществляться человеком в любой момент.

  • Гарантия соблюдения минимальных базовых показателей кибербезопасности, пропорциональных выявленному риску и предотвращающих использование любых технических уязвимостей в злонамеренных или незаконных целях. Владельцы/операторы медицинских устройств должны будут продемонстрировать, насколько их устройства устойчивы к кибератакам.

  • Доказательство того, что устройство будет работать беспристрастно и не будет дискриминировать по таким признакам, как раса, пол, сексуальная ориентация, беременность, национальное меньшинство, этническая или социальная принадлежность, гражданское или экономическое положение или судимость. Для медицинского устройства, которое используется для выявления рака, это может означать демонстрацию того, что наборы данных для обучения и тестирования были достаточно широкими, чтобы не приводить к плохим результатам для пациентов на основе, например, пол или раса.

Один из ключевых вопросов, возникающих у производителей медицинского оборудования, заключается в том, как вся эта нормативно-правовая база будет работать с существующей структурой медицинского оборудования. Очевидно, что производители медицинских устройств уже подчиняются строгим требованиям и процедурам оценки соответствия в соответствии с MDD/MDR и IVDD/IVDR. В настоящее время неясно, как регулирование ИИ будет вписываться в эту существующую структуру, и это явно будет сложной задачей для европейского законодательного органа. Поскольку проект закона ожидается 21 апреля 2021 года, будет очень интересно посмотреть, как подойдут к этому вопросу, учитывая известную ориентацию на отрасль здравоохранения.

Оценка рисков и надзорные органы

Предложение предусматривает обязательную оценку соответствия для всех устройств, которые относятся к группе повышенного риска, и добровольные сертификаты этического соответствия для всех остальных изделий, использующих искусственный интеллект. Процесс сертификации до выхода на рынок должен проводиться надзорными органами, что очень похоже на текущие правила защиты данных в соответствии с GDPR. Предлагается, чтобы всеобъемлющая группа надзорных органов могла встретиться на уровне ЕС с Комиссией для надзора за работой сертификации и мониторинга ИИ.

Изменение Закона об ответственности

В этом предложении по регулированию и сопутствующем предложении по обновлению законов о гражданской ответственности в отношении использования искусственного интеллекта предлагается значительное изменение в действующий закон об ответственности за качество продукции в ЕС, которое существенно повлияет на тех, кто участвует в цепочке поставок медицинских устройств. В настоящее время производители несут почти все риски в отношении ответственности за качество продукции в соответствии с законодательством ЕС. Если это предложение будет принято, производители, а также те, кто использует ИИ в медицинских устройствах, будут нести ответственность перед пользователями устройств за потерю, повреждение или травмы, которые они понесли. Это изменение ответственности за риск носит сейсмический характер и затронет всех, кто работает в сфере медицинского оборудования, включая страховщиков.

Заключение

Любое физическое или юридическое лицо имеет право требовать возмещения ущерба или вреда, причиненного операторами искусственного интеллекта высокого риска, которые, скорее всего, будут включать медицинские устройства. Этот ранний проект этого очень важного закона окажется сложной задачей для тех, кто разрабатывает и внедряет ИИ с высоким уровнем риска. Предлагаемое введение нового рыночного режима сертификации приложений искусственного интеллекта с высоким уровнем риска в таких технологиях, как медицинские устройства, добавит новые сложности к существующему значительному нормативному бремени ЕС для производителей и владельцев медицинских устройств. Ожидаемое изменение режима ответственности для таких продуктов, как медицинские устройства, использующие ИИ, будет представлять больший интерес и беспокойство для сектора медицинских устройств в целом. Те, кто ранее находился вне досягаемости закона об обязательной ответственности за качество продукции, теперь могут оказаться в его центре.