В последнее время стремительно развиваются системы искусственного интеллекта (ИИ). Такие системы используются в том числе и для диагностирования совершенно различных заболеваний, география их применения весьма обширная. При этом они могут использоваться как вспомогательные/дополнительные системы при диагностике заболеваний медиками, так и в качестве самостоятельных систем диагноза.

Google выдает бесконечное количество разработок по запросу о диагностике заболеваний системами ИИ, вот некоторые из них:

— компания IDx (США) разработала диагностическое устройство на основе ИИ для выявления диабетического поражения сетчатки глаза по анализу изображений глаза, снятых специальной камерой. При этом система интерпретирует результаты самостоятельно, без помощи врача.

— NMC Healthcare (крупнейшая частная медицинская компания в Объединенных Арабских Эмиратах) применяет искусственный интеллект при использовании радиологических инструментов следующего поколения, чем в большинстве случаев заменяет потребность в образцах тканей при проведении диагностических процессов;

— частный университет Showa в Токио совместно с государственным университетом в Нагое и компанией Cybernet Systems Co. разработал программное обеспечение на основе ИИ, которое анализирует полипы толстой кишки и определяет, являются ли они злокачественными.

ИИ — технология, которая сделала это возможным

ИИ — способность компьютерных систем выполнять задачи, требующие интеллекта человека. На современном этапе ИИ, в частности, используется для автономного управления транспортными средствами, медицинской диагностики, планирования, биржевого анализа, распознавания текста и выявления определенных семантических (смысловых) признаков в нем.

Стремительное развитие ИИ, которое мы наблюдаем в последнее время, стало возможным благодаря машинному обучению (machine learning, ML) с использованием так называемых искусственных нейронных сетей и достаточной вычислительной мощности современного аппаратного обеспечения компьютерной техники — «железа» для обработки значительных объемов данных. Благодаря указанным возможностям классический способ программирования (написание программ, способных только выбирать заранее запрограммированный «вручную» вариант поведения) был дополнен ML, то есть «обучением» систем на наборах соответствующих данных.

Соответствующие системы учатся выявлять определенные существенные характеристики в наборах данных и должным образом реагировать на них. В случае медицинской диагностики это, как правило, изображения диагностируемых органов. Такой подход дает возможность обеспечить принятие решений соответствующими компьютерными системами в автоматическом режиме при значительном (в перспективе неограниченном) количестве характеристик, которые следует проанализировать, что фактически невозможно при классическом программировании. Однако недостаток таких систем в сложности понимания, как ими принимаются решения. Такие решения являются результатом непонятной внутренней работы соответствующих систем (принцип «черного ящика»).

Соответственно, такие системы хотя и обеспечивают с высокой вероятностью принятие правильных решений, однако не гарантируют, что все принятые ими решения будут верными.

Тем не менее фактические преимущества, которые предоставляет ИИ, воспринимаются как более существенные, нежели указанный недостаток, и такие технологии активно развиваются, свидетельством чему является регистрация их регуляторными органами. В частности, Управление по санитарному контролю за качеством пищевых продуктов и лекарств США (FDA) зарегистрировало вышеуказанное диагностическое устройство компании IDx. В итоге все сводится к статистике: обеспечивает ли система ИИ более высокую вероятность правильного диагноза, чем врач, или же насколько повышается вероятность правильного диагноза при использовании медицинским персоналом
систем ИИ.

Возмещение вреда за неправильный диагноз ИИ

Если вследствие применения систем диагностики на основе ИИ будет поставлен неправильный диагноз, чем будет причинен вред пациенту, то правоотношения по возмещению такого вреда могут регулироваться (в зависимости от обстоятельств) следующими нормами.

В случае если система ИИ используется медицинским персоналом при проведении диагностики, то вопрос о возмещении вреда, скорее всего, будет регулироваться общими правилами возмещения вреда (статья 1166 Гражданского кодекса (ГК) Украины) и, соответственно, зависеть от вины лиц, которые поставили неверный диагноз. В данном случае то обстоятельство, что система диагностики работает на основе ИИ, не имеет определяющего значения, поскольку диагноз в конечном счете ставится врачом, и именно он будет обязан проверить предварительные результаты, которые выдает такая система.

Если система самостоятельно, без помощи медицинского персонала интерпретирует результаты (устанавливает диагноз), то здесь мы столкнемся с конкуренцией нескольких норм, регулирующих вопросы гражданской ответственности.

С одной стороны, обоснованным выглядит применение к таким правоотношениям норм, регулирующих возмещение вреда, причиненного источниками повышенной опасности (статья 1187 ГК Украины). Так, деятельность, связанная с использованием систем ИИ, самостоятельно устанавливающих диагноз и при этом не гарантирующих, что все принятые ими решения будут верными, очевидно, относится к деятельности, которая создает повышенную опасность. Согласно положениям указанной статьи вред должно возмещать лицо, владеющее источником повышенной опасности, и такой вред возмещается независимо от наличия вины владельца.

С другой стороны, причинение вреда вследствие неверного диагноза, самостоятельно поставленного оборудованием, использующим ИИ, будет указывать на возможный дефект в таком оборудовании, то есть дефект в продукции. Правоотношения, связанные с возмещением такого вреда, урегулированы специальным законодательным актом — Законом Украины «Об ответственности за вред, причиненный вследствие дефекта в продукции» (Закон). Согласно общему правилу, установленному им, за вред, который причинен вследствие дефекта в продукции, несет ответственность ее производитель, иногда — поставщики продукции. При этом Закон предусматривает, что возмещение такого вреда не зависит от наличия вины производителя продукции.

Наряду с указанными положительными правилами, Закон имеет существенный недостаток. Так, круг лиц, которые могут быть признаны пострадавшими от дефекта в продукции, неоправданно сужен таким образом, что пострадавшими могут быть только пользователи и потребители соответствующей продукции. При этом к пользователям отнесены физические лица, которые приобретают, заказывают, используют продукцию для проведения предпринимательской деятельности или исполнения обязанностей наемного работника, или юридические лица.

Таким образом, если причиной неверного диагноза будет дефект оборудования, управляемого ИИ, и вследствие такой ошибки в диагнозе будет причинен вред пациенту, то у него не возникнет право на возмещение вреда от производителя данного оборудования. То есть нормы законодательства Украины, регулирующие правоотношения по возмещению вреда, причиненного дефектом продукции, сами имеют очевидный недостаток, который необходимо устранить.

КУЛИНИЧ Виталий — старший юрист Asters, г. Киев