Как искусственный интеллект применяется в медицине

Содержание

О клинических исследованиях

Что такое клинические исследования и зачем они нужны? Это исследования, в которых принимают участие люди (добровольцы) и в ходе которых учёные выясняют, является ли новый препарат, способ лечения или медицинский прибор более эффективным и безопасным для здоровья человека, чем уже существующие.

Главная цель клинического исследования — найти лучший способ профилактики, диагностики и лечения того или иного заболевания. Проводить клинические исследования необходимо, чтобы развивать медицину, повышать качество жизни людей и чтобы новое лечение стало доступным для каждого человека.

Как их проводят?

У каждого исследования бывает четыре этапа (фазы):

I фаза — исследователи впервые тестируют препарат или метод лечения с участием небольшой группы людей (20—80 человек). Цель этого этапа — узнать, насколько препарат или способ лечения безопасен, и выявить побочные эффекты. На этом этапе могут участвуют как здоровые люди, так и люди с подходящим заболеванием. Чтобы приступить к I фазе клинического исследования, учёные несколько лет проводили сотни других тестов, в том числе на безопасность, с участием лабораторных животных, чей обмен веществ максимально приближен к человеческому;

II фаза — исследователи назначают препарат или метод лечения большей группе людей (100—300 человек), чтобы определить его эффективность и продолжать изучать безопасность. На этом этапе участвуют люди с подходящим заболеванием;

III фаза — исследователи предоставляют препарат или метод лечения значительным группам людей (1000—3000 человек), чтобы подтвердить его эффективность, сравнить с золотым стандартом (или плацебо) и собрать дополнительную информацию, которая позволит его безопасно использовать. Иногда на этом этапе выявляют другие, редко возникающие побочные эффекты. Здесь также участвуют люди с подходящим заболеванием. Если III фаза проходит успешно, препарат регистрируют в Минздраве и врачи получают возможность назначать его;

IV фаза — исследователи продолжают отслеживать информацию о безопасности, эффективности, побочных эффектах и оптимальном использовании препарата после того, как его зарегистрировали и он стал доступен всем пациентам.

Считается, что наиболее точные результаты дает метод исследования, когда ни врач, ни участник не знают, какой препарат — новый или существующий — принимает пациент. Такое исследование называют «двойным слепым». Так делают, чтобы врачи интуитивно не влияли на распределение пациентов. Если о препарате не знает только участник, исследование называется «простым слепым».

Чтобы провести клиническое исследование (особенно это касается «слепого» исследования), врачи могут использовать такой приём, как рандомизация — случайное распределение участников исследования по группам (новый препарат и существующий или плацебо). Такой метод необходим, что минимизировать субъективность при распределении пациентов. Поэтому обычно эту процедуру проводят с помощью специальной компьютерной программы.

Преимущества и риски для участников. Плюсы

  • бесплатный доступ к новым методам лечения прежде, чем они начнут широко применяться;
  • качественный уход, который, как правило, значительно превосходит тот, что доступен в рутинной практике;
  • участие в развитии медицины и поиске новых эффективных методов лечения, что может оказаться полезным не только для вас, но и для других пациентов, среди которых могут оказаться члены семьи;
  • иногда врачи продолжают наблюдать и оказывать помощь и после окончания исследования.

При этом, принимая решение об участии в клиническом исследования, нужно понимать, что:

  • новый препарат или метод лечения не всегда лучше, чем уже существующий;
  • даже если новый препарат или метод лечения эффективен для других участников, он может не подойти лично вам;
  • новый препарат или метод лечения может иметь неожиданные побочные эффекты.

Главные отличия клинических исследований от некоторых других научных методов: добровольность и безопасность. Люди самостоятельно (в отличие от кроликов) решают вопрос об участии. Каждый потенциальный участник узнаёт о процессе клинического исследования во всех подробностях из информационного листка — документа, который описывает задачи, методологию, процедуры и другие детали исследования. Более того, в любой момент можно отказаться от участия в исследовании, вне зависимости от причин.

Обычно участники клинических исследований защищены лучше, чем обычные пациенты. Побочные эффекты могут проявиться и во время исследования, и во время стандартного лечения. Но в первом случае человек получает дополнительную страховку и, как правило, более качественные процедуры, чем в обычной практике.

Клинические исследования — это далеко не первые тестирования нового препарата или метода лечения. Перед ними идёт этап серьёзных доклинических, лабораторных испытаний. Средства, которые успешно его прошли, то есть показали высокую эффективность и безопасность, идут дальше — на проверку к людям. Но и это не всё.

Сначала компания должна пройти этическую экспертизу и получить разрешение Минздрава РФ на проведение клинических исследований. Комитет по этике — куда входят независимые эксперты — проверяет, соответствует ли протокол исследования этическим нормам, выясняет, достаточно ли защищены участники исследования, оценивает квалификацию врачей, которые будут его проводить. Во время самого исследования состояние здоровья пациентов тщательно контролируют врачи, и если оно ухудшится, человек прекратит своё участие, и ему окажут медицинскую помощь. Несмотря на важность исследований для развития медицины и поиска эффективных средств для лечения заболеваний, для врачей и организаторов состояние и безопасность пациентов — самое важное.

Потому что проверить его эффективность и безопасность по-другому, увы, нельзя. Моделирование и исследования на животных не дают полную информацию: например, препарат может влиять на животное и человека по-разному. Все использующиеся научные методы, доклинические испытания и клинические исследования направлены на то, чтобы выявить самый эффективный и самый безопасный препарат или метод. И почти все лекарства, которыми люди пользуются, особенно в течение последних 20 лет, прошли точно такие же клинические исследования.

Если человек страдает серьёзным, например, онкологическим, заболеванием, он может попасть в группу плацебо только если на момент исследования нет других, уже доказавших свою эффективность препаратов или методов лечения. При этом нет уверенности в том, что новый препарат окажется лучше и безопаснее плацебо.

Согласно Хельсинской декларации, организаторы исследований должны предпринять максимум усилий, чтобы избежать использования плацебо. Несмотря на то что сравнение нового препарата с плацебо считается одним из самых действенных и самых быстрых способов доказать эффективность первого, учёные прибегают к плацебо только в двух случаях, когда: нет другого стандартного препарата или метода лечения с уже доказанной эффективностью; есть научно обоснованные причины применения плацебо. При этом здоровье человека в обеих ситуациях не должно подвергаться риску. И перед стартом клинического исследования каждого участника проинформируют об использовании плацебо.

Обычно оплачивают участие в I фазе исследований — и только здоровым людям. Очевидно, что они не заинтересованы в новом препарате с точки зрения улучшения своего здоровья, поэтому деньги становятся для них неплохой мотивацией. Участие во II и III фазах клинического исследования не оплачивают — так делают, чтобы в этом случае деньги как раз не были мотивацией, чтобы человек смог трезво оценить всю возможную пользу и риски, связанные с участием в клиническом исследовании. Но иногда организаторы клинических исследований покрывают расходы на дорогу.

Если вы решили принять участие в исследовании, обсудите это со своим лечащим врачом. Он может рассказать, как правильно выбрать исследование и на что обратить внимание, или даже подскажет конкретное исследование.

Клинические исследования, одобренные на проведение, можно найти в реестре Минздрава РФ и на международном информационном ресурсе www.clinicaltrials.gov.

Обращайте внимание на международные многоцентровые исследования — это исследования, в ходе которых препарат тестируют не только в России, но и в других странах. Они проводятся в соответствии с международными стандартами и единым для всех протоколом.

После того как вы нашли подходящее клиническое исследование и связались с его организатором, прочитайте информационный листок и не стесняйтесь задавать вопросы. Например, вы можете спросить, какая цель у исследования, кто является спонсором исследования, какие лекарства или приборы будут задействованы, являются ли какие-либо процедуры болезненными, какие есть возможные риски и побочные эффекты, как это испытание повлияет на вашу повседневную жизнь, как долго будет длиться исследование, кто будет следить за вашим состоянием. По ходу общения вы поймёте, сможете ли довериться этим людям.

Если остались вопросы — спрашивайте в комментариях.

Диагностируют болезни, жалеют и помогают лечить — как еще используют искусственный интеллект в медицине

К 2020 году рынок продуктов на основе искусственного интеллекта (ИИ) вырастет до $ 5,05 млрд — таков прогноз компании Research and Markets. И быстрее других в исследовании этих технологий движется здравоохранение — разработки ведут Google, Microsoft, IBM, Intel и другие мировые гиганты. Для чего ИИ используется в медицине и какие продукты на его основе уже вошли в повседневную жизнь — читайте в материале.

2 ноября в рамках форума HI-TECH NATION состоится конференция про инновации в медицине и фармацевтике, где мы подробно обсудим происходящее в отрасли. Генеральный партнер события — Альфа-Банк (Беларусь) . Партнер — Великий камень.

ИИ в медицине

Особенность искусственного интеллекта в том, что эта технология способна «обучаться». И по мере того, как пользователь с ней работает, она становится умнее. В медицине ИИ применяется для многих целей:

  • Диагностика
  • Создание лекарств и разработка протоколов лечения
  • Автоматизция рутинных процессов
  • Мониторинг состояния пациентов
  • Распознавание медицинских изображений (снимков МРТ, заключений УЗИ, кардиограмм и др.).

И этот список далеко не полный: технологии ИИ оказывают удаленную помощь пациентам, помогают в лечении раковых заболеваний и используются в сфере протезирования, например, разрабатывают удобные протезы с учетом анатомических особенностей человека. Вот какие разработки ведут в этом направлении мировые компании:

  • Googleработает над созданием алгоритма, который позволит анализировать данные электронных медицинских карт и находить в них важные закономерности. Технология поможет врачам предсказывать развитие состояния пациента и будет сообщать, как долго пациент должен оставаться в госпитале, а также рассчитывать вероятность его смерти.
  • Корпорация Microsoft использует ИИ для разработки лекарств и методов лечения рака. Проект включает математический анализ развития клеток. Основная идея Microsoft — применить к злокачественным клеткам тот же метод борьбы, что и к сбоям в компьютерных программах. Компания также создала общедоступный сервис Microsoft Healthcare Bot, который предлагает использовать медучреждениям при разработке виртуальных помощников и чат-ботов для решения разных медицинских задач.
  • Компания IBM разрабатывает системы на основе ИИ в области лечения онкологии и уже потратила более $ 4 млрд на покупку нескольких компаний с огромными запасами медицинских данных. Подразделение Watson, чьи технологии IBM планирует адаптировать для здравоохранения, создано в начале 2014 года, а сейчас в нем работают около 10 000 человек. Основная задача Уотсона — понимать вопросы, сформулированные на естественном языке, и находить на них ответы с помощью ИИ.
  • Medtronic и IBM совместно разрабатывают приложение для контроля лечения у людей c сахарным диабетом. Программное обеспечение Sugar.IQ называют «умным» помощником диабетика — оно сможет определить критическое снижение уровня сахара в крови за 3 часа до того, как это произойдет. Для создания технологии используются данные от 600 анонимных пациентов. Отслеживать свое состояние люди могут с помощью мобильного приложения и специальных медицинских устройств.
  • Корпорация Intel разрабатывает программы на основе ИИ, которые смогут определять пациентов, входящих в группу риска по опасным заболеваниям, и предложить варианты лечения.

Фото с сайта teleport2001.ru

Сервисы и мобильные приложения

Технологии ИИ уже давно используются в повседневности и не так далеки от реальности, как это может показаться. Приложения и сервисы, созданные на основе систем машинного обучения, внедряются в сфере здравоохранения повсеместно и используются не только для диагностики, но и для сохранения здоровья. Выбор таких продуктов огромен — вот некоторые из них:

  • Ada — мобильное приложение на основе ИИ, которое задает человеку вопросы о его самочувствии, после чего ищет информацию о предполагаемой проблеме и дает рекомендации.
  • Sensely — приложение разработано специально для людей, которые выписались из больницы. В режиме реального времени оно анализирует состояние здоровья человека и отправляет данные лечащему врачу.
  • Flo — мобильное приложение — женский календарь месячных и овуляции, использующий нейронные сети. ИИ учитывает персональные характеристики пользователей и создает прогнозы новых циклов. На основе полученных от пользователя данных Flo может предположить наличие заболевания и порекомендовать консультацию врача.
  • Woebot— чат-бот, созданый командой психологов и экспертов в сфере ИИ. Приложение задает пользователю разные вопросы о самочувствии, желаниях, физическом состоянии и т.д., и по ответам распознает признаки депрессии. Чат-бот понимает много вопросов и жалоб и может предложить простые и эффективные способы решения психологических проблем.
  • Sophia Genetics — сервис, при помощи которого можно на основе генетической информации выявить предрасположенность человека к некоторым заболеваниям: диабету, язве желудка и др.

MedWhat — виртуальный медицинский помощник, приложение для мобильного телефона со встроенной функцией распознавания речи, которое интересуется самочувствием и отвечает на вопросы вроде «Как избавиться от головной боли?». В ближайшем будущем планируется дать сервису доступ к историям болезней пациентов и их генетической информации.

Фото с сайта citydog.by

Если говорить о российском рынке, то технологии на основе ИИ сейчас так же активно внедряются в систему здравоохранения. Особенно популярны сервисы голосового ввода данных и онлайн-диагностики болезней. Вот некоторые из них:

  • Voice2Med — проект, запущен в 2017 году. Интерактивная система позволяет сократить время врача на заполнение бумаг за счет использования голосового ввода данных о пациенте.
  • TeleMD— сервис для диагностики и оценки рисков развития онкологических заболеваний по анализу медицинских изображений и другим данным о пациенте. Команда проекта сформирована из специалистов в области нейронных сетей и искусственного интеллекта, а также научных медицинских советников в сфере онкологии и радиологии.
  • DOC+ представляет собой «мобильную» клинику, которая вызывает врача домой, бронирует лекарства в онлайн-аптеках, интегрируется с клиниками. При этом приложение сохраняет информацию в электронную медицинскую карту, размещенную в телефоне пациента.

Использование ИИ — один из самых многообещающих трендов в медицине. Об этом говорит активность на этом рынке таких гигантов, как Google, IBM, Medtronic Inc., Microsoft и др., которые заинтересованы не только в финансировании собственных разработок, но и в покупке готовых решений.

Развиваете медицинский или фармацевтический бизнес? Участвуйте в конференции «Инновационные решения для медицины и фармацевтики», которая состоится 2 ноября в рамках форума HI-TECH NATION. Вы узнаете о нарастающих трендах, а также инновациях, которые помогают растить продажи и развивать высокий уровень сервиса. Оставьте заявку, чтобы получить программу и специальные условия на участие.

Соорганизаторы специализированной конференции — Агентство медицинского маркетинга (Киев) и компания Фармвестник (Минск).

Как искусственный интеллект применяется в медицине

Рассказывает Александр Вилячкин, CEO HICO.systems.

Медицинские продукты с применением искусственного интеллекта активно разрабатывают известные компании: Microsoft, Apple, Google, IBM. Но не только они, появляются решения и от стартапов. В том числе и в России.

Рассмотрим реальные примеры применения ИИ в медицине.

Данные о пациентах: доскональная обработка

Чтобы лечение было грамотным, а диагноз — точным, необходимо изучить данные о пациенте: снимки, анализы, протоколы осмотра; анамнез, содержащий полную информацию.

Иногда даже опытные врачи не в состоянии увидеть полную картину болезни из-за того, что данные в карточке не систематизированы, а история теряется в толще листов.

По данным Google, каждый десятый пациент страдает из-за того, что его болезнь была неправильно интерпретирована. Считается, что ИИ может разрешить эту проблему. Специальные Google уже работают в некоторых больницах, где программа Google Deepmind Health проводит анализ доступной информации о симптомах пациента и выдаёт список рекомендаций, а врач, пользуясь подсказками такого помощника, назначает пациенту курс лечения.

Программа IBM Watson Health также позволяет ставить диагнозы: распознавать кардиомиопатию, тромбозы, сердечные приступы.

Также ИИ дает возможность оценивать влияние медикаментов на организм человека, помогая врачам понять, как особенности генетического строения пациента влияют на течение заболевания, и какой эффект может оказать новый лекарственный препарат. С помощью приложения IBM Watson Health Cloud доктор получает и анализирует данные об организме пациента с электронного браслета, и на основе этого подбирает эффективный курс лечения.

Диагностика

В России записаться на приём к врачу можно через интернет. Однако пациентов много, поэтому ждать приёма приходится целыми днями и даже неделями. Технологии ИИ позволяют решить этот вопрос. Например, с помощью телемедицины и программы mHealth.

Кроме того, искусственный интеллект учат распознавать симптомы возникновения злокачественных новообразований, диагностировать нарушения зрения, туберкулез, нарушение работы головного мозга.

Примером работы программы выступает сервис Ada. Это мобильное приложение, которое задаёт человеку вопросы, а тот — описывает симптомы, после чего Ada ищет информацию о проблеме и даёт рекомендации.

Существуют похожие сервисы, способные указать на заболевания, и даже на сахарный диабет.

Для людей, которые выписались из больницы разработано специальное приложение Sense.ly, которое в режиме реального времени анализирует состояние здоровья человека, а затем отправляет эти данные лечащему врачу.

Набирает популярность генетический анализ с помощью сервиса Sophia Genetics. Так, анализ ДНК даёт возможность выявить предрасположенность человека к некоторым заболеваниям: диабету, язве желудка и другим.

Проект MedClueRx позволяет определить, какие лекарственные препараты могут помочь при депрессии, эпилепсии, заболеваниях нервной системы.

Сервис ИИ MedWhat способен заменить личного врача — это приложение для мобильного телефона со встроенной функцией распознавания речи. Приложение способно интересоваться самочувствием человека и отвечать на разные вопросы, например: «Как избавиться от головной боли?».

В ближайшем будущем планируется дать доступ сервису MedWhat к историям болезней пациентов и к генетической информации.

Обработка огромных объёмов информации

ИИ способен обрабатывать несколько тысяч страниц в секунду при поиске необходимой информации.

Примерно каждые двадцать минут в мире появляется новая статья по медицине. Так каталог MED-LINE за прошедший год был пополнен 870 тысячами ссылок.

В помощь медикам недавно была создана система поддержки по принятию решений — CDSS на основе ИИ, которая объединила информацию и данные о показателях здоровья пациентов и их истории болезни.

Автоматизация и улучшение

Бывает, что пациент отменяет визит к врачу, и это несёт клинике убытки: в США подсчитали, что система здравоохранения страны ежегодно теряет около 150 миллиардов долларов. Чтобы снизить эти показатели нужен новый подход к организации и управлению.

С такой задачей может справиться только ИИ, который будет учитывать нюансы и грамотно наладит поток пациентов в медицинские учреждения. Касательно автоматизации, ИИ может помочь специалисту при проведении анализа УЗИ, всевозможных снимков и анализов. Согласно оценкам экспертов, подобная информация составляет около 90% всего объёма медицинских данных.

IBM разработала сервис Arterys который совмещает в себе визуализацию работы сердца и аналитику. Основой сервиса выступает нейросеть, способная анализировать изображения.

Создание лекарственных препаратов

Препараты представляют собой сложные органические соединения, и поиск правильной структуры занимает много времени. Перед тем как попасть на рынок, препарат проходит массу проверок, испытаний, но даже это не даёт гарантии, что лекарство будет эффективным: более 50% новых лекарств против рака не дают заметного эффекта.

ИИ призван точнее моделировать состав препаратов. В будущем исследователи смогут задавать свойства, а искусственный интеллект будет формировать химическую структуру препарата.

Уже сегодня компания Atomwise применяет ИИ для поиска оптимальных лекарственных формул.

А как в России

В России ведётся работа сразу по нескольким направлениям из сферы медицинского искусственного интеллекта. Популярны распознаватели речи и сервисы онлайн-диагностирования болезней по снимкам.

В 2017 году запущен проект Voice2Med, призванный сократить время на заполнение бумаг. Он успешно протестирован в республиканской больнице Татарстана в городе Казань.

Российский Институт развития интернета создает ИИ, который позволит ставить диагнозы самостоятельно, основываясь на снимках МРТ и рентгена.

Ещё одно применение ИИ получило название TeleMD (сервис удалённых консультационных эфиров), которая специализируется на онкологических болезнях.

DOC+ представляет собой «мобильную» клинику, которая вызывает врача домой, бронирует лекарства в онлайн-аптеках, интегрируется с клиниками. При этом приложение сохраняет информацию в электронную медицинскую карту, расположенную в телефоне пациента.

Возможности ИИ в медицине: примеры применения

Вы когда-нибудь задумывались о том, какие возможности открывают ИИ-решения для медицины? Аналитики из Frost & Sullivan уверены, что технологии искусственного интеллекта и машинного обучения с каждым годом будут всё сильнее закрепляться в этой сфере. Того же мнения придерживается Нэвин Джейн, основатель стартапа Viome, который занимается разработками медицинских технологий. В одном из интервью бизнесмен сказал, что в здравоохранении грядёт настоящее ИИ-цунами. Далее в статье мы расскажем о проектах и рабочих решениях искусственного интеллекта в медицине.

ИИ диагностирует

Алгоритмы ИИ уже вовсю применяются в медицинской практике, помогая врачам определять болезни и назначать лечение.

Платформу Watson Health от IBM используют радиологические клиники США, Индии и Таиланда. Когнитивная программа на её основе способна зарегистрировать у пациентов рак или проблемы с сердцем. Российская разработка TeleMD тоже диагностирует онкозаболевания, а также оценивает риски их развития. DeepMind Health — технология Google — работает в британской офтальмологической клинике, выявляет некоторые глазные болезни и рекомендует, как их лечить.

В прошлом году появилась информация, что в одной из больниц Англии началось тестирование ИИ, который проводит УЗИ-диагностику беременных. ПО под названием ScanNav в режиме реального времени и параллельно с врачом обследует плод на патологии.

Микробиологи из BIDMC разработали умный микроскоп, который с помощью ИИ диагностирует смертельные инфекции крови. Его нейронная сеть изучила 100 тысяч изображений с вредоносными бактериями и теперь способна сортировать их по видимым признакам с точностью до 93%.

ИИ отслеживает

На основе ИИ разработчики выпускают сервисы для мониторинга состояния пациентов. Врачи и учёные исследуют результаты и затем проводят клинические испытания.

Профессора из Университета Дьюка создали приложения Autism & Beyond и mPower, которые отслеживают симптомы аутизма и болезни Паркинсона, позволяя совершенствовать методы их диагностики. Позднее корпорация Apple разработала на их основе API-софт Health Records, чтобы пользователи делились данными с медицинскими исследователями даже через сторонние приложения.

Учёные из Массачусетского технологического института совместно со специалистами Центральной больницы из того же штата создали ИИ-систему для мониторинга сна человека. Она отслеживает отражающиеся от человека радиосигналы, анализирует пульс, частоту дыхания и способна отличить отклонения от нормы. Разработка поможет врачам удалённо инспектировать сон пациентов и при необходимости корректировать его.

ИИ предсказывает

В 2018 году американский медицинский журнал Anesthesiology опубликовал результаты исследования искусственного интеллекта, полезного при методах оперативного лечения. В статье идёт речь об алгоритме машинного обучения для прогнозирования гипотонии во время хирургического вмешательства. ИИ проанализировал данные более тысячи пациентов, которые в общей сложности провели на операционном столе почти 10 тысяч часов. Он научился предсказывать аномалии за 15 минут до их возникновения с 84% точностью, с такой же — за 10 минут и с 87% — за 5 минут.

Qventus — система мониторинга для больниц от одноимённого стартапа. Он отслеживает действия клиентов от записи в регистратуре до выписки, умеет предсказывать ухудшение самочувствия пациентов, анализируя их состояние. Также с помощью этого ИИ клиника Mercy за 4 месяца на 40% сократила количество ненужных тестов на основании схожих жалоб клиентов.

Решение Jvion на базе машинного обучения выявляет пациентов с риском повторного обращения в больницу в течение 30 дней после выписки. Помимо этого, оно даёт рекомендации по уходу за здоровьем и профилактике болезней.

ИИ исследует

Фармацевтические гиганты вроде Sanofi или Novartis прибегают к помощи стартапов, развивающим медицинские инновации, чтобы искать новые лекарства. Производитель биотехнологических препаратов Roche приобрёл для этого компанию Flatiron Health, которая применяет машинное обучение для обработки данных.

Стартап Atomwise с 2012 года использует нейронные сети для поиска более эффективных лекарственных формул. Его система глубокого обучения AtomNet ежедневно проверяет 10 млн химических соединений, предсказывая, какие из них будут оптимальнее взаимодействовать. Подобным алгоритмом пользуется биофармацевтическая компания Berg Health.

Найденные соединения могут быть эффективны в борьбе с причиной болезни, но это не гарантирует того, что организм человека хорошо отреагирует на них. Медцентр NorthShore среди прочего занимается фармакогеномикой — изучает влияние препаратов на отдельно взятых людей в рамках проекта MedClueRx. Система определяет, какие медикаменты подойдут конкретному пациенту при эпилепсии, инфекционных заболеваниях, депрессии, заболеваниях ЖКТ.

Научный журнал Nature Microbiology в прошлом году опубликовал статью об алгоритме VarQuest. Он способен обнаружить в 10 раз больше вариаций антибиотиков, чем до этого было найдено за всё время аналогичных запросов.

ИИ ассистирует

Разработчики применяют ИИ-технологии для создания умных ассистентов широкого спектра: от персональных докторов до роботов-хирургов.

Woebot — чат-бот для борьбы с депрессивными мыслями и состояниями от психологов Стэнфордского университета в сотрудничестве с ИИ-экспертами. Он работает на основе когнитивно-поведенческой терапии, способной поменять поведенческие паттерны и разрушительные стереотипы. Подобное приложение развивает стартап Wyse.

«Мобильная клиника» DOC+ от российского одноимённого стартапа позволяет удалённо проконсультироваться с врачом, вызвать специалиста на дом, забронировать лекарства в близлежащих аптеках. Также приложение создаёт индивидуальную электронную медкарту, доступную только пользователю, которой он может поделиться с доктором.

«Да Винчи» — известный робот-хирург с искусственным интеллектом, работающий уже не в одной сотне клиник по всему миру, в том числе и в России (больница № 31 в Москве). Малоинвазивные операции не менее успешно проводит Senhance от TransEnterix.

А в Китае учёные первыми в мире с помощью оснащённых искусственным интеллектом роботов успешно клонировали свиней. Умные микроманипуляторы сами собрали и перенесли ДНК доноров к суррогатам. В апреле 2018 года две свиноматки принесли приплод из 13 здоровых поросят.

Заключение

«Медицинский футурист» Берталан Меско как-то сказал, что искусственный интеллект — это стетоскоп 21-го века. Он подразумевал, что такой простой инструмент, как стетоскоп, медицинское сообщество поначалу не хотело признавать. Потребовалось несколько десятилетий, чтобы врачи начали его использовать. То же самое сейчас происходит с ИИ: кто-то использует его по мере возможностей, а кто-то боится его.

Однако технологии искусственного интеллекта, машинного обучения и нейросетей во многом упрощают жизнь врачей и их подопечных. Инновации в медицине позволяют точнее диагностировать заболевания, быстрее находить лекарственные препараты, отслеживать состояние пациентов. И это лишь малая часть возможностей, которые ИИ привнёс в сферу здравоохранения.

Применение искусственного интеллекта в медицине имеет потенциальные проблемы

Каждое новое достижение искусственного интеллекта (ИИ) в медицине, описанное в СМИ, вызывает большое волнение и надежду на успехи в лечении различных заболеваний.

ИИ обычно относится к способности компьютеров имитировать человеческий интеллект и учиться. Например, с помощью машинного обучения ученые работают над разработкой алгоритмов, которые помогут им принимать решения о лечении рака. Они надеются, что компьютеры смогут анализировать рентгенологические изображения и определить, какие раковые опухоли будут хорошо реагировать на химиотерапию, а какие нет.

Но применение искусственного интеллекта в медицине также ставит серьезные юридические и этические проблемы. Некоторые из них касаются конфиденциальности, дискриминации, психологического вреда и отношений между врачом и пациентом. Некоторые эксперты считают, что использование технологий ИИ в медицине должно быть регламентировано на государственном уровне.

ИИ включает анализ очень больших объемов данных для выявления закономерностей, которые затем используются для прогнозирования вероятности будущих событий. В медицине наборы данных могут поступать из электронных медицинских карт и заявлений о медицинском страховании, а также из других источников. ИИ может опираться на информацию о здоровье человека, доходах, судимостях и даже на его социальные сети.

Исследователи уже используют ИИ для прогнозирования множества заболеваний. К ним относятся болезни сердца, инсульт, диабет, снижение когнитивных функций и даже будущее злоупотребление опиоидами.
Эта прогностическая способность искусственного интеллекта вызывает серьезные этические проблемы в сфере здравоохранения. Если ИИ генерирует прогнозы о здоровье, однажды эта информация может быть включена в электронные медицинские карты.

Таким образом, любой, у кого будет доступ к медицинской карте, сможет увидеть прогнозы снижения когнитивных функций или злоупотребления опиоидами. Медицинские карты пациентов видят десятки или даже сотни клиницистов и администраторов в ходе лечения. Кроме того, сами пациенты часто разрешают другим лицам получать доступ к своим записям: например, когда они подают заявление на трудоустройство или страхование жизни.

Затем эта информация может быть передана любым заинтересованным третьим сторонам, включая маркетологов, работодателей, кредиторов, страховщиков жизни и других. Такое раскрытие может привести к дискриминации. Работодатели, например, заинтересованы в работниках, которые будут здоровы и продуктивны, с минимальным риском возможных болезней. Если они считают, что у определенных кандидатов будут развиваться заболевания в будущем, они, вероятно, отклонят их. Кредиторы, арендодатели, страховщики жизни и другие могут также принимать неблагоприятные решения в отношении отдельных лиц на основе прогнозов ИИ.

Прогнозирование здоровья ИИ также может привести к психологическому ущербу. Например, многие люди могут получить травму, если узнают, что в будущем они, вероятно, будут страдать от снижения когнитивных способностей.

Когда дело доходит до генетического тестирования, пациентам рекомендуется обратиться к генетическому консультированию, чтобы они могли вдумчиво решить, следует ли проходить тестирование, и лучше понять результаты теста. В отличие от генетического тестирования, пока нет консультантов ИИ, которые предоставляют аналогичные услуги для пациентов.Еще одна проблема связана с отношениями между врачом и пациентом.

Будет ли ИИ уменьшать роль врачей? Будут ли компьютеры делать прогнозы, диагностировать и предлагать лечение, чтобы врачи просто выполняли инструкции компьютеров? Как пациенты будут относиться к своим врачам, если компьютеры будут иметь большее влияние при принятии медицинских решений?

Эти опасения усугубляются тем фактом, что прогнозы ИИ далеко не безошибочны. Многие факторы могут способствовать ошибкам. Если данные, использованные для разработки алгоритма, ошибочны, например, если они используют медицинские записи, содержащие ошибки, выходные данные алгоритма будут неверными. Поэтому пациенты могут страдать от дискриминации или психологического вреда, когда на самом деле они не подвержены риску прогнозируемых заболеваний.

Поэтому врачи, которые предоставляют пациентам прогнозы ИИ, должны убедиться, что они хорошо осведомлены о плюсах и минусах таких прогнозов. Эксперты должны консультировать пациентов по поводу ИИ так же, как это делают опытные специалисты по генетическому тестированию.

Чтобы гарантировать, что искусственный интеллект действительно будет способствовать благосостоянию пациентов, врачи, исследователи и политики должны осознавать риски внедрения новой технологии и действовать с осторожностью.

Искусственный интеллект в здравоохранении – маленький и несистемный рынок

Рынок медицинского искусственного интеллекта (ИИ), включая системы поддержки принятия врачебных решений (СППВР), развивается уже несколько лет, однако по сей день не получил никакой обобщающей оценки. Он остается своего рода «черным ящиком»: его объем неясен, а движение средств во многом является односторонним – сообщения о вложениях в новые разработки появляются регулярно, но отчетов о выходе на окупаемость и прибыльность нет. Чтобы прояснить картину, портал Medvestnik.ru обратился к директору по развитию комплексных проектов НТИ АО «Российская венчурная компания», члену наблюдательного совета ассоциации «Национальная база медицинских знаний» (НБМЗ) Андрею Алмазову.

Алмазов Андрей

– Есть компании, которые заявляют, что начали зарабатывать на ИИ в здравоохранении. Вы можете подтвердить, что хоть кто-то уже действительно получает прибыль?

– Да, но это несистемные деньги. Компания приходит в регион, указывает на проблемы и предлагает провести разовый проект, по итогам которого она получит 3 млн или 7 млн руб. Или предлагает коммерческим клиникам пересматривать все снимки с определенной платой за каждый. Такие контракты есть. Но эти компании не очень заявляют о себе публично.

– Их много? Они хотя бы приблизились к окупаемости и прибыльности?

– Пять-шесть. Но это и все. О прибыльности пока говорить преждевременно. Даже вложенные в эти компании инвестиции исчисляются десятками миллионов: по 20–50 млн руб. Мы с коллегами пытались оценить емкость рынка ИИ в России. На таких разовых контрактах он, при самых смелых гипотезах, составляет от 100 до 250 млн руб. Это не тот рынок, на котором могут существовать разработчики. Во всех 85 субъектах РФ бюджет здравоохранения достаточно напряженный. Десять относительно богатых регионов могут себе позволить эксперименты. Каждый из них готов выделить 5–10 млн руб. Итого 100 млн. Плюс 100 млн Москва, вот и все. И это несистемный рынок.

Возможно, кто-то зарабатывает на продаже отдельных сервисов за рубежом, на Западе. Но компании избегают публикации таких цифр в открытых источниках и предпочитают не раскрывать модели монетизации. Думаю, что до окупаемости все же далеко. Потому что там вложения в стартапы составляют те же 20–70 млн, но долларов или евро, поэтому и окупать проекты сложнее.

– В таком случае кто и почему сейчас вкладывает деньги в подобные разработки? На что рассчитывают инвесторы?

– Во-первых, на игру в перепродажу стартапов. Рынок перегрет, а тематика интересная. Стартапы успешно поднимают все новые и новые раунды финансирования. Во-вторых, они играют «в длинную». Инвесторы понимают, что это перспективная история, и хотят не опоздать. Даже если предположить, что надежды на ИИ в медицине оправдаются лишь частично, государство, которое претендует на весомое место в мире, все равно не может не заниматься этим направлением, так же как авиапромом и ракетно-космической промышленностью.

– Какое направление представляется вам более перспективным на ближайшие годы – B2B или B2C, т.е. непосредственная работа с пациентом?

– Лично я пока не верю в B2C. Сегодня это не монетизируется. Кстати, недавно сообщалось, что закрылись проекты Google Health, Microsoft Health… Наверное, там осознали масштаб инвестиций, необходимых, чтобы это «сыграло». Сервисы, которые пытаются сейчас работать с физическими лицами в медицине, испытывают большие проблемы с монетизацией: люди не хотят платить.

Недавно мы обсуждали проект, предполагающий, что люди будут загружать свои КТ-снимки на сервис перепроверки результатов. Это не сработает: человек идет к врачу, получает результат и даже не записывает его на диск, хотя такая опция сейчас есть. Он спрашивает: «Доктор, у меня все в порядке? – Да, все в порядке. – Спасибо, я пошел». Какое там загружать! Он даже не взял диск. Нет культуры хранения данных о собственном здоровье. Заболел – пошел к врачу. Врач снял симптоматику, болеть перестало – ну и все.

– И так не только в России…

– Да, это общая проблема. Есть корпорации, которые готовы платить системе здравоохранения за регулярные проверки здоровья работников. Но все долгосрочные программы на Западе работают еще и в связи с медстраховками. Все основано на том, что человек понимает: если он не сделает это сейчас, потом ему придется платить гораздо больше. В стоматологии тебе бесплатно делают диагностику, а затем, если ты ходишь в эту клинику регулярно, как предписал врач, то сами осмотры и устранение небольших отклонений бесплатны. А если два года там не появлялся, уже будешь платить. Наверное, это хорошая схема, но наше население к этому пока не готово. Как культуру это пытаются внедрить, а до тех пор, пока этого нет, продать что-либо в здравоохранении физическому лицу, кроме врачебных приемов, лекарств и разовых процедур лечения, по-моему, невозможно.

Мне кажется, что применительно к СППВР рынком является B2B, работа с медорганизациями, продвинутыми врачами, которые сейчас иногда сами платят за доступ к каким-либо ресурсам, например к справочникам. Если это поможет доктору или будет встроено в систему оказания медицинской помощи самостоятельно или через медицинские технологии, то рынок там начнет появляться. Это в чистом виде продажи B2B.

– За что готовы платить врачи и клиники?

– Пока только за справочники, за доступ к клиническим протоколам – и то немного. Клиник, готовых платить за СППВР, сейчас единицы, это первые энтузиасты.

Если мы хотим занять достойное место на этом новом рынке, надо сосредоточиться именно на врачах и развитии культуры использования новых решений: проводить исследования, получать поддержку от врачебного сообщества, начинать пользоваться этими решениями. Поддержка же самих компаний приведет к тому, что государство будет их кормить и терять деньги на естественно умирающих стартапах. Потому что в мире выживает одна из 50 молодых фирм.

– Но разве в первом направлении хоть что-нибудь делается?

– НБМЗ была год назад собрана и осенью зарегистрирована именно для того, чтобы начать это делать вместе с государством. Ждать, что государство займется этим, скомандует и разложит все по полочкам, не приходится: так не бывает ни в одной стране. Всегда есть инициативная группа, а государство поддерживает регуляторику и обеспечивает взаимодействие субъектов рынка. У него нет функции быть паровозом в рыночных инновациях, его дело поддержать их, определить стратегию…

– Но впечатление таково, что ассоциация буквально пробивается с боями и ее лишь не так давно услышали…

– Я бы не сказал, что государство нас совсем не слышит. Пока НБМЗ представляет собой начинающую силу. Она двигается динамично, но еще не стала достаточно авторитетной для мощного влияния на рынок.

Кроме того, мы заинтересованы во взаимодействии с врачебными ассоциациями. К сожалению, в стартапах, работающих с ИИ, очень мало врачей. Судя по опыту конференций, интерес докторов к рассказам об ИИ невысок в сравнении с докладами об инновационных медицинских методах. Врачи мыслят предметно и практично, и когда им показываешь новую технологию, они сразу указывают на слабые места и теряют к этому интерес. Они много всего видели и готовы заняться чем-то новым, только когда это полноценно заработает и пройдет клиническую апробацию, когда им представят докторов, которые с этим уже работали. В условиях, когда проекты испытывают дефицит клиницистов, надо брать в соавторы именно их.

– Нет ли опасности, что в общении с врачами разработчики пойдут тем же путем, что медпредставители от фармкомпаний: вот тебе наш продукт, пользуйся, за это тебе пойдут льготы?

– Такая опасность есть, поэтому нужно разговаривать с регуляторами и заниматься клинической апробацией: система должна быть востребованной врачами. К тому же возникает вопрос вреда и доказательности, и полученное в Росздравнадзоре свидетельство не обязательно означает, что система будет помогать. Тут то же самое, что в фармацевтике, но на гораздо более сложном уровне: есть опасения, что очень трудно будет доказать, помогает ли это и не вредит ли. Возможны исключительные случаи, на которые нейросеть не «натренирована», она выдаст неверную подсказку, сбивающую врача с толку, и это отразится на жизни и здоровье человека. Поэтому система может работать исключительно как помощь врачу – под его ответственность. Но и крайности вроде попыток все централизовать и зарегулировать сведут дело на нет: это убьет рынок.

Виртуальный доктор. Как будет работать искусственный интеллект в медицине

Согласно международным исследованиям, применение искусственного интеллекта в медицине способно увеличить валовую прибыль компаний в индустрии здравоохранения. В 2016 году доля европейского рынка ИИ была оценена в $270 млн при ожидаемом ежегодном росте более 35%. По оценкам BIS Research, к 2025 году общий рынок ИИ в здравоохранении достигнет $28 млрд при CAGR более 45,1%, а рынок ИИ для медицинской визуализации и диагностики — $2,5 млрд.

Основной мотивацией для развития ИИ в медицине является рост затрат на здравоохранение и соответствующая необходимость в их ограничении, проблема качества диагностики: около 20-30% медицинских исследований являются неточными или неточно интерпретируются, стремление к стандартизации и автоматизации рутинных функций вплоть до создания самоуправляемых диагностических моделей.

Еще одним очевидным стимулом развития ИИ является огромный объем данных, которые генерируются всевозможными медицинскими устройствами и информационными системами. При этом, после 3 месяцев хранения менее 15% медицинских данных оказываются востребованными врачами. ИИ привлекает возможностью придать смысл и добавленную стоимость накопленной информации. Автоматизация рутинных действий по сбору и анализу разрозненных медицинских данных позволила бы повысить точность ранней диагностики и прогнозирования развития болезней, оценку эффективности лечения.

Таким образом, трудно найти лучший момент, чем вчера, для инвестиций в быстрорастущие компании на рынке ИИ в здравоохранении. Основным экономическим драйвером при этом, отраженном в девизе знаменитой американской клиники Мэйо «doing more with less», является возможность снижения затрат в системе здравоохранения при сохранении эффективности.

Международная практика

Американская компания Enlitic предлагает онлайн-сервис, повышающий клиническую и экономическую эффективность работы медицинского персонала. Созданный для распознавания рентгенограмм легких в двух проекциях, он позволяет с точностью свыше 95% (AUC > 0,95) классифицировать снимки по 6-7 основным синдромам (не диагнозам!) и формировать предварительный шаблон описания, с которым врачу нужно либо согласиться и нажать «подписать», либо не согласиться и внести свои изменения. Основная сложность, с которой столкнулись разработчики, — проверка данных для тренировки компьютера. В результате этот процесс осуществлялся при помощи массового тегирования (разметки) врачами со всего мира более 5 млн снимков по согласованным критериям.

В компании Babylon health и Sensely разработали приложения для анализа жалоб людей, обращающихся в колл-центр. Алгоритмы анализируют ответы пациента на заданные вопросы и выбирают один из собственных вариантов, таких как «срочно обратитесь к врачу/запишитесь на прием/почитайте об этом заболевании на нашем сайте». Такой элементарный по сути сервис уже широко применяется Национальной службой здравоохранения Великобритании (NHS) и позволит сэкономить затраты колл-центров. Основная сложность в этом случае — разработка деревьев принятий решений и их валидация в условиях медицинской практики.

Израильский стартап Zebra Мedical обратился к проблеме ошибок диагностики, которые по разным оценкам достигают 30% в общем числе проводимых исследований. Потенциально их разработка может повысить число выявляемых при компьютерной томографии заболеваний, снижая вероятность человеческой ошибки: врач как человек может что-то просто не заметить при описании томограмм. Для ответственного врача это удобный инструмент, позволяющий не пропустить, к примеру, опухоль легкого, перелом позвонка, хронические заболевания печени или кальциноз артерий сердца. Для менеджмента клиники — возможность управления рисками и дополнительная защита от гипотетических судебных исков в случае пропущенных диагнозов. С точки зрения системы здравоохранения, дополнительные находки — это в большинстве случаев ложно-положительные диагнозы, увеличивающие стоимость обследования и лечения, но не повышающие качество и продолжительность жизни. В ноябре 2017 года была объявлено о предоставлении доступа к сервисам Zebra через Google Cloud по цене $1 за каждое исследование.

Неудачные экзамены ИИ

Компания IBM после неудачного запуска продукта Watson для анализа изображений, который, тем не менее, стал ассоциироваться с любыми продуктами на основе искусственного интеллекта, выбрала путь Google и решила натренировать компьютер на сдачу экзамена на сертификат врача-маммолога в США. Покупка ею компании Merge Healthcare, обладающей огромным архивом снимков, не дала ожидаемого результата, так как эти данные не были предварительно размечены человеком и компьютеру ни о чем не говорили. Чтобы исправить ситуацию IBM начала создавать партнерства с клиниками для получения от них размеченных данных в обмен на лицензии на клиническое применение разрабатываемых алгоритмов. Для этого была создана технологическая платформа с магазином приложений, позволяющая в перспективе поставить на поток выпуск и валидацию алгоритмов для медицины.

Можно предположить, что в недалеком будущем, учитывая коммодитизацию томографов и растущую доступность лучевой диагностики в развивающихся странах, IBM сможет конкурировать и с сегодняшними гигантами медицинской индустрии, продавая не технологии сканирования, а доступ к сервисам массового анализа изображений и данных. Это подтверждает выводы компании McKinsey, которая показала, что в медицине возможно автоматизировать 36% функций, прежде всего на уровнях сбора и анализа данных.

В результате, на зарождающемся рынке ИИ в медицине уже работает несколько бизнес-моделей: продажа узкоспециализированных сервисов напрямую госпиталям, продажа лицензий на сервисы через онлайн-платформы или маркетплейсы, продажа разработанного программного обеспечения крупным компаниям-производителям медицинских информационных систем, всевозможные партнерства между стартапами и индустриальными лидерами. Все понимают, что «золото» очень близко, но где точно — пока непонятно.

Ограничения и ошибки в России

Ситуация на рынке ИИ в области медицины в России заметно отличается от того, что происходит сейчас на Западе. Ее можно кратко описать фразой основателя компании Enlitic Джереми Ховарда: «Большинство алгоритмов искусственного интеллекта бесполезны», так как созданы под неточное определение задачи или в отсутствие бизнес-модели.

Что ограничивает развитие и применение технологий анализа данных и ИИ в российской медицине? Во-первых, медицинский труд в России дешев, и, соответственно, экономическое обоснование автоматизации функций медсестры или врача несостоятельно.

Во-вторых, врачи в России в избытке (1 рентгенолог на 2800 населения в России, 1/10000 в США и 1/100 000 в Японии), и как следствие, отсутствует типичная мотивация заместить недостающую рабочую силу алгоритмом или компьютерной программой.

В-третьих, по моим ощущениям, формально отсутствует проблема качества медицинской помощи и экономических потерь из-за назначения бесполезных исследований, поскольку сложившейся системе невыгодно демонстрировать проблемы.

Таким образом, в России хайп ИИ в большей степени обусловлен «модой» и стремлением привлечь легкие инвестиции.

При этом существенным отличием российской медицины от медицины стран ОЭСР является индустриальное отставание, то есть крайне ограниченный системный подход к организации рабочих процессов, постановке измеримых качественных целей, экономическому обоснованию, управлению по целям и информатизации. Необходимым условием для развития рынка ИИ в медицине является формирование ИТ-инфраструктуры здравоохранения. Регламентация процессов, постановка целей на основе измеряемых метрик качества, оценка экономической эффективности — все это необходимая основа информатизации и последующей автоматизации. Получается, что отдельные госкомпании, страховщики и сетевые частные клиники проявляют скорее праздный интерес к решениям по автоматизации, но не готовы к приобретениям. Частным компаниям и инвесторам в таких условиях трудно рассчитывать на реальные продажи.

Выделю основные ошибки разработчиков алгоритмов и продуктов для автоматизации медицинских функций и предиктивного анализа данных:

– создание продукта, исходя из имеющейся технологии, а не от определения проблемы целевой аудитории;

– создание алгоритмов под потребности отдельно взятого врача-евангелиста ИТ, а не системы оказания медицинской помощи;

– гипотеза отсутствия решений на рынке, в то время как продукты уже существуют в составе информационно-аналитических систем традиционных медицинских производителей, но не позиционируются отдельно для широкого потребителя;

– отсутствие четкого определения целевой аудитории, механизмов финансирования медицинской помощи и экономических мотивов потенциальных заказчиков;

– отсутствие анализа рынка, конкурентов и продуктов;

– отсутствие Сhief medical officer с медицинскими, бизнес и ИТ-компетенциями;

– создание модели «как должно быть» без базового описания рабочих процессов в модели «как есть».

Выводы

Готовность медицины к изменениям привычного уклада, прежде всего, зависит от готовности применять решения из других индустрий. Например, технологии, которые используются для рендеринга изображений и отображения теней в компьютерных играх, уже успешно применяются в медицине. Трансформация медицины из искусства и ремесла в индустриальное решение происходит повсеместно, и это не замена врача, а обогащение медицины технологиями из других отраслей, например из ритейла, авиаперевозок, индустрии гостеприимства.

Применение искусственного интеллекта в медицине способно революционизировать индустрию здравоохранения за счет развития таких областей, как персонализированная медицина, диагностика, разработка новых лекарственных препаратов, робот-ассистированная хирургия, телемониторинг хронических заболеваний, дистанционная помощь пациентам, поддержка принятия правильных медицинских решений, выявление медицинских ошибок.

Не автоматизируются только экспертиза, мудрость, человеческое отношение, забота, эмпатия, взаимопонимание, поддержка — именно то, что составляет основу профессии Врача. Системным же сдвигом в медицине под давлением автоматизации должен стать переход к глаголам совершенного вида, то есть от лечения к излечению. Мотивация по KPI и искусственный интеллект нам в помощь.

Источники:
http://probusiness.io/tech/6329-diagnostiruyut-bolezni-zhaleyut-i-pomogayut-lechit-kak-eshche-ispolzuyut-iskusstvennyy-intellekt-v-medicine.html
http://www.cossa.ru/152/215206/
http://mhealthcongress.ru/ru/article/vozmognosti-ii-v-meditsine-primeri-primeneniya-96282
http://carence.ru/novosti/959-iskusstvennyj-intellekt-v-meditsine-vyzyvaet-yuridicheskie-i-eticheskie-problemy
http://medvestnik.ru/content/interviews/Iskusstvennyi-intellekt-v-zdravoohranenii-malenkii-i-nesistemnyi-rynok.html
http://www.forbes.ru/tehnologii/356327-virtualnyy-doktor-kak-budet-rabotat-iskusstvennyy-intellekt-v-medicine
http://beauty-love.ru/zdorove/gipertoniya/kak-arbuz-vliyaet-na-davlenie-ponizhaet-ili-povyishaet

Ссылка на основную публикацию