Общественные защитники бьют тревогу: автономные рецепты от ИИ могут быть опасны

Штат Юта разрешил искусственному интеллекту выписывать пациентам лекарства без прямого человеческого контроля в рамках пилотной программы. Программа позволяет пациентам в штате получать повторные рецепты на 190 распространённых лекарств. Общественные защитники уже выступили против этой инициативы.

• Как определить диабет и рак желудка на ранних стадиях — подсказка прямо во рту

Детали

Программа реализуется через государственную систему “регуляторной песочницы”, которая позволяет компаниям тестировать “инновационные” продукты или услуги, временно отменяя государственные правила. Министерство торговли штата Юта сотрудничало с Doctronic, стартапом в сфере телемедицины, используя чат-бота на базе искусственного интеллекта. Doctronic предлагает общенациональный сервис, который позволяет пациентам бесплатно общаться с их “врачом на базе искусственного интеллекта”, а затем за 39 долларов США записаться на виртуальный приём к настоящему врачу, лицензированному в их штате. Но изначально пациенты должны пройти через чат-бота с искусственным интеллектом, чтобы записаться на приём.

Согласно нерецензируемой статье от Doctronic, в которой рассматривались 500 случаев телемедицины в их сервисе, компания утверждает, что диагноз, поставленный их искусственным интеллектом, совпадал с диагнозом реального клинициста в 81 проценте случаев. План лечения, разработанный искусственным интеллектом, “совпадал” с планом врача в 99 процентах случаев.

Теперь для пациентов в штате Юта чат-бот Doctronic может продлять рецепт без врача за сервисный сбор в размере 4 долларов. После того, как пациент входит в систему и подтверждает место жительства в штате, чат-бот с искусственным интеллектом может просмотреть историю рецептов пациента и предложить список рецептурных препаратов, которые можно продлить. По данным Politico, чат-бот сможет продлять рецепты только на 190 распространённых лекарств от хронических заболеваний, с ключевыми исключениями, такими как обезболивающие препараты и лекарства от СДВГ, а также те, что вводятся инъекционно.

Первые 250 продлений для каждого класса лекарств будут рассматриваться настоящими врачами, но после этого чат-бот с искусственным интеллектом сможет принимать самостоятельные решения. Адам Осковиц, сооснователь Doctronic и профессор Калифорнийского университета в Сан-Франциско, рассказал, что чат-бот с искусственным интеллектом разработан таким образом, чтобы передавать любой случай с неопределённостью настоящему врачу.

Роберт Стейнбрук, директор исследовательской группы здравоохранения в надзорной организации Public Citizen, раскритиковал программу Doctronic и отсутствие надзора. По его мнению, искусственный интеллект не должен самостоятельно продлевать рецепты, а также идентифицировать себя как “врач с искусственным интеллектом”.

Ранее мы писали о том, что Индия, Малайзия и Франция выступают против X. Причиной стали оскорбительные изображения с искусственным интеллектом. Чат-бота Grok с искусственным интеллектом на платформе социальных сетей обвиняют в цифровом раздеянии женщин и детей в ответ на запросы пользователей.

Ещё новости по теме, которые могут заинтересовать:

• Учёные предлагают революционную терапию памяти
• Мошенники начали обманывать сервисы доставки еды, используя искусственный интеллект
• Космический стартап заявил о прорыве в передаче энергии на солнечные электростанции