Громадські захисники б’ють на сполох: автономні рецепти від AI можуть бути небезпечними
Медицина майбутнього дивує та лякає
Громадські захисники б’ють на сполох: автономні рецепти від AI можуть бути небезпечними/Фото: pexels
Штат Юта дозволяє штучному інтелекту виписувати пацієнтам ліки без прямого людського нагляду в рамках пілотної програми. Програма дозволяє пацієнтам у штаті отримувати повторні рецепти на 190 поширених ліків. Громадські захисники вже виступили проти ініціативи.
Деталі
Програма реалізується через державну систему “регуляторної пісочниці”, яка дозволяє підприємствам випробовувати “інноваційні” продукти чи послуги, тимчасово скасовані державними правилами. Міністерство торгівлі штату Юта співпрацювало з Doctronic, стартапом у сфері телемедицини, використовуючи чат-бота на базі штучного інтелекту. Doctronic пропонує загальнонаціональний сервіс, який дозволяє пацієнтам безкоштовно спілкуватися з їхнім “лікарем на базі штучного інтелекту”, а потім за 39 доларів США записатися на віртуальний прийом до справжнього лікаря, ліцензованого в їхньому штаті. Але спочатку пацієнти повинні пройти через чат-бота зі штучним інтелектом, щоб записатися на прийом.
Згідно з нерецензованою статтею від Doctronic, в якій розглядалося 500 випадків телемедицини в її сервісі, компанія стверджує, що діагноз її штучного інтелекту збігався з діагнозом, поставленим реальним клініцистом, у 81 відсотку випадків. План лікування, розроблений штучним інтелектом, “відповідав” плану лікаря у 99 відсотках випадків.
Тепер для пацієнтів у штаті Юта чат-бот Doctronic може поновлювати рецепт без лікаря за плату за обслуговування в розмірі 4 доларів. Після того, як пацієнт входить у систему та підтверджує місце проживання в штаті, чат-бот зі штучним інтелектом може переглянути історію рецептів пацієнта та запропонувати список рецептурних препаратів, які можна поновлювати. За даними Politico, чат-бот зможе поновлювати рецепти лише на 190 поширених ліків від хронічних захворювань, за ключовими винятками, такими як ліки від болю та СДУГ, а також ті, що вводяться ін'єкційно.
Перші 250 поновлень для кожного класу ліків будуть розглянуті справжніми лікарями, але після цього чат-бот зі штучним інтелектом зможе приймати самостійні рішення. Адам Осковіц, співзасновник Doctronic та професор Каліфорнійського університету в Сан-Франциско, розповів, що чат-бот зі штучним інтелектом розроблений таким чином, щоб передавати будь-який випадок з невизначеністю справжньому лікарю.
Роберт Стейнбрук, директор дослідницької групи охорони здоров’я в наглядовій організації Public Citizen, розкритикував програму Doctronic та відсутність нагляду. На його думку, штучний інтелект не повинен самостійно поновлювати рецепти, а також ідентифікувати себе як “лікаря зі штучним інтелектом”.
Раніше ми писали про те, що Індія, Малайзія та Франція виступають проти X. Причиною стали образливі зображення зі штучним інтелектом. Чат-бота Grok зі штучним інтелектом на платформі соціальних мереж звинувачують у цифровому роздяганні жінок та дітей у відповідь на запити користувачів.
Ще новини на тему, які можуть зацікавити:
Не пропустіть цікавинки!
Підписуйтесь на наші канали та читайте новини у зручному форматі!
