Де тільки не застосовують ШІ – навіть вивчали за його допомогою, чи використовує путін дублерів. Штучний розум продовжує здобувати розповсюдження та все більш активно опановує галузь охорони здоров’я не тільки як асистент для лікарів, але і як дорадник для хворих. Щодня більше 40 мільйонів людей у світі звертаються до ChatGPT за медичною інформацією.
ВІДЕО ДНЯ
Найбільш активно до інструментів ШІ вдаються американці, котрі прагнуть розібратися у заплутаній та непрозорій системі охорони здоров’я США. Користувачі застосовують чат-бот для роз’яснення медичних рахунків, виявлення завищених цін та оскарження відхилень страхових компаній. Більше того, пацієнти все частіше розглядають ChatGPT як «помічника» у власному лікуванні. За браком доступу до лікарів деякі користувачі вдаються навіть до самостійної діагностики або керування терапією.
Однак проблема полягає в тому, що приблизно половина відповідей чат-ботів на базі ШІ можуть бути хибними або сумнівними. Про це передає агентство Bloomberg з посиланням на дослідження, оприлюднене в науковому виданні BMJ Open.
Приблизно 50% відповідей — спірні
Науковці зі США, Канади та Великої Британії оцінили п’ять відомих платформ — ChatGPT, Gemini, Meta AI, Grok та DeepSeek — задавши кожній із них 10 питань у п’яти категоріях. У підсумку майже 50% відповідей визнали сумнівними, з яких біля 20% були вкрай дискусійними, пише Bloomberg.
РЕКЛАМА
«Чат-боти краще впоралися з питаннями, які вимагають короткої та однозначної відповіді, а також у темах, що відносяться до вакцинації та онкології. Натомість гірші відповіді надавали там, де була потрібна розгорнута інтерпретація або індивідуальна рекомендація, зокрема в темах, пов’язаних зі стовбуровими клітинами та харчуванням», — йдеться у матеріалі.
Жоден чат-бот не надав цілком вичерпного та точного переліку джерел
Відповіді ШІ нерідко виглядали переконливо, хоча жоден чат-бот не надав повністю вичерпного та точного списку джерел. Лише у двох випадках була відмова відповідати — обидва рази це зробила Meta AI.
«Ці результати підкреслюють зростаючу тривогу щодо того, як люди використовують генеративні платформи штучного розуму, які не мають ліцензії на надання медичних порад і не мають клінічного судження для встановлення діагнозів», — підкреслили у Bloomberg.
РЕКЛАМА
Більше 200 мільйонів людей ставлять ChatGPT запитання про здоров’я
Стрімке збільшення популярності чат-ботів на базі ШІ зробило їх затребуваним інструментом для людей, котрі шукають поради щодо своїх захворювань та ознак.
Зокрема, компанія OpenAI заявила, що щотижня більше 200 мільйонів людей ставлять ChatGPT запитання про здоров’я та самопочуття. У січні платформа анонсувала інструменти для охорони здоров’я як для звичайних користувачів, так і для лікарів, а компанія Anthropic того ж місяця повідомила, що її продукт Claude запускає нову пропозицію у сфері охорони здоров’я.
Автори дослідження вважають, що головним ризиком впровадження чат-ботів є розповсюдження неправдивої інформації, особливо за відсутності належного контролю та поінформованості користувачів.
«Ці системи можуть формувати відповіді, які звучать авторитетно, але потенційно містять неточності», — зазначили вони.
РЕКЛАМА
Водночас, докторка політичних наук Інна Костиря вважає, що університетам варто готуватися до зміни моделі «навчання-робота».