Американський гігант Google видалив низку медичних рекомендацій, створених штучним інтелектом на теми здоров’я, після того, як розслідування виявило, що вони містили неправдиву та потенційно небезпечну інформацію, повідомляє news.ro.
Згідно з розслідуванням, проведеним британською публікацією The Guardian, кілька медичних резюме, згенерованих AI Gemini, надавали користувачам неповну або помилкову інформацію, що могло призвести до ризикованих рішень щодо здоров’я.
В одному з прикладів, проаналізованих журналістами, штучний інтелект запитали, який діапазон є нормальним для печінкових тестів крові, але відповідь не включала такі важливі фактори, як вік або стать пацієнта, зазначає news.ro, цитуючи розслідування.
Відсутність цієї контекстуальної інформації може ввести пацієнтів в оману, змусивши їх повірити, що результати аналізів є нормальними, навіть якщо це не так, і відмовитися від необхідних додаткових обстежень.
Через кілька днів після публікації дослідження Google видалив відповіді, надані Gemini, зі сторінок пошукової системи для відповідних запитів. Американська компанія відмовилась від надання детальних пояснень або гарантій щодо більш суворого модерації відповідей, згенерованих ШІ, особливо в таких чутливих сферах, як охорона здоров’я.
Однак функція AI Overviews, яка використовує штучний інтелект для узагальнення інформації та генерування відповідей, що відображаються безпосередньо в пошуковій системі, вже працює та фахівці попереджають, що можуть бути й інші ситуації, в яких інформація, надана ШІ, буде неточною і впливатиме на важливі рішення.
Джерело: www.bursa.ro
