У Массачусетському технологічному інституті представили нову концепцію штучного інтелекту, що має змінити підхід до використання технологій у сфері охорони здоров’я.
Йдеться про так званий «скромний» штучний інтелект, який не намагається бути безпомилковим, а навпаки — визнає власну невизначеність та пропонує лікарям додаткові кроки для перевірки діагнозу, повідомляє news.mit.edu.
Чому потрібен «скромний» AI
Сучасні медичні алгоритми часто демонструють надмірну впевненість у своїх прогнозах. Це може призводити до того, що лікарі покладаються на рекомендації системи навіть тоді, коли їхній досвід підказує інше. Така ситуація створює ризик помилкових діагнозів та небезпечних рішень для пацієнтів.
Новий підхід MIT спрямований на те, щоб зробити штучний інтелект партнером, а не «оракулом». Він сигналізує про рівень власної впевненості та пропонує лікарям додаткові дії — наприклад, призначити додаткові аналізи чи проконсультуватися з іншим спеціалістом.
Як працює нова система
Дослідники впровадили спеціальний показник — Epistemic Virtue Score, який дозволяє алгоритму оцінювати власну впевненість. Якщо система виявляє невідповідність між даними та прогнозом, вона не видає остаточний висновок, а пропонує лікарю шляхи для уточнення.
Переваги «скромного» AI
- Зниження ризику помилкових діагнозів.
- Підвищення ролі лікаря як активного учасника процесу.
- Виявлення прогалин у даних та стимул до їхнього доповнення.
- Зменшення впливу упередженості та нерівності у медичних даних.
- Можливість застосування у різних сферах — від фінансів до освіти.
Шлях до більш інклюзивної медицини
MIT також наголошує на важливості різноманітності даних. Багато сучасних систем навчаються на обмежених наборах інформації, що не враховують специфіку різних груп населення. «Скромний» AI має стати інструментом, який допоможе уникнути закріплення структурних нерівностей у медицині.
Перспективи розвитку
Концепція «скромного» штучного інтелекту вже тестується у клініках США. Якщо підхід доведе свою ефективність, він може стати новим стандартом для медичних технологій. У майбутньому подібні системи можуть бути використані й у фінансовій сфері, освіті чи праві — там, де надмірна впевненість алгоритмів може призвести до серйозних наслідків.
Читайте також: Штучний інтелект навчився передбачати кліматичні катастрофи
MIT пропонує революційний підхід до штучного інтелекту — «скромний» AI, який визнає власні обмеження та допомагає лікарям приймати більш обґрунтовані рішення. Це може стати ключем до безпечнішої та інклюзивної медицини майбутнього.
Залишити відповідь