Научният консултативен съвет на европейските академии (EASAC) и Федерацията на европейските академии по медицина (FEAM) публикуваха съвместен доклад на тема „Изкуственият интелект в европейското здравеопазване: препоръки относно политиката на оптимизиране на добавената стойност и безопасно, етично и приобщаващо внедряване“.
Докладът има за цел да предостави информация за прилагането на Закона на ЕС за изкуствения интелект и европейското пространство за здравни данни, както и за съответните законодателни проекти и предстоящата инициатива на ЕС относно изкуствения интелект в здравеопазването. Докладът е изготвен от работна група от 22 учени от цяла Европа, номинирани от националните академии – членки на EASAC-FEAM.

ИИ се развива по-бързо от нормативната уредба, която го регулира

Ускореното развитие на изкуствения интелект може да се окаже прекалено голямо предизвикателство за обществата и регулаторните органи. Предупрежденията на водещи изследователи в областта на изкуствения интелект относно потенциална загуба на контрол подчертават колко трудно е да се предвидят и контролират рисковете. В сектора на здравеопазването залогът е особено висок.
- Изкуственият интелект навлиза в клиничната и административната практика по-бързо, отколкото много здравни системи могат самостоятелно да оценят, управляват и наблюдават. От политиците зависи да осигурят регулаторните предпоставки за ориентирани към пациента, ефективни, безопасни, справедливи и прозрачни подходи, свързани с изкуствения интелект, казва проф. Андре Кнотнерус, съпредседател на работната група към EASAC.

Ползи – но и рискове, и странични ефекти

Системите за изкуствен интелект вече се използват в много области на здравеопазването и имат потенциал за значителна добавена стойност, главно в клиничната практика и общественото здраве. Без ясни правила обаче съществува риск от нарушения на сигурността на данните, алгоритмична пристрастност и загуба на човешки контрол.
Законът на ЕС за изкуствения интелект и европейското пространство за здравни данни осигуряват важна основа, но учените установяват пропуски в практическото им прилагане в здравеопазването. Ето защо EASAC и FEAM призовават изкуственият интелект да се третира като всяка друга мярка в здравеопазването: ползите му трябва да бъдат доказани, рисковете му — разбрани, а ефективността му — постоянно наблюдавана.
- Нуждаем се от ясни изисквания за доказване на реална клинична полза при различни популации и условия, както и за гарантиране, че се използват представителни данни с високо качество, казва проф. Луис Марти-Бонмати, съпредседател на работната група към FEAM. – Пациентите също се нуждаят от изчерпателни обяснения и възможности за обжалване, отговорността трябва да бъде ясно определена, а системите за здравеопазване трябва да избягват да стават зависими от отделни доставчици на технологии.

Основни послания

- Проактивното регулиране е от съществено значение. Законът на ЕС за изкуствения интелект класифицира сектора на здравеопазването като високорисков. Поради това използването на изкуствен интелект изисква нормативни разпоредби, които отчитат дългосрочните последствия. Разпоредбите на Закона за изкуствения интелект трябва да бъдат интегрирани в съществуващите регулаторни рамки – Регламента за медицинските изделия, Общия регламент за защита на данните (GDPR) и Европейското пространство за здравни данни.
- Приоритизиране на справедливостта и доверието. Използването на ИИ може да задълбочи съществуващите неравенства, включително свързаните с пола, етническата принадлежност и социално-икономическия статус, както и различията между богатите и бедните държави, и може да подкопае доверието на обществото. Докладът призовава за политики на ЕС, които да дават приоритет на справедливия достъп, прозрачността – включително екологичния отпечатък на ИИ – и участието на обществеността.
- Координирането на равнище ЕС е задължително. Фрагментираното регулиране пречи на безопасността и мащаба на изкуствения интелект. ЕС трябва да хармонизира стандартите, да улесни трансграничния обмен на анонимизирани данни и да насърчи съвместния надзор, за да гарантира етични и надеждни приложения на изкуствения интелект във всички държави членки.
Авторите на доклада препоръчват също така изкуственият интелект да се тества в регулаторно „защитени среди“ при контролирани условия, преди да бъде внедрен в по-широк мащаб. Освен това инвестициите трябва да се насочват към изследвания на подходи, които дават надеждни резултати при използване на по-малки, внимателно подбрани набори от данни.