FDA stworzyła wytyczne dla producentów urządzeń medycznych wykorzystujących AI

Przedstawiony przez Amerykańską Agencję ds. Żywności i Leków projekt wytycznych ma wspierać rozwój i marketing bezpiecznych i skutecznych urządzeń z obsługą AI. Są to pierwsze tego typu i tak kompleksowe zalecenia.

Amerykanie chcą zwiększyć bezpieczeństwo użytkowania produktów medycznych wykorzystujących sztuczną inteligencję

Wytyczne opracowane przez FDA mają zapewnić programistom zestaw zaleceń i wskazówek, nad którymi powinni pochylić się podczas projektowania, rozwoju, konserwacji i dokumentacji produktów medycznych wykorzystujących AI, aby zapewnić ich bezpieczne i skuteczne użytkowanie. Uzupełniają one niedawno wydane wytyczne wstępnie określonych planów kontroli zmian dla urządzeń z obsługą AI, które zawierają zalecenia dotyczące proaktywnego planowania aktualizacji urządzeń po wprowadzeniu produktu na rynek.

„Dzisiejszy projekt wytycznych gromadzi istotne informacje dla deweloperów, dzieli się wnioskami z autoryzowanych urządzeń z obsługą AI i stanowi pierwszy punkt odniesienia dla konkretnych zaleceń, które mają zastosowanie do tych urządzeń, od najwcześniejszych etapów rozwoju przez cały cykl życia urządzenia" - dodał.

Co dokładnie FDA zawarła w projekcie wytycznych ws. urządzeń medycznych wykorzystujących sztuczną inteligencję?

Opublikowane przez FDA wytyczne kładą nacisk na przejrzystość i niwelowanie stronniczości w działaniu AI. FDA proponuje konkretne strategie, które mają pomóc producentom identyfikować i minimalizować potencjalne zagrożenia związane z uprzedzeniami algorytmów. Wskazówki dotyczą również projektowania i oceny urządzeń w sposób, który uwzględnia potrzeby użytkowników końcowych. Ważnym aspektem jest również dostosowanie urządzeń do pojawiających się technologii, takich jak generatywna AI, co stawia nowe wyzwania przed branżą.

Projekt wytycznych zawiera również rekomendacje dotyczące przekazywania kluczowych informacji użytkownikom, takich jak sposób działania urządzenia czy potencjalne ryzyka.

Zalecenia FDA zostały skierowane do konsultacji publicznych, które potrwają do 7 kwietnia 2025 roku.