AI Act a narzędzia AI dla lekarzy.

AI Act dzieli systemy sztucznej inteligencji według ryzyka i przypisuje obowiązki dwóm rolom: dostawcy systemu i podmiotowi, który go stosuje. Gabinet jest w tej drugiej roli, więc jego lista zadań jest krótka.

Dostawca i stosujący

Dostawca rozwija system AI i wprowadza go na rynek. Na nim leżą obowiązki związane z projektem systemu. Stosujący (w rozporządzeniu: podmiot stosujący) używa systemu w swojej działalności zawodowej. To Ty jako gabinet. Twoje obowiązki to przede wszystkim korzystanie z systemu zgodnie z instrukcją, nadzór człowieka i poinformowanie osób, których to dotyczy.

Przejrzystość: art. 50 w praktyce

1. Człowiek wie, że ma do czynienia z AI. Osoba, wobec której system jest stosowany, dostaje tę informację jasno.
2. Treści wygenerowane przez AI są oznaczone maszynowo. Znacznik w samym pliku, nie tylko dopisek na wydruku.
3. Treści typu deepfake są ujawniane. Dotyczy to też grafik poglądowych dołączanych do materiałów dla pacjenta.

Komisja Europejska udostępniła oficjalne oznaczenia graficzne („AI” i „AI GENERATED”), z których można korzystać. Samo użycie ikony nie przesądza o zgodności, ale ujednolica komunikat.

Co powinien zrobić gabinet

• Poinformuj pacjenta, że w przygotowaniu dokumentacji bierze udział system AI. Najprościej zrobisz to razem ze zgodą na nagrywanie, patrz RODO w gabinecie stomatologicznym.
• Zachowaj nadzór. Każdy dokument przed wejściem do dokumentacji medycznej przechodzi przez Twoją weryfikację.
• Trzymaj się przeznaczenia narzędzia. Używanie asystenta dokumentacji do innych celów przenosi ryzyko na Ciebie.
• Zbierz dokumenty od dostawcy: informację o klasyfikacji systemu i sposobie oznaczania treści.

Jak podchodzimy do tego w Stomoris

Stomoris integruje model ogólnego przeznaczenia do porządkowania tekstu z wizyty. Nie prowadzi identyfikacji biometrycznej i nie jest systemem wysokiego ryzyka.

• dokumenty przygotowane przez Stomoris mają widoczne oznaczenie, że powstały z udziałem AI,
• grafiki poglądowe są podpisane oficjalnymi oznaczeniami Komisji Europejskiej,
• generowane pliki niosą tę informację też w metadanych, w formie odczytywalnej maszynowo,
• system nie stawia diagnoz i nie dopisuje zaleceń, których lekarz nie wypowiedział, zatwierdzenie zawsze należy do Ciebie.

Więcej na stronie Bezpieczeństwo i zgodność.

Podsumowanie

Dla gabinetu AI Act oznacza cztery rzeczy: powiedz pacjentowi, że korzystasz z AI, zatwierdzaj dokumenty samodzielnie, używaj narzędzia zgodnie z przeznaczeniem i weź od dostawcy informację o klasyfikacji systemu. Reszta obowiązków leży po stronie tego, kto system dostarcza.