Biotechnologia.pl
łączymy wszystkie strony biobiznesu
Aspekty prawne Black Box Medicine
Aspekty prawne Black Box Medicine

Obecnie każdy aspekt naszego życia zdominowany jest przez technologię, w tym sztuczną inteligencję (dalej: AI). Szereg wyzwań w branży medycznej, takich jak: pojawiające się nowe jednostki chorobowe, oporność na dotychczas stosowane leczenie, galopujące epidemie nowotworów, chorób naczyniowo-wieńcowych, otyłości, starzejące się z jednej strony, ale i coraz liczniejsze z drugiej, społeczeństwo, a za tym rosnące koszty służby zdrowia, malejąca liczba specjalistów, pielęgniarek czy położnych, potrzebują nowatorskich rozwiązań z pogranicza innych nauk – interdyscyplinarności.

Wydaje się, że także medycyna może być beneficjentem różnych narzędzi technologicznych opartych o AI, pod warunkiem ich dobrego zdefiniowania, zaprojektowania, a dalej słusznego wykorzystania. Styk technologii z medycyną wymaga także przezornego dopasowania rozwiązań prawnych, które w pierwszej kolejności zabezpieczą interesy i prawa pacjentów, ale stworzą także dobre i stymulujące warunki do rozwoju tychże technologii pod kątem ich służebnego wykorzystania jako wsparcia dla próby XXI w. w branży medycznej.

 

Co to jest Black Box?

Na początku warto spróbować zastanowić się, co kryje się pod pojęciem Black Box Medicine (dalej: BBM). Co stanowią tak naprawdę tzw. „czarne skrzynki”, o których mowa, i dlaczego tak akurat nazywamy tę instytucję? Otóż BBM to swoista koncepcja, która polega na użyciu nieprzejrzystych modeli obliczeniowych do podejmowania kluczowych decyzji związanych z opieką zdrowotną. W konsekwencji wykorzystujemy pojęcie „czarne skrzynki”, ponieważ nie jesteśmy w stanie zweryfikować przebiegu podjęcia określonej decyzji. Z uwagi na tę nieprzewidywalność, BBM ma wielu zwolenników, m.in. w środowisku lekarskim czy naukowym, ze względu na możliwości, jakie kreuje. Czarne skrzynki medycyny poszerzają znacznie widoki na kształtowanie się leczenia, m.in. poprzez wypracowywanie dokładniejszych i szybszych diagnoz czy wspomaganie podczas opracowywania leków.

 

BBM a sztuczna inteligencja

Kluczowym elementem BBM jest wykorzystywanie sztucznej inteligencji. Prowadzi to do tworzenia odpowiednich maszyn wspomaganych właśnie przez AI, które, działając zgodnie z opracowanymi przez naukowców metodami uczenia się maszynowego, świetnie sprawdzają się w zakresie dokonywania diagnozy lub przewidywania potencjalnego ryzyka występowania chorób lub innych anomalii zdrowotnych.

Narzędzia diagnostyczne, które wykorzystują mechanikę opartą na sztucznej inteligencji, podnoszą jakość i efektywność świadczonej opieki zdrowotnej. Przeprowadzenie wywiadu z pacjentem, analiza wyników badań, monitorowanie pacjenta i wykonywanie wielu innych czynności przez lekarza, w celu postawienia diagnozy, jest wielce pracochłonne i właśnie na tym etapie pomoc maszyn wyposażonych w AI może okazać się nieoceniona.

Możemy wyróżnić dwie główne metody uczenia się maszyn. Pierwsza z nich to proces „głębokiego uczenia” (ang. deep learning). Jest to metoda polegająca na przetwarzaniu przez maszynę setek tysięcy informacji, danych, także w formie zdjęć, różnych parametrów stanu zdrowia pacjenta, w tym schorzeń, aby docelowo móc samodzielnie je identyfikować, rozpoznawać, a końcu wspomagać przy stawianiu konkretnej diagnozy. Chociaż ów proces identyfikacji czy analizy danych oparty jest o model matematyczny to, co do zasady, w oparciu o obecny stan wiedzy, nie jesteśmy w stanie zbadać toku myślenia, na podstawie którego maszyna doszła do tego lub innego wyniku, działają tu przytoczone – nieprzejrzyste modele obliczeniowe maszyny. Stąd właśnie pojawia się pojęcie tzw. czarnej skrzynki.

Drugi typ maszynowego uczenia się to tzw. „uczenie się transferowe”. Uczenie transferowe pozwala na przeniesienie zasobu wiedzy z jednego ogniska chorobowego na inny, jednocześnie zwiększając dokładność diagnozy. W prawdziwym świecie obserwujemy wiele przykładów uczenia się przez transfer, np. nauka rozpoznawania jabłek może pomóc rozpoznać gruszki. Podobnie nauka gry na organach elektronicznych może ułatwić naukę gry na pianinie. Skuteczność wykorzystywania „transfer learningu” u maszyn można zauważyć w wielu aspektach medycyny, a zdecydowany przełom można przypisać naukowcom z Kalifornii, którzy stworzyli platformę, dzięki której po przeanalizowaniu około 200 tys. zdjęć maszyna jest w stanie z 95% skutecznością postawić diagnozę choroby siatkówki oka.

 

Możliwość wykorzystania AI w medycynie

Obecnie w medycynie korzysta się z kilku systemów AI. Jednym z nich jest DXplain – program, który po przeanalizowaniu zestawu objawów zaobserwowanych u pacjenta, przedstawia listę możliwych diagnoz. Ostateczny wybór pozostawia on jednak lekarzowi. Systemy zbliżone do DXplain oparte są na założeniu, że wspomagają lekarza, nie zaś zastępującym go. Istota tych systemów jest jednak niebagatelna, ponieważ lekarz otrzymuje dużo dalej idące spektrum informacji, ma dostęp do dużo większej liczby danych, na których może się oprzeć, niż wiedza i doświadczenie, którym dysponuje samodzielnie, czy konsylium lekarskie, np. w szpitalu. Systemy gromadzą bowiem wiedzę zasysaną z niemal nieograniczonych źródeł, wręcz z całego świata.

Kolejnym programem jest Germwatcher. Jest to laboratoryjny system informacyjny, który wykrywa, śledzi oraz bada możliwość występowania zakażeń u osób hospitalizowanych. Największy przełom w tej dziedzinie stanowiło wprowadzenie zrobotyzowanych systemów chirurgicznych. Przy wykorzystaniu systemu DaVinci z robotycznymi ramionami, precyzyjnym ruchem i magnetycznym wzrokiem, lekarze są w stanie przeprowadzić operacje, które nie byłyby możliwe przy wykorzystywaniu standardowych procedur.

 

Kiedy medyczne czarne skrzynki będą mogły działać dobrze?

Odpowiedź na to pytanie wymaga zebrania oraz zweryfikowania niezliczonej ilości informacji medycznych, które stanowiłyby podstawę dla działania maszyn wyposażonych w AI. Już na tym etapie pojawiają się pierwsze problemy: kosztochłonność związana ze zbieraniem odpowiedniej ilości danych (im większa liczba danych, tym większy potencjał czarnej skrzynki), spełnienia określonych wymagań prawnych dotyczących ochrony prywatności czy zagadnień związanych z uzyskaniem uprzedniej, świadomej i poinformowanej zgody.

Należy również wprowadzić do maszyn wyposażonych w AI na tyle czułe i doprecyzowane algorytmy, aby dawały gwarancję niezawodności przy ocenianiu potencjalnych przypadków medycznych czy w czasie już stawiania końcowych diagnoz. Kluczowym aspektem byłoby również opracowanie specjalistycznych procedur nadzoru nad takimi maszynami i ewentualnej „ścieżki” kontrolnej, która stanowiłaby osobny program, który w krótkim czasie byłby w stanie zweryfikować procesowanie maszyny.

 

Problematyka prawna BBM i AI

a) Definicja legalna

Wraz z rozwojem AI powstało wiele zagadnień trudnych do rozwiązania. Przede wszystkim chodzi o kwestie dotyczące regulacji prawnej sztucznej inteligencji. Parlament Europejski wraz z Europejskim Komitetem Ekonomiczno- -Społecznym wskazał potrzebę precyzyjnego zdefiniowania sztucznej inteligencji. Niestety do tej pory nie została wykreowana żadna ostra definicja. Wydaje się trafnym spostrzeżeniem, iż docelowa definicja powinna z jednej strony starać się spełniać wymogi dużej ostrości, aby nie stwarzała dodatkowych prawnych wątpliwości, a z drugiej strony na tyle przejawiać walor uniwersalności, aby nie hamować ciągle prężnie rozwijającego się postępu technologicznego.

 

b) Odpowiedzialność

Ze względu na ciągły brak jakże potrzebnej definicji legalnej, problematyczne jest również przypisanie odpowiedzialności za: i/ewentualne pomyłki przedmiotowych maszyn wyposażonych w AI, jak i lekarzy korzystających z tychże systemów wspomagających. Wydaje się, że to właśnie ustalenie reguł odpowiedzialności budzi największe wątpliwości i możliwe opory związane z wykorzystaniem AI. Otóż maszyny działają na zasadzie czarnych skrzynek – nie jesteśmy, przynajmniej na razie, w stanie zweryfikować sposobu działania takiej maszyny, przebiegu weryfikacji ocenianych informacji, procesu kreowania odpowiednich wniosków, widzimy jedynie ostateczny wynik. Pierwsza myśl, jaka się nasuwa, to pytanie, kto będzie odpowiedzialny za źle postawioną diagnozę czy dokonanie błędu w sztuce podczas operacji? Czy będziemy obarczać każdorazowo taką winą lekarza nadzorującego maszynę? Czy może przyjmiemy uniwersalną koncepcję, iż zawsze odpowiedzialny będzie ośrodek leczniczy, który zezwolił na wykorzystywanie takiej maszyny? A może odpowiedzialny powinien być organ, który dopuścił, a jak się później okazało – nie powinien, taką maszynę wyposażoną w AI do obrotu? To pytanie prowadzi do kolejnego: jakie powinny być ramy kwalifikacji, notyfikacji czy rejestracji takiego oprogramowania i urządzeń (medycznych)? Może jednak powinniśmy przyjąć wyłączną czy ograniczoną odpowiedzialność twórcy konkretnego oprogramowania i urządzenia? Czy możemy mówić o odpowiedzialności deliktowej czy zaś kontraktowej? W tej materii niestety na tę chwilę jest wiele pytań, niejasności czy kontrowersji, których bez legalnej definicji AI nie jesteśmy w stanie rozwikłać.

 

c) Własność intelektualna

Kolejny aspekt to kwestia własności praw autorskich do wyników działania AI, a także zagadnienia istnienia praw osobistych. Już teraz sztuczna inteligencja potrafi samodzielnie tworzyć teksty, obrazy czy zdjęcia. Powstaje zatem pytanie o status twórcy i jego dzieła. Kto nim w rzeczywistości będzie? Czy jesteśmy w stanie uznać maszynę za twórcę? Na kanwie aktualnych przepisów prawa polskiego odpowiedź jest raczej negatywna. Zgodnie z przyjętym paradygmatem i obowiązującymi przepisami, twórcą utworu (także software’u), ale także uprawnionym z tytułu praw osobistych, może być jedynie człowiek. Uprawnionym z tytułu praw majątkowych może być już zarówno osoba fizyczna, ale także np. spółka.

Kolejny problem to fakt, iż czarne skrzynki medycyny opierają się na olbrzymiej liczbie różnych informacji. Są to informacje zebrane, wykryte, kreujące określone wzorce po wcześniejszej „maszynowej” weryfikacji.

Odpowiednie firmy, które chciałyby oferować BBM w sposób konstruktywny, zapewne chciałyby poddać ochronie część swoich zebranych informacji czy wzorców, na których pracują jej maszyny wyposażone w AI. Doktryna stoi przed nie lada wyzwaniem dopasowania aktualnych możliwości oferowanych przez własność intelektualną, aby w sposób najpewniejszy odpowiadały przeznaczaniu i celowi BBM. Weźmy pod lupę np. patent. Jest to jeden z głównych napędów własności intelektualnej, w celu ochrony innowacji. Wydaje się wyborem zbyt statycznym w stosunku do BBM, która, co do zasady, jest i rozwija się w sposób dynamiczny. Trudności w wykorzystaniu tego narzędzia związane są ze zdefiniowaniem wynalazku, a także ograniczeniem, że wynalazkami nie są programy komputerowe jako takie, a jedynie rozwiązania realizowane za pomocą komputera.

 

d) Dane, w tym dane osobowe

Należy mieć jednak na uwadze, że to, co „najcenniejsze” z punktu widzenia BBM, to w rzeczywistości dane – zarówno dane osobowe, jak i zbiory danych mieszanych, a w końcu danych nieosobowych. Także i ta sfera związana jest z szeregiem wątpliwości natury prawnej, które stoją przed właścicielem bazy danych. Które dane są danymi osobowymi, które nieosobowymi? Kiedy mówimy o zbiorach mieszanych i jak należy z nimi postępować? W jaki sposób zbierać uprzednie zgody od pacjentów udostępniających dane? Jakie są ryzyka związane z nieuprawnionym wykorzystaniem danych osobowych? Jak wyceniać konkretne dane i same ich zbiory?

 

Podsumowanie

Czarne skrzynki w medycynie i nieodzowny związany z nią rozwój AI stanowią niezaprzeczalny przełom. Wprowadzają wiele nowych możliwości i rozwiązań do aktualnej wiedzy medycznej. Ze względu na wiele niejasności i niewiadomych, rozwiązania z gatunku sztucznej inteligencji powinny być pod ciągłym nadzorem człowieka, ponieważ waga potencjalnych skutków, zwłaszcza w sferze zdrowia ludzkiego, jakie mogą wystąpić podczas jej mylnego zastosowania, jest zbyt daleko idąca. Warto nadmienić, iż w podobnym tonie wypowiada się rządowa amerykańska Agencja Żywności i Leków (FDA, US Food and Drug Administration), która zezwala, aby lekarze prowadzili jedynie takie badania zastosowania AI, które cechuje niskie ryzyko. Z całą dozą pewności możemy stwierdzić, iż w nie lada przyszłości będziemy świadkami prawdziwej rewolucji w świecie medycyny.

 

Autorzy:
Konrad Jagocha
dr Joanna Uchańska
Grupa Chałas i Wspólnicy

 

 

---------------------------------------------------------------------

 

 

 

Artykuł pochodzi z najnowszego wydania kwartalnika Biotechnologia.pl nr 4/2019.
Cały kwartalnik dostępny jest TUTAJ

 

 

 

 

 

 

 

 

 

 

KOMENTARZE
news

<Styczeń 2020>

pnwtśrczptsbnd
30
31
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
29
31
1
2
Newsletter