Utilizarea inteligenței artificiale în chirurgie – un avertisment

The use of artificial intelligence in surgery – a warning

ChatGPT, un chatbot (chatterbot) lansat ca prototip pe 30 noiembrie 2022 de OpenAI, a devenit deja un element comun. fiind utilizat pe scară largă. La baza acestui tip de bot se regăsește un sistem de modelare complex numit natural language processing (NLP), care practic stă la baza a ceea ce numim Artificial Intelligence (AI). NPL este o tehnologie de învățare automată, care oferă computerelor capacitatea de a interpreta, utiliza și înțelege limbajul uman. Între timp, alte modele și variante sunt lansate și concurează pe piață, unele de interes pentru noi în domeniul medical.

Cu toate acestea, să luăm în considerare următorul scenariu S.F. dintr-o carte celebră publicată în 1989 de către A.C. Clarke.

„RoChir, chirurgul robot portabil de la bord, nu era la nivelul sălilor de operație autonome ale marilor spitale ale Pământului, dar a fost totuși o capodoperă a tehnologiei. Cântărea doar patru kilograme și încăpea într-o valiză. Consuma puțină energie și putea interveni în mai mult de o sută de situații. […] Janos a introdus codul de intervenție. RoChir și-a întins membrele și mâna bisturiu în poziția necesară pentru a îndepărta apendicele. […] Nici un chirurg uman nu ar fi putut fi atât de rapid și precis. Datorită bateriilor de senzori care verificau sute de parametri în fiecare zi, în microsecunde, RoChir a realizat incizia completă în mai puțin de două minute. O pauză de treizeci de secunde a fost planificată în această etapă pentru a permite oamenilor să efectueze o examinare vizuală înainte de ablație. Nicole s-a aplecat asupra pacientului și i-a studiat apendicele. Nu era nici umflat, nici inflamat.

„Uite, Janos. Repede!” a spus ea, uitându-se la cronometrul digital al lui RoChir. Arată absolut sănătos. Tabori se înclină de cealaltă parte a mesei. „Doamne”, s-a gândit ea, „RoChir o să-l scoată… Au mai rămas doar opt secunde înainte de reluarea intervenției.

„Oprește-te! a strigat ea. Opriți totul!

Nicole și Janos s-au grăbit la cutia de control în același timp. Nava a virat lateral în același timp, iar Nicole a fost aruncată pe spate, de perete. Janos a căzut în față. Capul i se izbi de masă și mâna îi căzu pe tastatură. S-a uitat neîncrezătoare la sângele care umplea incizia în care dispăruse brațul bisturiu al lui RoChir în timp ce continua să taie. […] Distrucția realizată era teribilă, iar generalul a fost exanguinat.

„O, nu! O, Dumnezeul meu! O’Toole a murmurat când a descoperit sângerarea.

Sondele au continuat să emită semnale de avertizare. Sistemele de alarmă din sala de operație au fost activate. Francesca și-a revenit la timp pentru a înregistra ultimele zece secunde din viața lui Valeriy Borzov.” (excerpta din Arthur C. Clarkem Gentry Lee. Rama 2)

Scenariul imaginat în urmă cu aproape 40 de ani (de subliniat că autorul descria deja robotul chirurgical) este înfricoșător și arată o parte dintre problemele utilizării practice ale inteligenței artificiale. Avem în scenariul de mai sus un diagnostic incorect și o eroare chirurgicală înspăimântătoare. Oare acest tip de scenariu este posibil, probabil? Ce putem face pentru a evita așa ceva? În continuare voi analiza unele dintre cele mai importante provocări ale utilizării AI în medicină și în special în chirurgie. Printre cele mai importante sunt: fiabilitatea datelor de intrare, interpretarea datelor de ieșire, proprietatea datelor, confidențialitatea consumatorilor și problemele de răspundere în cazul potențialelor încălcări ale securității datelor.

Fiabilitatea datelor de intrare:

Fiabilitatea datelor de intrare este de o importanță capitală în utilizarea AI în dosarele medicale chirurgicale, deoarece acuratețea și validitatea informațiilor și predicțiilor bazate pe AI sunt direct condiționate de calitatea datelor pe care sunt instruite. Eficacitatea AI în chirurgie se bazează pe capacitatea sa de a spori eficacitatea formării și a luării deciziilor (1) Integritatea datelor este o preocupare critică atunci când sistemele de inteligență artificială  chirurgicală sunt antrenate folosind date colectate în timpul intervențiilor chirurgicale din cauza limitărilor, inclusiv considerente etice, cheltuieli, scalabilitate și lipsa uniformității modelului anatomic real. Această provocare se datorează calității și disponibilității datelor medicale, unde algoritmii AI necesită cantități mari de date etichetate de înaltă calitate pentru a fi eficienți, ceea ce poate fi o provocare în domeniul medical, unde datele sunt adesea fragmentate, incomplete, neetichetate sau indisponibile (2) Calitatea datelor poate fi afectată de erori de transcriere, valori lipsă și inconsecvențe în practicile de colectare a datelor.

Confidențialitatea și securitatea datelor:

Sistemele AI necesită cantități mari de date ale pacienților, ridicând îngrijorări cu privire la confidențialitate și consimțământul informat. Protejarea datelor pacienților împotriva accesului neautorizat și a utilizării abuzive este de o importanță capitală. Utilizarea CDSS bazate pe inteligență artificială ridică întrebări complexe legate de comunicarea clinică, consimțământul informat și schimbările în rolurile profesioniștilor medicali și în relațiile medic-pacient. (3) Algoritmii AI necesită acces la cantități mari de date despre pacienți pentru a învăța și a face predicții precise, iar acest aspect ridică îngrijorări cu privire la confidențialitatea și securitatea informațiilor sensibile (3). Dezvoltarea cadrelor de reglementare pentru protecția datelor este necesară, pentru a aborda potențiala utilizare abuzivă a informațiilor personale de sănătate, inclusiv accesul neautorizat, încălcările datelor și încălcările drepturilor la viață privată ale persoanelor (2) (4).

Erori algoritmice:

Modelele AI pot prelua erori din datele de antrenament, ceea ce poate duce la disparități în rezultatele chirurgicale. Erorile se pot strecura în algoritmii AI, fie prin datele utilizate pentru a antrena algoritmul, fie prin proiectarea algoritmului în sine, ducând la rezultate incorecte sau discriminatorii. Atunci când algoritmii AI sunt antrenați pe date eronate, sau  care nu includ caracteristici ale populației subreprezentate, disparitățile existente pot fi consolidate. (5) De exemplu, dacă datele de antrenament constau predominant din date dintr-un anumit grup demografic, modelul AI poate funcționa mai puțin precis sau corect atunci când este aplicat pacienților din medii diferite. Cu alte cuvinte, dacă antrenezi AI cu, de exemplu, pacienții români, este de așteptat să aibă erori dacă modelul este utilizat în diferite grupuri populaționale.

Responsabilitate și răspundere:

Dacă o procedură asistată de AI nu merge bine, determinarea responsabilității  devine complexă. Această lipsă de responsabilitate atribuibilă este probabil să împiedice profesioniștii medicali care sunt în prezent responsabili pentru deciziile clinice să adopte tehnologia. (6) Dacă o procedură chirurgicală asistată de AI are ca rezultat vătămarea pacientului (vezi mai sus), poate fi dificil să stabilim cine este responsabil: chirurgul, dezvoltatorul AI, sau instituția medicală. Stabilirea unor linii clare de responsabilitate și a unor cadre de răspundere este esențială pentru a se asigura că pacienții sunt protejați și că cei responsabili de erori sau neglijență sunt trași la răspundere.(6) În prezent, nicio reglementare bine definită nu abordează aspectele juridice și etice care pot apărea din utilizarea inteligenței artificiale în unitățile de asistență medicală.(7) Complexitatea algoritmilor de AI și potențialul de consecințe nedorite fac dificilă atribuirea de vină sau determinarea cauzalității, atunci când apar erori legate de IA. (8)

Provocări de reglementare:

Utilizarea AI în chirurgie necesită linii directoare clare pentru a asigura siguranța, acuratețea și implementarea etică. Soluțiile eficiente pot fi găsite în cadre de reglementare și standarde puternice care ghidează dezvoltarea, validarea și implementarea tehnologiilor AI în chirurgie. Înainte de a integra inteligența artificială în sistemul de sănătate, practicienii și specialiștii ar trebui să ia în considerare toate cele patru principii de etică medicală, inclusiv autonomia, beneficența, non-maleficența și justiția în toate aspectele asistenței medicale.(9) Ritmul rapid al inovării în domeniul AI reprezintă provocări pentru organismele de reglementare, care se străduiesc să țină pasul cu cele mai recente evoluții și să instituie mecanisme de supraveghere adecvate.(10) Este de apreciat în acest sens adoptarea la nivelul EU a primei legi care reglementează utilizarea AI în iunie 2024 (11).

Judecata umană vs. automatizarea:

AI poate ajuta la luarea deciziilor, dar ar trebui să completeze mai degrabă decât să înlocuiască expertiza umană, în special în cazurile cu risc ridicat. În timp ce AI poate îmbunătăți eficiența și eficacitatea procedurilor chirurgicale, în special în antrenamentul de chirurgie minim invazivă, îi lipsește „al șaselea simț” sau intuiția crucială în practica chirurgicală. Empatia și atingerea umană sunt caracteristici inimitabile care nu pot fi înlocuite de sistemele de AI.(12) În plus, recomandările incorecte de medicamente, eșecul de a identifica tumorile și leziunile în modalitățile de imagistică și potențiala eroare în introducerea datelor pot reprezenta un risc pentru viața pacienților pe scară largă.(13) Găsirea echilibrului corect între asistența AI și judecata umană este esențială în luarea deciziilor chirurgicale, în special în cazurile cu risc ridicat. Deși AI poate oferi informații și sprijin valoroase, ar trebui să completeze, mai degrabă decât să înlocuiască, expertiza și judecata clinică a chirurgilor și a profesioniștilor din domeniul sănătății. Principiile autonomiei, beneficenței, non-maleficenței și justiției constituie fundamentul eticii medicale, iar oricare dintre aceste principii poate fi încălcat în timpul punerii în aplicare a AI.(14),(15) Integrarea AI în chirurgie ar trebui să acorde prioritate siguranței pacienților, considerațiilor etice și păstrării supravegherii umane în procesele critice de luare a deciziilor.(7),(16),(17) În plus, justiția în etica asistenței medicale se referă la distribuția echitabilă a resurselor și accesul egal la îngrijire; ar trebui abordată problema distribuției echitabile a tehnologiilor bazate pe AI.(10),(14)

În concluzie, deși AI are potențialul de a revoluționa chirurgia, trebuie abordate dilemele etice și juridice, inclusiv legile privind confidențialitatea și povara financiară a implementării unei astfel de tehnologii pe scară largă.(12) Accentul ar trebui pus pe augmentare, mai degrabă decât pe automatizarea completă a procedurilor chirurgicale.(12) Pe măsură ce AI continuă să avanseze în chirurgie, este esențial să se echilibreze beneficiile sale cu o analiză atentă a acestor avertismente pentru a asigura o implementare sigură, etică și eficientă în domeniul dinamic al medicinei.(13) Scăderea interacțiunii umane în îngrijirea clinică și satisfacția pacienților sunt, de asemenea, factori importanți de luat în considerare.(18)

Bibliography

1. Morris MX, Fiocco D, Caneva T, Yiapanis P, Orgill DP. Current and future applications of artificial intelligence in surgery: implications for clinical practice and research. Front Surg. 2024 May 9;11:1393898.
2. Al-Antari MA. Artificial intelligence for medical diagnostics-existing and future AI technology! Diagnostics (Basel). 2023 Feb 12;13(4):688.
3. Hildt E. What is the role of explainability in medical artificial intelligence? A case-based approach. Bioengineering (Basel). 2025 Apr 2;12(4):375.
4. Alaran MA, Lawal SK, Jiya MH, Egya SA, Ahmed MM, Abdulsalam A, et al. Challenges and opportunities of artificial intelligence in African health space. Digit Health. 2025 Jan;11:20552076241305916.
5. Akinci D’Antonoli T. Ethical considerations for artificial intelligence: an overview of the current radiology landscape. Diagn Interv Radiol. 2020 Sep;26(5):504–11.
6. Ahmed MI, Spooner B, Isherwood J, Lane M, Orrock E, Dennison A. A systematic review of the barriers to the implementation of artificial intelligence in healthcare. Cureus. 2023 Oct 4;15(10):e46454.
7. Naik N, Hameed BMZ, Shetty DK, Swain D, Shah M, Paul R, et al. Legal and ethical consideration in Artificial Intelligence in healthcare: Who takes responsibility? Front Surg. 2022 Mar 14;9:862322.
8. Markus AF, Kors JA, Rijnbeek PR. The role of explainability in creating trustworthy artificial intelligence for health care: A comprehensive survey of the terminology, design choices, and evaluation strategies. J Biomed Inform. 2021 Jan 1;113(103655):103655.
9. Farhud DD, Zokaei S. Ethical issues of artificial intelligence in medicine and healthcare. Iran J Public Health. 2021 Nov;50(11):i–v.
10. Mennella C, Maniscalco U, De Pietro G, Esposito M. Ethical and regulatory challenges of AI technologies in healthcare: A narrative review. Heliyon. 2024 Feb 29;10(4):e26297.
11. Cobianchi L, Piccolo D, Dal Mas F, Agnoletti V, Ansaloni L, Balch J, et al. Surgeons’ perspectives on artificial intelligence to support clinical decision-making in trauma and emergency contexts: results from an international survey. World J Emerg Surg. 2023 Jan 3;18(1):1.
12. Gupta A, Singla T, Chennatt JJ, David LE, Ahmed SS, Rajput D. Artificial intelligence: A new tool in surgeon’s hand: A new tool in surgeon’s hand. J Educ Health Promot. 2022 Mar 23;11(1):93.
13. Saadat A, Siddiqui T, Taseen S, Mughal S. Revolutionising Impacts of Artificial Intelligence on Health Care System and Its Related Medical In-Transparencies. Ann Biomed Eng. 2024 Jun 7;52(6):1546–8.
14. Akinrinmade AO, Adebile TM, Ezuma-Ebong C, Bolaji K, Ajufo A, Adigun AO, et al. Artificial intelligence in healthcare: Perception and reality. Cureus. 2023 Sep 20;15(9):e45594.
15. Lambert SI, Madi M, Sopka S, Lenes A, Stange H, Buszello C-P, et al. An integrative review on the acceptance of artificial intelligence among healthcare professionals in hospitals. NPJ Digit Med. 2023 Jun 10;6(1):111.
16. Davenport T, Kalakota R. The potential for artificial intelligence in healthcare. Future Healthc J. 2019 Jun 1;6(2):94–8.
17. Ishengoma FR. Artificial intelligence in digital health: Issues and dimensions of ethical concerns. Innov softw. 2022 Mar 30;3(1):81–108.
18. Bhardwaj A. Promise and provisos of artificial Intelligence and Machine Learning in healthcare. J Healthc Leadersh. 2022 Jul 20;14:113–8.