Η εφαρμογή της τεχνητής νοημοσύνης στην ιατρική: ηθικές και νομικές πτυχές σχετικά με το δίλημμα του «μαύρου κουτιού»

pdf (English)
Δημοσιευμένα: mar 30, 2026
DOI: https://doi.org/10.12681/bioeth.45066
Λέξεις-κλειδιά:
τεχνητή νοημοσύνη εξηγησιμότητα ευθύνη ιατρική και υγειονομική περίθαλψη
Markus Meserth
Έδρα Οικονομικού Ποινικού Δικαίου, Πανεπιστήμιο του Λιχτενστάιν και Έδρα Ποινικού Δικαίου και Δικαίου Ανθρωπίνων Δικαιωμάτων, Πανεπιστήμιο της Βιέννης και Ασκούμενος στην Εθνική Επιτροπή Βιοηθικής και Τεχνοηθικής, Ελλάδα
https://orcid.org/0009-0004-9291-1051
Περίληψη

Η τεχνητή νοημοσύνη (ΤΝ) γίνεται όλο και πιο διαδεδομένη σε διάφορους τομείς, υποσχόμενη να μεταμορφώσει μακροπρόθεσμα τον τρόπο ζωής μας. Η διερεύνηση των πιθανών εφαρμογών των συστημάτων ΤΝ βρίσκεται σε εξέλιξη και στον τομέα της υγειονομικής περίθαλψης. Αν και η νέα τεχνολογία έχει τη δυνατότητα να βελτιώσει την ιατρική περίθαλψη, είναι σημαντικό να μην ενθουσιαζόμαστε υπερβολικά εστιάζοντας αποκλειστικά στις ευκαιρίες που προσφέρει. Η χρήση αυτής της τεχνολογίας δεν είναι χωρίς κινδύνους. Το παρόν άρθρο παρέχει μια ολοκληρωμένη επισκόπηση των τεχνολογικών βασικών αρχών και εξετάζει τις ηθικές και νομικές επιπτώσεις της χρήσης της ΤΝ στην υγειονομική περίθαλψη. Επιπλέον, ασχολείται με το ζήτημα του ποιος μπορεί να θεωρηθεί υπεύθυνος για ζημίες που προκαλούνται από αυτοματοποιημένα συστήματα στον ευαίσθητο αυτό τομέα και πώς μπορεί να αντιμετωπιστεί αποτελεσματικά η διάχυση της ευθύνης. Το άρθρο επικεντρώνεται επίσης στο κεντρικό ζήτημα της εξηγήσιμης φύσης της ΤΝ και των λεγόμενων συστημάτων «μαύρου κουτιού». Η μονομερής απόδοση ευθύνης στον ιατρό ως τελικό υπεύθυνο λήψης αποφάσεων ενδέχεται να είναι ανεπαρκής, καθώς αυτό θα μπορούσε να υπονομεύσει την εμπιστοσύνη των ασθενών και των επαγγελματιών του ιατρικού κλάδου, εμποδίζοντας την υιοθέτηση συστημάτων ΤΝ. Αντ’ αυτού, θα πρέπει να επιδιωχθεί μια συνεργατική προσέγγιση που θα ενσωματώνει όλους τους εμπλεκόμενους στη διαδικασία λήψης αποφάσεων, από τους προγραμματιστές συστημάτων έως τους ασθενείς.

Λεπτομέρειες άρθρου
  • Ενότητα
  • Πρωτότυπες Εργασίες
Creative Commons License

Αυτή η εργασία είναι αδειοδοτημένη υπό το CC Αναφορά Δημιουργού 4.0.

Οι Συγγραφείς που δημοσιεύουν εργασίες τους σε αυτό το περιοδικό συμφωνούν στους παρακάτω όρους:

  • Οι Συγγραφείς διατηρούν τα Πνευματικά Δικαιώματα και χορηγούν στο περιοδικό το δικαίωμα της πρώτης δημοσίευσης, ενώ ταυτόχρονα τα πνευματικά δικαιώματα της εργασίας προστατεύονται σύμφωνα με την Creative Commons Attribution  CC BY 4.0, που επιτρέπει άμεση πρόσβαση στις εργασίες και κάθε χρήστη να διαβάζει, να κάνει λήψη, να αντιγράφει, να διανέμει, να εκτυπώνει, να αναζητά, ή να συνδέει με το πλήρες περιεχόμενο των άρθρων, να τα αναζητά για ευρετηρίαση, να τα χρησιμοποιεί ως δεδομένα σε λογισμικό, ή να τα χρησιμοποιεί για οποιοδήποτε άλλο νόμιμο σκοπό. Προϋπόθεση ε΄ιναι η αναφορά στον αρχικό δημιουργό/ούς  και την αρχική δημοσίευση σε αυτό το περιοδικό.
  • Οι Συγγραφείς μπορούν να συνάπτουν ξεχωριστές, και πρόσθετες συμβάσεις και συμφωνίες για την μη αποκλειστική διανομή της εργασίας όπως δημοσιεύτηκε στο περιοδικό αυτό (π.χ. κατάθεση σε ένα ακαδημαϊκό καταθετήριο ή δημοσίευση σε ένα βιβλίο), με την προϋπόθεση της αναγνώρισης και την αναφοράς της πρώτης δημοσίευσης σε αυτό το περιοδικό.

Το περιοδικό Βιοηθικά επιτρέπει και ενθαρρύνει τους συγγραφείς να καταθέτουν τα δημοσιευμένα άρθρα  σε θεσμικά (π.χ. το αποθετήριο του Εθνικού Κέντρου Τεκμηρίωσης) ή θεματικά αποθετήρια (π.χ. αποθετήριο SSOAR για τις Κοινωνικές Επιστήμες), μετά τη δημοσίευσή τους στο περιοδικό «Βιοηθικά» και με όρους Ανοικτής Πρόσβασης, όπως κατά περίπτωση προσδιορίζονται από τους χρηματοδότες της έρευνάς τους ή/και τα ιδρύματα με τα οποία συνεργάζονται.

Κατά την κατάθεση της εργασίας τους, οι συγγραφείς πρέπει να παρέχουν πληροφορίες σχετικά με τη δημοσίευση του άρθρου στο περιοδικό «Βιοηθικά» και τις πηγές χρηματοδότησης της έρευνάς τους.

Κατάλογοι των ιδρυματικών και θεματικών αποθετηρίων ανά χώρα υπάρχουν στη βάση http://opendoar.org/countrylist.php . Οι συγγραφείς έχουν τη δυνατότητα να καταθέσουν χωρίς κόστος την εργασία τους στο αποθετήριο www.zenodo.org, το οποίο υποστηρίζεται από το OpenAIRE (www.openaire.eu ), στο πλαίσιο των πολιτικών της Ευρωπαϊκής Επιτροπής για την ενίσχυση της Ανοικτής ακαδημαϊκής έρευνας.

Λήψεις
Τα δεδομένα λήψης δεν είναι ακόμη διαθέσιμα.
Αναφορές
Amann J, Blasimme A, Vayena E, Frey D, Madai VI. Explainability for artificial intelligence in healthcare: a multidisciplinary perspective. BMC Med Inform Decis Mak 2020, 20:310.
Asghari H, Birner N, Burchardt A, Dicks D, Faßbender J, Feldhus N, Hewett F, Hofmann V, Kettemann MC, Schulz W, Simon J, Stolberg-Larsen J, Züger T. What to explain when explaining is difficult. An interdisciplinary primer on XAI and meaningful information in automated decision-making. Zenodo.
Bathaee, Y. The Artificial Intelligence Black Box and the Failure of Intent and Causation. Harvard Journal of Law & Technology 2018, 31(2), 889–938.
Baum K, Mantel S, Schmidt E, Speith T. From Responsibility to Reason‑Giving Explainable Artificial Intelligence. Philosophy & Technology 2022, 35:12.
Beck S, Faber M, Gerndt S. Rechtliche Aspekte des Einsatzes von KI und Robotik in Medizin und Pflege. Ethik in der Medizin 2023, 35:247–263.
Bekbolatova M, Mayer J, Ong CW, Toma M. Transformative Potential of AI in Healthcare: Definitions, Applications, and Navigating the Ethical Landscape and Public Perspectives. Healthcare 2024, 12, 125.
Benzinger L, Ursin F, Balke WT, Kacprowski T, Salloch S. Should Artificial Intelligence be used to support clinical ethical decision-making? A systematic review of reasons. BMC Med Ethics 2023, 24(1):48.
Chau M, Rahman M G, Debnath T. From black box to clarity: Strategies for effective AI informed consent in healthcare. Artificial Intelligence In Medicine 2025, 167, 103169.
Chen H, Sung JJY. Potentials of AI in medical image analysis in gastroenterology and hepatology. J Gastroenterol Hepatol 2021, 36(1):31–38.
Daneshjou R, Smith M P, Sun MD, Rotemberg V, Zou J. Lack of transparency and potential bias in artificial intelligence data sets and algorithms: A scoping review. JAMA Dermatol. 2021, 157, 1362–1369.
De Fauw J. Ledsam JR, Romera-Paredes B, Nikolov S, Tomasev N, Blackwell S, Askham H, Glorot X, O‘Donoghue B, Visentin D, van den Driessche G, Lakshminarayanan B, Meyer C, Mackinder F, Bouton S, Ayoub K, Chopra R, King D, Karthikesalingam A, Hughes CO, Raine R, Hughes J, Sim DA, Egan C, Tufail A, Montgomery H, Hassabis D, Rees G, Back T, Khaw PT, Suleyman M, Cornebise J, Keane PA, Ronneberger O. Clinically applicable deep learning for diagnosis and referral in retinal disease. Nat Med 2018, 24(9): 1342–1350.
Dettling H-U. Künstliche Intelligenz und digitale Unterstützung ärztlicher Entscheidungen in Diagnostik und Therapie. PharmR 2019, 41: 633–642.
Droste W. Intelligente Medizinprodukte: Verantwortlichkeiten des Herstellers und ärztliche Sorgfaltspflichten, MPR 2018, 109–115.
Eichelberger, J. Arzthaftung. In: Chibanguza K, Kuß C, Steege H (eds.). Künstliche Intelligenz: Recht und Praxis automatisierter und autonomer Systeme. Baden-Baden 2022, 655–674.
Elgin CY, Elgin C. Ethical implications of AI‑driven clinical decision support systems on healthcare resource allocation: a qualitative study of healthcare professionals’ perspectives. BMC Medical Ethics 2024, 25:148.
Ferrario A, Loi M. How Explainability Contributes to Trust in AI. ACM Conference on Fairness, Accountability, and Transparency 2022 (FAccT ’22), 1458.
Froomkin M, Kerr IR, Pineau J. When AIs Outperform Doctors: Confronting the Challenges of a Tort-Induced Over-Reliance on Machine Learning. Arizona Law Review 2019, Vol. 61:33.
Frost Y, Steininger M, Vivekens S. Nutzen, Chancen, Risiken und Haftung bei der Verwendung von Künstlicher Intelligenz im Kontext der KI-Verordnung und KI-Haftungsrichtlinie. MPR 2024, 4–20.
Goktas P, Grzybowski A. Shaping the Future of Healthcare: Ethical Clinical Challenges and Pathways to Trustworthy AI. J. Clin. Med. 2025, 14, 1605.
Gore JC. Artificial intelligence in medical imaging. Magnetic Resonance Imaging 2020, 68:A1–A4.
Hacker P, Krestel R, Grundmann S, Naumann F. Explainable AI under contract and tort law: legal incentives and technical challenges. Artificial Intelligence and Law 2020, 28:415–439.
Haftenberger A, Dierks C. Rechtliche Einordnung von künstlicher Intelligenz in der Inneren Medizin. Innere Medizin 2023, 64:1044–1050.
Li Z, Koban KC, Schenck TL, Giunta RE, Li Q, Sun Y. Artificial Intelligence in dermatology image analysis. Current developments and future trends. J Clin Med 2022, 11(22).
Liu X, Faes L, Kale AU, Wagner SK, Fu DJ, Bruynseels A, Mahendiran T, Moraes G, Shamdas M, Kern C, Ledsam JR, Schmid MK, Balaskas K, Topol EJ, Bachmann LM, Keane PA, Denniston AK. A comparison of deep learning performance against healthcare professionals in detecting diseases from medical imaging: a systematic review and meta-analysis. The Lancet Digital Health 2019, Volume 1, Issue 6, e271–e297.
Lohmann A, Schömig A. „Digitale Transformation“ im Krankenhaus. Gesellschaftliche und rechtliche Herausforderungen durch das Nebeneinander von Ärzten und Künstlicher Intelligenz. In: Beck S, Kusche C, Valerius B (eds.). Digitalisierung, Automatisierung, KI und Recht, Baden-Baden 2020, 345–364.
Parikh RB, Teeple S, Navathe AS. Addressing bias in artificial intelligence in health care. JAMA 2019, 322, 2377–2378.
Pham T. Ethical and legal considerations in healthcare AI: innovation and policy for safe and fair use. R. Soc. Open Sci. 2025, 12: 241873.
Meroueh C, Chen ZE. Artificial Intelligence in anatomical pathology. Building a strong foundation for precision medicine.Hum Pathol 2023, 132:31–38.
Riehm T. Nein zur ePerson - Gegen die Anerkennung einer digitalen Rechtspersönlichkeit. RDi 2020, 42–48.
Salloch S. Künstliche Intelligenz in der Ethik? Ethik in der Medizin 2023, 35:337–340.
Samhammer D, Beck S, Budde K, Burchardt A, Faber M, Gerndt S, Möller S, Osmanodja B, Roller R, Dabrock P. Klinische Entscheidungsfindung mit Künstlicher Intelligenz. Berlin 2020, 21–51.
Schlicker N, Langer M, Hirsch MC. Wie vertrauenswürdig ist künstliche Intelligenz? Ein Modell für das Spannungsfeld zwischen Objektivität und Subjektivität. Innere Medizin 2023, 64:1051–1057.
Schlör D, Hotho A. Verantwortungsvolle Empfehlungssysteme für die medizinische Diagnostik. In: Reder M, Koska C (eds.).
Künstliche Intelligenz und ethische Verantwortung, Bielefeld 2024, 101–120.
Seng L. Maschinenethik und Künstliche Intelligenz. In: Bendel O (ed.). Handbuch Maschinenethik, Wiesbaden 2018, 185–205.
Tretter M, Samhammer D, Dabrock P. Künstliche Intelligenz in der Medizin: Von Entlastungen und neuen Anforderungen im ärztlichen Handeln. Ethik in der Medizin 2024, 36:7–29.
Ursin F, Lindner F, Ropinski T, Salloch S, Timmermann C. Levels of explicability for medical artificial intelligence: What do we normatively need and what can we technically reach? Ethik in der Medizin 2023, 35:173–199.
Walchshofer M, Riedl R. Der Chief Digital Officer (CDO). Eine empirische Untersuchung. HMD Praxis der Wirtschaftsinformatik 2017, 54(3): 324–337.
Weicken E, Mittermaier M, Hoeren T, Kliesch J, Wiegand T, Witzenrath M, Ballhausen M, Karagiannidis C, Sander LE, Gröschel MI. Schwerpunkt künstliche Intelligenz in der Medizin – rechtliche Aspekte bei der Nutzung großer Sprachmodelle im klinischen Alltag, Innere Medizin 2025, 66:436–441.
Weng SF, Reps J, Kai J, Garibaldi JM, Qureshi N. Can machinelearning improve cardiovascular risk prediction using routine clinical data? PloS one 2017, 12(4):e0174944.
Yuan D, Jugas R, Pokorna P, Sterba J, Slaby O, Schmid S, Siewert C, Osberg B, Capper D, Halldorsson S, Vik-Mo EO, Zeiner PS, Weber KJ, Harter PN, Thomas C, Albers A, Rechsteiner M, Reimann R, Appelt A, Schüller U, Jabareen N, Mackowiak S, Ishaque N, Eils R, Lukassen S, Euskirchen P. CrossNN is an explainable framework for cross-platform DNA methylationbased classification of tumors. Nat Cancer 2025, 6: 1283–1294.