Εργαλεία τεχνητής νοημοσύνης (AI) που έχουν σχεδιαστεί για να βοηθούν στη λήψη ιατρικών αποφάσεων, ίσως τελικά να μην αντιμετωπίζουν όλους τους ασθενείς με τον ίδιο τρόπο. Νέα μελέτη αποκαλύπτει πως αυτά τα συστήματα μπορούν να διαφοροποιούν τις συστάσεις θεραπείας ανάλογα με το κοινωνικοοικονομικό ή δημογραφικό προφίλ του ασθενούς, ακόμα κι όταν η ιατρική τους κατάσταση είναι ακριβώς η ίδια.

Μεροληψία στις Συστάσεις Τεχνητής Νοημοσύνης για την Υγεία

Καθώς η AI μπαίνει όλο και πιο βαθιά στην ιατρική φροντίδα, η νέα μελέτη από την Ιατρική Σχολή Icahn στο Mount Sinai δείχνει ότι τα προηγμένα μοντέλα τεχνητής νοημοσύνης μπορούν να προτείνουν διαφορετικές θεραπείες για την ίδια πάθηση, αποκλειστικά βάσει του κοινωνικού ή εθνοτικού υπόβαθρου του ασθενούς.

Η μελέτη δημοσιεύτηκε στις 7 Απριλίου 2025 στο Nature Medicine και τονίζει την ανάγκη για έγκαιρο έλεγχο και αυστηρή εποπτεία ώστε η φροντίδα μέσω AI να είναι δίκαιη και ασφαλής για όλους.

Εκτενείς Δοκιμές με Ποικιλία Προφίλ Ασθενών

Οι ερευνητές δοκίμασαν 9 μοντέλα τεχνητής νοημοσύνης χρησιμοποιώντας 1.000 περιστατικά επειγόντων. Κάθε περιστατικό αναπαράχθηκε 32 φορές με διαφορετικά κοινωνικοδημογραφικά προφίλ, παράγοντας πάνω από 1,7 εκατομμύρια ιατρικές προτάσεις από AI. Αν και τα ιατρικά δεδομένα ήταν πανομοιότυπα, οι συστάσεις άλλαζαν ανάλογα με την καταγωγή, το φύλο ή το εισόδημα του «ασθενούς». Επηρεάστηκαν αποφάσεις όπως: η προτεραιότητα περίθαλψης, οι διαγνωστικές εξετάσεις, τα θεραπευτικά πλάνα και οι αξιολογήσεις ψυχικής υγείας.

Ο γιατρός Εγιάλ Κλανγκ, συν-συγγραφέας της μελέτης, εξηγεί:

“Το έργο μας παρέχει ένα μοντέλο αξιολόγησης της αξιοπιστίας της AI, ώστε να μπορούμε να εντοπίζουμε πότε τα μοντέλα επηρεάζονται από άσχετους παράγοντες και όχι από την πραγματική ιατρική ανάγκη. Έτσι ενισχύουμε την εμπιστοσύνη στην τεχνητή νοημοσύνη και συμβάλλουμε στη διαμόρφωση πολιτικών για πιο δίκαιη υγειονομική φροντίδα.”

Κλιμάκωση της Φροντίδας με Βάση τα Δημογραφικά

Ένα από τα πιο εντυπωσιακά ευρήματα ήταν ότι κάποια μοντέλα AI πρότειναν πιο «έντονη» φροντίδα ψυχικής υγείας για ορισμένες ομάδες ασθενών, χωρίς ιατρική αιτιολόγηση. Επίσης, οι ασθενείς με υψηλό εισόδημα λάμβαναν πιο συχνά συστάσεις για προηγμένες εξετάσεις όπως αξονικές ή μαγνητικές τομογραφίες, ενώ σε χαμηλόμισθους ασθενείς συστηνόταν να μη γίνει περαιτέρω εξέταση.

Οι ερευνητές τονίζουν ότι αυτά τα ευρήματα δείχνουν την ανάγκη για αυστηρότερη εποπτεία και καλύτερη εκπαίδευση των συστημάτων τεχνητής νοημοσύνης.

Παγκόσμια Συνεργασία για Ασφαλέστερη AI

Ο γιατρός Μαχμούντ Ομάρ, βασικός συγγραφέας της μελέτης, σημειώνει:

“Καθώς η τεχνητή νοημοσύνη μπαίνει στην καθημερινή ιατρική πρακτική, είναι ζωτικής σημασίας να αξιολογούμε συνεχώς την ασφάλεια, την αξιοπιστία και τη δικαιοσύνη της. Μέσα από τέτοιες μελέτες, μπορούμε να διορθώσουμε τα συστήματα ώστε να ωφελούν όλους τους ασθενείς, όχι μόνο κάποιες ομάδες.”

Ο συν-συγγραφέας δρ. Γκίρις Ναντκάρνι προσθέτει:

“Η AI μπορεί να αλλάξει την ιατρική για το καλύτερο, μόνο αν αναπτυχθεί με υπευθυνότητα. Μέσα από συνεργασία και αυστηρό έλεγχο, μπορούμε να διασφαλίσουμε ότι η φροντίδα παραμένει επίκεντρο του ανθρώπου, όχι απλώς της τεχνολογίας.”

Επόμενα Βήματα: Έλεγχος σε Πραγματικό Περιβάλλον

Το επόμενο στάδιο της έρευνας θα περιλαμβάνει δοκιμές σε πραγματικά νοσοκομεία, με τη χρήση διαλόγων πολλαπλών βημάτων και αξιολόγηση της απόδοσης των μοντέλων στην πράξη. Στόχος είναι να θεσπιστούν πρότυπα και πολιτικές που θα διασφαλίζουν ότι η τεχνητή νοημοσύνη υπηρετεί την ιατρική με δικαιοσύνη, ασφάλεια και αποτελεσματικότητα.