Βάλαμε τον AI agent σε ιατρικό περιβάλλον: τι μάθαμε

Σήμερα το έβαλα στο medical. Δηλαδή πήρα έναν AI agent και τον δοκίμασα σε ένα ιατρικό σενάριο, που είναι από τα πιο απαιτητικά τεστ για οποιοδήποτε σύστημα: τα λάθη κοστίζουν, τα δεδομένα είναι ευαίσθητα και η ανοχή του κόσμου στην «περίπου σωστή» απάντηση είναι μηδενική. Αν ένας agent αντέχει εκεί, θα αντέξει και σε πιο ήπια περιβάλλοντα.

Το πρώτο συμπέρασμα είναι ότι η αξία δεν βρίσκεται στη διάγνωση, αλλά στη διοικητική δουλειά γύρω από αυτήν. Κλείσιμο και μετάθεση ραντεβού, υπενθυμίσεις, συλλογή βασικών στοιχείων πριν την επίσκεψη, απαντήσεις σε επαναλαμβανόμενες ερωτήσεις (ωράριο, προετοιμασία για εξετάσεις, τι φέρνω μαζί μου) και σωστή δρομολόγηση των μηνυμάτων στο κατάλληλο άτομο. Εκεί χάνεται ο περισσότερος χρόνος μιας γραμματείας και εκεί ένας agent αποδίδει άμεσα.

Το δεύτερο είναι ότι τα όρια πρέπει να είναι γραμμένα από την αρχή, όχι να προκύψουν εκ των υστέρων. Ο agent δεν δίνει ιατρικές συμβουλές και δεν ερμηνεύει συμπτώματα. Όταν εντοπίζει κάτι που ακούγεται επείγον ή ασαφές, παραπέμπει άμεσα σε άνθρωπο ή στο 112. Αυτή η λογική «ξέρω τι δεν ξέρω» είναι πιο σημαντική από οποιαδήποτε δυνατότητα του μοντέλου.

Το τρίτο αφορά τα δεδομένα. Τα δεδομένα υγείας είναι ειδική κατηγορία κατά το GDPR, άρα χρειάζονται ελάχιστη συλλογή πληροφοριών, σαφή συγκατάθεση, φιλοξενία εντός ΕΕ και καταγραφή των ενεργειών του agent. Αυτά σχεδιάζονται στην αρχιτεκτονική από την πρώτη μέρα και δεν μπαίνουν ως προσθήκη στο τέλος.

Για όποιον έχει επιχείρηση, είτε ιατρείο είτε οτιδήποτε άλλο, η συμβουλή είναι απλή: ξεκίνα από μία στενή διαδικασία, όρισε πότε παραδίδει ο agent σε άνθρωπο και μέτρα συγκεκριμένα πράγματα, όπως τα ραντεβού που χάθηκαν και τον χρόνο στο τηλέφωνο. Ένας agent που ξέρει πού σταματά αξίζει περισσότερο από έναν που προσπαθεί να τα κάνει όλα.