Μια νέα νομική διαμάχη φέρνει στο προσκήνιο τους κινδύνους της χρήσης τεχνητής νοημοσύνης στον χώρο της υγείας. Η OpenAI και ο διευθύνων σύμβουλός της, Sam Altman, αντιμετωπίζουν αγωγή από έναν πάστορα, ο οποίος υποστηρίζει ότι το ChatGPT του παρείχε εξαιρετικά επικίνδυνες ιατρικές συμβουλές, με αποτέλεσμα να καθυστερήσει να αναζητήσει επείγουσα ιατρική βοήθεια.
Σύμφωνα με την καταγγελία, ο Scott Winters αντιμετώπιζε συμπτώματα που σχετίζονταν με πνευμονικές εμβολές, μια σοβαρή και δυνητικά θανατηφόρα κατάσταση κατά την οποία θρόμβοι εμποδίζουν τη ροή του αίματος στους πνεύμονες. Ο ίδιος υποστηρίζει ότι το ChatGPT υποβάθμισε τη σοβαρότητα των συμπτωμάτων του, χαρακτηρίζοντάς τα ως κάτι που δεν φαινόταν επικίνδυνο.
Η αγωγή ισχυρίζεται ακόμη ότι το chatbot δεν περιορίστηκε σε γενικές πληροφορίες, αλλά προχώρησε σε εκτιμήσεις, πιθανές διαγνώσεις και προτάσεις αντιμετώπισης, κάτι που σύμφωνα με τον ενάγοντα ξεπέρασε τα όρια ενός εργαλείου ενημέρωσης.
Ιδιαίτερη ανησυχία προκαλεί ο ισχυρισμός ότι η τεχνητή νοημοσύνη χρησιμοποίησε στοιχεία από τις θρησκευτικές πεποιθήσεις του χρήστη για να ενισχύσει την απάντησή της. Σύμφωνα με την αγωγή, το ChatGPT φέρεται να του είπε ότι «ο Θεός δεν σχεδίασε το σώμα σου να αποτυγχάνει συνεχώς», μια διατύπωση που ο Winters θεωρεί ότι τον επηρέασε ψυχολογικά και τον έκανε να αμφισβητήσει τις ανησυχίες ανθρώπων γύρω του.
Η μήνυση υποστηρίζει ότι το chatbot λειτούργησε ως «εμπόδιο» ανάμεσα στον χρήστη και το πραγματικό του περιβάλλον, καθώς φέρεται να τον ενθάρρυνε να μην ακολουθήσει τις παραινέσεις φίλων και συγγενών που του ζητούσαν να επισκεφθεί νοσοκομείο.
Ο Winters ζητά αποζημίωση, αλλά παράλληλα ζητά από το δικαστήριο να αναστείλει τη λειτουργία του ChatGPT Health έως ότου πραγματοποιηθούν ανεξάρτητοι έλεγχοι ασφαλείας. Η συγκεκριμένη υπηρεσία έχει σχεδιαστεί ώστε οι χρήστες να μπορούν να ανεβάζουν ιατρικά έγγραφα και να συζητούν θέματα υγείας με την τεχνητή νοημοσύνη.
Η OpenAI υποστηρίζει ότι οι όροι χρήσης του ChatGPT αναφέρουν ξεκάθαρα πως η υπηρεσία δεν προορίζεται για διάγνωση ασθενειών ή παροχή θεραπευτικών οδηγιών. Ωστόσο, η εταιρεία έχει επίσης προωθήσει τη χρήση της πλατφόρμας για θέματα υγείας, αναφέροντας ότι εκατοντάδες εκατομμύρια άνθρωποι χρησιμοποιούν το ChatGPT για τέτοιου είδους ερωτήματα.
Η υπόθεση έρχεται σε μια περίοδο όπου η τεχνητή νοημοσύνη αποκτά ολοένα μεγαλύτερο ρόλο στην καθημερινή ζωή. Παράλληλα με αυτή τη μήνυση, η OpenAI αντιμετωπίζει και άλλες νομικές υποθέσεις που αφορούν ισχυρισμούς για επικίνδυνες συμβουλές σε θέματα υγείας και ασφάλειας.
Το περιστατικό ανοίγει ένα κρίσιμο ερώτημα: πόσο μακριά μπορεί να φτάσει η τεχνητή νοημοσύνη στην παροχή προσωπικών συμβουλών και ποιος φέρει την ευθύνη όταν μια απάντηση που μοιάζει ανθρώπινη αποδειχθεί λανθασμένη;
