Alerte face aux médecins israéliens qui utilisent ChatGPT pour leurs prescriptions
La commission de la santé de la Knesset va se pencher sur le problème
« Nous assistons à l’émergence d’une zone grise particulièrement dangereuse dans notre système de santé », a expliqué Arblich lors d’un entretien accordé au média Mako. « Si les avancées de l’intelligence artificielle représentent une opportunité considérable pour la médecine mondiale, nous ne pouvons permettre que les sources scientifiques traditionnelles soient supplantées par des systèmes conversationnels susceptibles de générer des informations erronées. »
Des incidents alarmants déjà signalés
Le président de « Pour vous » a révélé l’existence de plusieurs cas problématiques où des professionnels de santé auraient fondé leurs décisions médicales – du diagnostic initial à la posologie prescrite – sur des données non vérifiées fournies par ces nouvelles technologies.
Parmi les incidents signalés figure celui d’un patient ayant reçu une prescription dont le dosage était triple par rapport à la dose appropriée, suite à une consultation médicale où le praticien se serait appuyé sur les recommandations de ChatGPT.
« En l’absence d’un cadre réglementaire clair, nous mettons en jeu des vies humaines », a insisté Arblich. « Dans le domaine médical, un vide juridique n’est pas simplement une question administrative – c’est potentiellement une question de survie pour les patients. »
Vers un encadrement législatif
Cette première session parlementaire consacrée au sujet marque une étape importante dans la prise de conscience des défis posés par l’intégration rapide de l’intelligence artificielle dans le secteur de la santé. La commission devrait examiner plusieurs aspects cruciaux comme l’établissement de normes réglementaires, la définition des responsabilités professionnelles et la délimitation claire des usages autorisés de ces technologies avancées dans la pratique clinique.
L’intervention du parlement israélien pourrait déboucher sur les premières recommandations officielles adressées au ministère de la Santé concernant l’utilisation responsable de l’intelligence artificielle dans le système de soins national.
https://israj.media-j.com/ar