John Halamka, de la Mayo Clinic, affirme que l’IA générative n’est pas encore fiable

De nos jours, on ne peut parler que d’intelligence artificielle. Et dans le domaine de la santé, malgré de réelles inquiétudes quant à la direction que cela pourrait prendre, les résultats sont vraiment importants. Pour ne citer que quelques cas d’utilisation, l’IA est :

environ un tiers des patients déjà Selon un récent sondage, ils disent qu’ils seraient à l’aise avec l’intelligence artificielle lors d’un rendez-vous de soins primaires. Vous pourriez dire : « Eh bien, ce n’est que 32 % ». Mais à ce stade précoce du déploiement de l’IA dans les soins de santé, c’est un groupe assez impressionnant qui s’appuiera sur une technologie relativement nouvelle pour sa santé physique.

L’IA peut-elle être votre médecin ?

Pourtant, comme toute technologie à succès, elle a aussi beaucoup de battage médiatique. L’IA n’est pas parfaite. Il y a des hallucinations (erreurs) dedans. Il ne peut pas tout faire ; Ce n’est pas une panacée. Il ne peut pas se substituer à votre médecin. Oops. Attendez une minute.

“Si votre médecin peut être remplacé par l’IA, alors votre médecin devrait être remplacé par l’IA.” Cette déclaration a été faite il y a quelques années par le Dr John Halamka, président et ancien directeur de l’information de la plate-forme Mayo Clinic, qui est l’une des principales voix des technologies de l’information sur les soins de santé depuis des décennies.

Les choses ont beaucoup changé en quelques années seulement, car l’IA a progressé beaucoup plus rapidement que prévu.

Pas plus tard que le mois dernier, l’ancien commissaire de la FDA, le Dr Scott Gottlieb, a fait la une des journaux à travers le pays avec un éditorial détaillant le fonctionnement de l’IA.Tôt ou tard, il pourra jouer le rôle d’un médecin.”

Alors que dit Halamka aujourd’hui ? Nouvelles de l’informatique de la santé Halamka pour le laisser expliquer cette déclaration originale et la développer, ainsi que pour obtenir des réponses à de nombreuses autres questions sur l’IA.

« Je voulais dire pourquoi allons-nous chez les médecins ? a demandé Halamka, un médecin titulaire d’une maîtrise en informatique médicale de Harvard.

« Empathie, écoute, respect, préférence personnelle. Quel que soit le niveau de qualité et de précision de l’IA générative que nous atteignons, il est peu probable que ces systèmes d’IA générative aient de l’empathie. Nous serions honorés. Nous obtiendrons le genre de choses que nous voulons de nos humains.

“Alors vraiment, si vous n’avez qu’un seul médecin qui vous lit un manuel, vous ne voulez probablement pas de ce médecin”, a-t-il déclaré. “Donc, ce que vous espérez, c’est que les médecins utiliseront l’IA générique pour faire d’eux de meilleurs diagnosticiens. C’est-à-dire qu’ils auront accès à plus de données, à plus de littérature, à plus de temps avec le patient car ils seront moins accablés par certaines tâches administratives.

Il a averti : “Nous pouvons donc réviser notre déclaration pour dire que les médecins et les infirmières qui utilisent l’IA remplaceront les médecins et les infirmières qui n’utilisent pas l’IA.”

,Soyez prudent avec les cas d’utilisation que nous choisissons ‘

Halamka a mentionné l’IA générative, qui est l’intelligence artificielle derrière de nouvelles applications extrêmement populaires comme ChatGPT. il tient ai Promesse et risque.

“Revenons en arrière et regardons l’IA prédictive et prescriptive”, a expliqué Halmka. “L’idée est:” Hé, Bill, as-tu une maladie? Auras-tu une maladie? Si c’est le cas, que faisons-nous à ce sujet? Avec ce type d’IA, vous pouvez mesurer la vérité, n’est-ce pas ? Un ensemble d’entrées. Un ensemble de sorties. Que s’est-il réellement passé ? Est-ce qu’ils ont fonctionné ? N’est-ce pas ?

Il a ajouté : “L’IA générative est un animal très différent car elle n’est pas déterministe, elle est probabiliste.” “Et vraiment, tout ce qu’il fait, c’est prédire le mot suivant dans une phrase. Chaque fois que vous saisissez un indice, vous obtenez une réponse subtilement différente. Alors, comment mesurez-vous la qualité et la précision alors qu’elles sont différentes à chaque fois que vous l’utilisez ?”

Halmka a déclaré qu’il pouvait affirmer qu’il devrait y avoir de la transparence dans toutes les formes d’IA. Comment a-t-il été fabriqué ? Il est nécessaire d’avoir un sens de l’uniformité.

Autrement dit, “c’est-à-dire que chaque fois que je l’utiliserai, cela donnera une sorte de résultat raisonnable et de crédibilité qui me donnera l’impression de pouvoir l’utiliser dans un contexte donné”, a-t-il déclaré. “Donc, je pense que là où nous en sommes avec l’IA générative, c’est qu’elle n’est pas transparente, qu’elle n’est pas cohérente et qu’elle n’est pas encore fiable. Nous devons donc être un peu prudents avec les cas d’utilisation que nous choisissons.”

L’IA à la clinique Mayo

La Mayo Clinic travaille depuis quelques années sur un partenariat historique en matière d’IA avec Google. En juin, les deux organisations ont présenté certains des cas d’utilisation de l’IA générative sur lesquels elles travaillent ensemble.

“Je travaille dans le domaine de la santé universitaire depuis près de 40 ans, et l’un des défis des soins de santé universitaires est que la plupart des projets que nous réalisons sont ponctuels”, a déclaré Halmka. Expliqué. « Autrement dit, vous avez une idée, l’innovateur parle à vos avocats, 18 mois plus tard, le contrat est signé et enfin le travail commence. C’est un processus très inefficace.

« Qu’avons-nous fait ces trois dernières années ? » Il a parlé de partenariat. « J’ai modélisé le processus. Nous passons donc de l’idée à l’exécution du code en deux semaines. Et comment cela se passe-t-il ? Eh bien, nous avons pris toute la collection de données Mayo – structurées, non structurées, -omique, télémétrie, images, numérique, pathologie – séparées, déplacées dans des conteneurs cloud, et maintenant tout innovateur pour faire fonctionner ce conteneur cloud avec des données prend presque pas le temps.

Les obstacles à l’innovation sont vraiment petits, Halmka où est-il allé.

“Si vous regardez ce que Google a fait, cela nous a donné un environnement et un ensemble d’outils pour que nous puissions être très agiles”, a-t-il expliqué. « Je vais vous donner un exemple rapide. Nous gérons un accélérateur, et nous inscrivons 12 entreprises et leur donnons accès à cet ensemble de données pour le développement de produits. Et on passe de la sélection des entreprises à 12 entreprises en deux semaines.

“C’est le genre de chose que la création de modèles de ces processus vous permet de faire – c’est un travail incroyable”, a-t-il déclaré.

Et Halmka a une vision plus pragmatique de la promesse de l’IA. Regardez mon entretien approfondi avec lui dans Vidéos de vérification numérique HIMSS TV.

Suivez la couverture HIT de Bill sur LinkedIn : Bill Siwicki
Envoyez-lui un courriel à : bsiwicki@himss.org
Healthcare IT News est une publication HIMSS Media.

Nous serions ravis de connaître votre avis

Laisser un commentaire

Kmoonler
Logo
Compare items
  • Total (0)
Compare
0