Éthique et sécurité

Principes éthiques

PharmBudget suit strictement les 6 grands principes de l’OMS pour l’utilisation des technologies d’intelligence artificielle en médecine, à savoir:

Principe 1: l'autonomie

Protégez l’autonomie:  les humains doivent avoir un droit de contrôle de toutes les décisions en matière de santé et avoir le dernier mot — les décisions ne doivent pas être entièrement rendues par des machines, et les médecins doivent pouvoir les annuler à tout moment. L’IA ne doit pas être utilisée pour prodiguer des soins médicaux à quiconque sans son consentement, et ses données doivent être protégées.

PharmBudget propose des calculs optimaux des coûts de traitement uniquement sur la base des données fournies par la communauté médicale, des directives cliniques et/ou personnellement par des experts du secteur. Les données personnelles des patients ne sont pas utilisées pour les calculs.

Principe 2: la sécurité

Assurer la sécurité des personnes. Les développeurs doivent surveiller en permanence tous les outils d’IA pour en rester sûrs qu’ils fonctionnent correctement et ne causent pas de dommages.

Nous avons vérifié les calculs à l'aide d'une analyse rétrospective des thérapies dans les établissements de santé et avons obtenu un effet économique confirmé.

Principe 3: la transparence

Assurer la transparence: les développeurs doivent publier des informations sur la conception des outils d’IA. L'une des critiques récurrentes envers des systèmes est qu'ils sont   des "boîtes noires",  et il est trop difficile pour les chercheurs et les médecins de comprendre comment ils prennent leurs décisions. L'OMS veux bien voir une transparence suffisante pour qu'elles puissent être pleinement vérifiées et comprises par les utilisateurs et les organismes de réglementation.

Nous avons expliqué comment fonctionne PharmBudget et pourquoi ces résultats sont fiables, et avons également fourni des exemples de calculs.

Principe 4: la responsabilité

Encourager la responsabilité: lorsque quelque chose ne va pas avec la technologie de l'IA — par exemple, si une décision prise par un outil entraîne un préjudice pour un patient, il doit y avoir des mécanismes pour déterminer qui est tenu responsable (par exemple, les fabricants et les utilisateurs de cliniques).

Toutes les actions des utilisateurs de PharmBudget s'enregistrent dans le journal d'exploitation.

Principe 5: l'équité

Garantir l’équité: cela signifie que les outils sont disponibles dans plusieurs langues et qu’ils sont formés pour travailler avec différents ensembles de données. Au cours des dernières années, un examen attentif des algorithmes courants de soins de santé a révélé que certains d’entre eux comportent des préjugés raciaux.

Nos algorithmes utilisent des informations sur les patients regroupées selon le diagnostic. Il n’y a donc aucune restriction raciale ou autre.

Principe 6: la tolérance au risque

Promouvoir l’IA durable: les développeurs doivent pouvoir mettre à jour régulièrement leurs outils, et les institutions doivent avoir des moyens d'ajustement si un outil semble inefficace. Les institutions ou les entreprises doivent également mettre en œuvre uniquement des outils réparables, même dans des systèmes de santé aux ressources limitées.

Comme indiqué ci-dessus, les décisions prises par PharmBudget sont basées sur des données fournies par des spécialistes. Si nécessaire, les informations sur les médicaments et autres paramètres de traitement importants peuvent être rapidement mises à jour.

Sécurité

• L'accès au logiciel PharmBudget est réservé uniquement aux spécialistes des établissements de santé avec lesquels une convention a été conclue. La liste est approuvée par le médecin-chef, par exemple le chef du service de chimiothérapie.;
• Les actions des utilisateurs dans le système sont enregistrées dans le journal des opérations;
• Les données dans le cloud sont protégées d'une manière sécurisée sur les ressources des opérateurs d'infrastructures - Yandex cloud, certifié conformément à la Loi Fédérale N152.