Therac-25: Quand le mauvais logiciel tue

L'image provient de l'utilisateur de Wikipedia IvRienen, nom de l'image: "Dahshur's Snefru Curbed Pyramid".

Il s'agit de la célèbre "pyramide courbée" - un monument à l'échec du projet il y a 4 600 ans. Depuis le fond, ses côtés s'étendent vers le haut à une inclinaison stupéfiante de 54 degrés, puis devient soudainement une inclinaison de 43 degrés plus douce à mi-chemin. On pense que la conception de la pyramide a été modifiée pendant la construction après l'effondrement catastrophique de la Maidum (une autre pyramide abrupte), à ​​environ 60 kilomètres au sud. Bien sûr, il est difficile de blâmer les anciens constructeurs pyramidaux. Ils inventent en réalité l'ingénierie, pas l'apprenant. Une chose n'a pas changé depuis lors: lorsque les ingénieurs en structure font des erreurs, les gens se blessent. Nous ne pouvons pas être sûrs, mais il semble peu probable que l'effondrement de la pyramide Maidum n'ait fait aucune victime. En revanche, "l'ingénieur logiciel" semble être une carrière relativement facile dans les sciences de l'ingénierie. Un bogue peut empêcher les utilisateurs d'accéder à leur compte ou de saisir des informations, mais il ne sera certainement pas mortel? Personne ne se blesse, non? Ou c'est ce que nous pensons . La vérité est que chaque année, nos systèmes - de l'électricité au transport, de l'agriculture aux services d'urgence - comptent de plus en plus sur nous tous pour créer des logiciels de haute qualité pour les soutenir. Et quand nous échouons - comme ces anciens Égyptiens - les gens se blessent. Étonnamment, comme le montre le cas tragique de Therac-25, ce n'est même pas un problème au 21e siècle. Le logiciel peut tuer des gens À la fin des années 1970, la Corporation de l'énergie atomique du Canada (AECL) avait acquis une bonne réputation dans la construction de machines à radiothérapie. Ces machines utilisent des faisceaux d'électrons dirigés pour attaquer les tumeurs chez les patients. Il ne fait aucun doute que ces rayons sont très forts et potentiellement mortels. L'AECL a précédemment connu un grand succès avec ses modèles THERAC-6 et THERAC-20. Ces appareils doivent être contrôlés manuellement par un opérateur formé et utiliser des commutateurs mécaniques et des circuits câblés pour assurer un niveau de sécurité élevé. Therac-25 sera leur "machine de rêve".

Cette nouvelle machine est plus petite et moins chère mais plus efficace que son prédécesseur, combinant deux technologies de faisceaux différentes - radiographies et faisceaux d'électrons à haute énergie. Différents poutres permettent aux opérateurs de cibler les tumeurs à différentes profondeurs sans endommager les tissus sains à proximité. THERAC-25 est à la fois ambitieux et complexe - et pour la première fois, tout ce matériel est contrôlé par la couche logicielle. Malheureusement, malgré les bonnes intentions de l'AECL, leur conception de logiciels est terrible, contenant une série de défauts de conception horribles. Les enquêtes ultérieures ont soigneusement documenté ces défauts, qui semblent toujours effrayants à lire. Dans un exemple, lors du traitement d'une machine, la machine continue de se fermer seule, signalant un mystérieux message d'erreur " h-tilt " et " pas de dose " à chaque fois. L'opérateur confus a essayé six fois avant d'abandonner le traitement. Ce n'est que plus tard que la machine a réellement livré la dose complète à chaque fois - c'était une surdose catastrophique. Depuis son introduction en 1982 à son retrait en 1986, six patients ont fini par des blessures mortelles en raison du traitement THERAC-25. C'est particulièrement choquant quand on considère que ces pauvres sont déjà malades. Aujourd'hui, l'AECL n'est plus une entreprise, mais un cas de manuel tragique pour nous tous sur la façon dont le logiciel mal conçu et non testé affecte la vie des gens. À ce jour, la tragédie Therac-25 affecte toujours bon nombre de nos idées sur la conception du système et les tests de sécurité.

Image: KMF164

Même si vous êtes un concepteur frontal et que vous ne vous considérez pas comme un "ingénieur sérieux", Therac-25 a des leçons importantes. Bien que certains des défauts soient causés par des processus de codage maléfique, au moins autant de dégâts sont causés par une documentation insuffisante, des commentaires inutiles et des messages d'erreur incompréhensibles. Ce sont des domaines où tout le monde - des concepteurs, des codeurs, des managers, des utilisateurs expérimente les personnes et les testeurs - devraient tous influencer. En regardant les anciens Égyptiens, il est évident qu'ils ont appris de leurs premières erreurs et ont continué à construire certains des bâtiments les plus époustouflants de tous les temps. L'ingénierie logicielle est encore un champ relativement jeune - espérons que nous avons construit nos pyramides incurvées. Publié à l'origine dans le bulletin de conception de SitePoint le 29 janvier. Abonnez-vous ici.

Les questions fréquemment posées sur Therac-25

Quelle est la principale cause de l'accident THERAC-25?

La principale cause de l'accident THERAC-25 est la combinaison d'erreurs logicielles et de mécanismes de sécurité insuffisants. Le logiciel est conçu de telle manière qu'il peut couvrir les mécanismes de sécurité matérielle, entraînant la livraison de doses de rayonnement mortelles. L'absence de contrôles de sécurité indépendants et le recours aux logiciels pour les fonctionnalités de sécurité sont des contributeurs importants.

Combien de personnes sont affectées par l'accident de la THERAC-25?

Six accidents connus de THERAC-25 ont entraîné la réception d'une grande quantité de surdose de rayonnement. Les accidents ont entraîné de graves blessures et au moins trois personnes sont mortes. Cependant, le nombre de personnes touchées peut être plus élevée, car certains cas peuvent ne pas être signalés ou identifiés.

Quel impact a l'accident de la THERAC-25 sur le fabricant THERAC-25?

Fabricant Canada Atomic Energy Limited (AECL) fait face à un énorme rebond après l'accident. Ils ont été critiqués pour leur lente réponse, leur manque de transparence et leur incapacité à prendre des mesures correctives immédiatement. Ces accidents ont entraîné la perte de confiance dans l'entreprise et ont eu des impacts juridiques et économiques importants.

Comment l'accident de THERAC-25 affecte-t-il les industries médicales et logicielles?

L'accident de Therac-25 a eu un impact profond sur les industries médicales et logicielles. Ils mettent en évidence les dangers potentiels de s'appuyer fortement sur les logiciels pour effectuer des fonctions critiques de sécurité. En conséquence, ils conduisent à un examen et à une supervision plus stricts des dispositifs médicaux, avec plus de mise en avant sur la sécurité et la fiabilité des logiciels.

Quelles mesures ont été prises pour empêcher des incidents similaires à l'avenir?

En réponse à l'accident de THERAC-25, plusieurs mesures ont été prises pour améliorer la sécurité des équipements médicaux. Ces mesures comprennent des réglementations plus strictes, des tests et une vérification de logiciels plus stricts, ainsi que la mise en œuvre de systèmes de sécurité indépendants. Ces accidents entraînent également une plus grande importance sur la formation des opérateurs de ces équipements.

Quels sont les défauts de conception de Therac-25?

therac-25 a plusieurs défauts de conception, notamment en s'appuyant sur des logiciels pour effectuer des fonctions de sécurité, un manque de vérifications de sécurité indépendantes et la capacité du logiciel à couvrir les mécanismes de sécurité matérielle. De plus, l'interface utilisateur ne fournit pas de commentaires clairs et opportuns, ce qui aurait rappelé à l'opérateur d'être conscient du problème.

Comment a été exposé l'accident de Therac-25?

L'accident

therac-25 a été exposé après que plusieurs patients ont signalé des symptômes de surexposition après le traitement. Les enquêtes de ces événements montrent que les patients ont reçu une grande quantité de surdose de rayonnement en raison de l'erreur de la machine THERAC-25.

Quelles leçons ont été apprises de l'accident de la THERAC-25?

L'accident de Therac-25 met en évidence l'importance des tests et de la vérification rigoureux des logiciels, en particulier dans les systèmes critiques de sécurité. Ils soulignent également la nécessité de contrôles de sécurité indépendants et de commentaires clairs et opportuns de l'interface utilisateur. En outre, ils démontrent le danger potentiel de sur-délition sur les logiciels pour effectuer des fonctions de sécurité.

Comment est la réaction de la communauté médicale à l'accident de la THERAC-25?

La communauté médicale est choquée et inquiet de l'accident de la THERAC-25. Ces incidents ont entraîné un examen plus strict des dispositifs médicaux et une plus grande importance sur la sécurité. De nombreux hôpitaux et cliniques ont examiné leurs procédures et mis en œuvre des mesures de sécurité supplémentaires pour empêcher des incidents similaires.

Comment l'accident THERAC-25 affecte-t-il la formulation des normes de sécurité des logiciels?

Les accidents THERAC-25 ont joué un rôle important dans la formation des normes de sécurité des logiciels. Ils mettent en évidence la nécessité de tests et de vérification rigoureux des logiciels, en particulier dans les systèmes critiques de sécurité. En conséquence, ils conduisent à des réglementations et des normes de sécurité des logiciels plus strictes.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!