Therac-25：悪いソフトウェアが殺されたとき

画像は、ウィキペディアのユーザーIvrienen、写真名からのものです。「Dahshur's Snefru Curved Pyramid」。

これは有名な「ベントピラミッド」です。これは、4、600年前のプロジェクトの失敗の記念碑です。底から、その側面は驚異的な54度の傾向で上方に伸び、その後、突然、途中で43度の穏やかな傾向になります。ピラミッドの設計は、約60キロメートル南にあるマイドゥム（別の急なピラミッド）の壊滅的な崩壊後の建設中に修正されたと考えられています。もちろん、古代のピラミッドビルダーを責めるのは難しいです。彼らは実際にそれを学ぶのではなく、エンジニアリングを発明しています。それ以来、1つのことが変わっていません。構造エンジニアが間違いを犯したとき、人々は怪我をします。私たちは確信することはできませんが、Maidum Pyramidの崩壊が犠牲者を引き起こしていないことはありそうもないようです。対照的に、「ソフトウェアエンジニア」は、工学科学の比較的簡単なキャリアのようです。バグは、ユーザーがアカウントにアクセスしたり情報を入力したりすることを防ぐ可能性がありますが、それは確かに生命を脅かすものではありませんか？誰も怪我をしませんよね？または、それが私たちがと思うものです。真実は、毎年、電気から輸送、農業から緊急サービスに至るまで、私たちのシステムは、それらをサポートするために高品質のソフトウェアを作成するためにますます私たち全員に頼っているということです。そして、私たちが失敗すると、古代エジプト人のように、人々は実際に怪我をします。驚くべきことに、Therac-25の悲劇的なケースが私たちに示しているように、これは21世紀の問題でさえありません。 ソフトウェアは人を殺すことができます 1970年代後半までに、カナダのAtomic Energy Corporation（AECL）は、放射線療法マシンの構築において良い評判を得ていました。これらの機械は、患者の腫瘍を攻撃するために向けられた電子ビームを使用します。これらの光線が非常に強く、潜在的に致命的であることは間違いありません。 AECLは以前、Therac-6およびTherac-20モデルで大成功を収めています。これらのデバイスは、訓練されたオペレーターによって手動で制御され、機械スイッチとハードワイヤード回路を使用して、高レベルの安全性を確保する必要があります。 Therac-25は彼らの「ドリームマシン」になります。

この新しいマシンは、2つの異なるビームテクノロジー（X線と高エネルギー電子ビーム）を組み合わせて、前身よりも小さく、安価ですが効率的です。異なる梁により、オペレーターは近くの健康な組織を損傷することなく、異なる深さで腫瘍を標的とすることができます。 Therac-25は野心的で複雑であり、このハードウェアのすべてがソフトウェアレイヤーによって初めて制御されます。残念ながら、AECLの善意にもかかわらず、彼らのソフトウェアデザインはひどいもので、一連の恐ろしいデザインの欠陥が含まれています。その後の調査では、これらの欠陥を注意深く記録しましたが、それはまだ読みにくいようです。一例では、マシンの処理中に、マシンは単独でシャットダウンし続け、毎回神秘的な「h-tilt」と「 no」エラーメッセージを報告します。混乱したオペレーターは、治療を放棄する前に6回試みました。マシンが実際に毎回完全な用量を提供したのは後ではありませんでした - それは壊滅的な過剰摂取でした。 1982年の導入から1986年の撤退まで、6人の患者がTherac-25治療により致命的な負傷を負った。これらの貧しい人々がすでに病気であると考えると、それは特に衝撃的です。今日、AECLはもはや会社ではありませんが、設計が不十分でテストされていないソフトウェアが人々の生活にどれほど影響を与えるかについて、私たち全員にとって悲劇的な教科書のケースです。今日まで、Therac-25の悲劇は、システムの設計とセキュリティテストに関する私たちのアイデアの多くに依然として影響しています。

写真：kmf164

あなたがフロントエンドのデザイナーであり、自分を「真面目なエンジニア」と見なさない場合でも、Therac-25には重要な教訓があります。一部の欠陥はコーディングプロセスが不十分であることによって引き起こされますが、少なくともドキュメントが不十分で、役に立たないフィードバック、および理解できないエラーメッセージが少なくとも多くの損害が引き起こされます。これらは、デザイナー、コーダー、マネージャー、ユーザーエクスペリエンスの人、テスターなどのすべての人がすべて影響力があるはずです。古代エジプト人を振り返ってみると、彼らは初期の過ちから学んで、これまでで最も息をのむような建物のいくつかを建設し続けたことは明らかです。ソフトウェアエンジニアリングはまだ比較的若い分野です。湾曲したピラミッドを構築したことを願っています。 1月29日にSitePoint Design Newsletterで元々発行されました。こちらを購読してください。

therac-25

に関するよくある質問

Therac-25事故の主な原因は何ですか？

Therac-25事故の主な原因は、ソフトウェアエラーとセキュリティメカニズムが不十分な組み合わせです。このソフトウェアは、ハードウェアセキュリティメカニズムをカバーできるように設計されており、致命的な放射線量の配信をもたらします。独立したセキュリティチェックの欠如とセキュリティ機能のソフトウェアに依存することは、重要な貢献者です。

Therac-25事故の影響を受けている人は何人ですか？

既知のTherac-25の事故は、大量の放射線過剰摂取を受けた患者をもたらしました。事故により重傷が発生し、少なくとも3人が死亡しました。ただし、場合によっては報告または識別されない場合があるため、影響を受ける人の数は高くなる可能性があります。

Therac-25の事故はTherac-25メーカーにどのような影響を与えますか？

メーカーカナダ原子エナジーリミテッド（AECL）は、事故後に大きなリバウンドに直面しています。彼らは、反応が遅いこと、透明性の欠如、すぐに是正措置を講じなかったことで批判されています。これらの事故により、会社に対する信頼が失われ、法的および経済的影響が大きくなりました。

Therac-25の事故は医療およびソフトウェア業界にどのような影響を与えますか？

therac-25事故は、医療産業とソフトウェア業界の両方に大きな影響を与えました。彼らは、安全性の高い機能を実行するためにソフトウェアに大きく依存している潜在的な危険を強調しています。その結果、ソフトウェアのセキュリティと信頼性に重​​点を置いて、医療機器のより厳格なレビューと監督につながります。

将来の同様の事件を防ぐためにどのような措置が講じられましたか？

Therac-25の事故に応じて、医療機器の安全性を改善するためのいくつかの措置が講じられています。これらの措置には、より厳しい規制、より厳しいソフトウェアテストと検証、および独立したセキュリティシステムの実装が含まれます。また、これらの事故は、そのような機器のオペレーターのトレーニングに重点を置いています。

Therac-25の設計上の欠陥は何ですか？

Therac-25には、セキュリティ機能を実行するためのソフトウェアに依存すること、独立したセキュリティチェックの欠如、ハードウェアセキュリティメカニズムをカバーするソフトウェアの能力など、いくつかの設計上の欠陥があります。さらに、ユーザーインターフェイスは明確でタイムリーなフィードバックを提供していません。これは、オペレーターに問題を認識することを思い出させるでしょう。

Therac-25の事故はどのように暴露されましたか？

数人の患者が治療後に過曝露の症状を報告した後、

therac-25事故が暴露されました。これらのイベントの調査により、患者はTherac-25マシンのエラーにより大量の放射線過剰摂取を受けたことが示されています。

Therac-25事故からどのような教訓が学ばれましたか？

therac-25事故は、特に安全性が批判的なシステムで、ソフトウェアの厳密なテストと検証の重要性を強調しています。また、独立したセキュリティチェックの必要性と、ユーザーインターフェイスからの明確でタイムリーなフィードバックを強調しています。さらに、彼らはセキュリティ機能を実行するためにソフトウェアに過度に依存する潜在的な危険を示しています。

Therac-25事故に対する医学界の反応はどうですか？

医学界はショックを受け、Therac-25の事故について心配しています。これらの事件により、医療機器がより厳しく精査され、安全性に重点が置かれています。多くの病院や診療所が手順をレビューし、同様の事件を防ぐための追加の安全対策を実施しています。

Therac-25の事故は、ソフトウェアの安全基準の策定にどのような影響を与えますか？

therac-25事故は、ソフトウェアの安全基準を形成する上で重要な役割を果たしました。彼らは、特に安全性の高いシステムで、ソフトウェアの厳密なテストと検証の必要性を強調しています。その結果、より厳しいソフトウェアセキュリティ規制と標準につながります。

以上がTherac-25：悪いソフトウェアが殺されたときの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。