映画だと一人を助けるのに多数の犠牲を払うことがある。最後は一人が助かってハッピーエンドとして描かれるが、その影で亡くなった人のことは触れられないことが多い。

人間だと、どちらを助けるか迷ってる間に「どちらも助けられない、最悪の結果」というのも起こり得るので。それを回避する為、機械に判断を委ねるのはアリだと思うけどね。

このAIに、「誰も殺すな」というプログラムを予め打っておいたらどうなるか？エラーを起こして判断不能となり、最初の5名は当初の予定のままに不幸な目に遭うことだろう。

仮にブレーキが壊れたら、燃料の供給を止めてエンジンを止めるとか、ガードレールに車体を押し当てるとか基本動作をするところまででよくない？その結果まで予想しなくても

第三の選択肢を忘れているぞ。まず自分が飛び込んで（犠牲にして）他人が助かる可能性を切り開く、という選択肢。これが特攻隊の精神である。

事故で発生する損害保障金額によって判断するのが現実的だが、倫理は破壊するね♪命の価格を明示するから。

その判断は人間ではなく『法規』システムが行う。ヒューマンエラーがない分AIの方が的確に合法殺人可能。人間よりAIの方が優れてるんだ、何も迷う必要はない。迷うのは人間のエゴ/

怖い

【ニュース】センサが前にしかないロボットは、後ろで誰かが殴られても責められない。単純な人工知能はバカでもソレが許される。人間並に高性能な機械なんて面倒臭いだけ。

これは非常に難しい問題。個人的には、もっと確実かつ結果（死亡者数）も数桁の違いが予想される場合にのみ、AIによる操作を容認する（できる）が、それ以外では…

木星に行ったHAL9000は、木星の秘密を守れという命令が密かにインプットされ、矛盾に悩んだ挙句に反乱を起こした。

ポイントを中間で止めてトロッコを脱線させる。という選択肢は？両立させる方法があるはず

トロッコを見なかった事、気付かなかった事にする…。

そういう時、倫理矛盾でAI機能が崩壊する。AI機械に迷いは毒薬。っとSF小説「導きの星」で小川一水がそんな意味の事を書いてた。その通りなんたろうね。