～監視社会への警鐘映画～
〇こんな話
対テロ用に開発した監視システムが人間の判断基準の曖昧さにより、国民を守るためのものではなく、国民の脅威になるお話。
〇想起する作品
・「エネミー・オブ・アメリカ」
突然巻き込まれるわけのわからない感じと、追跡・逃亡具合。 追跡が衛星による真上からだけでない。町中のシステムに侵入でき、監視カメラや公衆電話にとどまらず公共の乗り物、携帯電話にまで及ぶ。万能、全能感が半端なく、主人公たちは電話の主の声という情報だけを頼りにその人物に迫っていく。
・「ウォーゲーム」
機械の理解の仕方。０か１か。
〇判断基準
ある任務で対象人物である可能性が５１％で、コンピュータが中止勧告を出したにも関わらず任務を実行し、対象の人物を間違えて殺してしまう。コンピュータの情報によると可能性はほぼ半々だった。最終的な判断を下したのは人間であり、何を基準にしたのか？
もし対象とする人物だった場合の見逃した際の被害を考えれば、この場で殺しといた方が良い、というような見解だった気がする。正確には述べられてはいないが。間違っていたときよりも、合っていたときの方がリスクが大きい。将来的に見たリスクの大きさの対比による判断である。比較してみる・・・以下。
・殺した場合
対象の人物の合否判明。
対象の人物であったら犠牲はその場で殺した被害だけと最小限。テロリストだったという言い訳も立つ。違ったらその場で殺した被害と何かしらの事後処理だけですむ・・・はず。
・殺さなかった場合
対象の人物の合否不明。
対象の人物であったら大量の犠牲が生まれる可能性。違ったら何もない（死傷者０）・・・のはず。
上記のリスクの大きさを見やすく比較（アメリカ視点）
生死 \ 人物 合致 不一致
殺した場合 ① 小 ② 中
殺さなかった場合 ③ 最悪 ④ ０
・・・とリスクを比較した場合の価値判断。
① 対象の人物で、殺した
② 対象の人物でなく、殺した
③ 対象の人物で、殺さなかった
④ 対象の人物でなく、殺さなかった
と結果は４通り考えられるが、その場での選択は殺す・殺さない、の２通り。選択の段階では、「殺す」を選択した場合は①か②、「殺さない」を選択した場合は③か④、のどちらかの結果になる、ということしかわからない。結果は被害が０の④に越したことはない。問題はコンピュータがはじき出した可能性。今回は５１％ということでまた微妙な数字なわけだが、これを半々ととるか。半分よりも１％でも上回っているからと確定的にとるか、ということで選択の価値が変わってくる。選択の段階では結果が確定できない。そんな時にどういう基準で判断を下すのか。半々と捉えた場合には、リスクを①～④のそれぞれの結果によるものではなく、それぞれ①と②、③と④のリスクの合算で判断するだろう。俗に言う安全策やあんぱい。１％に重きを置いた場合はこのケースであればただの博打になるだろう。４９％なら逆の判断が下せたかは疑問だが、今回の場合、結局はどちらにしろ「殺す」を選択していたということになる。
ではなぜ「殺さない」を選択できないのか。「殺さない」という選択の時の結果の現れは１か０、と両極端になる。５１％がその対象人物である可能性がある反面、４９％は対象人物ではないのだが、この場合は１％の重きよりも半々というのが大きい。半々でリスクが０（最善）か１（最悪）の賭けに出るよりは、最初から考えうる最少と最大の幅が小さいリスクを選択した方が、その場では最良となる。故に③の可能性が確実に消せない「殺さない」は選択できない。
（なぜ１か０かとしたのかは、まあコンピュータというプログラムだから二進法と関連付けたかったからと・・・お察しください。有か無かしかないと、だからこそコンピュータは、任務は中止すべきと判断した。）
〇コンピュータと人間
コンピュータに人間の心が理解できる時代が来るのだろうか。確かに感情といったものはただの現象に過ぎず、電気信号でしかないかもしれない。コンピュータに再現可能な現象として、この映画のようにここまで人間の心理につけこみ、行動を追いこんでいくことが将来可能になるのだろうか。人間の善悪という曖昧な基準を、コンピュータはどう理解するのだろう。理解という表現がまず間違っているのか。基準は人それぞれであるために、一様に基準を設けることはできない。今日法律という基準があるにはあるが、その解釈も一様ではない。プログラムする場合は善悪という二つの基準を設けて、ある事象に関してそれぞれ振り分けていくのだろうか。そもそも二つの基準しかないと考えるのが間違いか。 法に抜け穴があるように、仮に人工知能という技術が可能として、いかにそのプログラムを規制したところで、解釈の仕様でいかような状況にも持ち込める。そこから機械の反乱がはじまるのか。結局は人間が不完全であることが故か。仮に人間が完全であれば機械に頼るような真似もしないと思うが・・・。
〇最後に
橋爪功主演の「京都迷宮案内」という作品で、監視カメラなのか防犯カメラなのかと議論になる話があった。犯罪防止や犯罪抑止力として機能するはずのカメラ（映像記録）が、人間のプライバシーを侵害しているという風に・・・確か。そこら中にカメラが設置されている社会は、確かに安全性は高まるかもしれない。しかし、その分何かしらが抑圧された世界が誕生する。客観的真実を映し出す反面、主観的行動を制限される。 公共の場で個性を出すなというわけではないが、公私を常に区別できる者などマレではないか。普段仕事などでは真面目な人が、実生活では意外な性癖があったりと、知られたくない、知られていないからこそ発散できるストレスってものもある・・・と言ってみる。
外に出ると意外と見えていなかったり、意外と見られていることはある。そんな互いの関心・無関心とはよそに行動を把握される、つまり常に誰かに見られている。そんな世界を作ろうとしているのか。真実・事実の追求には人様の証言だけによる証拠では不十分であることはわかる。客観的事実を写し出したものを検証した方が真実味は増すだろう。しかしそれは究極、人間を信じるということに疑いを生むことにならないか。人を見たら泥棒と思えという思考が社会に浸透する。皆が皆に疑心暗鬼になり全てに対して疑ってかかる。正しい情報が何なのかわからない。いったいどこに真実はあるのか。そこで現れる監視社会という利点。ほらそこに真実が映っているよと。
別に疑うことを悪いと言ってるわけではない。監視システム＝真実という構図が出来上がることを恐れているだけ。そして多くの情報が錯綜する中、個人で情報を選別し収集する力が必要だと言いたいだけ。監視社会により映し出される世界だけが真実とは限らない、ということを忘れてはならない。映し出された世界はその時、一瞬しか映し出さない。そしてそれは映像という表面的なものだ。それは真実なのだろうか、と疑ってかかる必要がある。しかし世界全体に広まれば一人の行動を追うことが可能となるからそんなことも言ってられなくなるかもしれない。行動を追跡しそこに理由を見いだすことが可能となるだろう。そうなれば人様の証言など何も意味を為さない。そんな世界になったとしたら我々は人間として生きていく・生きている意味があるのだろうか。人間的行動というのがそもそもどういう意味を為しているかはわからないが。
最後に、と書いて長々書いてしまった。この辺で終わりにする。
0 件のコメント:
コメントを投稿