POI感想の注意書きです。
この回見るの本当につらかった。S3は視聴辛いですね。まあこの後、S4S5も状況がよくなっていく見込みは全然ないんですけど…。
と言ってもシリアス回でもちょっとした萌えとか笑いを盛り込んできてくれるのがPOIの好きなとこなんですが、この回に関しては笑える要素はあんまりありません。
ルートとショウのシーンと、リースとフィンチが車内でオペラ聴いてるシーンくらいかな。
まあ、この回はリースとショウ（特にリース）からフィンチへの絶対的な信頼感が見えるのでそれは萌えるっちゃ萌えます。
最初、政府が「有用」番号の受け取りを止めてしまったことを話すリースとショウ。「無用」番号に対処しながら、「君はフィンチを知ってるだろう。政府が番号を受け取らなくても、フィンチのマシンが国の安全の危機を放置するはずがない」ってリースの台詞にときめくわ。で、「有用」番号はルートが処理していることが分かります。ショウを誘いに来るルート。
You miss me between drug deals?
麻薬取引の間私が恋しかった？
Yeah I miss you like I miss an intestinal parasite.
そうだね、腸内の寄生虫が恋しいのと同じくらいあんたが恋しかった
I love your similes.
あなたの直喩が大好きよ
Hop on, Shaw.
乗って、ショウ
We've got a relevant number in Alaska.
アラスカで「有用」番号が出たの
We're gonna steal a jet.
ジェット機を盗まなきゃ
Does sound kind of fun.
楽しそうじゃん
Send me a postcard.
ポストカード送れよ
2人はアラスカからマイアミに行ってそれぞれテロ計画を阻止し、その後ショウはリース＆フィンチを助けに来てくれる流れ。
一方R&Fの2人はDCでマコート議員の番号が出たので彼を調査中。フィンチがマシンとサマリタンの違いについて語ります。
These are strange times, and the threat of Samaritan should not be underestimated.
おかしなことになった。それに、サマリタンの脅威を過小評価すべきではない
How do you know it's not already up and running?
それがまだアップロードされ実行されていないとどうして分かる？
Because we'd be dead, Mr. Reese.
なぜなら、我々は死んでいるはずだからだ、リース君
The machine is a shield. It protects lives.
マシンは盾だ。それは命を守る
I designed it with safeguards to prevent it being abused as an agent of destruction.
私はそれを、破壊的工作員によって悪用されるのを防ぐためにセーフガードをつけて設計した
Samaritan is an open system, a sword.
サマリタンはオープンシステム、剣だ
If it gains access to the government's feeds, there will be no checks on its power.
もし政府のフィードにそれがアクセス権を獲得すれば、その力を制御することはもうできないだろう
There will be no limits to the knowledge possessed by the person controlling it.
それを支配する人間が無限の知識所有権を得ることになる
Decima would definitely use it to hunt down its enemies.
デシマはそれを自分の敵を追い詰めて捉えることに使うに違いない
And as confidants of the machine, you and I would be at the top of the list.
そしてマシンの親友として、君と私がそのリストのトップにいるだろう
So maybe the machine is trying to protect us.
マシンは俺たちを守ろうとしてくれるんじゃないのか
No, I built it to protect everyone, one number at a time.
いや、私はそれを全員を守るように作った。一度に1つの番号を
フィンチの確固たる倫理観によってマシンは雁字搦めになってる。でもそこが好きなんだよなー。つらいけど、ほんと。「富のために情報を支配する」デシマとは一線を画しています。
この回、笑えたのはあとはこの車中オペラのシーンくらいでしょうか。
You call this music?
あんたはこれを音楽と呼ぶのか？
Finch? Are you okay?
フィンチ？大丈夫か？
I'm fine.
大丈夫だ
Can we put the screeching cat out of its misery?
俺たちはこの悲惨な状況から、叫んでいる猫を外に追いやるべきでは？
It's not feline. It's Verdi.
これはネコではないよ。ヴェルディだ
There's a performance of Il Trovatore at the Kennedy Center that I'd like to catch.
ケネディ・センターで『イル・トロヴァトーレ』が上演される。ぜひ聴きたいものだ
Next time you can be the disc jockey.
次は君が音楽を選ぶといい
We'll listen to whatever you like.
君の好きなものを何でも聴こう
Well, maybe next time I'll just sing for you.
あー、多分次は、俺はあんたのために歌うよ
I do a great ring cycle, you know.
俺は『ニーベルングの指環』が得意なんだ
I think I'll skip your Brunnhilde.
私は君のブリュンヒルデは聴きたくないな
ブリュンヒルデ！誰であれ彼女の眠りを最初に覚ました男のものとなっちゃうんですよね、リース君。そのキャストだとどう考えてもフィンチがジークフリートじゃん。
これ、今後の展開を暗示してんの？『ニーベルングの指環』は、
色々あって最後ジークフリートに裏切られたと勘違いしたブリュンヒルデがハーゲンにジークフリートの弱点を教えてしまい、ジークフリートはハーゲンに殺される。真実を知ったブリュンヒルデは「限りない力」と「死の呪い」を持った指輪を奪い返し、ジークフリートへの愛を歌いながら炎に身を投げる。
ってストーリーです。てことは逆か。フィンチがブリュンヒルデでリースがジークフリートか。フィンチはマコート議員を殺せなくて、サマリタンが稼働してしまう。で最終的にリースはサマリタンに殺され、フィンチは「限りない力」と「死の呪い」を持ったマシンを取り戻す、という。
この回はかなりイレギュラーな話です。マコート議員をいつも通り過激な手段で守るリースとフィンチですが、彼に迫る危機が特定できない。最初はデシマに狙われていると思っていたのですが、デシマは議員を守っていたことが分かる。一体誰が議員の命を狙っているのか？
本当に見るの辛かったのですが、マコート議員はデシマと繋がっていて、サマリタン稼働のために下院票の取りまとめをしている人だった。つまりマコート議員を殺せば、サマリタンの稼働は当面阻止される。番号対象者に迫る脅威とは、実は自分たちのことだった。徐々にそれが分かります。サマリタンが稼働すれば大勢が死ぬだろう、とルートは言っていた。マシンが言うことだから、多分事実なんだろうとフィンチも考える。でも、それを阻止するために無実の人を殺すことは許されるのか？
He is the victim.
彼は犠牲者だ
His life is in danger.
彼の命が危機に晒されている
But from who?
でも、誰から？
Us.
俺たちだ
I think the machine wants us to kill McCourt.
俺は、マシンが俺たちにマコートを殺してもらいたがっているのだと思う
John, think about what you're saying.
ジョン、君が言っていることを考えてほしい
I have.
考えた
Just because Decima is not the threat to McCourt doesn't mean that we must be.
デシマがマコートの脅威でないからといって、私たちがそうに違いないということを意味するのではないのでは？
The machine is designed to save lives, not take them.
マシンは命を守るようにデザインされたんだ。奪うためではなく
But could it?
でもその可能性はあるのか？
Could the machine ever tell us to kill someone?
マシンが誰かを殺すように求める可能性が？
Is it possible?
そうなのか？
It's conceivable.
考えられる
Well, how bad would the situation have to be?
状況はどれだけ悪くなり得る？
It would have to see that an individual's actions could directly result in the loss of others' lives.
一人の人間の行動が他の人たちの命の喪失に直接的につながる場合はあり得るだろう
How many lives? A dozen, a hundred?
どのくらいの命が？1ダース？100？
How many?
どれくらい？
A lot. I'm not sure.
大勢だ。自信はないが…
I never dreamt it would come to this.
こんなことが起こるなんて考えてもみなかった
Well, it has.
起こったんだ
Your machine... It sees something coming...
あんたのマシンが…、何かが起こると知って…
Something bad... And it wants us to stop it.
何か悪いことが…それで、それを止めてほしいと
I don't know. You don't know that.
分からない。君も分からないはずだ
Look, I've never entirely trusted your machine, but you built it, and I trust you.
なあ、俺はあんたのマシンを完全に信用したことはない。でもあんたが作ったんだ。俺はあんたを信じてる
You're the one who said we can't underestimate the threat of Samaritan.
サマリタンの脅威を過小評価すべきでないと言ったのはあんただろう
マシンは信じなくてもあんたは信じる、とフィンチに言うリース。フィンチはマコート議員を説得しようとしますが、彼は説得に応じません。
Mr. Reese, it was never my intention for people to be killed because of the machine.
リース君、私はマシンのために人が殺されることを決して意図したことはない
What do you think happened when it gave the government a terrorist number?
それが政府にテロリストの番号を渡した時、何が起こると思っていたんだ？
What do you think we used to do for a living?
俺たちが政府で働いていた時何をしていたと思っている？
That man is not a terrorist.
あの男はテロリストではない
He's just an opportunistic and corrupt pawn.
ただの日和見主義で不誠実な駒にすぎない
That doesn't make the threat any less real.
それは現実のどんな脅威をも意味しない
We are not assassins. We protect people.
私たちは暗殺者ではない。人々を守るんだ
Isn't that what we're doing, sacrificing the life of one to save the lives of many?
それは俺たちのしてきたことじゃないのか？多くの命を救うために一人を犠牲にすることは？
Shaw, help me out here.
ショウ、お前も言ってやれ
Six months ago, I would've already put a bullet in that guy's head.
6か月前なら、あたしはあの男の頭にもう銃弾を撃ち込んでたね
But ever since hanging around you guys, I've kind of gotten used to saving people.
でもあんたたちとつるむようになってから、人助けに慣れちゃったみたい
But we've only been able to do that by trusting the machine.
でもそれはあたしたちがマシンを信じてるからできるんだ
And if it's saying that this guy's gotta go, well, I think we should still trust it.
だからマシンがやれって言うなら、あたしはそれを信じてあの男を殺すよ
John, I urge you to consider the consequences of this action.
ジョン、この行動の結果について考えてほしい
There are consequences to not acting.
行動しなくても結果は生じる
Like with Simmons and Joss.
シモンズとジョスのように
Don't do this.
やらないでくれ
If we let him walk out that door, Decima wins.
もし彼を生きて帰せば、デシマが勝つことになる
Samaritan will go live.
サマリタンが稼働するだろう
It's a possibility but not a certainty.
それは可能性だ。確実ではない
There may be another way. We've never been here.
他の方法があるはずだ。こんなことはだめだ
But are you really willing to take that risk?
あんたは本当にそんなリスクを冒したいのか？
Harold?
ハロルド？
Since we started this, things have changed.
我々がこれを始めてから、色々なことが変わった
We've changed.
私たちも変わった
But the mission, our purpose, has always been constant...
でもこの仕事は、私たちの目的は、いつも変わらない
To save lives.
命を救うことだ
If that's changed somehow, if we're in a place now where the machine is asking us to commit murder...
もし何かが変わってしまい、もしマシンが我々に殺人を犯せと言う場所に我々がいるのなら…
That's a place I can't go.
私はそこへは行くことができない
I'm afraid this is where I get off.
私はここでやめなくてはならないだろう
John.
ジョン
リースもショウも、国家の安全を脅かす人たちを殺してきた。誰かの命を奪うことで大勢が救われると信じてやってきた。それは必ずしも武力行使の阻止に限った状況ではなく、政敵の暗殺なども含まれていたのかもしれない。だから2人は、「大義のためなら仕方ない」と考える。でもフィンチは違う。不法な武力行使によって大勢の命を奪う行為に対しては、武力行使もやむを得ないかもしれない。でも、不法行為を働いているわけでも、武力を行使しようとしているわけでもない人を殺すのは許されない。
この時のフィンチの絶望、必死の表情、見ているだけで胸がキリキリ痛んで辛かった。時々こわばった笑みを浮かべたり、目が泳いだりして、動揺があからさまに表れていて。まさかマシンが人を殺せと言うなんて、と。でもフィンチは殺さない道を選びます。命を救うことこそが自分の仕事だから。
これはね、殺しちゃだめだって私も思うよ。
このストーリーをトロッコ問題と同様にとらえることはできるのかもしれないし、そのように視聴者を誘導しているのは分かるのですが、私は、この件の本質は全然違うと思う。
トロッコ問題は、猛スピードで走るトロッコの進路に5人の人間がいて、切り替えラインの先には1人の人間がいる。そのまま何もしなければ5人が死ぬが、1人は助かる。自分がトロッコの進路を変えればその5人は助かり、代わりに1人が死ぬ。消極的に1人を救って5人を殺すか、積極的に1人を殺して5人を救うか。5人を助けるために自分の手で1人を殺すことを自分に正当化できるか、という思考実験です。
今回、この1人を殺すことで大勢が助かる、その1人を自分の手で殺せるか、という同じ問いかけをしているように見えるかもしれない。でも、この問題の本質は全然違う。
だって、ここで天秤にかけられているのは、実際には大勢の命ではないもん。結果的にそうなるのだとしても、実際には、対象者の命の天秤の先にあるのは「サマリタンの議会での承認の可能性」です。その可能性を下げるために人の命を奪うことは許されないでしょう。
まあそもそも国民が承諾していない民間企業の大規模監視システムが議会で承認されるのかという大問題が前提としてありますけど、それを置いておけば、議会で何かが承認されるのを阻止するために議員を殺すなんて民主主義政治に対するテロ行為そのものじゃないですか。それをやってしまえば、どんな理由があっても正義はなくなる。ヴィジランスと同じだよ。どんな理由があっても、テロ行為をすればそこに道理はないよ。
しかもさらに言えば、サマリタン稼働がデシマの手によって進んでいる以上、一人の議員を殺すことは何の解決にもならない。彼がただの「駒」だとすれば、彼がいなくなっても新たな駒が用意されるにすぎないだろう。そしたらまた次の駒を殺すのか？いつまで続けるのか？どう考えてもマコート議員を殺すという選択肢はあり得ない。
これ、相手がグリアだったら違う問いかけになり得たと思うんですけどね。例えば自分だけが第二次世界大戦前のドイツにタイムスリップできるとしたらヒトラーを暗殺したか、みたいな思考実験と類似の状況になると思う。でもマコート議員じゃただの「駒」じゃん…。考えるまでもないわ…。
あとマシンとフィンチの関係性を考えると、マシンは本当にマコート議員を殺したかったら番号をルートに出していたのではないか？ルートだったら迷いなく殺したのでは？この会話、最初の方で「一人の人間の行動が直接的に多くの人間の死に繋がる場合、マシンが番号を出すことはあるだろう」と言っています。これは、要は「有用」番号に繋がるアルゴリズムのことを言っている。今政府が番号の受け取りを止めているから、もし「有用」だったらそのまま番号はルートに出ていたはず。
でもマシンは迷った。なぜなら、マコート議員はテロリストではないから。フィンチに番号を出したのは、フィンチがどうするのか知りたかったのでは？迷った末、フィンチの意見を求めたのでは？殺せと言っているのではなく、彼が大勢の命に対する脅威となり得ると警告したに過ぎないのでは？
ここがマシンとサマリタンの違いですよね。逆の立場だったら、サマリタンは一瞬の迷いもなくマコート議員を殺しただろう。脅威の排除に過ぎない行為だからです。マシンは、人を守るように作られている。そして、重大な決定は人間がするように。マシンにとっての倫理指針であるフィンチにその決定を求めたのではないだろうか。
フィンチはマコート議員を殺せません。リースも、「マシンではなくあんたを信じている」と言った言葉通り、彼を殺さなかった。ショウも。最終的にはこの判断がリースの命を奪うことになったのかもしれない。でもやっぱり、ここで人を殺すという選択肢はあり得ないと私は思うよ。どんな結果になったとしても、それは議会が決めたことじゃないですか。それが民主主義じゃないですか。それをマシンやフィンチが自分の基準で判断して覆すということは許されない。
というか、デシマが議会に食い込んできている以上、サマリタン稼働を阻止しようとしたら、同じ手を使うしかなかったんですよね。ロビー活動というかさ。まあそんなPOI見てもつまらんので見たかったわけじゃないですが、政治と戦うには政治しかない。殺人では駄目でしょう。もうここまで来てしまっては時すでに遅すぎます。マコート議員を殺して済む問題でもないし。
S3ラストで明かされるように、デシマは少なくとも2010年より以前から活動していた。ヴィジランスを陰で操って、議員も抱き込み、この時のために供えていた。むしろそれを、議員一人殺せば食い止められると思う方が愚かではないか。
グリアは言っていた。
Northern lights was effective but compromised by the ethics of its creator.
ノーザンライツは効果的だったが、作成者の倫理観に屈した
科学技術は常に倫理の拘束を受ける。でもそれこそが人間として生き、人間として進化するということじゃないか？倫理を無視したら一体何が残るわけ？焦土ですよ。
というか、サマリタンのデザイン自体に納得がいかないというか…。結局こいつは「神」なの？それとも「システム」なの？デシマがコントロールし、デシマの基準で「有用」「無用」な人間を決定するのであればそれはただの「システム」に過ぎない。「神」と言うからには、誰の管理も受けずに自分で判断して自分で行動するのでしょうが、そうだったらね、万能のAIにとって、「有用」な人間なんて世界に一人もいないよ。全員ほっといてもサマリタンは全く困らないし、逆に全員殺しても困らない。
一体サマリタンは世界をどうしたいわけ？どうしたいか、という方向性は結局システムデザインに組み込まれているわけだから、アーサーの倫理観を基礎にそれを使う人（デシマ？政府？）による修正で決まっていくということ？それはサマリタンの意志ではなくない？？
どうもねー、「AIによる人間の選別SF」に納得できないのは、それって結局AIを作った人or管理者、つまり人間による選別じゃないの？って思うから。本当に自己決定意志を持った、人間の知能を超えたAIが人間を選別するなら、人間の誰一人「有用」ではないと思う。全員どうでもいい存在でしょ。人間にとってのカゲロウと一緒だよ。
だからマシンを倫理で縛ったフィンチのやり方に私は共感するし、どちらにせよサマリタン稼働阻止は現時点ですでに間に合ってないと思います。議員を殺すことには意味もないし正義もない。このタイミングではすでに、議会に手を回して阻止しておくべきだった、という後悔はあり得るけど、ここで人を殺しておくべきだった、ということにはならんだろう。
そうは思うのですが、実際は、多くの人命が奪われるのはテロには限りませんよね。ナチスドイツの例もそうだし、そもそも戦争はテロではない。戦争を止められるなら民主主義で選ばれた人民の代表を殺してもいいのだろうか。例えば過去に戻れるとして、ヒトラーを殺すことは正当化されるのだろうか。それとも、やっぱり一人の人間を殺しても歴史の流れ自体を変えることはできなかったんだろうか。
この回に関しては正直マコート議員が単なる「駒」である以上、彼一人を殺してもなぁ、って感は強いのですが、自分の選択で大勢の命が奪われるかもしれない（それでも自分は手を汚せない）と思い悩み、我が子同然の、人を守れと教えて育ててきたマシンが殺人を示唆してきたことに苦悩するフィンチを見るのは辛かったです。
そして最後、サマリタンのベータ版が稼働します。グリアが最初に探すのはもちろんフィンチ。でもフィンチは苦悩のあまり、リースとショウの前からも姿を消していました。Daughter の Medicine が流れる中、追われる3人と撃たれるショウ。そして姿を消すフィンチ…。
この後明るい展開になりようがないので身を切られるように辛かったのですが、久しぶりにこんな胸が苦しいような思いをしたので、POIすごいなって思ったよ…。まあ私がフィンチに思い入れありすぎなのかもしれませんが…。この後更にフィンチが大変なことになっちゃうの分かってるけど今度こそ脱落せず全部見るぞー。
POI：ロジャー・マコート（被害者）
本編：2014年3月末～4月頭頃
フラッシュバック：なし
