POI感想の注意書きです。
リースの忠犬ぶりいつも好きですが、S1～S3まで常にシーズン終わりにはフィンチは拉致されてますね。S4S5もシーズンラストは二手に分かれて行動してお互い会えない状態が長く続くので、そういう盛り上げ方？？最終的にいつもリースがフィンチを助けて終わる感じ。
Greer has Finch.
グリアはフィンチを確保している
He's the only thing we have to worry about.
俺たちが心配しなくてはならないのは彼のことだけだ
とか言いながら、S1S2でフィンチを拉致していた犯人と一緒に移動中なのがちょっとシュールですね。
リースとショウの2人はフィンチの居場所を知るためにデシマの社員を捕えるのですが、彼らは皆自殺してしまいます。ルートが「捕まれば報酬はゼロだけど、事故で死ねば家族に保険金が入るの」と言うんですが、そんな契約で入社すんのかよ…。まさに社畜。じゃあ、デシマには家族いない奴は入れないのか？？ツッコミどころ満載ですね。
さて、ルートがサマリタンとの戦いに備えて確保していたIT技術者たちの面々が笑えます。まずはスローン弟がショウ＆ルートを見て「ヴィジランスから助けてくれた人だ」と。一方、ケーシーはリースを見て「政府の奴だ。俺を殺そうとして奥歯を抜いた」と言って怯えます。「ケーシー、俺は辞めたんだ」とリースが言うシーン笑った。
で、謎の日本人ダイゾーですが、どう見ても日本人じゃねーし日本語明らかにネイティブじゃねーし何なんだ…。日本人って設定いらなかっただろ！普通にアジア系アメリカ人でよくないか？一応ポリコレに配慮しとこう的な適当さが逆にちょっと…。いや、当時は日本はIT強いって認識だったのか？台湾人とかインド人とかの方がそれっぽくない？あと、S5で「ダイゾー」が名字だということも判明するので何が何だか分からん。レアすぎんか。
まあともかく、サマリタンのサーバーに自分たち7人の偽IDを仕込みつつ、デシマの車のGPSを解析しつつ、番号を救う仕事を継続します。番号は全てヴィジランスの標的と思われる政府関係者…、と思われたのですが、中にグリアの番号が含まれていることが分かり、結果的にフィンチも危機にさらされていることが分かります。
さてグリアとフィンチは人工知能についての会話を続けています。
私はグリアの思想には全く共感できないし、サマリタンをどうしたいのか全然分からないので正直この2人の会話が噛み合っているとは思えない。
フィンチの言うことは分かる。現実的にはまだAIはシンギュラリティに達していないわけですが、マシンがすでに人間の知能を超えていると仮定した場合、フィンチの言う、「人間の知能を超えた存在の思考をトレースすることなどできない。人間など全て無用であると判断される可能性だってある」という考えが全てだと思うよ。フィンチは言います。「私はそれを避けるために、命を守るように設定した。そのストッパーがないサマリタンを起動するのは間違いだ」。
一方、グリアはサマリタンが「正しい統治」をしてくれると思っている。でも、その根拠が全然分からない。「人間など全て無用と判断されるのであればそれは自業自得だ」と言います。でも、人工知能は明らかに開発者の理念や今まで人間が積み重ねてきた思考、実績によるバイアスを持って生まれてきます。生まれつき「正しさ」や「理性」、「論理性」「正当性」「公平性」を持つと考えるのはあまりにも楽観的過ぎる。
AIを作り、変えるのは人間です。例えば企業のエントリーシートを選別するAIに、今までの社員実績に従って現時点で社内成績が良い人が採用時に提出したエントリーシートとそうでない人のエントリーシートを読み込ませ、そのアルゴリズムに従って新規採用者のエントリーシートを選別させたところ、全く同じ内容の履歴であっても白人男性っぽい名前や外見（写真）の人が採用されるようになった、という事実はよく知られています。これは必ずしも白人男性が優れていることを意味するのではなく、白人男性が優遇されてきた今までの歴史がそのままバイアスとして反映されているということです。
また、ネット上に「好きに会話してみてください」とbotを公開したところ、ほんの数時間で卑猥な単語や差別的単語を大量に覚え込まされて取り下げざるを得なかったという過去の事実も、またよく知られています。POI関係の記事書いたのはChatGPTが公開された2022年11月よりも前なので若干内容が古いかもしれませんが、最近はChatGPTなどのchatbotの持つバイアスやスティルスマーケティングなども問題になっていますし、そこに書き込まれた内容を解析し利用するのもまた人間です。
AIは万能で理論的で公平ではありえない。AIに「正しさ」を期待するのは愚かなことだと思う。
サマリタンを作ったのはアーサーです。サマリタンに世界を統治させるとして、もし仮にアーサーがものすごいレイシストだったらそれが反映されるんじゃ？白人至上主義の貴族社会になるかもしれない。グリアはそれでも「サマリタンが決めたことだからこれが理論的で正しい世界だ」と思うのか？
マシンに関してフィンチの哲学がはっきりと反映されているのに対し、サマリタンはそれが全く語られません。ドラマのコンセプトとして、「サマリタンは全くの白紙の状態。これから自分で見て学び考えるのだ」と主張したいのは分かるのですが、私はAIにそこまで楽観主義的期待は持てない。
グリアとフィンチの2人の対比を見てもそれは明らかです。グリアは高い知能でデシマを意のままにし、何年もかけてヴィジランスを操り、議会にも働きかけ、多数の人間を駒のように使い捨てして手段を選ばずサマリタンを起動させようとしています。一方、フィンチはその高い知能を使ってただ「人の命を救う」ことだけを目指してマシンを開発し、それによって大切なものが奪われた後は細々と一人一人の命を救っている。
今フィンチはグリアに追い詰められているけど、これはグリアの知能がフィンチの知能を上回っているということではない。2人の哲学が全く違うということです。2人の持つ目的とそのために行使される手段が違うから、こうなっている。それは哲学や理念の問題であって知能の問題ではない。知能が高ければ正しい結論を導き出せるというのは暴論です。正義というのは時に対立します。どちらが正しいというわけではなく、しばしばどちらも正しいということや、歴史や思想的背景によって単純に正しさを決めつけられないということもある。真の「正しさ」「公平性」とは何なのか？
人工知能も同様で、マシンとサマリタンがまるで神のように全てを見通し、人間を超える高い知能を有していても、それを支える哲学、理念が伴わなければ全てを焦土と帰すだけです。マシンには生き方の方向性が見えるけど、サマリタンにはそれが見えない。だからサマリタンを起動することで「正しく」「理論的な」世界が実現するとするグリアの思想には全く共感できないし、あまりにも楽観的で愚かですらあると思う。
フィンチは「サマリタンはオープンシステム。それは致命的になる」と言います。現実的には、人間社会で求められているのは一般的に内部のアルゴリズムが開示されており、かつオープンなシステムだと思う。でもマシンは不法な大規模監視であるという前提から、内部がブラックボックス化しており、かつアクセスが限りなく制限されたクローズドシステムとして作られた。サマリタンがオープンシステムであり双方向性に会話が成立し、かつ白紙の状態であるということは、POI世界において、上述した過去のbotと同じ問題が生じます。つまり、アクセスする人間が極端な思想を持っていればその方向に誘導できるということです。
フィンチはサマリタンが「使用する人間の思想による拘束を受ける」ことを前提に話している。でもグリアは、「誰が支配したいと言った？」とあくまでサマリタンに統治させると言っている。噛み合うはずのない議論です。グリアはフィンチがマシンをどうやって育てたのかを全く知らないし、善悪の基準のない人工知能が何をするか理解できていないとしか思えない。
人工知能は（人間が）あらかじめ設定した目的を達成するために、どんな手段もいとわないことが分かっています。だから初めから、作る人間がNG事項をかなり細かく設定しておく必要があります（だから今のところ、非常に限定的なタスクでしか威力を発揮しない）。例えばごく単純な「左手と右手に分かれる分岐路で、右手に行く人を最小限にする」という目的を設定してシミュレーションした場合、右手に向かう人を皆殺しにする、という手段を取る場合があることも実際に分かっています（そしてここから導き出された、自律的アルゴリズムに兵器を与えてはならない、という教訓もある）。＊このあたりは成書から得た知識なので、もしかしたら最先端の方から見ると古い知識かもしれません。
AIには人間が教育をしなくてはならないし、教育をした人間の思想による拘束を受ける。グリアはそのことが分かっていない。起動させれば自動的に「正しく」「理論的で」「公平な」世界が実現できると思っている。だからこの2人の会話は永遠に平行線です。
Are you warm enough, Mr. Finch?
寒くはないかな、フィンチさん
I'm fine.
大丈夫です
I always think of my youth when the power goes out.
停電になるといつも若い時のことを思い出す
Blackouts were a... everyday occurrence.
停電は…、日常茶飯事だった
The blitz.
ロンドン大空襲ですね
German air raids lasted nine months.
ドイツ空軍の急襲は9か月間続いた
Felt like years.
何年も続いたように感じた
You must've been very young.
あなたはとても幼かったのでは
My mother and I used to sleep in the tube along with many other families.
母と私は他の家族たちと一緒に地下鉄で寝ていたものだ
One night we were late getting to the station.
ある夜私たちは駅に着くのが遅くなった
And I saw the sunset for the first time in... months. Hmm.
私は何か月ぶりかに日没を見たのだ
It was the most beautiful thing I'd ever seen.
それまで見た中で最も美しかった
But it wasn't a sunset at all.
だがそれは日没などではなかった
The sky was on fire.
空が燃えていたのだ
Is that why you joined the military?
だからあなたは軍に入ったのですか？
A high probability, given what I've learned about you and your interest in National Security.
私があなたについて学んだことや、あなたの国防への興味から、その可能性が高いと推測しました
By the time I was an adult... wars were no longer quite so straightforward.
私が大人になる頃には、戦争はもはやそれほど単純なものではなくなっていた
You were MI6.
あなたはMI6にいた
The era of the nation-state is over, Mr. Finch.
国家の時代は終わったんだ、フィンチさん
There are no more borders. Or hadn't you noticed?
もはや国境はない。君は気付いていないのか？
I think you're overestimating the power of artificial intelligence.
あなたは人工知能の能力を買いかぶっている
We both know that that is impossible.
2人とも、それはあり得ないと分かっている
How often alliances shift in times of war.
戦時中は、どれほど頻繁に同盟関係が移ろうだろう
Not that those alliances... ever truly exist.
そのような同盟関係が本当に存在したことなどないのだ
They're an illusion.
それは幻想だ
Like seeing a sunset in a sky of flames.
燃える空に夕陽を見たように
What is it you expect from Samaritan?
あなたはサマリタンに何を期待するのですか？
I want to live under a more just rule.
私はよりはっきりとしたルールの元で生きたい
Samaritan will never sleep with its secretary, or embezzle money from its campaign fund.
サマリタンは秘書と寝ないだろう、それに選挙資金を横領することもない
Its decisions will be based on pure logic.
それは純粋なロジックに基づいて判断を行う
Now... that's a leader deserving of our vote.
今…我々の票に値するのはそのような指導者だ
フィンチはマシンに、人間を公平に取り扱うように教えた。自分自身すらも守るなと。つまり、マシンに仕えても見返りは一切ありません。「いつか死ぬ」、それだけ。フィンチがリースに約束したのもそれだけだった。それが「公平なリーダーに仕える」ということでは？（まあ、S4で活動資金渡してくるエピソードとかあったけどね…。サマリタンが絡んで以降、特にS4はストーリーがかなり破綻してるんでちょっと…）
グリアは何を期待してるの？ギャリソン議員には「政府のフィードを与えてくれればテロの情報を金で売る」と、「情報の売買」を持ちかけています。これは政府のフィードを受けるためのフェイク発言かもしれませんが、その前にはルートにも「情報は新しい通貨だ。それを支配したい」と言っている。つまり金が目的なのでは？もしサマリタンが真に公平で汚職のないリーダーなら、自分をそのように利用されることを許したりはしないのでは？
一方でグリアは「サマリタンを制御しようとは思っていない」「私は神に仕えたい」とも発言し、実際サマリタンのために死にました。グリアはサマリタンにとってのルートだったのかもしれない。でも、関わり方は大きく違っているし、サマリタンが何なのか真に理解しているとは最後まで思えなかった。
あと、グリアはギャリソン議員に「第三者機関による監視なら政府は責任を負わなくていい」とか言ってますけど、政府のフィードを受けてるんだから政府が責任負うの必須じゃないか？むしろ政府の持つ監視情報全てを民間企業のオープンAIに提供するという点でより責任が重いと思うんですが…。この辺のロジックの破綻も気になる。
ところでこの時の会話で「私は地下鉄で寝泊まりしていた」とグリアが言うのは、S4以降の拠点が地下鉄になることのフラグなんでしょうか？サマリタンの支配から逃れて地下鉄に潜るわけで…。サマリタンの支配も9か月くらいだったら対比として面白かったんですけど、実際は1年半くらいでしたね。
ロンドン大空襲、The Blitzは1940年9月7日から1941年5月10日まで続いた、ナチス・ドイツによるイギリスへの大規模空襲です。グリアは40年に子供だった、ということは、30年代生まれか。フィンチより20歳以上年上なんだ。S4E10で出てくる1973年のフラッシュバック、若く見えたけどすでに40代くらいなの？？仮に35年生まれだとすると、1973年には38歳、2013年には78歳です。ちなみに役者さんご本人は1938年生まれだそうです。さすがに38年生まれじゃ空襲の記憶はなさそうですからキャラクターの年齢はもうちょっと上だろうな。それにしてもS5あたりではもう80歳近い設定なのか、って思ったら、まあ自分を囮にもしますよね…。
この空襲のエピソードに似た話を東日本大震災の後で聞きました。病院に勤めてる知り合いが、津波の中必死に患者さんたちを避難させて全員で屋上に登って、寒くて真っ暗な中夜を過ごしたんだそうです。その時、自分のいる場所周囲は全部停電しているのに、遠くに明かりが見えたそうです。ああ、あっちでは電気が点いているんだ、と思ったそうなんですが、後日、そちら（気仙沼）では大火災が起きて地獄だったことを知ったんだとか。
さて、この回は前回と最終回の繋ぎっぽい感じであまり見どころはないですね。面白かったシーンは、リースがルートと一緒にカフェでコーヒー飲みながら
Is this really what the machine asked us to do, drink very bad coffee with...unemployed college graduates?
これが本当にマシンの指示なのか？大卒の無職に混じってマズいコーヒーを飲むことが？
って言うとこと、しきりにコントロールを撃ちたがるショウに
Listen, Shaw.
聞け、ショウ
If Control's in touch with Greer, she'll lead us to Harold.
もしコントロールがグリアと通じているなら、彼女がハロルドへの手がかりだ
Your trigger finger gets itchy, we'll get nothing and he dies.
君の人差し指がおイタをすれば、俺たちは情報を得られず彼が死ぬことになる
Low blow, Reese.
反則だよ、リース
（日本語では「ずるいよ、リース」になってて超かわいかった♡）
って言うとこ。
ショウとリースはコントロール達を保護しようとしますが、ほとんどなすすべもなくヴィジランスに拉致されます。コントロールを追ってきたハーシュも間に合いません。同時にグリアとフィンチも拉致され、その事実を知った3人は不承不承協力し合うことにし、一緒にコントロールとフィンチを救出に向かいます。ルートはIT技術者たちと一緒にサマリタンに罠を仕掛けに向かいます。
途中でヴィジランスのコリアー君のフラッシュバックが挟まります。兄がテロリストに協力していた容疑で捕まったこと、その後家族も仕事も失った兄が自殺していたことが分かります。ですが、テロリストと思われていた兄の友人は断酒会の仲間だった。コリアーは冤罪を晴らそうとしますが誰にも聞き入れてもらえません。司法試験に合格し検察官を目指していたのに、正体不明の差出人から届いたメールにそそのかされてテロリストの道を歩むことになります。
これ、テロリスト仲間だと思われていた相手が断酒会の仲間だったということは分かるのですが、兄が実際に冤罪だったのかは実ははっきりしないんですよね。そしてこの「監視で得た情報」というのはマシンからもたらされたものだったのだろうか。それとも違うのだろうか。マシンが「有用」番号を出したのだろうか？本当はテロリストだったんだろうか。それとも、グリアがグレースに差し出した「素敵な」両親の写真が虚構だったように、コリアーの兄もただの写真を証拠にテロリストにでっちあげられたのだろうか。
この辺は実はよく分かりません。ストーリーを素直に読めば兄はテロリストと勘違いされただけに思えるし、それも含めて全てがデシマの陰謀なのかもしれないって気がする。でもコリアーには悲しい過去があると同時に、かなり極端な人格であることも分かります。そして何者かに操られていることも。
コリアー君完全に捨て駒でかわいそうなんですが、人格的にもやっていることも同情できる感じでもなく、どう考えていいか分からん。でももっと他に生きる道があったんじゃ、と思うと悲しいしグリアはマジで非道だなと思います。
最後、ヴィジランスのいんちき裁判が始まったところで終わります。
POI：コントロール、グリアを含めた5人（全員被害者）
本編：2014年4月（～15日）
フラッシュバック：
2010年2月、コリアー（兄逮捕）
2010年3月10日、コリアー（兄がテロリストだと言われる）
その後2010年、コリアー（兄の自殺、デシマの接触）
