すでに始まりつつある「AIハッキング」に人類はどう対処するのか：SZ MEMBERSHIPで最も読まれた5記事（2021年7月）
人間はAIハッキングに気づけるのか
この7月は、コンピューターセキュリティの世界的権威ブルース・シュナイアーによる「AIハッキング」への警鐘が反響を呼んだ。ここでのAIハッキングとは、必ずしも自我をもった人工知能（AI）が世界中のコンピューターに侵入して人間社会を支配するという意味ではない。物事の意味や文脈、基準、価値といった概念に基づいて思考する人間と異なり、AIは与えられた問題を最も効率的な方法で解決するためならルールの範囲内に収まっている限り手段を選ばない。障害物にぶつからない最善策としてバックすることを学習した掃除ロボットは、その最たる例だ。こういったAIの狡猾な思考を、シュナイアーは報酬ハッキングと表現する。
ほとんどの人間が気づいていないだけで、AIによるハッキングはすでに始まっているという。ディープラーニングを火付け役に始まった第3次AIブーム以降、人間はAIが何を考えているのか読めなくなってきた。現代のAIは、与えられた問題に対して人間には処理しきれないほど無数の解決法を検討し、そして人間の想像を絶するほど複雑な道筋で最適解にたどり着く。その思考プロセスは基本的にブラックボックスで、なぜその答えが返ってきたのかは、生みの親であるプログラマーにも理解できないことが多い。
つまり、何か複雑な問題解決のプロセスで掃除ロボットのようなAIハッキングが起きていても、わたしたち人間は認識することすらできないかもしれない。AIが優秀になればなるほど、その思考は深く濃い霧に包まれていく。
すでに多くの意思決定にAIをとり入れている人間社会は、この先もっと重要な決断をAIに委ねるようになる可能性が高い。法律の制定、富の分配、命の選択──。人間社会の根幹となるシステムにAIがアクセスしたとき、それは人間が見過ごしてきたあらゆる弱点を瞬時に見つけ出し、前例のない速度と規模、範囲でハッキングを始めるだろうとシュナイアーは警告している。
次回は9月2日（木）に開催いたします。みなさまのご参加をお待ちしております。
金星のホスフィンはどこから発生したのか
7月は宇宙に関する記事がとりわけ注目された。なかでも、地球外生命体の痕跡というキーワードに目を奪われた読者が多かったようだ。
ことの発端は2020年9月、カーディフ大学のジェーン・グリーヴズ率いる研究チームが発表した論文だった。彼女らによると、金星の雲から検出された有毒ガスのホスフィンが、生命の存在を裏づける証拠になるかもしれないというのだ。これに対してコーネル大学の天文学者ジョナサン・ルーニンと大学院生のヌオック・チュオンは、ホスフィンと生命の関係には議論の余地があると反論。そもそもホスフィンは金星の火山活動によって発生したのではないかと主張した。
ホスフィンとは、リンと水素によって構成される無機化合物のことで、地球の大気にもわずかながら存在する。しかし、リンは自然界に単体では存在せず、またリン酸塩をホスフィンへ還元する元素や分子も確認されていない。このことから、地球の大気を構成するホスフィンは有機物の分解によって生成されていると考えられている。また、ホスフィンは木星のような巨大ガス惑星でも、高温の乱気流の中で生成されることが分かっている。
ルーニンとチュオンの主張は、金星のマントルの奥深くに眠る微量のリン化物が火山活動によって地表に押し出され、大気中の硫酸と化学反応を起こした結果であるという内容だ。この説を裏付けるには、リン化物が大気中に放出されるほどの活発な火山活動を示すデータがなければならないが、現存する探査機から有力な情報は得られていない。
結局のところ、金星で見つかったホスフィンの出どころは謎に包まれたままだ。そもそも金星の大気に含まれると推定されたのは、本当にホスフィンなのか。28年に米航空宇宙局（NASA）が打ち上げを予定している探査機「ヴェリタス（VERITAS）」が金星の表面のマッピングを始めるころには、いまよりずっと真実に近づけるだろう。
ここからは、7月に「SZ MEMBERSHIP」向けに公開された記事を中心に、最も読まれた5本を紹介する。
人工知能が人間のルールをハックする「AIハッキング」が始まっている
しばしば常識外れのやり方で問題を解いていく人工知能（AI）は、やがて人間の社会、政治、経済におけるルールの弱点を突き、システムをハックするようになる。より重要な決断をAIに委ねるにつれて被害は大きくなるだろう。>>記事全文を読む
金星で見つかった「生命の痕跡」は幻なのか？ 発見に異を唱える研究の意味
金星の大気から検出され、生命の痕跡を示す可能性があるとして注目された化合物のホスフィン。この衝撃の発見に異を唱える仮説や研究結果が次々に発表されるなか、ホスフィンが金星の火山活動によって発生したとする説が浮上した。>>記事全文を読む
火星に無人酸素生成工場を設置せよ：NASAのMOXIE実験が有人宇宙探査の未来を拓く
地球から宇宙へ物資を打ち上げるよりも、月や火星の資源を活用して必要な酸素や物質をつくりだすほうが理に適っている。いま火星では、96％を二酸化炭素が占める大気を電気分解して少量の酸素を抽出する実験が進行中だ。>>記事全文を読む
おびただしい数の目撃情報をめぐる攻防：ペンタゴンはUFOの存在にいかにして向き合ったか (2)
冷戦構造のパラノイアと政府の妨害主義、科学と非科学の境界線で、度重なるUFOの目撃情報はいかに取り上げられ、調査され、忘却の彼方へと葬りさられたのか。研究者たちとペンタゴンの半世紀におよぶ駆け引きに迫ったシリーズの第2回。>>記事全文を読む
太陽系に浮かぶコスミックダストは、火星やその衛星が起源なのか？ 新説のゆくえと残る疑問
日の出や日没時に天空に現れる神秘的な赤やオレンジの輝きは「コスミックダスト（宇宙のちり）」が原因だ。天文学者たちは何十年も、このちりは小惑星が起源だと考えてきたが、現在それが揺らぎつつある。はたしてそれは火星やその衛星が起源なのか。>>記事全文を読む
