【感想】人類滅亡２つのシナリオ　AIと遺伝子操作が悪用された未来

だいぶ挑戦的なタイトル

汎用性人工知能はついに意思決定、マネジメント業務もできるようになった記載されていたが、どれのことだろう。
他のAIに関する本には人間に残されてた仕事へ決めること、責任を取るこ…ととかかれていたけど少し違った。続きを読む

AIとゲノム編集技術は、それぞれ人類滅亡のリスクを孕んでいると大真面目に語る。
AIが人間には制御不可能な超知能となることが人類滅亡につながる危険性を持つことは十分に同感。一方、ゲノム編集技術は少なく…とも建前上は各個体が等しく尊重される存在であるはずの人類社会の前提を崩壊させる可能性がある意味で注視し続けなければならない技術だが、人類の滅亡ではなく、エンハンスされたポストヒューマンに置き換わるという話。
滅亡リスクは同感しつつも、その回避策として、ゲノム編集については国際的規範の確立を、AIについては汎用型の超知能を生むような開発をせず機能特化型に留めておくことが提示されていたが、どこかの誰かが抜け穴を抜ければ圧倒的優位性を確立できるような技術領域において、それを禁止し続けることがどこまで有効なのかは疑問であり、解決策については薄さを感じた。続きを読む

人類滅亡二つのシナリオ　小川和也　朝日新聞

一つは人工知能AIであり
もう一つはゲノム編集技術だと言う
確かに人間自体を制御する遺伝子操作は
人間のエゴや恐怖心によって
確実に歪んだ結果をもたらすだ…ろうが
AIが人間の手を離れて
自己増殖する段階になると
アラジンのランプの聖とは別物になる
常に俯瞰した全体観をとらえて判断した
前向きな選択をすることになるのではないか
つまりパニクルこともなく
俯瞰の度合による誤差はあっても
精一杯の制度を出しながら決断していくだろう
しかし問題なのは人間が依存心から脱皮できずに精神的な進化を怠った場合である
そうした人間は感情や物欲から逃れられずに
ランプの聖を駆使して超越型の冷静なAIに戦いを挑もうとするだろうことである

楽観的私見はさておいて
この著者は冷静に紐解いていき
最終章で
この世の終末を避けるために何ができるかを考察しているが
善悪や損得が何を根拠とするのかを
語ることはない
そこで最も危険なのは
恐怖による悪意を持った
人間の手の内にある段階の
ランプの聖同士による代理戦争だろう
敵対する人間同士がそれぞれに操る
ランプの聖を開発して戦わせる戦争である
続きを読む