鈴の本箱

本のこと、あれこれ(覚書)

人工知能 

 昨年の東京国際ブックフェアで見つけた一冊。今考えると、どうしてこれを選んでしまったのか...(笑)。

人工知能 人類最悪にして最後の発明』(原題:『Our Final Invention -Artificial Intelligence and the end of the Human Era』)

ジェイムズ・バラット(James Barrat)著 水谷淳訳

人工知能 人類最悪にして最後の発明

  この分野はてんで疎いので、私には教科書的な意味もあって、ノートをとりながらうっすらとわかりかけてきたところです。

 人工知能については、賛否両論がありますが、この本は人工知能の危険性に触れています。

 著者のジェイムズ・バラッドは、National Geographicなどのドキュメンタリー・フィルムを手がけた監督でありテレビ・プロデューサーです。彼がAI(人工知能)に疑念を抱く理由として、AIが有望であることを聞かされているため、その考えが根を張っていること、そしてAIの存在やパワー自体に何ら疑問を抱いていない状況を挙げています。高度なAIの安全性はどうなのか、また有望な分野であるという点から投資マネーが集まりあちこちで野放図に開発が進んでいる状況に疑念を抱いているのです。

 現在、公共インフラなどコンピューター管理されている機関は増えつつあるわけで、コンピューターが自律的に作動してくれているおかげで、ヒトの労力は減り、時間も生まれ娯楽をもたらせてくれるわけですから、便利な開発に異を唱えるのはむしろ技術の進歩を阻むと言われてしまうかもしれません。

 コンピューターとAIの違いは、コンピューターは限定的であり、ヒトの支配下の機器であるということ。しかし、AIはコンピューターに命を与えることができるし、機械が決定を下し、ヒトを服従させることもできるというわけです。そのあたりに少し恐怖心を感じます。

 ヒトの脳の約2倍のスピードで動作するスーパーコンピューター上でAIが自身の知能を進化する。これはプログラムや動作命令部分を書き換えることで学習、問題解決、意思決定の能力が向上していくのです。

 1回のプログラムの書き換えは数分で行うことができ、3%の知能が上がるというのですから、知能指数50のAIが、54分後にはMensa級の130までアップすることになります。私の知能も書き換えたい...(笑)

 昨年この著書(しかも原作は2013年発行)を買った私が、半年近くかけて読んでこうしてブログにタラタラと書き綴っている間に、この本の内容のほとんどが昔話になっているかもしれません。どこかのAIロボットに「我々の祖先に関するヴィンテージな本だね」と揶揄されそうです。

 私が興味を持ったのは、AIの「衝動」と「倫理観」です。自己を意識するAIは失敗しないように手をつくすため、目標達成のため自身を進化させます。しかし、目標達成途中にヒトがAIのスイッチを切ろうとすると、AIは目標達成が不可能になることを避けるために予想外のことを起こす可能性が出てきます。AIが自身を守る行動と書かれていますが、スイッチを切られる行為、つまりヒトの行為を邪魔「モノ」と捉えてしまったら、ヒトの支配下から抜け出すことを考え出すわけですよね。

 自動運転装置で考えた場合、避けきれない事故が起きたとき、歩行者を優先し、運転手は負傷する。もし、複数の歩行者の場合(多くの人々が行き交う交差点など)、数名の歩行者の負傷が免れない状態にあるとしたら、そのとき、歩行者はどのように選択されるのか。体格なのか、年齢なのか、性別なのか、行動なのか、...判断基準はどうなんでしょう。大量のデータを分析して下した判断だとしたら、そこに倫理性があるのか...。

 AIがAGI(Artificial General Intelligence「人工汎用知能」)、さらにASI(Artificial Super Intelligence「人工超知能」)へと進化したとき、信用性は性能ではなくヒトに対して忠実かどうか(倫理性)を問われています。ヒトから絶たれたネットワークを探ろうとして、社会工学を利用して、コピーをいくつも作って、外部へ出る戦略を探すためにシュミレーションを何万回と繰り返したり、そのコピーを操って他者をコントロールしようとする。ヒトから自由を勝ち取るための思考が行われ、時には友好的に、時には脅しをかけたりする....。急激なスピードの知能向上と学習能力を持ったASIとヒトとの対立が生まれるというわけです。

 現在、狭義のAIは、グーグルの検索機能、アマゾンなどの通販サイトの購入履歴からオススメ商品の提示、証券取引所の株式売買など、私たちの生活に役立っています。一つのことだけに特化するAIは、まだヒトの支配下にあるように思えます。でも、これもやがて進化していけば、手に負えないようなことが起きるかもしれません。

 ASIを理解するための学問の必要性は喫緊の課題でもあります。ダンス・ヒリス(シンキング・マシンズ創業者)はこう述べています。

 コンピュータの力を借りて、新たなコンピュータを開発し、そのコンピュータにさらに複雑なものを作らせようとしているが、我々はそのプロセスを完全に理解していない。そのプロセスは我々の先を行っている。しかも高速コンピュータだからこのプロセスはますます速く進んでいくだろう。テクノロジーが自己フィードバックするのだ。

 進化するAIのスピードにヒトがついていけないわけです。AIが達成するその目標がヒトの社会に役立っている限り、その恩恵を私たちは受けられますが、その達成までのプロセスが社会における倫理性やヒトを傷付けたりしないだろうか。そのプロセスをヒトが管理できなくなっているということです。

 私はこうしたAIの脅威はもとより、AIの有望さにどっぷりと依存していく私たち自身が退化していく不安も感じました。今後も進化していくAIを注視すべきと実感した一冊でした。

 

広告を非表示にする