Mike Dillinger, PhD

人工知能（AI）が熱い。過熱状態だ。ところがAIは今も昔も、人間か機械か二者択一のごとく、二分法で議論される。黒か白か。私には、この状態が緊急事態を知らせる明るく赤く光る警告ランプのように見える。今すぐこの二分法をやめて、もう一度、何度もよく考えろと警告しているようだ。「白か、黒か」ではなく、ここにはもっとさまざまなオプションがあるのだ。

二分法では、相反する複雑なことを考えるとき、極端に単純化することが可能だ。たとえば、人工知能は、（強化された）人間の知能の対極のものであると。これをAI二分法と呼ぼう。AIについての初期の研究（ジョン・マルコフの「人工知能は敵か味方か（原題：Machines of Loving Grace）」の歴史的説明を参照）以来、実務家たちは、機械についてこの二分法を使って考えてきた。以来この二分法は何も変わっていない。

• 人間の関与を全くうけずに、難解なことを行うことができるコンピュータ　-　たとえば（人間の関与のない）機械知能（「本当の意味での」AI）

対

• 人間が存在し、使用することによってのみ、機械が難解なことを行うことができる　-　たとえば人間の能力を増強するための機械（知能増幅（intelligence augmentation）あるいは「IA」。AIの反対）

もちろん、システムを設計、作成、テストするのは人間だ。人間が不要になるのは、機械が作動するとき、システムが実際に機能するときである。機械が作動する際の、知性ある人間の関与レベルがここでいう二分法を決定する。ゼロかすべてか。

翻訳技術でも、この二分法があふれている。一方は、機械翻訳（MT）システム。「本当の意味での」AIである。これは、ある言語で書かれた文書を飲み込んで、休むことなく翻訳を吐き出す。どんな分野であろうとおかまいなし、人間の翻訳者は一切かかわらない。1970年代以降向上し続ける（だがいまだ予測不可能な）正確さでこれを行う。もう一方では、（人間である）翻訳者の知性、あるいは少なくとも翻訳者の記憶を補強する翻訳メモリ（TM）システムが存在する。TMシステムは、人間が翻訳した何千ものセンテンスを蓄積し、新しいセンテンスと照らし合わせて確認でき、蓄積した翻訳からベストなものを提案する。（人間である）翻訳者は、これらの提案の中から選択し、調整したうえで最終的な翻訳を作り出す。TMシステムは、人間であるユーザーが関わらなければ全く機能しない。

だが、現実を映すには二分法は単純すぎる。この種の単純化は結局とても高くつく。膨大な情報と、考慮すべき多くのものを置き去りにする。こんな風に考えられないだろうか。二分法で語られるこの二つが、互いに排他的な正反対なそれぞれ単一なものでなく、連続した線の端と端だと考えられないだろうか。二分法の考え方は、端と端の間にある線について無理やり考えないようにしているに過ぎないのではないか。端と端の間には何も存在しないか、あるいは重要でないかのように。人間かコンピュータか。それ以外のものは存在しない。端と端は、それのみを考える機会にすぎないのか。

これら二つの相反するものの間には何があり得るのだろうか。機械知能か、人間の能力か。マルコフのいう「人間とロボット共通の土台」の上には何があるのだろうか。
この中間に、「the 50 shades of AI (AIの50の色合い)：機械知能が、様々なレベルで人間の能力とまざりあい、組み合わせることのできる数多くの方法」がある。ここにAI二分法が見えなくしてしまった様々なオプションや機会がある。本当に多くの人を洗脳し、怖がらせてきた人間フリーな知能だけに注視すること以外に、とても多くの可能性があるのだ。

ハイブリッドインテリジェンス（Hybrid Intelligence）

50の色合いのうち私のお気に入りは、私が「ハイブリッドインテリジェンスシステム」と呼んでいるものである。これは、人間と機械が同じ知的タスクを行い、結果を組み合わせ、互いに互いから学ぶというものだ。

鍵となる考え方は、傲慢さや習慣から一方を排除するのではなく、機械知能と人間の能力双方のベストの部分を利用するというものだ。

ハイブリッドインテリジェンスは、AIとは全く違う。というのも、人間がハイブリッドシステムの中で鍵となる役割を果たすからだ。「本当の」AIは、人間と共に学ぶのではなく、人間にとって代わり、人間の仕事をするように設計されている。自動運転車、自動投資システム、機械翻訳は、リアルタイムでフィードバックやコントロールを受けるようには設計されていない。人間はAIを導いたり、AIに教えたりすることはできない。ただ座って、畏怖の中で見つめているだけだ。しかし、実際の交通や予測不能な市場の変動の中で、洗練されたAIを、（人間が）導き、ニュアンスのある翻訳を行うほうが、AI単独より、より良い解決策を生み出すことができる。複雑な問題が存在するときに助けとなる「操作できる」ハイブリッドシステムは、どこにあるのだろう。

ハイブリッドインテリジェンスは、知能増幅（IA）とは大きく異なる。というのもハイブリッドシステムでは、テクノロジーは補助的なものではなく、中心的な役割を果たすものなのだから。IAシステムは、別の方法で同じ仕事を行うのではなく、異なる仕事をすることにより、人間の能力を助けるように設計されている。ワードプロセッサはものを書くわけではない。翻訳メモリシステムは翻訳をするわけではない。スプレッドシートは関数を作るわけではない。これらは、ただそこにあって、人が本来の仕事をしてくれるのを待っている。そして、少し人の手助けをする。適切な次のセンテンスや、より良い関数を入れてくれるように、これらのシステムに頼むことはできない。しかし洗練されたテクノロジーは、たとえば書いたり、翻訳したりといった複雑でバラエティに富んだプロセスの中で、人を導いてくれる。これらの設定の中でサポートしてくれるとても賢いハイブリッドシステムはどこにある？

翻訳テクノロジーでは「ハイブリッドインテリジェンス翻訳」がある。これは既に使用されているハイブリッドインテリジェンスの好例であるアダプティブMTとして知られている。このシステムでは、翻訳者も機械も、それぞれのリソースを使用し、それぞれ異なる戦略で同じセンテンスを翻訳する。人はよりニュアンスを考慮した上で、翻訳の適切性について判断を下し、与えられたコンテクスト、あるいはドキュメントで、人と機械が作成した、考えうる翻訳のどちらがよりぴったりくるかを決定する。人がシステムを運転するのだ。これはもちろん、機械のみでおこなう翻訳より、翻訳の最終品質を大きく改善してくれる。さらに、これらのハイブリッドインテリジェント翻訳システムでは、コンピュータが人間の修正や選択をリアルタイムで記録し、そこから学び、再利用するのだ。ひとつのセンテンスでエラーを直すと、次のセンテンスではよりよい提案を行う。これは、人が機械の翻訳を改善し、機械が人に対しよりよい提案を行うという、迅速に適用されたサイクルを生み出す。これは、翻訳品質をベストに維持しながら、翻訳スピードに大きく、プラスの影響を与える。このテクノロジーを使用するチームは、皆、システムに教えることに貢献し、このことにより、よりよい一貫性を担保することで翻訳者に良い報酬をもたらす。統一された用語とフレーズで翻訳が素早く作られる。システムがそのように駆り立ててくれる。結局、自律的なMTよりも翻訳の品質は格段に優れ、サポートのない人間だけの翻訳より、スピードと統一性は格段に優れたものとなる。かつ、システムは、これらすべての知識を、再利用可能な形で蓄積し、次のプロジェクトをより効率的にすすめることができるのだ。

チェスなど他の知的課題行動などと同じ教訓から学ぶことができる。IBMのDeep Blueコンピュータは、20年前にチェスのチャンピオンGarry Kasparovを打ち負かした。以来、「ケンタウロス化チェス（アドバンスト・チェス）*」大会が広がった。ハイブリッドシステム（人間とコンピュータを組み合わせたチーム）が互いに戦うのだ。面白いことに、ベストなAIではこの大会には勝てない。ベストな人間も同様だ。勝者は（単にチャンピオンではなく）、異なるAIシステムが提案するオプションをすぐれた能力を持って評価できるプレーヤーがなる。勝者は、人間とAIのベストな側面をうまく利用するハイブリッドインテリジェンスを作る。そしてこの戦略は、翻訳とチェスのような全く異なるタスクでも同様に受け継がれる。

人間とAIの組み合わせは、AI単体より強い。にもかかわらず、なぜ我々はAIのみにフォーカスするのだろう？

自律式のAIは、多大な投資と、新たな考えの潮流を巻き起こす雄大で、想像膨らむゴールだ。しかし、これは、あくまでいつか未来に起こるかもしれないSFにすぎない。今日、自律式のAIにフォーカスするのは、かなり遠い未来に向けて行う、基礎研究の、インスピレーションに富んだゴールを目指す、とても小規模な研究でしか意味をもたない。

一方で、ハイブリッドインテリジェンスシステムは、短期的にもつじつまの合う地に足の着いたゴールである。そしてこれはこれで十分クールだ。完全にドライバーに置き換わることがなくとも、ハイブリッドインテリジェンスカーが、ドライバーを手助けして、事故を起こさず、走行プランを立て、居眠りをしないようにすることはできないだろうか。ハイブリッドインテリジェンスinvest-o-tron AI に単独で失敗ばかりさせているより、人間の投資家を導き、モニタリングし、人から学ばせるほうがよくはないか？ハイブリッドインテリジェンスが、あまりよく知らないトピックについて、あなたがより速く学び、より深く理解するために、読むのを手伝ってくれたら？あまり関連性がなく、自律学習のための信頼のおけるデータがないとき、人間が導くことのできる「運転可能な」マシンラーニング、一種のマシンティーチングは？これらの「運転可能な」AIは、大量の高品質のデータやより多くの知的AIのための信頼できる知識を作ることを手助けすることで、あらゆるところにいる実務家の発展を加速させる。

「AI」は、自律式の知能機械よりもっと多くのことを意味する可能性をもつ。機械知能と人間の能力の間に存在するAIの50の色合いの中で待つ様々なチャンスを探索するのに必要なのは、より多くの投資家であり、起業家であり、エンジニアだ。

*機械と人間がチームを組んで、互いに戦うチェス。Garry Kasparovが考案。

Original: https://www.linkedin.com/pulse/50-shades-ai-mike-dillinger-phd/