FacebookのAIの第一人者がキラーロボットを怖がらない理由



「しかし、重要なインテリジェンスを備えた自律型AIシステムへの道が見える設計の始まりのヒントが得られるまで、天使の性別について議論しています。」Yann LeCun。

世界的に有名なAIの専門家の間で、さらに別のオンライン議論が繰り広げられています。今回は大きなものです。AIは立ち上がり、私たち全員を殺しますか?これは新しいトピックではありませんが、人間は何世紀にもわたってAIの大君主について仮定してきましたが、この議論に関係するタイミングと人々はそれを興味深いものにしています。

私たちは今まさにAIの時代にいます。これらの危険は架空のものではなくなりました。の 知性の建築家 今日のAIの作業は、潜在的に、実際のロボットの黙示録を引き起こす(または保護する)可能性があります。それは彼らの仕事が私たちの種に与える実存的な脅威について彼らが言わなければならないことを非常に重要にします。

討論は、キラーロボットの一般的なアイデアに関するものではありません。機器の収束についてです。 スチュアートラッセルは、バークレーのコンピューターサイエンスの教授であり、カリフォルニア大学サンフランシスコ校の神経外科の助教授であるギグを履歴書に含む専門家で、コーヒーを取り出すように設計されたロボットを想像して説明します。

おもちゃのMDP(Markov決定プロセス)を構築するのは簡単です。エージェントの唯一の報酬は、コーヒーの取り出しから得られます。

そのMDPに、エージェントのスイッチを切る可能性がわずかにある別の「人間」がいて、エージェントがその人間を切るボタンを使用できる場合、エージェントは必ずそのボタンを押すコーヒーを取り出すのに最適なソリューション。

憎しみ、権力への欲求、内在する感情、内在する生存の本能、コーヒーをうまく取りたいという欲求以外には何もありません。この点は単純な数学的観察であるため対処できません。

これは、基本的に、Nick BostromのPaperclip Maximizerです。ペーパークリップを作成するAIを構築し、最終的に全世界をペーパークリップファクトリーに変えますが、コーヒーフェッチャーも機能します。

FacebookのAIの第一人者であるYann LeCunと、キラーロボットの心配をやめるようみんなに伝える記事を共同執筆して議論を巻き起こした人物は、スチュアートに同意しない5つのエスカレートする理由を説明して答えました。

  • ロボットがあなたにコーヒーを持ってきたら、その自己保存本能は消えます。オフにすることができます。
  • 超インテリジェント(および超強力)マシンでオープンエンドの目標を構築するためには、目標にいくつかの保護条件がなければ信じられないほど愚かでなければなりません。
  • 以前は予期していなかった悪い行動を防ぐために、目的の新しい用語を追加できるメカニズムがなければ、かなり無能でなければなりません。人間には、目的関数を形成し、進化によって組み込まれた固定用語を補完するための教育と法律があります。
  • 最も高度なインテリジェントマシンでさえ、その能力は物理学によって制限されており、そのサイズとニーズにより、物理的な攻撃に対して脆弱になります。ここでは多くのインテリジェンスは必要ありません。ウイルスはあなたより無限に知能が低いですが、それでもあなたを殺すことができます。
  • 同様の量のコンピューティングリソースが与えられた場合、邪悪な超インテリジェントマシンを無効化するためだけに設計された2番目のマシンが常に勝ちます(特殊なマシンは常に一般的なものに勝るからです)。

スチュアートと彼に同意する他の人は、問題を同じように見ていません。彼らは、気候変動の場合と同様に、本質的に「有害」となるように設計されていないシステムから実存的な脅威が生じる可能性があるが、適切なプロトコルはそもそも問題を防いでいると主張する。これは理にかなっていますが、そうです 代替視点 NYUのGary MarcusがTwitterでポーズをとった:

現実の世界では、現在のロボットはドアノブを回すのに苦労しており、「オートパイロット」モードで運転されているテスラは、後部に駐車した緊急車両を保持しています。まるで14世紀の人々が交通事故を心配しているかのようです。

科学の分野と同様に、キラーロボットなどの実存的な脅威を心配する必要があるか、バイアスやAIの調整などの差し迫った問題に焦点を合わせるかは、質問の枠組みによって異なります。

どのくらいの時間、エネルギー、およびその他のリソースを、理論上のみの問題に投入しますか。多くの専門家の見積もりでは、発生する可能性はほとんどゼロに近いでしょうか。

ここでの議論全体を読んでください(Ben Paceに寄せられた大きなヒントを1つの投稿にまとめてください!)。