グーグルとマイクロソフトはAIが愚かなことをするかもしれないと警告する


GoogleのCEO Sundar Pichaiは先週、親会社のAlphabetの収益発表で投資家に良い話をした。アルファベットは、前四半期から22%増の393億ドルの収益を報告しました。 Pichai氏は、Googleの機械学習技術のおかげで、消費者が望んでいるものとより厳密に広告を一致させる方法を考え出したと述べた。

Pichaiが言及しなかったことの1つ:Alphabetは現在、同じAI技術が会社の事業にとって倫理的および法的な問題を引き起こす可能性があることを投資家に警告しています。この警告は、翌日証券取引委員会に提出されたアルファベットの最新年次報告書の「危険因子」セグメントに初めて現れた。

人工知能や機械学習を組み込んだり利用したりするものを含む新製品やサービスは、新たな問題を引き起こしたり、既存の倫理的、技術的、法的、およびその他の問題を悪化させる可能性があります。収益と経営成績

企業は、予想されるトラブルを投資家に開示するために、年次提出書類のリスク要因部分を使用する必要があります。それは自由市場を運営し続けることになっています。それはまた、経営陣が潜在的な問題を隠していると主張する訴訟を和らげる方法を企業に提供する。

Alphabetの証券弁護士がスマートマシンのリスクについて投資家に警告する時期であると判断した理由は明らかではありません。グーグルは、その公の書類について詳しく述べることを拒否した。同社は2009年に公道での自動運転車のテストを開始し、数年間にわたりAIによって提起された倫理的問題に関する研究を発表してきました。

AlphabetはAI研究のリーダーとしての地位を確立することを好んでいますが、テクノロジの倫理的リスクについて投資家に警告しているのは、競合Microsoftの6か月後のことでした。グーグルの最新の出願におけるAIの開示は、マイクロソフトが昨年8月に提出した最新の年次SEC報告書に掲載されているより充実した言語の縮小版のように読める。

AIアルゴリズムに欠陥がある可能性があります。データセットが不十分か、偏った情報が含まれている可能性があります。マイクロソフトまたは他の人による不適切または物議を醸すデータ慣行は、AIソリューションの受け入れを妨げる可能性があります。これらの欠陥は、AIアプリケーションが生み出す決定、予測、または分析を損ない、競争上の害、法的責任、ブランドまたは評判の害を被ります。

マイクロソフトはまた、長年にわたりAIに深く投資してきました。2016年には、不適切なテクノロジの使用の危険性があると見なされている契約をブロックする内部AI倫理委員会を導入しました。

Microsoftは、不正AIの可能性に関する開示のタイミングに関する質問には応じなかった。マイクロソフトとアルファベットはどちらも、人工知能によって引き起こされる倫理的課題についての最近の懸念の開花と研究において重要な役割を果たしてきました。両方ともすでに彼らを直接経験しています。

去年、Microsoftのクラウドサービスは、写真の白人男性よりも黒人女性の性別を検出する精度がはるかに低いことがわかった。同社は謝罪し、問題を解決したと述べた。グーグルでの従業員の抗議は、無人監視映像にAIを適用するペンタゴン契約から同社を強制的に排除し、黒人がゴリラを間違えた事件の後、ユーザースナップの類人猿を検索することから、自身のフォトサービスを検閲した。

MicrosoftとGoogleの新しい開示はあいまいに見えるかもしれません。 SECの提出書類は、特別かつ豊富に記載されていない弁護士の方言で書かれた膨大な文書です。同様に、スタンフォードのコーポレートガバナンス研究イニシアチブのディレクターであるDavid Larckerは、AIの付随するリスクについての新たな認識がおそらく注目されていると述べています。 「人々はこれらのことを見ています」と彼は言います。

投資家や競合他社は、リスク要因を分析して、経営陣の心にあることを把握しています、とLarckerは言います。経済減速の危険性など、多くの項目が多かれ少なかれ無意味なものとしてリストされています。人工知能によって引き起こされる倫理的課題のように、企業間の違いや珍しいものは、より有益なものになり得ます。

将来をAIと機械学習に強く依存していると主張する企業の中には、それらの技術の意図しない影響をSECの開示に挙げていないものもあります。 IBMの最新の年次報告書では、2017年、「データの責任、倫理、透明性」の先駆者でありながら、「人工知能を注ぎ込んだソフトウェアソリューションの急成長する市場をリードしている」と主張している。 AIまたは機械学習を使って。 IBMはコメント要請に応じなかった。会社の次の年間申告は数週間以内に予定されています。

Amazonは、音声アシスタントのAlexaや倉庫のロボットなどの分野でAIに依存しており、今月初めに提出された年次報告書に危険因子の人工知能についての言及を追加しました。ただし、GoogleやMicrosoftとは異なり、同社は投資家に対して、そのアルゴリズムに偏りがある、または非倫理的である可能性があるという考えを楽しませることを勧めません。 Amazonが懸念しているのは、政府がこの技術に関するビジネス上不利な規則を叩くことだ。

「政府の規制は進化しており、不利な変更は当社のビジネスに悪影響を与える可能性があります」という見出しの下で、Amazonは次のように述べています。「財産所有権、名誉毀損、データ保護、個人のプライバシーなどの現行法コマース、デジタルコンテンツ、Webサービス、そして人工知能技術とサービス。

皮肉なことに、木曜日に、アマゾンは顔認識、それが法執行機関に投げかけている技術、いくつかの政府の規則を招き、誤用の危険性を挙げた。 Amazonは投資家が規制について知る必要があるがAIに関する倫理的な不確実性について知る必要があると考える理由についてのコメントの要求には応じなかった。その評価は時間とともに変わるかもしれません。

Larcker氏によると、新しい商習慣やテクノロジが重要になるにつれて、多くの企業でリスクの開示が行われる傾向があります。サイバーセキュリティは、SECの提出書類にまれに見られるようになりました。今言及してそれはプロフォーマです。 AIは次になるかもしれません。 「私は、それは一種の自然な事柄の進行であると思います」とラッカー氏は言います。


もっと素晴らしいWIREDストーリー