10恥ずかしいアルゴリズムが失敗する

テクノロジーは、オタクだけのものではなく、すべての人のためのものであり、それは多くの人々です。 AppleやAmazonからFacebook、Microsoft、Googleに至るまで、ほとんどのハードウェアとソフトウェアを制御している企業はほんの一握りであり、ウォレットと眼球を制御するためにできることは限られています。 貧しい巨大企業とは何ですか？ アルゴリズムに依存して、重要な決定を下します。

Oxford Living Dictionariesは、アルゴリズムを「計算または他の問題解決操作、特にコンピューターが従うプロセスまたは一連のルール」と定義しています。 完璧な例は、Facebookニュースフィードです。 一部の投稿が一部の人々のニュースフィードに表示されるかどうかは誰にもわかりませんが、Facebookにはあります。 または、Amazonが関連書籍を表示するのはどうですか Googleでの関連検索？ これらはすべて厳重に守られた秘密であり、会社にとって多くの仕事をし、あなたの人生に大きな影響を与える可能性があります。

しかし、アルゴリズムは完璧ではありません。 それらは失敗し、いくつかは見事に失敗します。 ソーシャルメディアのまぶしさを加えると、小さなグリッチがすぐにPRの悪夢に変わります。 悪意があることはめったにありません。 これらは 、ニューヨーク・タイムズ が「フランケンシュタインの瞬間」と呼ぶものである傾向があり、そこでは誰かが作成したクリーチャーがモンスターに変わります。 しかし、それは起こります。私たちは、以下の最もひどい最近の例をいくつかまとめました。 以下のコメントでお気に入りを教えてください。

1 Instagramの疑わしい広告

The Guardianが 報告したように、Facebookは自身のユーザーからの投稿でInstagramサービスの広告を実行することを好みます。 しかし、アルゴリズムは間違った「写真」を選んで、 The Guardianの レポーターであるOlivia Solonの友人にプッシュし、脅迫メールの1年前のスクリーンショットを選択しました。



2ターゲット人種差別的な広告

先週、ProPublicaはFacebookが広告主が「ユダヤ人嫌い」のような不快なカテゴリの人々をターゲットにできることを報告した。 このサイトは、「ユダヤ人が世界を台無しにする理由」や「ヒトラーが何も悪いことをしなかった」などに肯定的に反応する視聴者をターゲットとした広告（上記）に30ドルを支払った。 15分以内に承認されました。

スレートは同様に不快なカテゴリーを見つけ、Facebookが謝罪するだけでなく、人間の監視で修正することを約束しなければならなかった長いアイテムの別のものになりました。 ご存知のように、ロシアに100, 000ドル相当の選挙広告を掲載したときのように。

Facebookの投稿で、COOのシェリルサンドバーグは、「これらの言葉にうんざりし失望した」と述べ、広告ツールの変更を発表しました。

BuzzFeedは、Googleが同様のことをどのように処理するかを確認し、人種差別主義者や偏見者に見えるようにターゲットを絞った広告を設定することも簡単であることがわかりました。 Daily BeastはTwitterでそれをチェックアウトし、「Nazi」、「wetback」、Nワードなどの用語を使用して何百万もの広告を見つけました。



3 Facebookのレビューの悲惨な年

Facebookを使用している場合、過去12か月間のハイライト付きの年末のアルゴリズム生成ビデオを見たことは間違いありません。 または、一部の人にとっては、暗い場所です。 2014年、一人の父親が亡くなった娘の写真を見て、別の父親が炎の中で彼の家のスナップショットを見ました。 他の例には、亡くなったペットを見た人、親の灰でいっぱいのur、亡くなった友人が含まれます。 Facebookは2015年までに、悲しい思い出を取り除くことを約束しました。

• 4テスラオートパイロットクラッシュ

  ほとんどのアルゴリズムスナフスは致命的とはほど遠いですが、自動運転車の世界はまったく新しいレベルの危険をもたらします。 それは少なくとも一度はすでに起こっています。 フロリダの高速道路のテスラの所有者は、半自律モード（オートパイロット）を使用し、トラクタートレーラーに衝突して彼を遮断しました。 テスラはすぐにアップグレードを発行しましたが、それは本当にオートパイロットモードのせいですか？ 上記のビデオに見られるように、システムはドライバーが問題に注意を払うことを要求するため、National Highway Traffic Safety Administrationはおそらくそうではないと言っています。 現在、Teslaは、ドライバーが最初に視覚的な合図に反応しない場合、オートパイロットが関与することさえ防止します。



5 Tay the Racist Microsoft AI

数年前、チャットボットは世界を席巻し、カスタマーサービス担当者に取って代わり、情報を得るためのオンラインの世界をおしゃべりにしていたはずです。 Microsoftは2016年3月、18歳から24歳までの人々がTwitterでやり取りできるTayというAIを公開することで対応しました。 Tayは、大衆向けの公開ツイートを作成します。 しかし、24時間も経たないうちに、口の悪い大衆から学び、テイは本格的な人種差別主義者になりました。 マイクロソフトはテイを即座に引き下げました。 彼女は2016年12月にZoという新しいAIとして戻り、「搾取から保護するために強力なチェックとバランスを整えています」。



6おめでとうございます（存在しない）赤ちゃん！

完全な開示：これを書いているとき、私の妻は実際に妊娠しています。 私たち二人とも、誰かが私たちのためにベビーレジストリから何かを購入したというAmazonからこのメールを受け取りました。 まだ公開していませんでしたが、それほど衝撃的ではありませんでした。 一方、他の数百万人のAmazonの顧客も同じメモを受け取りました。その中には、レジストリを持たない人もいれば、途中の赤ちゃんもいます。 フィッシングスキームの一部である可能性がありますが、そうではありませんでした。 Amazonはエラーをキャッチし、フォローアップの謝罪メールを送信しました。 その時までに、多くの人がこれが不適切または無感覚であることを訴えていました。 これはグリッチなメールサーバーよりもアルゴリズムが少なかったが、常に攻撃しやすいことを示しています。



7アマゾンの「推奨」爆弾資料

Fox News から The New York Times まで、イギリスのChannel 4 Newsで報道された後、誰もがこれに飛びつきました。 Amazonの「頻繁に購入する」機能は、サイトが名前を付けていない成分（硝酸カリウム）から始めた場合、爆弾を作るために必要なものを人々に示すことがわかったと思われます。

Amazonのアルゴリズムが実際に行ったのは、バイヤーに少量の黒い粉を作る成分を見せることでした。これは英国では完全に合法であり、花火のようなあらゆるものに使用されます。 Idle Wordsのブログ投稿。 代わりに、すべてのレポートはアマゾンがどのようにそれを調べているかに関するものです。なぜなら、それは彼らがテロリズムと論理を恐れる世界でやっていると言わなければならないからです。



8 Googleマップが人種差別主義者を獲得

2015年、GoogleはGoogleマップで「n ***** king」と「n *** a house」を検索したことを謝罪しなければなりませんでしたが、当時はまだバラクオバマに占領されていたホワイトハウスに至りました。 これは、「Googlebomb」の結果であり、繰り返し使用される用語が検索エンジンによって取得され、「人気」とマークされるため、検索結果の先頭に移動します。 「Santorum」という言葉が新しい定義を得た方法です。



9 Googleが人間をゴリラとしてタグ付け

Googleフォトは、すべての写真などを保存する素晴らしいアプリ/サービスです。 それらの1つは、写真に写っている人や物に自動タグを付けることです。 顔認識を使用して、正しい人物に絞り込みます。 私はすべての犬のフォルダも持っていますが、タグを付けませんでした。 2015年にGoogleがコンピュータープログラマーのJackyAlcinéとその友人（両方とも黒人）がゴリラとしてIDを取得したことを謝罪しなければならなかったのは、うまくいきました。 「私たちはapp然とし、これが起こったことを本当に残念に思っています」とGoogleはPCMagに語った。



10のロボットセキュリティが子供に当たり、自殺する

Knightscopeは、学校やモール、近所をパトロールするために、K5と呼ばれる自律型セキュリティロボットを製造しています。 高さ5フィートのダレック風のホイール上のコーンは、まだベータテスト中であり、犯罪を阻止するためではなく、不具合のためにニュースを発信する傾向があります。

たとえば、2016年7月、パロアルトのスタンフォードショッピングセンターにあるK5が16か月齢の足で走り、ナイトスコープは正式に謝罪しなければなりませんでした。 同じ場所（おそらく同じドロイド）には、酔っ払った駐車場で口論がありましたが、少なくともK5のせいではありませんでした。 ju審員は、ワシントンDCのオフィス/ショッピング複合施設、ジョージタウンウォーターフロントのK5ユニットにまだ出ています。1週間の仕事の後、階段を降りて噴水に落ちたと言われています。 スカイネットの軍隊には見栄えがよくありません。