Googleのテンソル処理ユニットは機械学習のルールを変更します

Googleが先週I / O開発者会議で行った最も興味深い、そして予想外の発表の1つは、機械学習用に独自のチップを設計および実装したことです。 GoogleのCEOであるSundar Pichaiは、基調講演で、Tensor Processing Unit（TPU）と呼ばれるものを紹介し、同社はAlpha Goマシンでこれらを使用し、GoチャンピオンのLee Sedolを破ったと述べました。

「TPUは、市販のFPGAやGPUよりも1ワットあたり1桁高いパフォーマンスです」とピチャイは言いました。 Googleの著名なハードウェアエンジニアであるNorm Jouppi氏は、TPUはカスタムASIC（特定用途向け集積回路）であるとブログの記事で説明しています。 つまり、機械学習を実行するために特別に設計されたチップであり、特にGoogleの機械学習フレームワークであるTensorFlowに合わせて調整されています。

投稿で、Jouppiは、計算精度の低下に対して「より耐性がある」、つまり操作ごとに必要なトランジスタが少ないことを意味すると述べました。 これにより、Googleは1秒あたりの操作数を増やすことができ、ユーザーは結果をより迅速に取得できます。 彼は、TPUを備えたボードがデータセンターラックのハードディスクドライブスロットに収まり、TPUで満たされたサーバーラックのイメージを示し、同社のAlphaGoマシンで使用されていると述べました。

さらに、Jouppi氏は、TPUがすでに検索結果の関連性を改善するために使用されるRankBrainや、地図やナビゲーションの精度と品質を改善するために使用されるStreet Viewなど、Googleで多くのアプリケーションに取り組んでいると述べました。

記者会見で、Googleの技術インフラ担当副社長UrsHölzleは、最新のCPUとGPUが設計されている高精度の浮動小数点演算ではなく、8ビット整数演算を使用してTPUが実行されることを確認しました。 ほとんどの機械学習アルゴリズムは、より低い解像度のデータで問題なく取得できます。つまり、チップは特定の領域でより多くの操作を処理し、より複雑なモデルに効率的に取り組むことができます。 これは新しいアイデアではありません。今年初めにCESで発表されたNvidia Drive PX 2モジュールは、32ビット浮動小数点精度で8テラフロップスの能力がありますが、24のディープラーニング「テラオプス」（8 -ビット整数演算）。

Hölzleは詳細な説明を避けましたが、レポートは、Googleが今日TPUとGPUの両方を使用していることを確認したと述べています。 彼は、これはしばらく続くと述べたが、GoogleがGPUをあまりにも一般的であると見なし、機械学習により最適化されたチップを好むことを示唆した。 彼は、同社は後にチップの利点を説明する論文を発表すると述べたが、これらは他の企業への販売ではなく、内部使用専用に設計されていることを明らかにした。 彼が説明した別のアプリケーションは、Android搭載携帯電話で使用される音声認識エンジンの背後にあるコンピューティングの一部を処理するためにチップを使用することでした。

ASICを使用するという選択は、Googleによる興味深い賭けです。 近年の機械学習の最大の進歩（ディープニューラルネットの大きな推進力の背後にある技術）は、これらのモデルをトレーニングするためのGPU、特にNvidia Teslaラインの採用です。 最近、IntelはFPGAの大手メーカーであるアルテラ（フィールドプログラマブルゲートアレイ）を購入しました。 GPUほど汎用ではなく、GoogleのチップほどTensorFlow用に特別に設計されたものではありませんが、さまざまなタスクを実行するようにプログラムできます。 マイクロソフトは、ディープラーニングのためにアルテラFPGAを実験しています。 IBMは、ニューラルネット専用に設計されたTrueNorth Neurosynapticチップを開発しています。これは最近、さまざまなアプリケーションで使用され始めています。 Cadence（Tensilica）、Freescale、およびSynopsysは、これらのモデルを実行するためにDSP（デジタル信号プロセッサ）を推進しています。 MobileyeとNXPは最近、ADASと自動運転車専用に設計されたチップを発表しました。 MovidiusやNervanaを含むいくつかの小規模企業は、AI専用に設計されたチップの計画を発表しています。

長期的にどのアプローチが最適かを知るのは時期尚早ですが、いくつかの非常に異なるオプションがあることは、今後数年間で興味深い競争が見られることを意味します。