MIT のプロトニック抵抗器により、アナログでのディープラーニングの飛躍的な向上が可能になります

パフォーマンスを向上させて、アナログの「曲」をデジタルチップの世界にもたらします。

マサチューセッツ工科大学 (MIT) の研究者チームは、特に機械学習やニューラルネットワークなどの AI 処理タスクにおけるエレクトロニクススケーリングの次の時代に向けた新しいハードウェア抵抗器の設計に取り組んでいます。

しかし、先祖返りのように見えるかもしれませんが（未来への先祖返りが存在するならば）、彼らの作品は本質的にデジタルというよりもアナログ的なデザインに焦点を当てています。プロトン性プログラマブル抵抗器は、人間自身のニューロン (および相互接続するシナプス) を模倣しながら動作を 100 万回加速することで、AI ネットワークを加速するために構築されています。これは単なる誇張ではなく、実際の数字です。

これらすべては、Cerebras の記録破りの Wafer Scale Engine 2 など、現在機械学習ワークロードに使用されているトランジスタベースの設計で必要とされるエネルギー消費量の数分の一にエネルギー消費を削減しながら行われます。

私たちのシナプスとニューロンは、計算の観点からは非常に優れていますが、「ウェットウェア」媒体である水によって制限されます。

水の電気伝導は私たちの脳が機能するのに十分ですが、これらの電気信号は弱い電位を介して機能します。つまり、約 100 ミリボルトの信号が、相互接続されたニューロンのツリーを通ってミリ秒単位で伝播します (シナプスは、ニューロンが電気信号を介して通信する接合部に相当します)。問題の 1 つは、液体の水が 1.23 V の電圧で分解することです。これは、現在最高の CPU で使用されている動作電圧とほぼ同じです。したがって、生物学的設計をコンピューティングのために単純に「再利用」することには困難があります。

「このデバイスの動作メカニズムは、絶縁酸化物に最小のイオンであるプロトンを電気化学的に挿入して、その電子伝導度を調節することです。私たちは非常に薄いデバイスを扱っているため、強力な電気エネルギーを使用してこのイオンの動きを加速することができます。」」と、核科学工学部と材料科学工学部のブリーン・M・カー教授で主著者のビルジ・ユルディス氏は説明する。

もう 1 つの問題は、生物学的ニューロンが現代のトランジスタと同じ規模で構築されていないことです。それらははるかに大きく、直径は 4 ミクロン (0.004 mm) から 100 ミクロン (0.1 mm) の範囲です。入手可能な最新の GPU が既に 6 nm 範囲 (ナノメートルはミクロンの 1,000 分の 1) のトランジスタを搭載している場合、スケールの違いと、同じ空間にどれだけ多くの人工ニューロンを収めることができるかはほぼ想像できるでしょう。。

この研究は、名前が示すとおり、電気の通過に対する抵抗を生み出す固体抵抗器の作成に焦点を当てました。つまり、電子（負に帯電した粒子）の規則正しい動きに抵抗します。電気の動きに抵抗する（したがって熱を発生する）素材を使用するというと直感に反するように聞こえるかもしれませんが、その通りです。しかし、デジタルのディープラーニングと比較して、アナログのディープラーニングには 2 つの明確な利点があります。

まず、抵抗器のプログラミングでは、トレーニングに必要なデータを抵抗器自体に含めることになります。抵抗をプログラムすると (この場合、チップの特定領域の陽子の数を増減することで)、特定のチップ構造に値を追加することになります。これは、情報がすでにアナログチップ内に存在していることを意味します。外部メモリバンクに向けてさらに多くの情報を送受信する必要はありません。これは、まさに現在のほとんどのチップ設計 (および RAM または VRAM) で起こっていることです。これらすべてにより、遅延とエネルギーが節約されます。

次に、MIT のアナログプロセッサはマトリックスで設計されています (Nvidia の Tensor コアを覚えていますか?)。これは、並列処理を実行するという点で、CPU よりも GPU に似ていることを意味します。すべての計算は同時に行われます。

MIT のプロトン抵抗器の設計は室温で動作しますが、これは私たちの脳の 38.5 °C ～ 40 °C よりも容易に実現できます。さらに、最新のチップに必須の機能である電圧変調も可能で、ワークロードの要件に応じて入力電圧を増減でき、消費電力と出力温度に影響を与えます。

研究者らによると、同社の抵抗器は、シリコン製造技術と（驚くべきことに）互換性のある無機材料であるリンケイ酸ガラス（PSG）で作られているため、前世代の設計よりも100万倍高速（これも実際の数値）であるという。、主に二酸化ケイ素だからです。

すでに見たことがあるでしょう。PSG は、湿気を除去するための新しいハードウェア部品とともに箱に入っている小さな袋に入っている粉末状の乾燥剤です。

「その重要な洞察と、MIT.nano が持つ非常に強力なナノ製造技術により、私たちはこれらの部品を組み立て、これらのデバイスが本質的に非常に高速で、妥当な電圧で動作することを実証することができました」と上級著者の Jesús A.デル・アラモ氏は、MIT 電気工学・コンピューターサイエンス学部 (EECS) のドナー教授です。「この研究により、これらのデバイスは将来のアプリケーションに非常に有望であると思われる段階に実際に到達しました。」

トランジスタと同様に、より小さな面積に抵抗器が多いほど、計算密度が高くなります。特定の点に到達すると、このネットワークをトレーニングして、画像認識や自然言語処理などの複雑な AI タスクを実行できるようになります。これらはすべて、電力要件の削減とパフォーマンスの大幅な向上によって実現されます。

おそらく、材料研究はムーアの法則を早すぎる死から救うでしょう。

25 年以上にわたり、熱心な PC 技術ニュースの内部情報として Tom's Hardware を読んでいる専門家に加わりましょう。 CPU、GPU、AI、メーカーのハードウェアなどに関する最新ニュースと詳細なレビューをあなたの受信箱に直接お届けします。

Francisco Pires は、量子コンピューティングのソフト面を持つ Tom's Hardware のフリーランスニュースライターです。

Best of Computex 2023: 戻ってきて良かった

ファンレスの AirJet 冷却技術が Zotac ZBox Mini PC に登場

WD Black 1TB SN850X が Amazon でわずか 77 ドルに値下げ

Brandon Hill 2023 年 6 月 2 日

フランシスコ・ピレス著 2023年6月2日

スチュワート・ベンドル著2023年6月2日

アントン・シロフ著2023年6月2日

アッシュ・ヒル著 2023年6月2日

Zhiye Liu 2023 年 6 月 2 日

Sarah Jacobsson Purewal 2023 年 6 月 1 日

Zhiye Liu 2023 年 6 月 1 日

アントン・シロフ著2023年6月1日