*本メディアアラートは英国ブリストルで現地時間2022年3月3日に発表されたブログの抄訳版です。
英Graphcore（本社：英国ブリストル、日本法人：東京都千代田区）は本日、世界初の3D Wafer-on-Wafer プロセッサ「Bow IPU」を発表しました。このプロセッサは、当社の次世代Bow Pod AIコンピュータシステムの心臓部であり、現実世界のAIアプリケーションにおいて、従来のプロセッサよりも最大40%高い性能と16%高い電力効率を実現しています。また従来製品と同価格で、既存のソフトウェアを変更する必要がないことを特徴としています。
英Graphcore（本社：英国ブリストル、日本法人：東京都千代田区）は本日、世界初の3D Wafer-on-Wafer プロセッサ「Bow IPU」を発表しました。このプロセッサは、当社の次世代Bow Pod AIコンピュータシステムの心臓部であり、現実世界のAIアプリケーションにおいて、従来のプロセッサよりも最大40%高い性能と16%高い電力効率を実現しています。また従来製品と同価格で、既存のソフトウェアを変更する必要がないことを特徴としています。
3D Wafer-on-Wafer プロセッサについて
今回の新製品Bow Podシステムの心臓部であるBow IPUプロセッサには、世界初の3次元半導体技術が採用されています。Wafer-on-Wafer 3D技術は、主要取引先であるTSMCと緊密に連携して開発しました。シリコンダイ間ではるかに高い帯域幅を実現すると期待されるWafer-on-Waferですが、当社のColossusアーキテクチャでは、電力効率の最適化と電力供給の向上をウエハレベルで実現するために使用されています。
BOW IPUのWafer-on-Waferでは、2枚のウエハを貼り合わせて新しい3Dダイを生成します。片方のウエハはAI処理用で、1,472個の独立したIPUコアタイルを備えています。アーキテクチャの観点からGC200 IPUプロセッサと互換性があり、搭載されている900MBのプロセッサ内メモリで8,800以上のスレッドを実行できます。もう一方は、電源供給ダイを搭載したウエハです。
そして、処理コアとメモリのすぐ隣にある電源供給ダイに深いトレンチキャパシタ（シリコン基板中に溝を形成し，単位あたりのキャパシタ面積を大きくとれるように工夫した構造）を追加することで、より効率的に電力を供給できるようになり、350テラフロップスのAIコンピュート性能を実現し、40%の性能向上を達成しています。当社はTSMC社との緊密な連携により、バックサイドスルーシリコンビア（BTSV）とWafer-on-Wafer（WoW）のハイブリッド接合における多くの画期的な技術など、技術全体を完全に取得してきました。
今回の新製品Bow Podシステムの心臓部であるBow IPUプロセッサには、世界初の3次元半導体技術が採用されています。Wafer-on-Wafer 3D技術は、主要取引先であるTSMCと緊密に連携して開発しました。シリコンダイ間ではるかに高い帯域幅を実現すると期待されるWafer-on-Waferですが、当社のColossusアーキテクチャでは、電力効率の最適化と電力供給の向上をウエハレベルで実現するために使用されています。
BOW IPUのWafer-on-Waferでは、2枚のウエハを貼り合わせて新しい3Dダイを生成します。片方のウエハはAI処理用で、1,472個の独立したIPUコアタイルを備えています。アーキテクチャの観点からGC200 IPUプロセッサと互換性があり、搭載されている900MBのプロセッサ内メモリで8,800以上のスレッドを実行できます。もう一方は、電源供給ダイを搭載したウエハです。
そして、処理コアとメモリのすぐ隣にある電源供給ダイに深いトレンチキャパシタ（シリコン基板中に溝を形成し，単位あたりのキャパシタ面積を大きくとれるように工夫した構造）を追加することで、より効率的に電力を供給できるようになり、350テラフロップスのAIコンピュート性能を実現し、40%の性能向上を達成しています。当社はTSMC社との緊密な連携により、バックサイドスルーシリコンビア（BTSV）とWafer-on-Wafer（WoW）のハイブリッド接合における多くの画期的な技術など、技術全体を完全に取得してきました。
実際の成果
Bow Podは、自然言語処理用のGPTやBERT、コンピュータビジョン用のEfficientNetやResNet、グラフニューラルネットワークなど、幅広いAI用途に向けて実世界の性能を大規模に提供するためのものです。Bow Podシステムを導入したことで、当社のMk2 IPU-Podシステムと同じピークパワーエンベロープにおいて、幅広いAI用途で性能が最大40%向上した事例も報告されています。
Bow Pod16は、最先端のコンピュータビジョンモデルであるEfficientNetにおいて、同等のNVIDIA DGX A100システムよりも5倍以上も高い性能を、実に半額の価格で実現します。これは総保有コストの面において、最大で10倍の優位性があることになります。
性能向上に加え、Bow Podシステムでは従来のプロセッサよりも電力効率が大幅に向上しています。実在するさまざまなアプリケーションでテストした結果、Bow Podではワットあたりの性能が最大16%向上しています。
Bow Podは、自然言語処理用のGPTやBERT、コンピュータビジョン用のEfficientNetやResNet、グラフニューラルネットワークなど、幅広いAI用途に向けて実世界の性能を大規模に提供するためのものです。Bow Podシステムを導入したことで、当社のMk2 IPU-Podシステムと同じピークパワーエンベロープにおいて、幅広いAI用途で性能が最大40%向上した事例も報告されています。
Bow Pod16は、最先端のコンピュータビジョンモデルであるEfficientNetにおいて、同等のNVIDIA DGX A100システムよりも5倍以上も高い性能を、実に半額の価格で実現します。これは総保有コストの面において、最大で10倍の優位性があることになります。
性能向上に加え、Bow Podシステムでは従来のプロセッサよりも電力効率が大幅に向上しています。実在するさまざまなアプリケーションでテストした結果、Bow Podではワットあたりの性能が最大16%向上しています。
信頼される技術
当社のお客様は各分野の大手企業ですが、性能と効率、信頼性を兼ね備えたコンピュータシステムを必要としています。しかし、すでにIPUをお使いのお客様であれば、Bow Podシステムへシームレスに移行できます。パワフルで使いやすいPoplarソフトウェアスタックと、拡大を続けるIPU最適化モデルのライブラリを活用することで、Bow Podシステムのあらゆる能力が自然と引き出されます。
すべてのBow Podシステムの構成要素である新しいBow-2000 IPUマシンは、第2世代のIPU-M2000マシンと同じ堅牢なシステムアーキテクチャをベースにしながらも、パワフルなBow IPUプロセッサを4基搭載することで1.4ペタフロップスのAIコンピュート機能を実現しています。
Bow-2000は既存のIPU-PODシステムと完全な下位互換性があり、高速で低遅延のIPUファブリックや柔軟な1Uフォームファクタはすべてそのままです。Bow-2000は、DellやAtos、Supermicro、Inspur、Lenovoなどの主要ブランドのホストサーバと組み合わせてBow Podシステムを構成しており、4台のBow-2000と1台のホストサーバで構成されるBow Pod16から、8台のBow-2000と1台のホストサーバで構成されるBow Pod32、Bow Pod64、より大型の当社主力システムであるBow Pod256やBow
Pod1024まで、Bow Pod製品群全体の根本的な構成要素となっています。
当社のお客様は各分野の大手企業ですが、性能と効率、信頼性を兼ね備えたコンピュータシステムを必要としています。しかし、すでにIPUをお使いのお客様であれば、Bow Podシステムへシームレスに移行できます。パワフルで使いやすいPoplarソフトウェアスタックと、拡大を続けるIPU最適化モデルのライブラリを活用することで、Bow Podシステムのあらゆる能力が自然と引き出されます。
すべてのBow Podシステムの構成要素である新しいBow-2000 IPUマシンは、第2世代のIPU-M2000マシンと同じ堅牢なシステムアーキテクチャをベースにしながらも、パワフルなBow IPUプロセッサを4基搭載することで1.4ペタフロップスのAIコンピュート機能を実現しています。
Bow-2000は既存のIPU-PODシステムと完全な下位互換性があり、高速で低遅延のIPUファブリックや柔軟な1Uフォームファクタはすべてそのままです。Bow-2000は、DellやAtos、Supermicro、Inspur、Lenovoなどの主要ブランドのホストサーバと組み合わせてBow Podシステムを構成しており、4台のBow-2000と1台のホストサーバで構成されるBow Pod16から、8台のBow-2000と1台のホストサーバで構成されるBow Pod32、Bow Pod64、より大型の当社主力システムであるBow Pod256やBow
Pod1024まで、Bow Pod製品群全体の根本的な構成要素となっています。
導入事例の現状
新しいBow Podシステムは現在発売中で、世界中に向けて出荷が始まっています。Bowの性能と効率の向上を最初に実感していただけるお客様の一つに、米国エネルギー省（DOE）のパシフィック・ノースウエスト国立研究所（PNNL）があり、 サイバーセキュリティや計算機化学などの用途に使用されます。
PNNLの計算・理論化学研究所の共同ディレクターであるスタネイ・チョードリー氏は次のように述べています。「パシフィック・ノースウエスト国立研究所では、機械学習とグラフニューラルネットワークの限界を超え、既存の技術では困難だった科学的問題に取り組んでいます。例えば、計算化学やサイバーセキュリティの用途での応用について研究しています。今年は、Graphcoreシステムのおかげで、このような用途の学習と推論にかかる時間を数日から数時間へ大幅に短縮できました。このような時間の短縮によって、機械学習のツールを有意義な方法で研究活動に取り入れることができるようになると期待しています。このような最新世代の技術でコラボレーションを拡大することが楽しみです。」
米国のクラウドサービスプロバイダーであるCirrascale社は、同社のGraphcloud IPUベアメタルサービスの一部として、Bow Podシステムを本日よりお客様に提供します。またヨーロッパのクラウドサービスプロバイダーであるG-Core Labs社は、Bow IPUクラウドインスタンスを2022年第2四半期より開始すると発表しています。
商品供給
Bow Podシステムは、Graphcoreの世界中の販売パートナーからすぐにご購入いただけます。
Bow Podの販売に際し、Cirrascale Cloud Services社CEO、PJ Go氏は次のように述べています。「多くのAIイノベーターは、CirrascaleのGraphcloudでGraphcoreのIPUの能力を初めて体験することになります。また、計算能力を拡張しなければならないユーザーにとっては、柔軟性の高いスケールアッププラットフォームとなります。GraphcloudにBow Podが加わったことで、大規模なPod構成で大規模モデルを高速化したい場合でも、マルチテナンシーセットアップで個々のユーザーの能力を高めたい場合でも、クラウドにおけるAIコンピューティングが新たな性能レベルに進化します。」
また、G-Core Labs社CEO、Andre Reitenbach氏は次のように述べています。「G-Core Labs のお客様にとって、性能は進歩を意味します。GraphcoreのIPUを使うことで、お客様はAIモデルをより短期間で開発・展開し、ビジネスで成果を得るまでの期間も短縮されます。Bow Podがもたらす計算能力の向上によって、人工知能のイノベーションが加速しています。それと同時に、G-Core Labsのクラウド上で簡単に利用できることから、利用機会の制限もなくなります。」
グラフコアについて
グラフコアは、2016年にNigel ToonとSimon Knowlesによって英国ブリストルで設立されました。AI計算に特化したプロセッサであるIPUの初期コンセプトをゼロから設計し、Deepmindの共同創業者Demis Hassabis氏やUberの当時のチーフサイエンティストZoubin Ghahramani氏など、AIコミュニティの有力者から投資を受けました。その後、セコイア・キャピタル、BMW、マイクロソフト、サムスンなどから総額7億1,000万ドル以上の投資を受けています。現在グラフコアは、アメリカ、イギリス、ヨーロッパ本土、中国、韓国、そして日本にオフィスを構え、全世界の従業員は400名を超え、企業価値は27億7,000万ドルに達しています。
新しいBow Podシステムは現在発売中で、世界中に向けて出荷が始まっています。Bowの性能と効率の向上を最初に実感していただけるお客様の一つに、米国エネルギー省（DOE）のパシフィック・ノースウエスト国立研究所（PNNL）があり、 サイバーセキュリティや計算機化学などの用途に使用されます。
PNNLの計算・理論化学研究所の共同ディレクターであるスタネイ・チョードリー氏は次のように述べています。「パシフィック・ノースウエスト国立研究所では、機械学習とグラフニューラルネットワークの限界を超え、既存の技術では困難だった科学的問題に取り組んでいます。例えば、計算化学やサイバーセキュリティの用途での応用について研究しています。今年は、Graphcoreシステムのおかげで、このような用途の学習と推論にかかる時間を数日から数時間へ大幅に短縮できました。このような時間の短縮によって、機械学習のツールを有意義な方法で研究活動に取り入れることができるようになると期待しています。このような最新世代の技術でコラボレーションを拡大することが楽しみです。」
米国のクラウドサービスプロバイダーであるCirrascale社は、同社のGraphcloud IPUベアメタルサービスの一部として、Bow Podシステムを本日よりお客様に提供します。またヨーロッパのクラウドサービスプロバイダーであるG-Core Labs社は、Bow IPUクラウドインスタンスを2022年第2四半期より開始すると発表しています。
商品供給
Bow Podシステムは、Graphcoreの世界中の販売パートナーからすぐにご購入いただけます。
Bow Podの販売に際し、Cirrascale Cloud Services社CEO、PJ Go氏は次のように述べています。「多くのAIイノベーターは、CirrascaleのGraphcloudでGraphcoreのIPUの能力を初めて体験することになります。また、計算能力を拡張しなければならないユーザーにとっては、柔軟性の高いスケールアッププラットフォームとなります。GraphcloudにBow Podが加わったことで、大規模なPod構成で大規模モデルを高速化したい場合でも、マルチテナンシーセットアップで個々のユーザーの能力を高めたい場合でも、クラウドにおけるAIコンピューティングが新たな性能レベルに進化します。」
また、G-Core Labs社CEO、Andre Reitenbach氏は次のように述べています。「G-Core Labs のお客様にとって、性能は進歩を意味します。GraphcoreのIPUを使うことで、お客様はAIモデルをより短期間で開発・展開し、ビジネスで成果を得るまでの期間も短縮されます。Bow Podがもたらす計算能力の向上によって、人工知能のイノベーションが加速しています。それと同時に、G-Core Labsのクラウド上で簡単に利用できることから、利用機会の制限もなくなります。」
グラフコアについて
グラフコアは、2016年にNigel ToonとSimon Knowlesによって英国ブリストルで設立されました。AI計算に特化したプロセッサであるIPUの初期コンセプトをゼロから設計し、Deepmindの共同創業者Demis Hassabis氏やUberの当時のチーフサイエンティストZoubin Ghahramani氏など、AIコミュニティの有力者から投資を受けました。その後、セコイア・キャピタル、BMW、マイクロソフト、サムスンなどから総額7億1,000万ドル以上の投資を受けています。現在グラフコアは、アメリカ、イギリス、ヨーロッパ本土、中国、韓国、そして日本にオフィスを構え、全世界の従業員は400名を超え、企業価値は27億7,000万ドルに達しています。
