今週の気になったAIニュース vol. 11

GIGAZINE

GPUに比べて最大15倍高速な市販CPU向けのディープラーニングアルゴリズムが開発される

https://gigazine.net/news/20210409-rice-intel-optimize-ai-commodity/

近年のAIは、人間が手を加えなくてもコンピューターが自動的に大量のデータからそのデータの特徴を発見する「ディープラーニング(深層学習)」という学習手法で動いています。このディープラーニングは、コンピューターゲームに代表されるリアルタイム画像処理に特化した演算装置・プロセッサであるGPUで処理されるというのが通例ですが、ライス大学のコンピューター科学者がIntelと共同で「GPUに比べて最大15倍も高速にディープラーニングできるCPU向けソフトウェア」を開発しました。

GIGAZINE

密輸されたNVIDIAのグラボ300枚が漁船から押収される

https://gigazine.net/news/20210409-gpu-smugglers-300-nvidia/

香港海関局が密輸業者の漁船から大量の密輸品を押収したと発表しました。押収された密輸品には、300枚ものNVIDIA製グラフィックボードが含まれていたと報じられています。

GIGAZINE

ゲームプレイ中に飛んでくるヘイトスピーチを自動的にミュートしてくれるAI「Bleep」

https://gigazine.net/news/20210409-intel-bleep/

LGBTQ+へのヘイトや障害者差別、容貌批判など、ゲームをしていて出会うことのあるヘイトスピーチを、自分の設定したレベルまで自動的にミュートしてくれるAIが、Intelの開発した「Bleep」です。

CPUを使ってGPUより7倍高速な学習が可能とな。
今週は↑の論文を読んでみた。

最初は半信半疑だったものの、読んでみると思ったよりしっかりとした話らしい。

最近の研究における、超大規模モデルにおいてはニューロンの一部のみが活性化しているという報告と、最新IntelCPUの疎な確率論的ハッシュマップを使ったスパースベクトル演算命令を組み合わせて、ごく一部のニューロンのみに対して勾配降下法を適用させる、と。

Adamアルゴリズムが適応出来るというので、ホントなら怪しい話じゃ無く、実応用がすぐ近くにある技術。
NN内のパラメーター全部じゃなくて、活性化している一部のみ学習させる、というアイデアはすごく良さそうに見えるが詳細は追えていない。

これは、しばらく時間かけて追いかけてみよう。