なんJですの|なんJまとめブログ

    • 本日の注目記事

    Microsoft

    【朗報】人間のかわりに一緒にゲームを遊んでくれるAI、マイクロソフトが近日公開

    MicrosoftCopilotAI

    1: けんもですの 2024/05/22(水) 13:59:29.15 ID:kB+ApOlE0.net BE:894539664-2BP(1000)
    『Minecraft』をAIと一緒に遊べる。マイクロソフト「Copilot AI」近日登場
    https://gadget.phileweb.com/post-76081/

    続きを読む

    【悲報】Nvidiaバブル、終了か。加算演算だけで高速・高性能を実現するAIモデル「BitNet」をMicrosoftが発表し、ハードウェア革命到来

    1: けんもですの 2024/02/28(水) 21:03:49.07 ID:jm46InH00.net BE:666250534-2BP(1000)
    WirelessWire News
    『1ビットLLMの衝撃! 70Bで8.9倍高速 全ての推論を加算のみで!GPU不要になる可能性も』
    https://wirelesswire.jp/2024/02/86094/

    Microsoftの中国チームがとてつもないLLMをリリースした。それが「BitNet 1.58Bits」だ。

    もともとMicrosoftはかねてから「1ビット量子化」の研究を続けて来た。しかし、32ビット浮動小数点での計算が主流な時代にはあまりに野心的で荒唐無稽なプロジェクトに見えていたのは否めない。しかし、現在、大規模言語モデル(LLM;Large Language Model)は8ビット、4ビットで量子化されるのが当たり前になり、量子化しても性能劣化はある程度まで抑えられることも知られるようになった。

    昨年10月に発表した「BitNet」は、多くの人々が他のことに気を取られていてほとんど話題にならなかった。
    そんな中、満を持して発表された1ビットLLMの性能に関するレポートは、衝撃的と言っていい内容だ。論文のタイトルも堂々と「The Era of 1-bit LLM(1ビットLLMの時代)」としている。

    彼らが発表したグラフを引用しよう。

    no title

    まず、最近主流になっている70B(700億)パラメータモデルでの比較である。Llamaの70BとBitNetの70Bモデルを比較すると、BitNetは8.9倍のスループットを誇るという。

    「速いだけで回答が微妙なのでは」と心配するのが普通だろう。
    そこでLlamaモデルとの比較が載っている。

    no title

    この表によると、BitNetはLlamaよりも3倍高速でしかも高精度ということになる。
    PPLは「困惑」の度合いを意味する数値で、低いほど「困惑してない」ことになる。Llamaよりも性能劣化してないどころか性能は上がっている。

    また、各種ベンチマークにおいても平均点は同規模のBitNetがLlamaを上回っている。しかもBitNetは規模が大きくなるほどLlamaに対して優位に立つようになっている。

    この圧倒的なスピードの秘密は、BitNetが文字通り「1ビットで処理している」からだ。

    no title

    続きを読む

    Microsoftの純利益33%増 生成AI(人工知能)が寄与…どんだけ儲かるんだよAIって

    microsoft

    1: けんもですの 2024/01/31(水) 09:16:07.16 ID:v4eIaOOe0.net BE:434776867-2BP(1000)
    Microsoft決算、10〜12月純利益33%増 生成AIが寄与 - 日本経済新聞
    https://www.nikkei.com/article/DGXZQOGN30EFT0Q4A130C2000000/

    【シリコンバレー=渡辺直樹】米マイクロソフトが30日発表した2023年10〜12月期決算は、売上高が前年同期比18%増の620億2000万ドル(約9兆1500億円)、純利益が同33%増の218億7000万ドルだった。米ゲーム大手の買収効果に加え、生成AI(人工知能)を使ったクラウドサービスが好調で4四半期連続で増収増益となった。

    1株利益は2ドル93セントと市場予測を上回った。30日の米株式市場...

    この記事は会員限定です。登録すると続きをお読みいただけます。

    残り377文字

    続きを読む
    メッセージフォーム
    アクセスランキング(PCのみ)
    楽天カード
    スポンサードリンク