ChatGPT以来で最も急速に成長しているAIアプリ

MetaのMuseはChatGPT以来、最も急速に成長しているAIアプリケーションであり、このプロダクトリリースの背後には、一度の計算能力需要イベントが隠されている。12日間でダウンロード数は280万回に達し、ChatGPT同時期は130万回だった。日間アクティブユーザー数は64.2万人で、ChatGPTは23.1万人だった。両主要アプリストアでランキング1位となったこともある。さらに、ある1日にはMuseがMetaの時価総額を1920億ドル増加させた。 市場はこの点を見逃している：全てのMuseユーザーは無料でクラウドコンピューターを1台利用できる——永続稼働のUbuntu VM、ルートファイルシステム、隔離ストレージだ。チャットボットはユーザーにトークンを貸し出し、エージェントはマシンを貸し出す。そして、ユーザーが入力していなくても、マシンは常にメモリとストレージを必要とする。 私の方法で計算すると、1ユーザーにつき2 vCPU（AMD）＋8GB RAM（Micron、SK hynix）＋100GB SSD（SanDisk）となる。ユーザー数が340万人に達した時点で、27PBのDRAMと340PBのNANDに相当することになる。Metaは36億人へクロスマーケティングできる。ユーザー数が1億人になれば、必要なのは800PBのDRAMと10EBのフラッシュメモリとなる。 エージェントのワークロードで要求されるメモリ消費規模は、従来のトレーニングタスクよりも大きい。受信箱、カレンダー、ショッピングカートをコンテキスト内に保持し続ける各エージェントは、常駐メモリ型のコンピューティングであり、24時間稼働し続ける。