4月18日（米国時間）の午前、メタ・プラットフォームズは最新の人工知能（AI）モデルである「Llama 3」を、オープンソースでリリースし、誰にでも使えるようにしたと発表した。また同日の午後、メタのチーフAIサイエンティストであるヤン・ルカンは、Llamaのより強力な後継モデルの開発が進行中だと述べた。また彼は、それが世界最高のクローズ型なAIモデルであるOpenAIの「GPT-4」やグーグルの「Gemini」を凌ぐ可能性があると示唆した。
今回リリースされたLlama 3には、ふたつのバージョンがある。ひとつは80億のパラメーターをもつもので（パラメーターとは、AIモデルのパワーを示す業界用語だ）、もうひとつは700億のパラメータをもつものだ。ルカンは、さらに大きなモデルの開発が進行中であり、現在トレーニング中なのはパラメーターが4,000億を超える最も強力なモデルだと語った。
「微調整には多くの時間がかかります。それでも、これらのモデルのいくつかのバリエーションは、今後数カ月で登場することになるでしょう」。ルカンは、MITで開催された生成AIに焦点を当てたカンファレンスである「Imagination in Action」でこう語った。4,000億を超えるパラメーターをもつモデルがいつリリースされるかは不明だ。
メタは16日、Llama 3をベースにした新しい AIアシスタントである「Meta AI」を公表した（日本では未公開）。そして、テスト結果によると、これらのモデルが以前公開された同様のパラメーターをもつオープンソースのモデルよりも優れているとした。グーグルやOpenAIのような大手AI企業のほとんどが、技術をクローズドにしているなか、ルカンはオープンソースのAIモデルのほうがより迅速に進化するだろう予測している。“人間レベル”の知能の獲得に向かってより速くAI技術を推進していくのは、理論的にオープンソースのほうだとルカンは考えているのだ。
関連記事：「OpenAIはナンバーワンにはなれない」ヤン・ルカンが語る“オープンソース”となったAIの未来
ルカンは、ソフトウェア業界を広く見渡してみれば、オープンソース技術が最終的には勝利するのがわかるはずだと主張した。そして、オープンなアプローチがソフトウェアのインフラとして優勢になっている理由は、より迅速な改善と包括的なコードの検討を可能にするからだと続けた。「多くの人々がコードを見たほうが、AIはより改善されていきます」と彼は言った。「インフラはオープンソースである必要があります。単純に、速く進歩するからです」
メタのオープンソースのAI戦略は、生成AIを取り巻く現在の熱狂を加速させた。同社が23年7月に「Llama 2」をリリースしたことで、多くのスタートアップ、研究者、および起業家がより強力なAIモデルにアクセスし、実験や構築を行なうことができるようになったのだ。
OpenAIのGPT-4やグーグルのGeminiは、有料のAPIを通じてのみ利用可能だが、グーグルは2月、「Gemma」という小さなモデルをダウンロード可能にした。ほかのいくつかの企業も、強力なオープンソースのAIモデルをリリースするメタのやり方を踏襲した。数週間前を振り返ると、スタートアップのDatabricksが公開していたAIモデルが最も強力なものだった。メタが報告したベンチマークスコアが正しい場合、Llama 3は、さらに高性能であると考えられる。
メタの戦略には、同社が研究やコンピューティングリソースに多額の費用をかけて開発したAIモデルを無償で提供することが含まれているとルカンは言う。メタのファウンダー兼CEOであるマーク・ザッカーバーグは、1月のCNBCの取材で、同社が24年、機械学習アルゴリズムをトレーニングするために必要なGPUの取得に、数十億ドルを費やしていると語っていた。同月ザッカーバーグは、メタの究極の目標は、OpenAIやグーグルが公言しているのと同じ、いわゆる汎用人工知能（AGI）──人間の知性ができることのすべてができる機械を開発すること──だと宣言した。
ザッカーバーグは18日（米国時間）、メタがLlama 3を搭載した新しいMeta AIアシスタントをWhatsapp、Instagram、Facebook、Messengerなどの製品に組み込むことを自ら説明する動画をInstagramに投稿した。
Llama 3についてのメタのブログ投稿には、モデルの開発に使用するトレーニングデータの改善にかなりの重点を置いたと記されている。同社によると、Llama 3には前身であるLlama 2の7倍のデータが供給されたという。メタが公開した数字を見たAI専門家のなかには、Llama 3をつくるには多大なエネルギーが必要だったはずだと指摘した人もいた。
オープンソースのAIモデルの能力が進化するにつれ、一部の専門家は、サイバー、化学、生物などの兵器開発をより容易にする可能性があり、（AIが）人間に対して敵対的になる可能性さえあると指摘している。メタは、Llamaが潜在的に有害な発言の出力を防ぐのに役立つというツールをリリースしている。
そのほかのAI分野の関係者たちは、メタのLlamaモデルはもっとオープンにできるが、そのようにはなっていないと指摘している。同社のオープンソースライセンスは、研究者や開発者が構築できるものについて、いくつかの制限を設けているのだ。
非営利研究所であるAllen Institute for AIのシニア応用研究科学者であるルカ・ソルダイニは、Llama 3のリリース後の声明で、「重み係数（パラメーター）をオープンに公開するモデルが増えていくのは素晴らしいことです」と語った。「しかしオープンなコミュニティは、AIパイプラインのすべての部分──データ、トレーニング、ログ、コード、評価──にアクセスする必要があります。これが、これらのモデルの集合的な理解を最終的に加速させるのです」と続けた。
EleutherAIという非営利のオープンソースAIプロジェクトに関与しているAI研究者であるステラ・ビーデルマンは、Llama 2のライセンスはAI研究者が実施できる実験を制限しており、Llama 3のライセンスはさらに制限的であると話した。「メタは重み係数を公開しても、それをどう使うかについては制限をかけることで有名です」とビーデルマンは言う。
メタのLlama 3のライセンスには「月間アクティブユーザーが7億以上の企業は、メタから特別なライセンスを取得する必要がある」という制限がある。これは、競合他社の開発の手助けになることを阻止するために加えられたものだろう。
オープンソースのAIモデルのリポジトリーである「Hugging Face」を運営するAI研究者、クレメント・デランジは、Llama 2をベースにして開発者たちは30,000以上のバリアントを作成したと説明する。「Llama 3に基づいた新しいモデルのリリースが相次ぐと思います」と言うデランジは、「メタは、コミュニティにとって素晴らしい動きをしています」と続けた。
（Originally published on wired.com, translated by Mamiko Nakano)
※『WIRED』による人工知能（AI）の関連記事はこちら。生成AIの関連記事はこちら。
.jpg)
雑誌『WIRED』日本版 VOL.52
「FASHION FUTURE AH!」は好評発売中！
ファッションとはつまり、服のことである。布が何からつくられるのかを知ることであり、拾ったペットボトルを糸にできる現実と、古着を繊維にする困難さについて考えることでもある。次の世代がいかに育まれるべきか、彼ら／彼女らに投げかけるべき言葉を真剣に語り合うことであり、クラフツマンシップを受け継ぐこと、モードと楽観性について洞察すること、そしてとびきりのクリエイティビティのもち主の言葉に耳を傾けることである。あるいは当然、テクノロジーが拡張する可能性を想像することでもあり、自らミシンを踏むことでもある──。およそ10年ぶりとなる『WIRED』のファッション特集。詳細はこちら。