Metaがリリースした最新LLM「Llama 3」

Metaは待望の大規模言語モデル（LLM）「Llama 3」の最新版をオープンソースで公開しました。僕も早速いじってみました。https://groq.com/　で無料でLlama２も試せますので違いを比較できるかと思います。

Llama3はLlama 2の1.3Bパラメータから、8億パラメータと700億パラメータの2種類モデルへ増加しています。また事前トレーニングデータでは、Llama 2の約7倍のデータセットが使用され、長文ドキュメントの生成能力が強化されています。今後はマルチモーダルにも対応していく予定で画像や音声などの処理機能も追加、強化していくようです。

Llama 3は、クローズドモデルであるGPT-4やClaude Opusには及ばない部分もあるようです。しかしながらオープンソースAIの中ではぶっちぎりのモデルですので今後もMetaの動向には目が離せません！！