IT

MMLUとは?AIベンチマークの基礎知識

MMLUとは?AIベンチマークの基礎知識 MMLU(Massive Multitask Language Understanding)は、大規模言語モデル(LLM)の知識と推論能力を測定するための有名なベンチマークテストです。 MMLUの概...
IT

ABIとは何か?APIとの違いや重要性をわかりやすく解説

ABIとは何か?APIとの違いや重要性をわかりやすく解説 ソフトウェア開発においてよく耳にする ABI(Application Binary Interface:アプリケーション・バイナリ・インターフェース)。 この記事では、ABIとは何か...
IT

llama.cpp と Ollama の違いとは?

🐪 llama.cpp と 🦙 Ollama の違いとは? llama.cpp と Ollama はどちらも、大規模言語モデル(LLM)をローカル環境で実行するためのツールですが、それぞれ目的や特徴が異なります。 🐪 llama.cpp と...
IT

llama.cpp Mac M1でQwen3を試す

2025年4月29日にリリースされたQwen3をMac M1で試してみました。こちらはAlibaba(アリババ)社が開発した大規模言語モデル(LLM)の最新版です。「Qwen」は「通義千問(Qianwen)」の略で、「多くの問いに通じる」こ...
IT

モデル圧縮手法の比較:量子化・蒸留・プルーニング

モデル圧縮手法の比較:量子化・蒸留・プルーニング 項目 量子化(Quantization) 知識蒸留(Distillation) プルーニング(Pruning) 目的 モデルサイズを小さくし、推論速度を向上させる 大きなモデルの知識を小さな...
IT

Attention is All You Need とは?

「Attention is All You Need」をわかりやすく解説 ✨ Attention is All You Need とは? 「Attention is All You Need」は2017年に発表された論文で、コンピューターが...
IT

LM StudioをMac M1で使ってみよう

ここでは、Mac M1チップを搭載した端末でLM Studioを使ってローカル環境で大規模言語モデル(LLM)を動かす手順を解説します。 LM Studioとは? LM Studioは、ローカル環境で様々なオープンソースLLM(例:Llam...