IT llama.cpp Mac M1でQwen3を試す
2025年4月29日にリリースされたQwen3をMac M1で試してみました。こちらはAlibaba（アリババ）社が開発した大規模言語モデル（LLM）の最新版です。「Qwen」は「通義千問（Qianwen）」の略で、「多くの問いに通じる」こ...
IT
IT 
IT モデル圧縮手法の比較：量子化・蒸留・プルーニング
モデル圧縮手法の比較：量子化・蒸留・プルーニング 項目 量子化（Quantization） 知識蒸留（Distillation） プルーニング（Pruning） 目的 モデルサイズを小さくし、推論速度を向上させる 大きなモデルの知識を小さな...
IT Attention is All You Need とは？
「Attention is All You Need」をわかりやすく解説 ✨ Attention is All You Need とは？ 「Attention is All You Need」は2017年に発表された論文で、コンピューターが...
IT LM StudioをMac M1で使ってみよう
ここでは、Mac M1チップを搭載した端末でLM Studioを使ってローカル環境で大規模言語モデル（LLM）を動かす手順を解説します。 LM Studioとは？ LM Studioは、ローカル環境で様々なオープンソースLLM（例：Llam...
IT AIにおける量子化（Quantization）
AIにおける量子化（Quantization）とは？ （子ども向け解説） 量子化（Quantization）は、AIの頭脳（モデル）を小さく・軽く・速くするためのテクニックです。 💡 簡単に言うと？ 量子化（Quantization）とは、...
IT NDCGとは？サンプルを使ってみてみよう。
NDCG（正規化割引累積利得） は、検索エンジンやレコメンダーシステムにおいて、アイテムのランキングの「良さ」を評価する指標です。 特に、「重要な（関連性の高い）アイテムが上位に来ているかどうか」を数値で評価します。 計算方法はこちらになり...
IT 直線モデル（線形モデル）にシグモイド関数を通すのはなぜ？
直線モデル（線形モデル）にシグモイド関数を通すのは、モデルの出力を 確率 のような 0から1の範囲 に制限し、非線形性を導入するためです。具体的には、以下の理由からシグモイド関数が使われます。 1. 確率解釈を可能にする シグモイド関数は入...