LLM

IT

LM StudioをMac M1で使ってみよう

ここでは、Mac M1チップを搭載した端末でLM Studioを使ってローカル環境で大規模言語モデル(LLM)を動かす手順を解説します。 LM Studioとは? LM Studioは、ローカル環境で様々なオープンソースLLM(例:Llam...
IT

AIにおける量子化(Quantization)

AIにおける量子化(Quantization)とは? (子ども向け解説) 量子化(Quantization)は、AIの頭脳(モデル)を小さく・軽く・速くするためのテクニックです。 💡 簡単に言うと? 量子化(Quantization)とは、...
IT

NDCGとは?サンプルを使ってみてみよう。

NDCG(正規化割引累積利得) は、検索エンジンやレコメンダーシステムにおいて、アイテムのランキングの「良さ」を評価する指標です。 特に、「重要な(関連性の高い)アイテムが上位に来ているかどうか」を数値で評価します。 計算方法はこちらになり...
IT

AIと教育について

MITのコンピュータサイエンス専攻の学生を対象に、AIと学習に関する実験が行われた記事を見つけました。実験では、学生たちに、まったく学んだことのないFortran言語を使って問題を解く課題が出されました。学生たちは3つのグループに分けられ、...
IT

Llama(ラマ)「大規模言語モデル(LLM)」をMacbook Pro (M1)で動かしてみよう

Llama(ラマ)とはLarge Language Model Meta AIの略で、FacebookやInstagramで知られるMeta社が開発した大規模言語モデル(LLM)です。 Llama2(ラマツー)では、パラメータ数が70億・1...