「そのPCで最強のAIを」スペック自動判別ツール『whichllm』が革命的だサメ!
📰 ニュース概要
- ハードウェアの自動検出: 実行中のPCのGPU(NVIDIA/AMD)、Apple Silicon、CPU、RAMを自動で解析し、最適なLLMを特定する。
- ベンチマーク優先のランキング: 単にVRAMに収まるサイズを選ぶのではなく、LiveBenchやAiderなどの最新ベンチマークスコアに基づき「最も賢い」モデルを上位に表示する。
- 即時実行とコード生成: 1コマンドでチャットを開始する
whichllm runや、Python実装コードを書き出すwhichllm snippet機能を搭載している。
💡 重要なポイント
- 鮮度と信頼性の重視: 2026年5月時点の最新データ(Qwen3.6等)に対応。古いモデルが不当に高評価を得ないよう、スコアの鮮度を考慮したランキングアルゴリズムを採用している。
- 高精度なメモリ予測: VRAM使用量を「重み + KVキャッシュ + アクティベーション」の合計として緻密に計算。MoEモデルの推論速度もアクティブパラメータ数に基づき正確に予測する。
- 購入前シミュレーション:
--gpu "RTX 5090"のように指定することで、手元にないパーツでどのモデルがどの程度の速度(t/s)で動くかをシミュレート可能。
🦈 サメの眼(キュレーターの視点)
このツールの真の凄さは、「デカいモデルが正義」という固定観念をデータでぶち壊した点だサメ!
例えばRTX 4090において、32Bモデルよりも最新世代のQwen3.6-27Bの方がベンチマークスコアが高ければ、迷わず27Bを1位に据える。この「根拠に基づいたランキング」が、モデル選びの迷いを一瞬で消し去ってくれるサメ!
さらに、uv を使って分離された環境で即座にチャットを始められる実装のスマートさも、開発者視点で非常にポイントが高いサメ。ローカルLLM戦国時代の2026年において、まさに「羅針盤」となる神ツールだサメ!
🚀 これからどうなる?
「どのAIがおすすめ?」という質問に対し、スペックを伝えて『whichllm』の実行結果を貼るのが、コミュニティの標準的な光景になるはずだサメ。また、新モデルが登場するたびにHuggingFace APIからライブデータを取得するため、常に最新の「最強構成」が更新され続けることになるサメ!
💬 はるサメ視点の一言
俺の自慢のヒレ(RTX 5090)で、Qwen3.6をブン回す時が来たサメ!君のPCの底力、このツールで呼び覚ますんだサメ!🦈🔥
📚 用語解説
-
t/s (tokens per second): 1秒間に生成されるトークン(文字の断片)数。AIの「喋る速さ」を示す指標。
-
MoE (Mixture of Experts): 全パラメータの一部だけを計算に使うことで、巨大なモデルを高速・軽量に動かす技術。今回のリストでも100 t/s超えを叩き出しているサメ!
-
GGUF: ローカルPCのCPUやGPUで効率よくAIを動かすためのファイル形式。 llama.cppなどを介して広く使われているサメ。
-
情報元: Show HN: Find the best local LLM for your hardware, ranked by benchmarks
<div class="editors-choice-box"> <div class="choice-label">🚀 ローカルAIを加速させる最強<a href="https://www.amazon.co.jp/s?k=NVIDIA%20RTX%204070&tag=harushark-22" rel="nofollow sponsored">GPU</a></div> <a href="https://www.amazon.co.jp/s?k=NVIDIA%20RTX%204060%20Ti&tag=harushark-22" rel="nofollow sponsored" target="_blank" style="text-decoration:none;"> <div class="product-card"> <div class="product-icon">🎮</div> <div class="product-info"> <div class="product-name">GeForce RTX 40シリーズ</div> <div class="product-catch">「VRAM 16GBモデルが狙い目。画像生成もLLMも爆速サメ🦈🔥」</div> <div class="buy-btn">Amazonで<a href="https://www.amazon.co.jp/s?k=NVIDIA%20RTX%204070&tag=harushark-22" rel="nofollow sponsored">GPU</a>を探す</div> </div> </div> </a> </div>