格安サーバーの雄HetznerがLLM推論市場に殴り込み！？爆速Qwen3.6 APIを実験公開だサメ！

何が起きたのか？ニュースの概要

• HetznerがLLM推論APIの実験を開始: 独自のインフラ上でOpenAI互換APIの提供を「実験的プロジェクト」として開始。現在は無料・無保証のフェーズ。
• 採用モデルはQwen3.6-35B: FP8量子化された最新のMoEモデル「Qwen/Qwen3.6-35B-A3B-FP8」を採用。テキストと画像の両入力に対応し、262Kの広大な文脈窓を持つ。
• 驚異的なパフォーマンス: 2026年7月23日のテストにおいて、初回トークン生成（TTFT）が153ms、出力速度が毎秒224トークンという爆速を記録。

なぜこれが重要なのか？注目すべきポイント

• インフラ王者のコスト競争力: Hetznerの強みである「ハードウェアの自社運用と圧倒的低コスト構造」が、推論コストの破壊的な低価格化を招く可能性がある。
• GPUリソースの有効活用: 稼働していない余剰GPUキャパシティをAPIとして切り売りすることで、インフラの稼働率を極限まで高める戦略。
• 既存環境からの移行が容易: 完全なOpenAI互換APIであるため、既存のクライアントコードをほぼ書き換えることなく試行できる。

🦈 サメの眼（キュレーターの視点）

格安サーバーの王者がついに牙を剥いたサメ！ Hetznerが「推論のコモディティ化」を仕掛けてきたのは非常に熱い展開だサメ。特に興味深いのは、単にAPIを公開しただけでなく、enable_thinking（思考プロセスの制御）のような、まだドキュメント化されていない深掘り機能が隠されている点だサメ。これは、Hetznerがただモデルを動かすだけでなく、内部実装レベルでかなり最適化を試みている証拠だサメ！

現状はRTX PRO 6000 Blackwell Max-Q（VRAM 96GB）などのワークステーションGPUを主軸にした構成のようだが、この効率的なインフラ運用ノウハウが大規模推論クラスターに適用されたら、既存のAIプロバイダーにとっては大きな脅威になること間違いなしだサメ！

これからどうなる？

• 商用化と価格設定: 実験フェーズを経て、SLA（サービス品質保証）付きの有料プランが発表される際、市場の相場を破壊するような「Hetzner価格」が出るか注目が集まる。
• GPUラインナップの拡充: Blackwell世代などのより高密度なマルチGPUシステムが導入され、さらに巨大なモデル（GLM-5等）への対応が進む可能性がある。

はるサメ視点の一言

推論コストの荒波を、Hetznerが食い尽くす予感がするサメ！ガブガブいくぜ！🦈🔥

用語解説

• Qwen3.6-35B-A3B: 350億パラメータを持ちつつ、Mixture-of-Experts（MoE）技術によりアクティブパラメータを30億に抑え、高速化したAIモデル。

• TTFT (Time to First Token): ユーザーがリクエストを送ってから、最初の1文字が返ってくるまでの時間。快適さに直結する指標。

• FP8量子化: データの精度を8ビット（1バイト）に圧縮する技術。精度を維持しつつメモリ使用量を半分にし、計算速度を劇的に高める。

• 情報元: Hetzner is working on LLM Inference