2026年第1四半期の AI インフラストラクチャへの支出は897億ドルに達し、通年では4,970億ドルに達すると予測されています。その多くは十分に活用されていません。AI を導入している企業の大半が AI 予算の超過を報告する一方、アクセラレーターのアイドル時間は依然として最大の無駄の発生源となっています。また、データセンターの所有者と運営者は、コスト、キャパシティ予測、電力の確保を管理上の最重要課題に挙げています。
課題は、レイヤーをまたいで情報をつなぐことにあります。AI ワークロードはトークン、リクエスト、トレーニングステップ、レイテンシーなどのワークロード指標で記述される一方、それを実行するインフラストラクチャは、それとは別のシステムを通じて調達、割り当て、計測、課金されています。これらの視点がつながることはまれであり、ワークロードが共有インフラストラクチャをどのように使っているかを把握することも、実測された需要に基づいて計画することも困難です。Open Compute Project や MLCommons から CNCF、FinOps Foundation、その他の Linux Foundation プロジェクトに至るまで、エコシステム全体ですでに重要な取り組みが進められています。私たちは、これらの取り組みを土台として、AI インフラストラクチャのためのオープンなインテリジェンスレイヤーを構築する機会があると考えています。それは、ワークロードをそれが使用するインフラストラクチャと結びつけ、リソースの使用量、稼働率、コスト、エネルギーを計測し、説明するものです。これにより、インフラストラクチャチーム、そのコントロールプレーン、そしてその上に構築されることが増えている自動化エージェントは、配置、キャパシティ、構成、最適化に関する判断を実測に基づいて行えるようになります。Open Compute Project が2025年に発表した AI データセンターインフラストラクチャに関する協働の呼びかけは、公開書簡が物理レイヤーにおける共同作業の出発点となり得ることを示しました。本書簡は、その一つ上のレイヤーに対して同じことを呼びかけるものです。
現在、各組織はこれをそれぞれ独自の方法で構築しています。私たち署名者は、これをオープンな形で共に築くことを提案します。
Aitra とは
Aitra は、モデルからファシリティまで、AI がインフラストラクチャをどのように使っているかを計測し、理解し、最適化するためのオープンなイニシアチブです。特定のハードウェア、ソフトウェア、AI スタックを規定するものではありません。結果を比較可能にするために合意が必要な手法とインターフェースを定義し、それ以外の部分は差別化の余地として開かれたままにします。こうした定義と並行して、Aitra はそのリファレンス実装として、Apache 2.0 のもとでオープンソースのソフトウェアスタックを構築しています。これにより、どの組織もドキュメントから一から始めるのではなく、コンポーネントを導入、拡張、置き換えることができます。Aitra はモデルの品質を評価せず、ランキングではなく手法を公開し、インフラストラクチャチームがすでに運用しているオーケストレーター、オブザーバビリティスタック、ファシリティシステムを通じて機能します。変更を推奨または適用する場合は、人間が定めたポリシーの範囲内で行い、すべてのアクションは説明可能、監査可能、かつ元に戻せるものとします。
取り組みは2026年に始まりました。最初のコンポーネントである Aitra Meter は SODA Foundation に寄贈され、横浜と上海で開催された KubeCon + CloudNativeCon で披露されました。並行して、清華大学は Linux Foundation Research と Aitra の支援を受け、統一された再現可能なテストポイントのもとで推論のエネルギー効率評価を2回にわたり公開しました。その結果、同じハードウェア上でも、出力トークンあたりのエネルギーは、モデル、数値精度、推論エンジン、計測境界によって数倍の差が生じることが示されました。この取り組みは、2026年12月の Open Source Summit Japan での公開を目指す Aitra Benchmark の基盤となります。手法と結果:aitra.ai/research
4つの取り組み領域
私たちは4つの重点領域を提案します。これらは Aitra の範囲を定めるものです。ワーキンググループはその中でワークストリームとプロジェクトを立ち上げ、参加者が新たな取り組みを持ち寄るのに応じて領域を拡張していきます。
- モデルとワークロード(Models & Workloads)。何が実行されていて、何を必要としているか。最初の取り組み:リソース使用量、コスト、エネルギーに関する共通のワークロードレベルの指標を定義します。該当する場合はトークンあたりの指標を含め、すべての記録に計測境界を明示します。あわせて、これらの指標をモデルごとに意味のあるものにするために、モデルプロバイダーが提供するワークロードメタデータを定義します。目指す姿:推論、トレーニング、エージェント型、検索(リトリーバル)、バッチの各ワークロードにわたる共通の定義。
- インフラストラクチャと運用(Infrastructure & Operations)。何の上で実行され、何を消費し、何がアイドル状態にあるか。最初の取り組み:アクセラレーターベンダーやサーバー全体で認められたカウンターソースと、共有および分割されたアクセラレーターに対するアトリビューション(使用量の帰属)手法を定義します。目指す姿:アクセラレーターからサーバー、ラック、電力、冷却を経てファシリティに至るまでのアトリビューションと、電力および熱の制約に照らして表現されるキャパシティ。ここが OCP の物理インフラストラクチャに関する取り組みとの境界となります。
- テレメトリーとインターフェース(Telemetry & Interfaces)。共通言語。最初の取り組み:モデルからファシリティまでを対象とするオープンなスキーマと、アクセラレーターおよび推論エンジン向けのプロバイダーインターフェースを定義し、Prometheus、OpenTelemetry、Redfish にマッピングします。目指す姿:計測された状態のグラフと、オーケストレーター、オブザーバビリティ、コスト管理ツール、ファシリティシステム向けのリファレンス統合。
- ベンチマークとリサーチ(Benchmarking & Research)。手法の再現性と、手法そのもの。最初の取り組み:公開済みの評価手順を、ワークロードの所有者が定義する品質しきい値のもとで、何を計測対象としたかを明記したマニフェストを伴うオープンな Aitra Benchmark へと発展させ、エージェント型、検索、ツール呼び出しのワークロードへと拡張します。目指す姿:実行結果のオープンデータセット、査読を経た手法、そしてトレーニング、ストレージ、ネットワーク、ヘテロジニアスなアクセラレーターなど、参加者が持ち寄る新たなカテゴリー。
これらについて足並みをそろえることは、インフラストラクチャの両側にメリットをもたらします。ハードウェア、電力、冷却、データセンターのプロバイダーは、実際のワークロードが自社のシステムをどのように使っているかを把握し、実測された需要に基づいて計画できます。モデルプロバイダーは、公表する数値の共通の根拠を得られます。企業とクラウドプロバイダーは、ベンダーをまたいで通用するワークロードレベルのコスト、稼働率、エネルギーの数値と、上限の設定以外の方法で AI 支出を管理するための根拠を得られます。
参加方法
Aitra は、Linux Foundation のプロジェクトである SODA Foundation がホストしています。ワーキンググループは、2026年12月7日〜9日に東京で開催される Open Source Summit Japan で始動します。モデルプロバイダー、推論エンジンおよびトレーニングフレームワークのチーム、ハードウェア、ネットワーク、ストレージ、電力、冷却のプロバイダー、クラウドおよび通信事業者、研究者や大学、そして本番環境で AI を運用している企業の皆さまにご参加いただき、コード、テストインフラストラクチャ、リサーチ、ベンチマーク、本番環境の要件をご提供いただくようお願いいたします。
本書簡にご署名いただき、モデルからファシリティまで、AI インフラストラクチャのためのインテリジェンスレイヤーを共に築いていただくようお願い申し上げます。
敬具
出典:第1四半期の支出897億ドルおよび通年予測4,970億ドル:IDC, Worldwide Quarterly AI Infrastructure Tracker, Q1 2026。AI を導入している企業の大半が AI 予算を超過していること:McKinsey, The cost of intelligence: How CIOs can manage AI demand at scale, 2026年7月20日。コストが4年連続で管理上の最重要課題とされたこと:Uptime Institute, Global Data Center Survey 2026, 2026年7月29日。アクセラレーターのアイドル時間に関する知見:IDC, "Beyond the hype: AI infrastructure costs," Google Cloud ブログ, 2025年12月。清華大学『Large Language Model Inference Energy Efficiency Evaluation Whitepaper(大規模言語モデル推論エネルギー効率評価ホワイトペーパー)』Benchmark 1.5, 2026年10月, aitra.ai/research。