推論が効率化されるほど推論が必要とされる世界
ジェヴォンズのパラドックスの話の続き、ってわけじゃないんだけど、推論モデルが効率的になればなるほど、より推論が呼び出されるので、全体での計算資源需要は伸びていく、という説明が、尤もらしい気がする。 Why AI Spending Isn’t Slowing Down Soaring demand for reasoning models will consume electricity, microchips and data-center real estate for the foreseeable future. www.wsj.com OpenAIのDeep Researchは、o3の蒸留版で推論コストを抑えたo3-mini(high)を使用し、途中結果を参考にしながら調査を繰り返すようなツールである。このサービスがスケールすればするほど、推論に必要とされる計算資源も伸び続ける。 ...


