1865年に経済学者ウィリアム・スタンレー・ジェヴォンズが提唱した概念1。技術進歩によって資源の使用効率が向上した場合に、資源の消費量は減少するのではなく逆に増加する現象を指す。
DeepSeekの登場により必要な計算資源は効率的になるどころかますます増えていく、とマイクロソフト社のナデラがこのパラドックスを引用しながら主張した2。ただしこのパラドックスの当てはめ方は業界によって違うらしい。何せ古い概念である。経済学ではかなり検証が進み、実際に水資源のように技術革新が消費が増加する事例もあれば、ガソリン車のように技術革新によってエネルギー消費が予想よりは抑えられた事例も、両方存在する。個人的には技術トレンドのパラダイムシフト解釈次第な気もする。
Transfomerベースの言語モデルにおいてはしばらくはスケーリング則に沿った性能改善が続くと見られる。ジェヴォンズのパラドックスを当てはめていいのかはさておき、アルゴリズムの改善が進めば進むほど、資源の消費量も大きくなる、という方向性は当分続くようだ3。
Why Satya Nadella Thinks Jevons Paradox Will Shape AI Industry ↩︎
Algorithmic progress likely spurs more spending on compute, not less | Epoch AI この記事では、ハードウェアの進歩がサチるであろう2030年くらいは、エネルギー消費は増加していく、と言う見解をまとめている ↩︎