Doomscrolling(メモ)の"doom"という単語で、P(doom) を思い出す。AI安全性の議論でよく出てくる指標で、Probability of doom (破滅の確率) のこと。AI、特にAGI (汎用人工知能) が人類にとって実存的な破滅をもたらす確率を、研究者や開発者が主観的に見積もったもの。
GPT-4などの登場でAGIが盛んに議論される過程で、研究者や経営者が真剣に「自分の思うP(doom)は何%」と語られるようになった。あくまでも主観であり、アイスブレイクの共通の話のネタ、みたいな位置付け。
David A. Price1ががWSJに、“Cheerful Apocalyptics (陽気な終末論者)” についてのコラムを書いていた。AIが人類よりも賢くなり、脅威になったとして、それの何が問題か、という一派を紹介している。AIの進化は人類の利益と整合性があれば良い、というグループや、制御不能になる前に何らかの制約が必要というグループとはまた別。陽気な終末論者グループの1人は「人類のDNAを神聖視していない」と述べる。
The Cheerful Apocalyptics’ larger judgment is a version of the age-old maxim that “might makes right,” but this time with higher intelligence as the supposed trump card.
中国のある企業では、AIにCEOの肩書きを与え、プロジェクト管理や従業員管理、人事考課といったマネジメント業務を任せている2。その人たちがP(doom)をどう考えているかはさておき、知性をAIに委ねることは徐々に現実で始まっている。