AIの帝国を読む
カレン・ハオが暴いたOpenAIと巨大AI企業の正体

この対談の主題は「AIはすごいか」ではない。問いはもっと大きい。

いま世界中で進んでいるAI開発は、誰のために、誰の資源で、誰の同意なく進められているのか。OpenAIは本当に「人類のための非営利研究所」だったのか。それとも、理想の言葉をまとった新しい帝国なのか。

カレン・ハオは、OpenAIの現職・元職を含む250人以上に取材し、華やかなAIブームの裏側を一つずつ剥がしていく。そこに見えるのは、天才たちの夢物語ではなく、権力、資金、労働、土地、水、空気をめぐる現実の物語である。

1. この対談は、AIの性能レビューではない

ChatGPTが賢いかどうかより、その賢さを作るために何が差し出されたのか。

AIの話になると、多くの議論はすぐに性能へ向かう。どのモデルが一番賢いのか。いつ人間を超えるのか。仕事は何割なくなるのか。けれどカレン・ハオの視線は、そこから少し外れた場所にある。

彼女が見ているのは、モデルそのものよりも、モデルを作るために組み上げられた仕組みだ。大量のデータを集める仕組み。膨大な電力と水を使う仕組み。世界中の低賃金労働者にラベル付けをさせる仕組み。批判的な研究者や記者を遠ざける仕組み。そして、それらを「人類のため」という言葉で包み込む仕組みである。

だからこの対談は、AIが便利かどうかを語る番組ではない。便利さの裏側で、誰が決定権を握り、誰が負担を押しつけられているのかを問う対談である。ここを取り違えると、話の芯がぼやける。

2. カレン・ハオはなぜOpenAIを追い続けたのか

彼女は最初から反AIだったわけではない。むしろ技術を信じていた側の人間だった。

カレン・ハオはMITで機械工学を学び、卒業後はサンフランシスコのスタートアップに入った。気候変動の解決に関わる会社だった。ところが、会社が利益を出せないと判断されると、取締役会はCEOを解任する。社会に必要な技術であっても、儲からなければ続けられない。その現実を目の当たりにした。

この経験が、彼女の問題意識の出発点になった。シリコンバレーは「世界を良くする」と言う。しかし実際には、資金が集まるもの、投資家に説明しやすいもの、短期間で市場を取れるものが優先される。では、本当に社会に必要な技術は誰が選ぶのか。誰がその方向を決めるのか。

彼女はエンジニアから記者へ転じ、2018年にMITテクノロジーレビューでAIを取材し始める。ChatGPTの大ブームより前のことだ。そこで目にしたOpenAIは、外から語られていた理想の団体とは違っていた。2019年に彼女がOpenAIの内部を取材した記事を書くと、同社は激しく反発し、彼女は数年にわたり取材アクセスを断たれる。

普通なら、そこで取材は止まる。けれど彼女は逆に、会社が用意した公式説明に頼らない取材へ向かった。現職、元職、競合企業、研究者、労働者、データセンターの周辺住民。250人以上、300回を超える取材を積み重ねた。著書『Empire of AI』は、その積み上げから生まれている。

3. 「人工知能」という名前が作った巨大な錯覚

問題は技術だけではない。名前の付け方が、最初から人々の想像力を縛っていた。

AIという言葉は、1956年のダートマス会議にさかのぼる。ジョン・マッカーシーが「Artificial Intelligence」という名前を選んだ。いまでは当たり前の言葉だが、当時からこの名前には反対があった。なぜなら「人間の知能を人工的に作る」という目標を掲げてしまうと、研究全体が大きすぎる幻想に引っ張られるからだ。

そもそも人間の知能とは何か。心理学でも、神経科学でも、生物学でも、完全な合意はない。人間の知能は一つの物差しで測れるものではなく、記憶、身体、感情、社会性、経験、環境との関係の中で成り立っている。

にもかかわらず、AI産業は「知能」をまるで一つの数値のように扱う。そして、モデルが大きくなれば知能も増える、知能が増えれば人間を超える、という物語を作る。ハオが問題にしているのは、まさにこの飛躍である。

AIは確かに強力な道具だ。文章を書き、画像を作り、コードを補助し、検索や分析を助ける。しかし、それを「人間の知能そのものへ近づいている」と言い切るには、本来なら慎重でなければならない。定義が曖昧なまま、社会全体がその言葉に投資し、制度を変え、人の仕事や暮らしを動かし始めている。

4. AGIは、相手によって意味が変わる魔法の言葉

同じAGIでも、政治家に語る時、消費者に売る時、投資家へ説明する時で意味が変わる。

AGI、つまり汎用人工知能という言葉は、AI企業にとって非常に便利な言葉になっている。便利なのは、意味がはっきりしないからだ。意味が曖昧なら、聞く相手に合わせて姿を変えられる。

政治家に向けては、AGIはがんや気候変動や貧困を解決する夢の技術として語られる。一般の利用者に向けては、暮らしを助ける最高のアシスタントとして語られる。投資家や提携企業に向けては、巨大な利益を生むシステムとして語られる。そして公式文書では、「経済的価値のある作業の大半で人間を超える高度な自律システム」というような表現になる。

このずれは小さな言葉の違いではない。相手ごとに違う未来を見せて、規制を避け、資金を集め、顧客を増やすための装置になっている。つまりAGIは、まだ到達していない技術の名前であると同時に、人々を動かすための政治的な言葉でもある。

5. OpenAI創業神話の裏側にあった権力闘争

「人類のための非営利研究所」という看板の下で、誰が支配するかの争いが進んでいた。

OpenAIは2015年、非営利団体として設立された。表向きの理念は、強力なAIを一部の企業や国家に独占させず、人類全体のために安全に開発することだった。この理念だけを聞けば、美しい話に見える。

しかしハオの取材では、設立時から権力闘争の影が濃い。サム・アルトマンがAIの危険性を強く訴えるブログを書いた背景には、イーロン・マスクを引き込む狙いがあったという。マスクは当時からAIの危険を強く警告していた。アルトマンはその恐怖に響く言葉を使い、資金と知名度を持つマスクをOpenAIへ引き入れた。

やがてOpenAIが巨額の計算資源を必要とし、営利部門の設立を検討し始めると、争点は「誰がトップに立つのか」へ移る。マスクもアルトマンも、自分が主導権を握るべきだと考えた。チーフサイエンティストのイリヤ・サツケバーやCTOのグレッグ・ブロックマンを含む中心人物たちの支持が動き、最終的にマスクはOpenAIを去る。

ここで見えてくるのは、理想のために集まった善意の研究者集団というより、未来を決める権限を誰が握るかをめぐる人間くさい争いである。非営利という器はあっても、その中にいた人々は、資金、名声、支配権から自由ではなかった。

6. サム・アルトマンという、評価が真っ二つに割れる人物

ある人には未来を実現する天才。別の人には、目的のために周囲を操作する危険な人物。

ハオの取材で印象的なのは、サム・アルトマンへの評価に中間がほとんどないことだ。支持者は、彼を現代のスティーブ・ジョブズのように語る。資金を集め、人材を集め、世界中の政治家や経営者を動かし、誰も実現できない規模の計画を前へ進める人物だと見る。

一方で、離れていった人々の語りはまったく違う。彼は信頼できない。都合よく話を変える。人を動かすのが非常にうまいが、そのうまさが恐ろしい。そんな評価が出てくる。

この落差は、アルトマンがどんな未来を目指しているかと、自分の願う未来が一致しているかで変わる。一致している間、彼は圧倒的な推進力を持つ味方に見える。しかし方向がずれた瞬間、自分の技術、自分の労働、自分の信念が、望まない未来のために使われていると感じる。

2023年11月のアルトマン解任劇も、この不信の延長線上にある。取締役会は、彼の透明性や権力の扱いに問題があると見て解任を決めた。ところが、社員と投資家を巻き込んだ反発により、わずか数日で彼は復帰する。表面上はドラマのような社内騒動だが、根本には「誰がAIの未来を決めるのか」という問題がある。

7. なぜ彼女はAI企業を「帝国」と呼ぶのか

帝国とは、領土だけの話ではない。他者の資源を取り込み、自分の物語で正当化する仕組みのことだ。

ハオが著書に『Empire of AI』という題名を付けたのは、誇張ではない。彼女は巨大AI企業の振る舞いに、帝国主義の構造を見ている。

第一に、資源の取得がある。インターネット上の文章、画像、音声、コード、個人の投稿、クリエイターの作品。それらが、十分な同意や対価なしに訓練データとして吸い上げられる。さらにデータセンターのために、土地、水、電力も必要になる。

第二に、労働の搾取がある。AIは自動で賢くなるわけではない。大量の人間が、画像にラベルを付け、危険な出力を分類し、回答を評価し、モデルの振る舞いを整えている。その仕事はしばしば低賃金で、精神的にも過酷だ。

第三に、知識の独占がある。巨大モデルを作れる企業は限られる。研究者は企業の資金と計算資源に依存し、批判的な研究は出しにくくなる。グーグルの倫理的AI研究者ティムニット・ゲブルの解雇は、その象徴として語られる。

第四に、神話がある。「私たちは人類を救う」「私たちがやらなければ悪い誰かがやる」「だから多少の犠牲は仕方ない」。帝国はいつも、自分を侵略者ではなく救済者として語る。ハオは、AI企業の語りにも同じ構造を見ている。

8. 「中国に負ける」という脅し文句をどう読むか

安全保障の言葉は、しばしば規制を止め、資源を集めるために使われる。

AI企業が規制や慎重論に直面すると、よく出てくるのが「中国に負ける」という言葉だ。アメリカが開発速度を落とせば、中国が先に強力なAIを作り、世界を支配する。だから、いまは細かい規制をかけるべきではない。そういう論法である。

ハオは、この言葉を真正面から受け取らない。もちろん国家間競争が存在しないと言っているわけではない。問題は、その競争の名の下に、あらゆる資源の無制限な投入が正当化されてしまうことだ。

巨大な汎用モデルをさらに巨大化させることと、社会に本当に必要な安全保障上の能力を高めることは同じではない。サイバー防衛、医療、災害対応、教育支援。それぞれに必要なAIは違うはずだ。にもかかわらず「中国に負ける」という一言で、電力も水もデータも予算も、巨大企業の巨大モデルへ流れ込む。

これは予測というより、資源配分を動かすための発話である。恐怖を使えば、議論は短くなる。反対する人は「敵を利する人」に見えてしまう。ハオは、ここにAI産業の危うさを見ている。

9. 仕事は消えるのではなく、下へ押し込まれる

「AIが仕事を奪う」という言い方だけでは、実際に起きている変化を捉えきれない。

AIによる雇用への影響は、単純な「仕事が消える」ではない。より正確には、仕事の構造が変わり、人が成長するための階段が壊れていく。

企業がまず自動化したがるのは、若手や初級者が担ってきた作業だ。調査、下書き、要約、一次対応、簡単なデザイン、簡単なコード。これらは、ただの雑用ではなかった。新人が仕事の感覚を覚え、判断力を身につけ、上の仕事へ進むための練習台だった。

その段が抜けると、上に行く道が細くなる。一方で、AIを賢くするためのデータ注釈や評価作業は残る。しかもその仕事は、しばしば単価が低く、細切れで、将来のキャリアにつながりにくい。

皮肉なのは、かつてマーケターやデザイナーやライターとして働いていた人が、失職後に「AIへ自分の仕事を教える側」へ回されることだ。自分を置き換えた技術を、自分の手でさらに育てる。この構造を見ないまま「AIで人間は創造的な仕事に集中できる」と言うのは、あまりに楽観的だとハオは見る。

10. AIはクラウドの中ではなく、町の空気と水を食べている

データセンターは抽象的な「計算資源」ではない。地域の生活インフラそのものを使う。

AIは画面の中で動いているように見える。クラウドという言葉も、どこか軽く、空に浮いているもののように聞こえる。だが実際には、AIは巨大な建物の中のサーバーで動き、電気を消費し、冷却のために水を使う。

ハオが語る現場の一つが、テキサスやルイジアナなどに建設される巨大データセンター群である。地域の水資源や電力網に大きな負荷がかかる。住民にとって水は生活であり、農業であり、未来のインフラだ。そこへ、巨大企業が「AIのため」に入り込む。

もう一つの象徴的な場所が、テネシー州メンフィスだ。イーロン・マスクのxAIがスーパーコンピュータを稼働させるため、メタンガスタービンを大量に使ったとされる。周辺には貧困層や黒人住民の多い地域があり、空気の汚染や健康被害への懸念が語られる。

ここで重要なのは、AIの被害が抽象的な未来のリスクではないことだ。いつかAGIが暴走するかもしれない、というSF的な恐怖だけではない。いま実際に、誰かの町で、電気代、水、空気、健康、生活環境が賭け金になっている。

11. ロケットではなく、自転車をつくれ

大きければ良い、万能なら良い、という考え方から離れる。

では、ハオはAIそのものを否定しているのか。そうではない。彼女の批判は、AI技術の存在ではなく、AI産業の方向付けに向けられている。

彼女が使う比喩が分かりやすい。隣町へ行くのにロケットは使わない。必要なのは自転車かもしれないし、バスかもしれない。目的に合った道具を選ぶべきだ。ところが現在のAI開発は、何にでも巨大ロケットを使おうとしているように見える。

巨大LLMは、汎用性を目指すほど膨大な資源を必要とする。だが社会に本当に役立つAIは、必ずしも巨大である必要はない。DeepMindのAlphaFoldのように、限定された目的へ深く最適化されたAIは、少ない資源で大きな価値を生みうる。

この発想は、AIの未来を考えるうえで重要だ。私たちが欲しいのは「人間を置き換える万能機械」なのか。それとも「人間の仕事や暮らしを支える道具」なのか。前者を目指すほど、開発は帝国化しやすい。後者を目指すなら、規模ではなく目的、独占ではなく現場の必要性が中心になる。

12. 「もう止められない」は本当か

AI企業は、完成した未来から語っているように見える。しかし実際には、まだ多くを社会に依存している。

AIの話では、「もう流れは止められない」という言葉がよく出てくる。技術は進む。競争は止まらない。嫌でも適応するしかない。そう言われると、反対や修正の余地がないように感じる。

しかしハオは、馬はまだ厩舎を出ていない、と見る。巨大AI企業は今も、新しいデータを必要としている。評価する人間を必要としている。電力を必要としている。水を必要としている。土地を必要としている。つまり、社会からの供給なしには走り続けられない。

だから抵抗の余地はある。クリエイターが無断学習に対して訴訟を起こす。住民がデータセンター建設に反対する。労働者が職場でのAI導入に条件を求める。研究者が企業資金に依存しない評価を続ける。政治が透明性と説明責任を求める。

重要なのは、AIを全否定することではない。巨大企業が「仕方がない」「競争だから」「人類のためだから」と言って、社会の同意なしに資源を吸い上げる構造を止めることだ。