最近発表されたopenaiの内部事情に関するレポートは非常に興味深いものでした。基本的に、調査報道記者たちが数ヶ月にわたり100人以上の関係者にインタビューを行い、未公開の内部覚書を入手し、非常に衝撃的な事実を発見したのです：最高科学者イリヤ・スツケヴァーの70ページにわたる文書には、サム・オルトマンが一貫して嘘をついているパターンを示す結論が記されていました。これは軽い話ではありません。

私の注意を引いたのは、openaiが2015年に非営利組織として始まり、安全性を最優先する明確な約束をしていたことです。AIが危険になった場合、理事会には会社を閉鎖する権限があると考えられていました。しかし、そこには重要な問題が潜んでいます：すべては非常に正直な人物が技術をコントロールしていることに依存していたのです。もし、その賭けが間違っていたらどうなるのでしょうか？

詳細は懸念を呼びます。2022年12月の理事会会議で、サムはGPT-4の機能がすでに安全性のレビューを通過したと保証しました。しかし、書類を見るよう求められると、最も論争の的となった二つの機能は安全委員会による承認を一度も受けていなかったことが判明しました。また、openaiのセキュリティに関わったAnthropic創設者のダリオ・アモデイのメモには、企業が商業的圧力に押されて一歩一歩後退していく様子が記されています。

さらに、openaiは公に、超整合性チームに計算能力の20%を割り当てると発表し、その潜在的価値は10億ドルを超えるとされていました。しかし実際には？そこに働いていた4人の証言によると、実際の使用量は総能力のわずか1〜2%、しかも古いハードウェアを使っていたのです。チームは使命を果たす前に解散されてしまいました。

最も私の注意を引いたのは、元理事会メンバーが語ったサムに関する記述です。彼は非常に稀なタイプで、対面の会話では強い好意を示す一方で、人を騙すことの結果に対してほとんど社会的無関心を見せるのです。マイクロソフトの幹部たちはこれをバーニー・マドフやSBFと比較しました。重い話です。

さらに、CFOのサラ・フライアの問題もあります。彼女は今年のIPOを早めることに反対し、財務リスクが非常に高いと主張しています。$1 サムは今後5年間で10億ドルの計算資源費用を約束していましたが、彼女はサムに直接報告せず、別の幹部に報告しており、その幹部は休暇中です。CEOとCFOの間に根本的な意見の相違があるまま、企業はIPOの準備を進めているのです。馬鹿げています。

ゲイリー・マーカスが指摘したポイントも筋が通っています。もしopenaiの将来のモデルが生物化学兵器を作り出したり、サイバー攻撃を仕掛けたりできるようになった場合、あなたはその決定を一人の人物に任せたいと思いますか？その人物の誠実さに疑問がある場合、どうでしょうか？openaiの公式な回答は曖昧で、具体的な事実を否定するのではなく、情報源の動機を問いただすものでした。

これはまさに私が見たフレーズです：人類を守るために作られた非営利組織が、実際にはほぼすべての安全措置を個人が取り除いた商業的なマシンに変貌した。十年の流れを一言でまとめると、理想主義→技術革新→巨大な資本→使命の譲歩→安全性の崩壊→営利目的の組織へと変わったのです。

その一方で、サムはopenaiを10億ドル超の評価額でIPOに導こうと準備しています。百人以上の証人が同じレッテルを貼っています：真実に縛られないと。これは単なる企業の噂以上の話です。人類史上最も強力な技術の一つとされるこの技術において、CEOの誠実さは単なる詳細ではなく、全員にとっての生存リスクなのです。