OpenAIのAI危険対策チームトップが「限界に達し」退社 「安全確保が後回しになっている」
2024年5月18日（土）8時0分 ITmedia NEWS
Superalignmentチームについて説明するヤン・ライケ氏（画像：Foresight Instituteでの昨年8月の講演動画より）
「私がOpenAIに参加したのは、ここが超知能の研究を行うのに世界で最適だと思ったからだ。だが、OpenAIの幹部チームと中核的優先事項についてずっと同意できず、限界点に達した」という。
Superalignmentチームはライケ氏と、共同創業者でチーフサイエンティストのイリヤ・サツケバー氏が率いてきた。サツケバー氏は14日に退社を発表している。
ライケ氏は、「超知能の構築は本質的に危険な取り組み」であり、「OpenAIは人類全体に大きな責任を担っている」が、「安全性が輝かしい製品の開発より後回しになっている」と警鐘を鳴らす。
OpenAIは昨年2月、AGI（Artificial General Intelligence；汎用人工知能）を「一般的に人間より賢いAIシステム」として、リスク軽減策について説明した。Superalignmentチーム結成はその一環だった。
ライケ氏はOpenAIに対し、「AGIの重要さを実感してください。AGIにふさわしい厳粛な態度で臨んでください」「私も世界中も、あなたたちを信頼しています」というメッセージを残した。
ライケ氏のポストの数時間後、サム・アルトマンCEOは「ライケ氏が去るのは非常に残念だ。彼の言う通り、やるべきことはまだたくさんある。数日中により長いポストでそれについて説明する」とポストした。
関連記事（外部サイト）
