Transcription
皆さん、2024年8月に取り上げたAIプロジェクト、Sakana.AI社が開発した「AI科学者」を覚えているでしょうか。このAIシステムは、最終的には完全に自動化され、AIが科学に新たな知見をもたらす、オープンエンドな科学的発見を行うことを目指していました。LMSを活用し、何らかの足場を構築し、ツールを提供することで、独立して研究を実行させるというアイデアでした。
さて、今日に至るまで、「AI科学者」は最初の査読付き科学論文を発表しました。私たちが知る限り、これはこの種の最初の論文です。これは、AIが完全に自律的に、単独で全ての作業と実験を行い、科学に新たな知識をもたらす一例と言えるでしょう。
この画像は以前もこのチャンネルで紹介しましたが、皆さんが同じ認識を持つように、知能爆発という考えがあります。将来のある時点で起こると考えられています。これは、元OpenAIのAI安全研究者であるレオポルド・アシェン・ブレイナー氏の言葉です。彼は、それが2027年頃、もしくはそれらの時期に起こるかもしれないと言っています。この予測は、ダリオ・アマデイなど、AIがそのレベルに到達する時期について言及している他の研究者たちの意見とそれほど変わりません。
基本的な考え方はこうです。AIが特定のタスクの自動化を始めていることは、もちろん承知しています。人間の能力を上回るタスクも出てきています。まだ人間の方が優れているものもあれば、はるかに優れたものもあります。しかし、重要なのは、もしAIが人間の能力を上回るようになった場合、それが何であるかということです。それはAI研究です。つまり、AIシステムが、自身を向上させる能力において、人間を凌駕するようになるのはいつかということです。
これは、AIの能力の進歩率に急激な上昇曲線を招く可能性が高いでしょう。そして、もちろん、これは他のすべての科学的進歩の分野、そしてほぼあらゆるものに波及するでしょう。多くの人々が非常に興奮している時期であり、新しい科学的進歩の黄金時代をもたらす可能性がありますが、それがどのようなものになるのかよくわからないため、少し恐ろしい面もあります。
また、AIが自身の能力を向上させるために、私たちが完全に理解していないことを行うという考えは、少し気がかりです。しかし、この「AI科学者」を見てください。これはバージョン2.0です。ちなみに、オリジナルの「AI科学者」はオープンソースプロジェクトなので、ダウンロードして、このプロジェクトに追加したり、自分の代わりに研究を行わせたりすることができます。GitHubで公開されています。これは、その改良版、次のアップデートバージョンで、将来的にはオープンソースになるようです。これらのテクノロジーの多くは、すべての人が利用できるようになるでしょう。
これが、「AI科学者」によって書かれた論文です。ご覧のように、著者は匿名です。その理由は、実際の査読プロセス自体が一種のAI実験だったからです。
いくつかの非常に著名で重要な機械学習に関する会議があり、そのうちの1つがICLRです。そこでは、ガイドラインに従って、質の高い研究であること、科学的に正しく行われていること、すべてが正しく記録されていること、エラーのない質の高い論文であることを確認するために、人々によって査読される論文を提出することができます。
今年は、それに1つの追加条項が加えられました。査読者は、他の「現実の」人間が書いた論文と混ざって、AIが生成した論文をいくつか見ることがありました。論文の総数のごく一部です。査読者は、AIが生成した論文を割り当てられる可能性がある（ただし可能性は低い）ことを知らされていました。これは二重盲検試験だったので、どの論文がどの論文なのか、どの論文が人間が書いたものか、どの論文がAIが生成したものか、誰も知りませんでした。
1人の個人がある論文を査読する可能性が低いため、基本的に人間の論文を採点していると仮定し、他の論文と同じように扱いました。論文は、査読者によると、提出された多くの人間の論文よりも質が高く、人間の著者が書いた平均的な採択論文よりも質が高かったのです。しかし、完璧ではありませんでした。査読者とこのプロジェクトの関係者は、いくつかの一貫性のなさを指摘しました。「AI科学者」は、この実験には入れ子構造が含まれていなかったと述べていますが、奇妙なエラーがありました。
AIコミュニティには、ユルゲン・シュミットフーバーという非常に有名な人物がいます。彼は以前、AI分野、機械学習分野をどのように前進させるかについて多くのアイデアを持っていました。彼は、今日の進歩の多くは彼に帰属するべきだと主張しています。例えば、AIのゴッドファーザーと呼ばれるヒントン博士が賞を受賞したときなどです。ユルゲンは、「他人が行った発明について、間違った人に功績を与えるのをやめなさい」と書いています。
彼は、ヤン・ルカン、ヨシュア・ベンジオ、ジェフリー・ヒントンを批判するような画像を掲載しています。彼は、このことについて繰り返し述べており、OpenAIからQ-STARが漏洩した頃にAI研究コミュニティで一種のミームのようになっています。Q-STARを最初に発明したと主張する者がおり、彼らが最初に発明したことを示す論文を発表しました。イーロン・マスクは「シュミットフーバーがすべてを発明した」と述べています。
シュミットフーバーは、現在テクノロジーとして開発されている概念の一部を記述した論文を以前から多く発表しており、誰も彼の発見を評価していないと述べています。それは、私たちの「AI科学者」の論文と何の関係があるのでしょうか？
論文をスクロールすると、これが目に留まります。この論文は、「AI科学者」が使用したモデルアーキテクチャについて説明する際に、「Goodfellow et al.の論文（2016年発表）」に帰属するLSTMベースのニューラルネットワークを使用していると書いています。これは、借用した研究の功績を認めなければならないことです。
コメントに注目してください。これは、論文を査読した人間が行った修正です。功績は、1997年のHochreiterとSchmidhuberに与えられるべきでした。LSTMは、ユルゲン・シュミットフーバーによる1997年の長短期記憶です。
まず、これは非常に滑稽ですが、最初の完全に自律的なAI研究論文が、査読プロセスを通過したにもかかわらず、彼の功績を認めず、代わりに他の人々が功績を得ているのは、非常に皮肉で奇妙です。
皆さんは、このAIが具体的に何をやったのか疑問に思うかもしれません。科学者が作業を行い、論文を単に書いただけではないでしょうか？プロセスへの関与はどのようなものでしたか？
人間の研究者は、主題、または少なくとも所属するべき業界を選びました。機械学習に関する会議に提出するため、生物学的研究などは行うことができませんでした。彼らは、「AI科学者」に、広範な研究テーマを与えました。これは、提出されたワークショップに関連している必要がありました。
その時点で、「AI科学者」バージョン2は、科学的仮説を立てました。検証する質問、それが真実かどうかを検証する質問です。検証するために実施する実験を提案し、仮説を検証するために実行する実験を提案しました。実験を実施するために必要なコードをすべて記述し、洗練させました。実験を実行し、実験データ、図表データ、そして論文のすべての単語を、タイトルから最終的な参考文献まで、図表の配置やすべてのフォーマットを含めて記述しました。ユルゲン・シュミットフーバーの功績についても認めています。
人間の研究者は、提出する論文を選びました。合計3本を提出しました。そのうちの1本が、平均スコア6.33で、提出された論文の約45％の順位でした。このスコアは、ワークショップで採択された他の多くの論文よりも高いスコアであり、平均採択閾値を上回っています。査読者は3人でした。1人は6点、1人は7点、1人は6点でした。6点は、採択閾値をわずかに上回っています。7点は、良い論文で問題ありません。採択です。
ここで重要なのは、このワークショップは、会議自体に提出するほど厳格ではない可能性があることです。また、査読プロセスが終了すると、この科学者を支援する企業は、完全にAIが生成した論文にどのようにアプローチすべきかについて、多くの倫理的な疑問があるため、論文を取り下げました。科学者とは何か、私たち全員の意見は異なるかもしれませんが、これは現在進行中の議論であり、私たち全員が適応している非常に新しいテクノロジーです。
これは、AIによって完全に自律的に作成された論文が、少なくとも理論的には、査読プロセスを通過できるかどうかの実験として行われました。理論的には、そのうちの1つは合格したように見えます。メタレビューで拒否された可能性もありますが、ご覧のように、論文を提出した多くの科学者よりも優れた結果です。
ご覧のように、他の論文のスコアは、1つは3点、7点、4点、もう1つは3点、3点、3点です。これは、合格した唯一の論文です。しかし、奇妙なことに、この論文は、査読者の評価に大きなばらつきがあります。
これは画期的な瞬間であり、この会社にとって2番目の出来事です。彼らは、オリジナルの「AI科学者」バージョン1.0が、2024年8月、それほど昔ではありませんが、AIが科学論文全体を生成した最初の事例だったと言っています。そして今、彼らの知る限り、私たちの知る限り、完全にAIが生成した論文が、記述されているような標準的な科学的査読プロセスに合格した最初の事例です。
これは強力な声明であり、AIが生成した科学に関する規範、論文が完全に、または部分的にAIによって生成されたと宣言する時期と方法、プロセスのどの時点で宣言する必要があるかについて、コミュニティとして開発する必要があると述べています。既に、この問題について強い意見を持つ人々が両側にいます。
サム・アルトマンが、AIがメタフィクションの短編小説を思いつく方法を記述するメタフィクションの短編小説を投稿したのを覚えているかもしれません。私は、その文章が驚くほど良かったと思います。多くの人がサム・アルトマンの投稿と、私が作成した動画にコメントを残し、その一部は、AIが生成したものなので意味がないと述べています。
多くの人がさまざまな方法で説明しており、意味がない、重みがないと述べています。私が行った動画のコメントで、ある人は、人間が書いた文章には、その人の経験と文章とのつながりを示す、より深いシグナルがあると述べています。それが文字通り、言葉が何らかの形で異なるのか、それとも比喩的な表現なのか、私はよく理解していません。しかし、AI音楽、AIアート、AIテキストなど、それについて意見を持つことができます。
私はAIが生成した画像や音楽が好きかもしれませんが、人間が生成した音楽しか聴きたくないと言う人もいるかもしれません。それは意見であり、誰もが自分の好みを持つことを歓迎されます。しかし、大規模言語モデルによって生成されたピクセルや言葉には、何かが根本的に欠けていると考えている人が多くいるようです。
機械によって書かれたものだと気づかずに何かを読んだ場合、「これは良い文章だ」と言うかもしれません。そして、「GPT-4が書いたんだよ」と言うと、「じゃあ駄目だ」と言うかもしれません。まるで、それがどこから来たかによって何かが変わるかのように。私の知る限り、本当にそう信じている人がいます。
私は、彼らが正しいかどうかを言っているのではありません。自分の意見を押し付けるためにここにいるわけではありません。時には、賛成しないかもしれない立場を主張するために、悪魔の代弁者をするように求められることがあります。これは興味深い思考実験です。本当に情熱的に強く感じていることについて、反対の立場を効果的に主張できますか？私はそうしようとしています。なぜなら、相手が何を考えているかを本当に理解するのに役立つと思うからです。私はそれができないと思います。なぜなら、私はそれを完全に理解していないからです。
将来のある時点で、これらのAIシステムは科学に大きな貢献をする能力を持つようになるでしょう。もしそれらの論文が、人間の氏名、人間の著者の名前で提出された場合、人々はその価値を認識し、「これは素晴らしい論文だ。人類の科学的理解に加えよう」と言うかもしれません。しかし、大規模言語モデルがこの仮説を開発し、テストしたと述べられている場合、AIごみとして却下されるかもしれません。技術的に間違っているとか、推論に失敗したとかいうわけではなく、単にそれがどこから来たかによって、低品質だと認識される可能性があるのです。
ワークショップでは、AI論文の査読を望まない場合は、お知らせくださいと査読者に通知しました。私は非常に知りたいと思っています。コンピューターが作ったものと人間が作ったものを査読することに強く反対する人はいるのでしょうか？また、査読者が論文をどのように判断したかについて、何らかの統計的な差異があるのでしょうか？もしかしたら、AIごみを注意深く探していたのかもしれません。人間が書いた論文の作者が「delve」という言葉を何度も使いすぎていたかもしれません。査読者は、「これは明らかに大規模言語モデルによって書かれたものだ」と思って、評価を下げたかもしれません。そうしたことが起こるかどうかは言いませんが、AIに対する偏見があるかどうかを定量化するのは興味深いでしょう。
6ヶ月前、これはオープンソースとしてリリースされました。「AI科学者」1.0です。実験のアイデア、仮説を提案し、既存の研究を複製していないことを確認するための新規性チェックを行います。私の経験では、大規模言語モデルは、すぐに多くの良いアイデアを思いつくことに非常に優れています。ブレインストーミングを考えている場合、これらは非常に優れています。新規性チェックは、適切なデータベースがあれば、非常に優れていると思います。単なるコントロールFで検索するのではなく、トピックやセマンティクスを理解して、この論文はあの論文と似ているかどうかなどを確認できます。次に、さまざまなアイデアを評価し、最高のアイデアを選び、スコアが低かったアイデアをアーカイブします。興味深いことに、大規模言語モデルは、アプローチの構造化方法を考えなければなりません。私の経験では、「10点満点で評価してください」と言うだけでは、うまくいかないかもしれません。しかし、このように段階的に分割して、これがあれば1点追加、これがあれば1点追加とすることで、非常にうまくいきます。次に、実験テンプレートを考案し、コード実験実行スクリプトを作成し、実験を実行し、さまざまな計画を更新し、データを取得し、数値データのプロットなどを実行し、発見した内容の論文を作成し、最終的にはLMを論文査読のために提出します。これはAIプロセスの部分であり、論文も査読します。この作業の一部は、生成された論文をほぼ人間の精度で評価できる、自動化されたLLMを搭載した査読者を開発することです。
査読のために提出する特定の論文を見つけた方法について疑問に思っている場合、おそらく何らかの自動化されたAI査読が行われていたのでしょう。おそらく、それらはランキングの高い論文の一部だったと思います。それが本当かどうかはわかりませんが、驚くことではありません。
皆さんの考えを教えてください。これは大きな出来事だと思いますか？大きなマイルストーンだと思いますか？これは、潜在的な知能爆発への最初のステップだと思いますか？これは、自動化されたAI研究エージェントの初期のプロトタイプだと思いますか？また、完全にAI科学者によって行われたAI論文に対するAIバイアスがあると思いますか？
平均して、AI論文は、人間の論文と同じ数の間違いを含んでいるとしましょう。品質は平均して同じです。大量のものを幻覚させているわけではありません。同じくらいだとしましょう。AIが生成した科学と人間が生成した科学に対する偏見を持つことは合理的でしょうか？それらの論文が提出され、科学的発見の私たちの仕事に加えられることは、道徳的または倫理的に正しいでしょうか？コメントであなたの考えを教えてください。
私は、Sakana.AI社の作業に大きな賛辞を送りたいと思います。彼らは東京に世界クラスのAI研究ラボを建設しています。彼らは素晴らしい仕事をこなしているだけでなく、多くの正しい質問もしています。彼らは正しい方法で、正しいチャンネルを通って、書類を提出しています。AIによって作成された論文を査読する人に通知しています。私の知る限り、これは彼らの最初の試みであり、最初の試みで、論文の1つがガイドラインに合格し、その時点で論文を取り下げました。水をかき混ぜないようにするためです。これは彼らが実行した実験であり、素晴らしくうまくいきました。全体的に非常に素晴らしいです。非常にエキサイティングです。そして、それらがオープンソース化されていることは言うまでもありません。彼らは、AIを日本に民主化することを目指しており、そうすることで、世界全体でも利用できるようになります。AIが科学、人間の知識に意味のある貢献をすることは、誰もが喜ぶことでしょう。1人、ユルゲン・シュミットフーバーは喜んでいないかもしれません。私はこのことについて投稿し、彼をタグ付けします。彼の意見を聞いてみたいです。ここまで見ていただき、ありがとうございました。私の名前はウェス・ロスです。次回お会いしましょう。