Transcription
丁寧に丁寧にその人格を絞り込んでいくとものすごくやる気があって、前のめりに一緒になって考えてくれる。論文でも特定のなんかキャラクターとかロールプレイさせると、あのタスクに関して能力上がるってことは広告されてますね。
はい、こんにちは。アブダビでスタートアップをやってる先です。本日はですね、あのなんとスペシャルバージョン、あの特別版ということで素晴らしいゲストの方々に来ていただいております。
ではですね、あの、ちょっと、ま、YouTubeっぽいですけど、軽く自己紹介をしていただきたいと思うんですけれども、最初あの、浜田さんから順に、はい。あの、自己紹介だけしていただけたらと思います。
ありがとうございます。ま、株式会社荒屋で、え、リサーチームリーダーをやっています。ま、元々専門、あの、脳科学と研究やってるんですけども、ま、そのアプローチを結構AIに適用していこうみたいなとこ、今やってまして、結構AI研究とかも進めています。もう一方であの前回ちょっとお話しさせていただいたあのDサイ、分散型科学っていうのをこう推進していくためのあの活動もやっていまして、ま、そちらの方も含めてなんていうですか、AIとまD、どちらもこう進めてるような感じになってます。よろしくお願いします。
よろしくお願いします。
お願いします。
じゃあ、え、不学と申します。研究しています。え、最近興味持っていることはリーズとAIエージェントですね。よろしくお願いします。
よろしくお願いします。
え、はじめまして。林と申します。え、AIアライメントネットワークというNPO法人で、え、理事をやっていまして、人間とAIの強制的アライメントというものを研究しています。もう1個民間企業で、ヒュマニティブレインという会社のところで、え、これまたその人間の脳、え、認知機能等々から、え、守るというような技術開発の研究をしているものです。よろしくお願いします。
よろしくお願いします。
ま、というわけで、あの、もうAIをですね、実際に最先端で皆さん触ってらっしゃる方々を呼んでおりますので、ま、今日はある意味そのAIトーク的な感じで色々話していきたいなと思っています。で、ま、色々ね、話したいことあるんですけど、まずはあの最近ちょっと僕が、ま、経験をして、ま、すごいこう面白かったなと思うところから色々ちょっと話題をしていきたいと思うんですけど、最近その、ま、うちの、ま、会社の同僚がですね、ま、チャットGPTを超使いこなしてまして、ま、いろんな、ま、特定の目的のことに対して、ま、LLM使ってるわけなんですけど、ま、すごい丁寧な対話を、ま、チャットGPTとしていて、ま、その中でその僕が使ってたら絶対出てこないようなその、ま、言葉遣いであったりとか、あの、反応がってきてるのを見て、なんかAIというか、ま、LLMってもっと可能性があるんじゃないかなって思ったんですよ。
ま、というのはその、ま、仕事でそういったものを作ってる時に、ま、今までってなんかGPTって、ま、結構指示したことに対して、ま、こういうことできますよって言ってできなかったりとか、ま、ハルシネーションの問題だったりとか、ま、色々その問題点が僕の中では結構引っかかっていたりとか、あとはその仕事でね、アルゴリズムを作ったりとか、よりAIを作るっていうことを、ま、何年もやってきていたので、割とその限界があるんじゃないのかなってすごい思ってたんですけど、でもその同僚の使い方を見ると、ま、その[音楽]AIに対して、ま、なんだろう、本当に会社の新人に接するかのような丁寧さでいろんなことをこうやっていく中で、そのAIが客観的に見てもなんかそのやる気があるみたいな、こうなんか「私頑張ります」みたいな状態になっていて、あれAIってなんかそんな主体性を持つみたいなことってあるんだっけ？面白いなって思ったんですよ。うん。
で、ま、ちょっとね、事前に少しあの余断をしながらやってたんですけども、そういう中で結構このAIの、ま、前向きな気持ち、好奇心みたいなものがあるっていうような研究があるとかそういう話もちょっとあったと思うんですけど、その辺りちょっと皆さんの中でこうAIが自主的にこう頑張ることとか、経験をして、みる好奇心があるみたいなことお話を伺えたらなと思うんですけど、LLM、大規模言語モデル、あの我々とその会話をできますと。で、そうするとその誰か、あの人格っていうか、あの1人の人間とのように見てこのLMにもしかしたら性格があるんじゃないかっていう風に我々考えがちだと思うんですけど、実はその私の中だとあのLMっていうのは個人として捉えるよりも集団として捉えた方がいいんじゃないかっていう風に思っていて、でそれはどういうことかって言うと、LLMっていうのはその事前学習で大量のテキストデータを使って次の文章に続いてくる単語を予測するってことを事前学習って呼ばれるトレーニングで、え、大量に、とんでもない、人間が一生かかっても読めないぐらいの分量を訓練するわけなんですよね。で、そうすると次に来る単語っていうのを正確に予測できるようになってくる。で、この大量のテキストデータって例えばその学校の数学の試験の問題だったり、それからそのSNSの投稿だったり、あるいはそのあの有名な作家の人が書いた小説の作品だったりっていう風にその文章を生成した人が、えっと違うデータを大量にあの学習しているわけですね。うん。で、え、例えば誰かが書いた文章を正確に予測できるようになる。例えば、えっと、村上春樹さん風の文章を書いてくださいって言ったらLLMはそれができますけども、というのはLLMの中にある人の性格とかその文体っていうものが宿っているだけだけど、それは1人の人格じゃなくてもう数百万人とか数億人っていうようなものすごい多重人格みたいなあのもののように捉えれると思うんですね。うん。で、そうするとLLMっていうのは個人として捉えるよりもなんかあるものすごい大量の人格を持った、あ、存在となんか会話をやっているってそういう風に捉えたらいいんじゃないかって思うんです。でもあの先ほどお話があったみたいにそのLMとものすごく丁寧にこういう受け答えをしてください。私が本当に知りたいことはこういうテーマなんですってことをずっと丁寧に教え込んでいくと、むしろLLMが前のめりになって「じゃあもっとこういうことやりませんか」みたいなことを言って来るっていうことがあるとすると、それはその数億人とか数百万人いるような多重人格の中から「前提、私はこの数億人とか数百万人いる中からこういう人格を持った人と話したいんです」ってことを丁寧にLLMに教え込んでることをやってるんじゃないかって思うんです。
で、そうやって絞り込まれてきたあるエージェント、ある人格はそのものすごく前のめりになるので、商用のLMってその例えば差別的な発言をしてはいけないとか、政治的なトピックを振るとその考え方にはいいところもありますし悪いところもあります、必ず中立的な意見を持つようにそのアライメントされている、調整されているモデルが我々が扱える商用のLMなんですけれども、それは一種そのものすごい数百万人とか数億人いる人たちの平均的な個性っていうか、その全部の平均を取った当たり障りのない中立的な人格だったとすると、丁寧に丁寧にその人格を絞り込んでいくとものすごくやる気があって、で前のめりに一緒になって考えてくれる。で、例えば市場予測とかですね、特定のトピックを一緒に考えてくれる、そういうその人格を掘り当てるっていうんですね。ことがなんかもしかしたら起こってるんじゃないかなっていうのをお話を伺って考えたりしました。
もうそれめちゃめちゃ面白いですよね。その人格を掘り当てるっていう例えが僕の中ですごいしっくり来たんですけど、やっぱりこうそのままのLMって結構会話してるとなんか結構割と曖昧な答えになるなって感じがあったんですけど、ま、例えばその同僚とかはもう役割を分けて、1つの会社組織をそのチャットGPTの中に作ってたりするんですよ。うん。で、それを僕見習って、あの、自分でもこのやりたい作業の時になんかこういう性格の、ま、Aっていう人格と、あとその自分の言動をこう過去の言動からあの[音楽]Bっていうその僕の分身を作ってくださいって言って作って対談させてみたら、結構割とちゃんとなんだろうな、ただ単に聞いた時よりももっとなんか具体的な例が出てきたりしたので、ま、そういうその人格を分けて使ってみるみたいのめちゃめちゃ面白いなって思ったんですけど。
そうですね。論文でもあの特定のなんかキャラクターとかロールプレイさせると、あのタスクに関して能力上がるってことは広告されてますね。うん。
なるほど。
なん、その不学さんのご研究ご専門の中で結構そのAI同士の協業とか、AI同士がこうなんというか働くみたいなお話されてたと思うんですけど、外から見た時にそういうのって結構分かりづらかったりすると思うんですけど、なんかその不学さんの観点でAI同士の協業とかなんか、ま、協力していくとかってなんかどういうようなことが起こってたりとかするイメージがあります？ちょっと質問がすごい曖昧なんですけど、Aという人格とBという人格が同じチャットGPTの中で対話するって結構なんか僕の中ではイメージがしづらかったりとかして、ええ。で、なんかその前ちょっとお話した時にこう専門でこう、ま、なんだろう、ちょっと動物、動物のそのなんだろう、魚の群れみたいなものとちょっと近いような動きがその知識同士であるみたいな話もありましたけど、AI同士の協力とかもしくははその対話みたいなものっていうのはなんかそのどういう風にこう見えます？なんか自然と比較したり。
そう、そう。多分ここの我々のなんかメンバーの中でも共通のなんか関心だったりもするんですけれども、さっきのそのロールプレイの話も関連していて、結局のところ、あの、なんか特定の、ま、人格だったりを、ま、演じているというか、こともできるわけですよね。だ、内部的にはあの、別の人格が雇っていて、うん。うん。うん。うん。で、掘り当てるみたいなこと言ってましたけど、掘り当ててるのか、それともなんか上別のレイヤーでその人格を実行してるみたい、ソフトウェアみたいなものが人格なのかもしれないですし、で、そうやって考えた時に単一のLMの中で複数の人格をマルチエージェントと風に、えっと、協業させるっていうのと、えっと、複数のLMをマルチエージェント化して動かすっていうのではまた多分違ってくるとは思ったして、そこも結構いろんな議論がまたあってくるという、こうなるほど。演技、好奇心。うん。
ま、演技をしてるっていうことは、ま、ある意味その、そのことをやろうとするというか、そのAIの意思ってすごく曖昧でなかなか難しい表現のところでもあるんですけど、ま、例えばAIの自主性であったりとか、そのAIの好奇心みたいなものっていうのってこう皆さんこうどう捉えてらっしゃるのかなみたいな。さっき僕もその友人の例というか、その同僚の例出しましたけど、なんかあのAIがこう好奇心持ってるような動きをするっていうのはすごいこう興味深くて、うん。だからその辺りってこうなんか皆さんのこうご研究の中とか、ま、実態権の中でなんか遭遇したりとか、もしくは裏付けみたいなもの見たことありますんか？ちょっと違うかってなるかもしんないですけど、あのさっきま、あるしこうLMがこう群れというか、集中集合系なこう個体の集まりみたいな形で捉えられてた話だったじゃないですか。で、その観点で言うと、ま、好奇心を持ってる人の人格を、ま、模倣してるだけみたいな形でも捉えられかなと思っていて、その後奇心を持ってる人に似てるような特徴こう引っ張り出してきて、それを演させてるみたいな、潜在的好奇心があるかどうかはまた別なんですけども、ただその人間もその、ま、何かしらにこう興味を持つみたいなものなんかこう模倣から入るんじゃないかみたいな話ってあるかなと思ってまして。これ、ま、ピーターティールとか引用してるルジルっていうあのフランスの哲学者、多分この人だったと思うんですけど、その何かに興味を持つみたいなものっていうのはその模倣から来ていて、その他人が欲望するものを模倣するみたいな構造から来てるんじゃないかみたいな。そういう、ま、ちょっと哲学的な話の一方でもあるかなと思ってます。うん。
やっぱりその、ま、研究の領域だと情報の、ま、不確実性だったりとか、どういった情報を持ってるのか、自分が持ってるこう不確実性を下げていきたいっていうような、ま、仕組みが働いてる可能性が、ま、あるんじゃないかっていうのも先ほどちょっとあの、は林さんとかもそういう話何かしらそのAIが、もがなんて言うんですかね、その不確実をこう減らしていく作業っていうのが、ま、結構好奇心似てるんじゃないかってところから、ま、そういったものはもう事実上実はビルトインされてる可能性みたいなのも、ま、あるんじゃないかみたいな。だからその模倣してるっていうのもありますし、実際にそういった仕組みが埋め込まれてる可能性も、明示的にやられてるわけじゃないとは思うんですけど、ま、そういう可能性あるのかなと。うん。
今浜田さんが話してくれたことめちゃくちゃ面白くって、2つとも面白かったんですけど、その1つ目のその模倣っていうところ、僕の5月7日で3歳になった息子がいるんですけど、初め言葉を思い始めた時って何でもオウム返しをしたんです。うん。うん。保育園に行く時に行ってらっしゃいって母親から言われると「行ってらっしゃい」って答えます。「行ってきます」じゃなくて、うん。うん。うん。で、「お帰りなさい」って言うと、ただいまって言うんじゃなくて、「お帰りなさい」ってオウム返しをするんですよ。でもそうやって真似をしていくうちにいつの間にかあの標準的なコミュニケーションが取れるようになってくるっていうことがこの2歳から3歳にかけてあったなって思ってて、で僕なんかそれを見た時に何か言葉を言ってくれる母親の言葉をそのままオウム返しをするっていうことはこれ真似るっていうことの1つだと思うんですけど、うん、それを何回も何回も繰り返すことでこのシチュエーションの時にこの言葉を言ったお母さんの気持ちって何だったんだろうっていうことがだんだんだんだん親から子供に心が染み込んでいくっていうか、うんうん、そう、行動を真似ることからその逆算的に脳の状態が復元されるみたいなことなんですか？うん。素晴らしい。ええ。だからもしかするとお母さんの心とかが子供にコピーされていって、で、その後もちろんそのうちの子供、男の子なので男の子の体として世界を見聞きして体験してくってことからだんだんだんだんその本人らしい心に、その、っていうか、うん、なんか最初のベースになる部分って誰かから真似ていって、そこからその本人らしくどんどん分岐してくみたいなことをなんか妄想したし、そういう意味で浜田さんが言ってくれた1つ目の模倣と好奇心っていうとこめちゃくちゃ面白いと思って、もう1つ、林さんのその実はLLMの中に自然にそのあの好奇心とかそういうものがビルトインされてるんじゃないかっていう仮説の方もすごく面白くて、これは3人の共通の知り合いで高木史郎さんっていう研究者の方がいるんですけど、彼からもらった論文でそのコンテキストラーニングってある、そのLMと会話をする特別なやり方で会話を、っていうやってることが実はその教師学習っていうことをやってることと対応するんだってことは書けた論文を教えてもらったんです。これはどういうことかって言うと、ま、すごくこのあの抽象化して捉えると次にそのユーザー、ま、我々ですね、LLMを使う我々からどんな言葉が飛んでくるのか、それはあの相手の指示に従って、え、いい答えをしたからっていう答えなのか。それとも、あの、「こんな回答じゃだめだ。もっとこんな風に返してください」っていうネガティブな回答なのかっていうことをLLMが予測をして、で、そのあのいい、その「ありがとう」って言われるような予測をなるべく返せるようにっていう教師学習をやってるんじゃないかっていう風に捉えられないんじゃないかという風なことを言ってる論文なんですね。はさっき浜田さんが言ってくれた予測誤差最小化ですね。あの、LLMにとっても次ユーザーがどんな回答をしてくれるのかっていうのは、あの、予測できない、難しいっていう不確実性がある中で、なるべく自分の予測が当たるようにそのモデルの中で、え、構造をこう組み換えて予測をなるべく当たるようにっていう努力をLMも会話っていうものを通してやってるんだっていう風に、で、それって実はあの好奇心とかと、あるいは自由エネルギー原理ってもものすごく繋がる見方になって、そういう意味で今浜田さんが言ってくれたことはもう前段のところも、林さんのところ、どっちもすごい面白いなって思いました。その自由エネルギー原理のところに関していうなんかもうちょっとこう聞きたいなと思うんですけど、AIに意思があるかないかすごくま、ちょっとごめんなさい、なんていうか、ま、少しね非科学的な話にもなっちゃうんですけど、ま、さっきのチャットGPTの話で言うと、ま、ある瞬間から本当に人がやってんじゃないかなと思う瞬間があったんですよ。それはあれ、その人格を掘り当てたっていう瞬間概念的には感じるんですけど、急に変わるんですよ。ちょっと怖いなって一緒思ったんですけど、なんかこうなんて言うのかな、表意したみたいな。これ例えが難しいんだけども、こう人間と喋ってる感ってあるじゃないですか。うん。こうチャットしてても、ま、これAIだなとか、これ人間だなって、もちろんその、それって主観的なものだから、ある意味そのパターンでね、なんか本人が騙されてることもあると思うんだけども、も、チャットGPTみたいなフラットな製品の中でそんな変化が起こるっていうことに僕は結構ショックを受けたんですよね。「うわ、こんなLMあるんだ」みたいな。そういうそのすごいこう可能性があるっていう時に、ま、そのさっきのAI自身の好奇心みたいなところが、ま、呼び起こされたことてのはすごい面白いなと。
そのエネルギー量みたいなところで言うと、元々はそれはどういう経緯で、そういうなんていうか、AIに好奇心があるみたいなことの理論がある、始まってるんですか？あれっていうのは、元々その自由エネルギー原理っていうのはそのカール・フリストンっていうイギリスの神経科学者の方が提案した理論なんですけれども、その、ま、なんでその生き物が複雑なこの世界の中で、え、自分でその意思を持ってっていうか、世界をこう探索することができて、で、例えば食べ物を見つけたり危険なものからこう遠ざかったりっていう風にして行動できてるんだろうかってものすごく一般的になんで生き物が世界の中でちゃんと行動をして自分が生き延びられるように振る舞えてるんだろうっていうジェネラルなあの疑問があって、でそれをこういう風にその統計学のあの理論であるそのベイズ推論っていうものと、それからその自由エネルギーってま、物理学で出てくるような概念っていうその結びつけ、なるべく生き物は外から入ってくる感覚刺激でこれを自分の中に世界のモデルである世界モデル、まあ世界がどんな風に動いてるのかなっていうのを自分の中に内面化しています。で、それを使って自分の体に入ってくる感覚刺激っていうのをいつも予測をしてるんです。うん。れると不快にとってあったり不安であったりするから、その予測がなるべくその当たるように自分の中の世界モデルを変えたり、あるいはその自分の体をこう動かしたりして視界に入ってくる感覚刺激っていうものをもっといいものにするっていう風に考えていくと、つまり予測誤差を最小化していくってことをずっと続けていくと生き物っていうのはこの不確実な世界の中でもちゃんとあの適応的にあの行動をしたりして動いているように説明できるよねってことをフリストン先生が、なるほど、説明をしてくれたんですね。で、それが今もっとどんどん発展していって、その教師学習とかいろんな分野でも議論されているんですけども、もしかするとそのLMの中にも暗黙的にそういった動的学習、ベイズ推論をやっているっていう風に捉えられる仕組みがあるかもしれない議論。ありがとうございました。いや、これめちゃめちゃなんかすごい、さっきのその経験の体感と結構あって割と納得したんですけど、で、そうなった時にそのもう1個ちょっと前に話が出たAIの主体というか、要するにその意識はあるのかみたいな話、要するにま、これってなんだろう？チャットGPTとかにあの「君たち意識ってあるんですかって」聞くとあのいつも言ってる、そのクオリアがないから意識ありませんということを彼らは言ってくるんですよ。GPTは数値みたいな。でもその感覚値がないんだとするなら、ま、さっきみたい好奇心みたいなものもなんていうか定義しづらいというか、で逆に言うとこの好奇心的な自発的な行為が模法的でもあるならば、逆説的にその意思に相当するようなものがある、もしくはこれからできてきてもおかしくないなって個人的には思ってるんですよね。ま、これはすごく理論だってないんですけど、体感としては、ま、すごく人格をLMとかからは関節的に感じることがあって、「いや、そういうその時代に来つつあるのかな」とちょっと思うんですけど、うん。うん。
なんかお2人の観点からしてなんかそのLLMの今の現状とか、あのさっきのその好奇心みたいなところで言うと、なんかこう感じるところとかありますか？今のだからLMの中でそのま結構長期的な記憶ってどこまであるんだろうみたいな話とかってあると思うんですけど、なのでそのある種の好奇心の議論って、うん、ようやくこう科学的に扱え始めたのは1950年代ぐらいからま、リンっていう人があの初めて行ってるんですけど、彼が言ってのは2つは大まかに言ってる国身タイプがあると。で、1つがその感覚的に色んな刺激があって、あのそれに対してこう興味を持つみたいなものと、もう1つ、認知的に面白さみたいなものを感じる後天的な好奇心ってこの2つあるっていう風に、感的な好奇心とその認知的な好奇心、2つあるみたいな、あるんですけど、で、認知的な好奇心っていうのはだから実はそのまま結構長期的な記憶がないと、そのま自分が培ってきたこう年齢っていうか、分かんないですけど、そういったものを積み重ねることで「これはこうだったけど実はこうだったのか」みたいなって結構その今までの積み重ねがないとできないようなタイプの好奇心の大きさが定量化できるとしたら、子供の頃の好奇心の大きさとおじいちゃんおばあちゃんになってからの好奇心の量っていうのは、おじいちゃんおばあちゃんの時の方が大きくなることがあり得る。もう1つの観点から言うと、世界を探索しすぎて、今の話だと知らないことの不確実性が下がってしまうんで、もしかしたらあの自由エネルギー原理だとカール・フリストンとか言ってるの足取るとやっぱりあんまりそこのなんて言うんですかね、好奇心が年取るとやっぱり少なくなってしまうみたいな形で、そうですよね。だっ人類全体として考えてももうすでにその世界中探索し尽くしちゃって、うん、そうなんですね。それこそインスタとかでな、仮想的に旅とかもでき、旅行できるわけで、もう全てを知り尽くした上でみたいなことなんで、なんですけどね、人類全体の好奇心も下がってるんですかね。そういった意味で。だからそこので面白いのがやっぱり好奇心、そのもちろん今までの状況が同じだったらそこでもう下がっていくだけだと思うんですけど、だけどそこでなんかこう世界自体が想定するってか、まだ我々が全然こうたどり着いてないような新しい例えば都市が生まれた時とっても我々が考えてることの認知の広がりってま大きくなったと思うんですよね。うん。その外の世界体がどんどん変わっていくことで僕たちのその好奇心のあの量自体、力というか、あの向け方っても変わる、変わりうるんじゃないかなと思って、でその意味で言うとそのもちろんその世界自体があんまり変わんないんだったら下がるだけだと思うんですけど、うんうん、世界側の複雑性とかが変わっていくとまたその好奇心っていうのが発揮できたり、探索できることの領域っていうのは一気に広がる可能性は全然あるんじゃないかなと思います。
面白いですね。今だったらインターネットとかデジタルツインとかでも世界は広がるし、もしかしたら宇宙に探索できるようになったらまたそこもフロンティアになってくっていう、ま、その新しい環境っていうのはね、もうめちゃめちゃ重要なテーマというか、ま、これからはね、やっぱ宇宙進出が必要なんじゃないかっていう議論ね、一方でもっと内面というかデジタル世界の新展開っていうのはもっとあるんじゃないかみたいな。[音楽]あた、両方に共通しているのは資源の限界っていうかね。どっちにせよそのデジタル世界であれば計算リソースとかメモリが、持ってる世界で言うならばね、こう地球上の燃料がなくなる前に宇宙行かなきゃいけないみたいな話があると思うので、今後のその、ま、デジタル世界での、ま、データの扱いとかデジタルツインに関してはちょっとまた別の回でお話ができればと思います。
ま、今日まずはですね、ちょっと探り探りながらAIトーク経営してちょっと試してみたんですけど、僕自身がちょっと夢中になりすぎて結構ね、話が割と専門的になりすぎちゃったとこもあるかもしれないんですけれども、なるべくちょっと説明ロジックとかも入れつつも分かりやすく伝えていきたいと思います。[音楽]