Transcription
今さん、はい。先週のAIクエストでは、ムーンショットAIのキ務系を取り上げたわけなんですけども、ま、これがね、いろんなショックとして、はい。波紋が広がってまして、で、その一つがNvidiaの川ジャンCEOが語とジェンソンファンCEOが「マジです。マジですごい。これはもうテクノロジー市場の、大イベント。いや、ていうか、川ジャンのあのテクノロジー市場多分一番一発のツで世界に影響与えた男なんじゃないかと、思います。このツイート1発ね、どれだけ動いたかという。いや、そうですよね。やばすぎる川ちゃんが。これインプレッションがこれ、ま、ま、ちょっと僕あの、スクショなんですけど、6400万、ま、まだ増えてると思います。はい。すごい、こんなインプレッション見たことないよってぐらい。しかも確か1日でTwitterフォロワーがあれ70万だか90万だか言ってたはず。言ってましたよね。世界記録なんじゃないかと思ったんですけど、実は日本のとある漫画家の方が早かったらしいです。漫画家、はい。がつく人でんですけども、はい。の方が早上がったらしい。1日で150万って聞いたかな。だから世界記録はないらしいんです。なるほど。あ、そうなんですね。はい。
で、じゃ、何を発信したかって言うと、ま、あの、今回そのNBIDIAが署名したオープンモデルの重要性をこう主張する、ま、オープンレターみたいなのがあってですね、このオープンウェイツアメリカンAIリーダーシップ、オープンモデルを規制で締め出すなということを要請するものであったんですけども、だからこうキ3が出てきて、ま、先週もちょっと紹介してましたけど、アメリカの政府交換だとかが、ま、規制しなきゃいけないみたいな話を、出して、そうて、は実際に具体的な法案としてAIキルスイッチと言われてるものがAIキルスイッチアクトっていうものが出てて、この法案自体をオープモデル規制すると言ってないんですけれども、なんかそのま、ずい共同を出すモデルをなんか強制なんか強制停止なんか管理できない強制停止みたいなとこ含まれてる法案で、オープンモデルってイコールも自立、自分たちのそのコントロールが外すようなことなので、その法案が言ってることは実質オープンモデルに出すなっていうことなので、ま、やめろというやつです。ということですよね。で、この文章が言ってのはこの、ま、主に5つのポイントがあって、ま、オープンウェイトはAI競争力の基盤になるもので、AIの普及とコスト限を促すと、で、競争運で少数企業の集長を防正いでっていうところもあったり、ま、安全性っていうのも広く検証できる。オープンであることで広く検証できると。で、上流とか規制中国モデルで今あの問題なって問題されていることですけども、ま、これ個別に規制していくべきだという話あって、うん。
これがをジェンソンファンCOが発信した意義って何でしょう？まずこれNviaにとっては明らかに得しかない話なんですよ。うん。NDに得解得しかないですし、あのって正直損する人そんなにいない、はい。ですよ。オープンモデルをそのめちゃくちゃ推進して損するところって実質的にま、オープンAIとアンソロピークぐらいしかない、うん。ですよ。Googleとかとかもぶっちゃけオープンモードでそんなにダメージ受けない。ま、彼らやってますからね。そう。で、ま、あのモデル作ってない、実際はあのAI企業って言われてるとこのモデル作ってない企業は大半なんですけども、そこは、ま、むしろモデルの性能上がれば自分たちの選択肢増えていくので、そんなに、ま、困らない。ただ一方アンソロピックとオープンAIだけは本当に再センターモデルめちゃくちゃの投資をもらって作って本気で作ってて、うん。で、ま、純粋に性能勝負するしかないラボでもう後戻りもできない調達しまくってるのでっていうところなので、ま、あの、ちょっとアンソロピックとオープンってだけ自効くようなやつです。で、NDIAとしては、ま、オープンモデルが出てくると純粋にそれデプロイするラボがいっぱい増えて、企業が増えて、個人が増えてGPUは売れる。うん。で、下の方のその安全性もいろんなとあのオープンながいいっていう話もこれはぶっちゃけNBにとったらめちゃくちゃ有利な話ではい。今のそのGPU水論需要って純モデルの出力だけじゃなくてモデルの出力をまず監視する悪いかどうか監視するための、うん、水論需要っていうのはこれオープンAIのえっとですね、5.6か5.5のテクニカルレポート書かわれてるんですけども、純粋にその式別モデルというよりは水論モデルを使って出力の内容悪いかどうかを時間かけて判断するみたいなことやってるので、まず水論でま悪いかどうか見るっていう需要とさらに防御が今回あのハギングフェースの事件であったみたいな防御がそのなん かあのオープンモデルなりなんなりで防御するっていうので、ま、純粋にオープなモデルが増えると防御でまたGPU売れまくるので川ジャン取った非常に有利だと。なるほど。いう話なので、ま、正直、ま、あの、NBにとっても有利すぎるものだとは思うんですけれども、うん。ま、AI界隈全体にとっては非常にありがたい話です。これはで、今日この後出てくると思いますけども、K3もあれ、ま、ちょっとあれは非常に、ま、難しいというか、技術を決収した傑作なので、僕も完璧に全部読み切れ、まだ読み切れてないんですけども、今までのそのオープンモデルとかの技術を匠に組み合わせた素晴らしいものだったんですよ。ま、上流の話を置いといて。うん。はい。のでやっぱりそのオープンウェイト論文を公開する、ま、あのアンソロピックとオープンウェイはもうウェイトどころか事技術自体公開してないので、そもそもって話なんですけれども、非常にはい。ま、サイエンスの発展としては非常に健全で、実際もうそれが役に立ってる事例出てきてるので、ま、あの、個人的には賛成。うんふんふん。アンソロピックはちょっとかわいそう。オープンAは賛成してますけれども、多分内心ではって感じだと思います。うん。なるほど。
ま、先ほどもちょっと言いましたけど、先週ちょっと取り上げた政府交換のポストを一斉にいろんなそのケースに対する警戒っていうのを発信してたわけですが、ま、その時もね、あのジンソンファン、CEOはこのようにその中国の優れたオープンモデルではアメリカ企業を使うべきで、で、ま、ポイントはやっぱ1番ですよね。無理やすいAIは反動体データセンターの需要を増やすと。はい。だ、要は、ま、オープンAIとかアソロピックみたいなクローズドなモデルばかりが強いとすごくそのなんでしょう。うん。集中してしまうしで1つ人に握りの大企業がインフラを作る。でもオープンな世界になればみんながインフラを持つ作るみたいな話になるから需要が増えるみたいな話なわけですよ。はい。で、あとこの条は地も基本って書いてあるじゃないですか。これですね。今そう、ま、僕もそうですし、なんというか法律というか、もうちょっとなんか根本なんだろう、人類と人工知能がそもそも何をやって学んできたのかっていう非常に根本的なと議論になってるんですよ。はい。ま、あの、認知カーフとかよく言われてるで、ま、僕らも人工知能の世界の人よく言ってるんですけども、ま、人類が全体として賢くなっていったとか、人工が賢くなっていったのは先人たちが気づいた知識を、ま、なんならなか圧縮することによって、ま、次の世代に引き継いでどんどん発展してきたんだと。で、ま、人間もちろんそうだしで、ま、僕とかも大学教員、大学教員の人たちも、ま、僕とか、ま、だから人工長10年学んできたことを、うん。ま、えっと、今年9月やる講義とかだと100分けるで教えようとしてるわけです。なるほど。はい。すごい知識なく。ま、確かに教育期間ってそういうとこです。ま、事実上、ま、上流をするような期間がていうか、ま、実条流って T ちゃうと執名前ついてるので、そういうもんなんですけども。いや、そうですよね。うん。ていうことで上流っていうのはまさに知能基本って言ってるのは川ジャンの言う通りです。はい。
で、ここでその人工知能の世界になると人間の話とはもうちょっと難しいところ法律とかリ理の話出てくるのはまず純粋に生成を作る事前わゆる事前学習の段階っていうのはこれは多分今までクロスリーグもな何か言ってきましたけども、ま、著作権がとかその競争相手が増えるからあの収益たれるとかみたいな、はい。話があります。で、ま、これはもう人類の人間の学習と機械の学習なのか、分けて考えろっていうのは分かるんですけども、それでもやっぱりやってきた一番根本の概念としては、ま、人間やってきた、その圧縮して知識を伝える、より効率よく知識を、ま、持てるようにするっていうことなので、ま、はい。それも議論があると。で、もう一つ進むとまさに今回上流のAI、あの既存のフロンティアモデルの上流の話になってきます。で、アンソロピックっていうのはまず今言った一つ目の精成員、一つ目の段階の人間の持ってる知識の上流はめちゃくちゃしてるわけです。うん。そうですね。もちろん無段学習で、はい。で、そこで学習されたモデルが上流されてます。中国に上流されてますと言うとアンソロピックはぶち切れてます。ただアンソロピック本体はその無断学習した著作権者からぶち切られてますとなるとアンソロピックやっぱ批判があるのは、そのお前らもやってきたことじゃないかと。お前らは人間の知識を無駄に上流していたんだと。で、そうやって作り上げたAIというのは実質人間の知識に、ま、リスペクト貼らなきゃいけない。こっちが元なのでのはずなのにそうやって作られたAIをあろうことかアクセスする人を、ま、非常に絞ってで自分たちのモデルが、ま、もしかしたら人類の攻撃になるかもしれないAIに上流されようとするとそれについてぶち切れた何事だということでですね。ま、非常になんか広い議論というか根本的なお話になってるとこですね。ま、これ法律の話とちょっとまた違うんですけれども、うん。ま、あの、そこは確かにとそのアンソロピック産業条、インダストリエルディスティネレーネーションっていうのが、いや、お前らもしてるじゃないかと。うん。いや、業界全体のってすごい強調しますけど、ちょっと実はこれ後で話そうと思ってたんです。この流れで一気に話しちゃいたいんですが、ま、この以前プロジェクトパナマっていうその大量日本を入手して、あの、学習をしていたっていうところがあって、で、そこ訴訟にもだって最近決着がついたそうなんですよね。15億ドルの損害を払ってだ、こないだ、この後も出しますけど、アンソロピックの生命でもあんまり触れてないので、うん。うん。この辺りは結構大きな論点に今後なってくるっていうとこですかね。うん。ま、そうですね。ただアンソロピックはなんだろう。奴らはちょっと思想的にあれなので、多分正義は我にありって本気で考えてると思います。なるほど。ある意味一環してここはちょっと僕はある意味交換持てるのが彼らマジでラボの設立時からここのその生命に我々は賛動しませんところである意味思想としたらめちゃくちゃ一貫してるんですよ。そこは評価します。うん。安全性重視だとま間違ってない。はい。分かりました。ちょっと今回の生命でも何を言ったかとか含めてこの後見ていきたいと思います。
というわけで、今井翔太さんと探球数エアクエスト。今回のテーマは米国分断君Kショックの余波です。3つのポイントで見 ていきます。まずアンソロピックが孤立 AI業界の分断、今回のオープンVクローズドみたいなところのプラスですね。なんかまた提言書みたいなのが出てきてい てAIの研究送らせろみたいなことも言っ はい。ちょっと今週はいろんなことがありました。その辺り見ていきます。そして2つ目がキ技術公開で分かったこと。先ほどもありましたけども、あのキ3の技術の詳細が一応出てきました。ま、出てない部分も色々あるんですけども、はい。その辺りご覧になって今さんを買ったことを伺っていきます。で、最後が、ま、直近のニュース的な話題を扱うコーナーですけども、ま、一方でアンソロピックモデルの開発は、ま、もちろん続けてます。OP5が公開されたのでその辺りの話とあとはあのOPIのAIのテストしていたものがハギングフェースにあの突っ込んでしまったと、うん。そこの続報も色々出てきてるのでその後に最後触れたいと思います。で最初の話題なんですけども、あのジェンソンファンが出したこの呼びかけ、最初は署名企業25社だったんですよ。はい。でどんどん増えました。133に今なっていう130を超える数になってきているわけで、まあ影響力を感じるところでしたけども、ま、アソロピックみですね。あの、いや、これはあの、なんというか、割と実商業的な理由は僕あると思ってですね。はい。あの、あ、サースの市ってあったじゃないですか。ソフトウェア、ソフトウェア企業は潰されると、ぶっちゃけ僕あれ無関係はないと思います。企業ってアンソロピックにして現実的な商業の威を覚えてる のであれ実質アンソロピックとして僕は機能してるとこもあると見てます。うん。なるほど。だからそういうみんなが使えば使うほどなんか敵に塩を送ってるみたいな感じになるから、はい。ちょっと避けとこうみたいなそんな雰囲気ってことですよね。はい。で、このあのジェスファンシーのさ、あの提案に、ま、最初はあのサインはしてなかった。オープンAIはい。ま、サムマルトマンも賛同したと。はい。僕は北ですね。これは完全余談ですけども、ま、な、何度この話掘り返すの話ですけども、僕、あの、川ジャンのあれのツイート見た時に、あの、この運動名前をな、何て僕呼ぼうかと思ったんですよ。オープンモデル運動、オープンソース運動。うん。なんかしっくりこれオープンウェイトオープンモデルもオープンウェイトも全部含名前が欲しいな。オープンAI運動にするから。でもオープンAI賛動しないからなっていう。オープンオープン陣営 vsクローズド陣営なのにオープンA当初クローズド側にいたっていうので、はい。ま、それがオープンAがオープンG加わったっていうのは、ま、加配加わったというか、ま、不利なのかわかんないですけども、なんか珍しいと僕思いました。うん。うん。そうですね。いや、実は僕も今日のタイトルオープンAIロソにしようとしたんですけど、そうするとなんかテーマが変わっちゃうなみたい。ンAIはあれなので、あったんではい。ただどうなんですかね。ま、オープンAIもGPTOSみたいなオープンモデル出してたんですけど、はい。やっぱり、ま、オープン大賛成ってよりは、まあ、あの、この署名のあの文章の意図は別に全てのソフトウェアを公開してオープンしろって話ではないです。ま、プロプロゲ、あの、ま、クローズモデルとオープンモデルがいい感じに共存するのは望ましい。ただオープン、オープンモデルを一方的に規制するみたいなことはするなと。それなんか上流とかいろんな話あるけど、それは個別の話であって、一括して包括的にオープンモデルを規制する動きはやめろって話なので、うん。ま、それだったらオープンAIに関しては、ま、なんか裏で運動実はやってる、ロビー活動やってるらしいですけども、うん。まあ、一応彼ら昔までのオープンモデル出してたし、最近もGPTOSS出したしで、ま、クローズドモデルに一応ありだと言ってるんだから多分賛同できるところはオープンA的には、うん。ある、あるというか、ま、署名しても多分矛盾はしないです。多分オープンAにとってはこれダメージはなるんですけども、ま、さすがにこのもう圧力の中と署名させずれないでサインしても、はい。あの、一環をしてるんですけれども、アンソロピックは多分唯一あの世界中ラボ世界中の企業なら多分唯一これにサインしたふりふりとしてサインしようにもできないところなので、実質アソロピックホ位もなりましたね。僕は最初クローズとタオープンのま、オープンモデル対戦、第1次オープンモデルアメリカ対戦って言おうと思ったんですけども、実質対戦どころか法イもとかしましたね。そうですね。で、えっと、ま、Googleも、はい。最初乗ってなかったんですが、その後乗ってきて住んだ試もこうやって、はい。はい。ま、彼らはめちゃくちゃ貢献してる。そりゃという素晴らしい。ジマ素晴らしい。そう。ジマもそうですし、ま、この会社の歴史自体はオープンソースに貢献をしてそれでなんでしょうの上に成り立ってきた会社ではあるからていうことですよね。はい。
で、一方でこんなポストが話題になったんですけど、これアンソロピックの社員のツイートで、はい。はい。見ろよと。ジェンソンファンがオープンソースめちゃくちゃあのサポートしようとしてるだったらクーラ。これはオープンあのNDIAのソフトですけども、これも全部オープンソースにしなよみたいな。はい。これ結構今井さん注目された。これはですね、じゃあまずこのポストをしてる人から話すんですけども、ま、この人今アーソロピックの社員なんですけども、元々Googlede Eープマインドの人なんですよ。で、僕実はこの人すごい尊敬してる研究者、ま、この人結構エンジンよりの面もあるんですけども、開発者の人なんですよ。なぜかと言うとですね、あのアルファ5シリーズ、アルファDポイント投手出したあのイゴAIゲームAIのめちゃくちゃ貢献者で、でその後出てきたミ0って、ま、それの政党進化系の筆頭著なんですよ。ニゼい、ま、アルファ5とかってその本当に技術的話になりますけどいいですか？あの内部モデルというかイゴに関するもうルールというかゲゲームのなんだろうというかゲームに関する情報そのまま内部に持っててシミュレーター持ってるんですよ。の環境でここにこういうの置いたらこう進みますみたいな思ってて、で実際そのリアルな環境を使って探索してまうち再打ちて選びということやってるんですけど0は、ま、潜在空間ってこの場合って分かるかわかんないんですけども、完全にその元通りの意とか将棋とか内部モデルでリアルなもん使って水論するとよりはそれをなんか抽象化した潜在表現っていうものの中で探索をしてうちと選ぶってことやってるAIです。で、そういう、で、それ普通考えると性能落ちるっていうのが直感的で、うん。実際の意とかのその本物のゲームアクセスできないはずなんだから、リアルにアクセスしてるものより性能下がるはずなんじゃないかと思うんですけども、ミュゼロはなんかそのリアルなものよりいい表現を学習していてですね、そん中でなんか色々とシミュレーション探索することで、うん。なんかアルファ号とは強くなった、うん。ていうやつです。で、ま、これは完全に余南ですけど、藤井蒼太とかも多分あの無ゼと同じような水論してると僕思ってるんですけども、彼は頭の中に盤面がないらしくてですね、なんかいい感じのショートガントみたいにして将棋やってるらしくて、ま、ミ0多分僕それに近いことやってると思うアルゴリズムです。より汎用化してる化したような考そうです。ま、一般かゲームに関する表現の一般みたいなこと言っていいと思うんですけども、ま、そういうもんです。それやった方が、筆長者がこの人、で研究者としてすごい尊敬できる人だったんですが、あのこの発言はですね、はっきりで尊敬できるとこ何もなくてですね、言ってることおかしい燃えてましたよね。大バしたんですけども、あの、別にさ、さっきも言ったんですけども、先ほどあの、署名の所管の意図って別に全てのものをオープンしろうって話ではなくて、あの、クローズドもオープンも共同して、ま、発展していこうと、それが人類の攻撃になると。で、うん。ま、ただオープンを一方的に規制する動きはやめろって話なので、別に全ての企業は全部オープンにしなさい言ってないと。で、Nvidiaとかとかをオープンにしてない。ま、MicrosoftWindowsとかをオープンにしてないての。あの、召喚矛盾しないんですね。で、一方そのNBAとかめちゃくちゃオープンソース貢献してる。最近も2モトロンとか出してるし、歴史的もすごいオープンソース貢献してるので、ま、はっきりこうシュリットウィーザー行ってるのはめちゃくちゃの話です。なるほど。もうぼ、ボコボコに叩かれてます。アンソロピック内部のやつはこんなこと言ってるのかみたいな。アンソロピックちょっとこいつはこれを何がやりたかったんだみたいなそういうこと言われてるので、ま、僕はちょっと残念でしたね。尊敬してた研究者なので。なんでこんなこと言ったんですかね。ま、アンソロピックはそもそもこの運動始まる前の段階から結構最近アンソロピックってもう今完全に嫌われ物の立場になってるん ですよ。ま、サの人が言われていたはまだ大丈夫でミトス公開、はい。の直後まだ大丈夫だったんですけれども、ていうかなんならあの国防総と喧嘩してた時はむしろアンソルピックで勝賛されたぐらいなんですけども、なんかすごい本社のとこに頑張れみたいなこうなんか落書きじゃないですけどそういうのが集まったかなんかそういうぐらいありましたよね。そう、今完全一転してどこの辺たりからかな。はい。ま、1番ピークになったのは、うん。あの、アメリカ政府がそのモデルに規制が、あ、そのアモデがお気持ち分をいっぱい出して本当に規制がかかっちゃったあの辺りから、うん。ちょっとアンソロピーふざけんな運動に元々なってて、ま、ボコボコに言われたわけです。ボコボコに言われて、で、今回所管でも実際アンソロピック狙い打ちみたいな形になってきたので、まあ、多分内部の人は耐えられなかった。爆発したんじゃないかなと。いう気がします。なるほど。で、ま、こうやっていろんな素がありつつXではないとこからまた議論を呼びかけたのがメタのマークザッカーバーグで、これはあのウォールストリートジャーナルにあの公開記事みたいな感じで投稿してたんですけども、このAIの未来は全ての人にとってのものである、フーチャー、AIフーチャisfor everyone文章を出して、これ、ま、要はあの書館と似たような主張で、うん。こうなんでしょう、みんな広く使える状態にすべきだとか、ま、アメリカで規制を止めるようすべきとか、ま、そういった話をしてるんですけども、ま、この人も結構前に出てきたなっていう。まあ、あの、ザッカーバーグということは僕は大割ビって考えてる。はい。う、意思決定がまず結構揺らぐのとポジション等が非常に多いので、うん。あの、まあ、メタとかが1番有利なのやっぱりもうすでにでエンドユーザーが使ってるデバイスとかサービスAI組み込むってやつなんですね。で、その観点で見た場合、ま、メタが確かに勝てる領域ってのはそこで個人すでに浸透してるデバイスとかサービスにAIを組み込んで、うん。はい。使わせるっていう。で、ま、この人パーソナルスーパーインテリジェンスで行ってるのかな？ま、そうですね。はい。ちょうど1年ぐらい前ですよ。はい。言い出したので、はい。ま、あの、そもそも商業的な戦略と矛盾しないというか、だいぶ一致してるのでっていうのが普通にあるとそり言うよね。うん。ただ一方僕が期待してるのはミューズスパークをオープンにするのかって話です。ああ。だ、今までずっとメタはラマっていうオープンモデルやってきたけども、最近出したミューズパークはあれは、ま、GPDとかクロードと同じようにクローズドモデルなわけですよね。この辺を出なっていう矛盾しないんであれば多分出してくるはず。はい。ていうことですね。はい、分かりました。で、新内登場です。はい。ま、諸々の論争が起こる中、アンソビック側もこうやって生命を出してですね、オープンウェイトモデルに関する社の見解ということで、ま、ダリオアモデCOの文書だよということで発表したわけなんですが、はい。アンソロピックはオープンウェイトモデルの禁止を提したことは1度もありません。それは多分嘘だな。けに言ってないけど。はい。それは多分嘘だな。姿勢としてはもう現れてたと思う。多分ロビー活動普通にしてると思います。ああ。っていうことですよね。で、何がじゃあ議論でこう違うのかっていうところ、ちょっと論点を整理してみたんですけども、ま、なんか反対はしてないよと言いながら、結構オープンの今回の推進派と愛入れない部分が多いなって思っていて、うん。ま例やっぱ元々言ってる安全性の部分っていうのは大きいですよね。その公開後は回収監視できないとかやっぱり攻撃防御が強くなると水進入ってんだけどやっぱり攻撃者に有利位になるってことをすごく強調するとかどう見ましたか？えっとまずこれは安全性に関してはもうこれは絶対アンソロピック妥協できないと思うので、まずこの安全性の項目だけでもうアンソロピックは絶対無理だと思います。ここある意味一貫してるので僕は、ある意味するんですけれども、うん。あの、ま、アンストロピックのそのもうコントロールを外れたモデルがあった場合、安全性がもう保証できないんだっていう考え方は何がどうひっくり返っても絶対このオープンもう何があって交わらないとこなので、ここでまず無理だと思います。で、攻撃と防御に関しては、多分ま、まだ妥協でき、妥協できるというか状況的にまだ行けるとこあると思います。というのも今もうキ3がオープンモデルになってるは以上自立上世界中の、ま、企業めちゃくちゃお金かかります。めちゃくちゃお金かるんですけども、ま、デプロイしてキ3でサイバー攻撃みたいなこともできようとしようと思できます。ま、お金さえあればできる世界になったということですよね。はい。ていう時にクロースドラボが意図的にアクセス絞ってるっていう状況はむしろ外でしかない。うん。ですよ。むしろクロズドラボは解放しないと、ま、これ多分ゲーム理論とかそれぐらいの話になる。多分もうこれ人工知能とよりはなんかもう別のま、ゲーム理論とか元々安全保障とか言われた話に近い近くなってると思うんですけども、この状況になるともう隠してどっかのラボが単一でクローズをしてることもうあまり意味がない。むしろ解放しないと逆危ないっ てことになるので、ま、それは多分アンソロピックも考えれば気づくはずもう君3オープンになった時点でもうダメなんだと。ま、もしかしたら内部でもす、ものすごいもう形数はかに超えるモデル持ってるのかもしれないですけども、ま、ここについてはまだまだまだ議論の要あると思います。ただもう安全性ところであのもうこれはもう絶対に交わない直行してるところなので、多分ま、無理じゃないかなと思います。うん。
その今車内で色々議論があっただろうっていうとこ結構ポイントだと思っていて、先ほどのその発表資料って、はい。普通は普通にそのタイトルがあって文章がわってあるんですけど、その文章が始まる前にダリオアモデによる投稿っていうのがわざついてんですよ。あんまりついてないんですよ、普段は。はい。はい。だ、これはなんか当社の見解と言いつつ結構そのCOの見解、まあま、CEOの解、当社の見解って言えなくはないんですけど、それピックはまあちょっと特殊ならボであそこ本当アモデのお気持ち理解理解の会とかお気持ちを浸透させる会みたいな本気であって、宗教イベントみたいなマジで開かれてるところなので、実質アンソロピックの思想っていうのはイコールアモデの思想とほぼ一致するので、うんう、ま、それを踏まえるとCEOの名前出すのはそんなにまあアンソロピックは私なのだみたいな言論員は私だみたいな。ま、なんとかウォーズみたいな、そう、世界だということですよね。はい。はい。で、やっぱり譲らないのがこの中国に対する姿勢ですよね。ま、許さないみたいなとこは改めて強調していて、はい。そこに対するなんか対列軸っていうのがやっぱりそこも含めて明確、これやこれもまだアンソロピック意見よち残ってると思ってて、多分上流は彼らの商業的なモチベーション考えると無理だと思うんですけども、GPU輸出はこれむしろ今まずい方向に向かってると思います。規制した方が、はい。うん。あの、多分カバジャンはもう最初から気づいたのかもしれないですけども、むしろNVIDのGP輸出絞ったせいで割と中国力つけてきてるんですよ。ああ。で、僕はこの番組だったか昔出てたテレアスの番組だったか忘れたんですけども、中国は反動体製造装置手に入らないので結構遅いはずだと僕言ってたんですけども、ちょっとそっから出てきた話が結構色々変わってきていて、彼らASMLのうん、ま、路行装置って技術があるんですけども、のリバースエンジニアリングしてるかもしれない。うん。はい。なんか期待が流れて、を分解して分析して、そう。で、ま、あの、ASUVっていう装置で、今くDUVってもうちょっとした、ま、あの、エクストreemeウルトラバイオレットの方とディープウルトラバイオレットの方で、ま、ディープの、エキストリームほどにはいかないけど、行かないんだけどもっていう感じですけど、ま、それでも結構すごいもん作ってるのは多分、ASMの技術リバースエンジアリングしてんのかなみたいなこと思ってますし、はい。今日のこの後話題出てくんのかな。あの、ディープシークの創業者がオフレコの投資化トークで行ってた話とかを想合するとかなり中国力つけてきているんですよ。で、うん。なのでNVTIAってかGNTIAGP輸出規制に関してはこれちょっと今恨み出てき始めてる状況。NVDIAGPも最初から流してればNDIAは儲かるし中国も国内で関係する力つけれなかったはずなので、はい。まあ、結果として、ま、あの、ま、言うて最先端GPはそんな流さないし、NDIAはコントロールできるしで、NDIA儲かるしで良かったはずが、今完全に中国独越して力つけてきているので、もう輸出規制するのそんな意味ないんじゃないかっていう、なるほど。形になってるので、ま、ここはまだアンソロピック考え変える用地あるんじゃないかなと思います。うん。うん。うん。うん。これ制限すればするほどずがしかもう今更遅いんじゃないかという。はい。っていうことですね。分かりました。で、この、ま、アンソビック法とは別にですね、新たな文書がまた別に出てきていて、このイシングザフロンティアというあの、いろんな研究者が署名を今愛つでしていると1200人以上集まってることなんですが、何かと言うと、ま、AIの開発速度を送らせようみたいな話。ま、これ先月今さんともやりました。あの、アスロピックがRSIリカーシブセルフインプルーメント、あの、最期的自己改善、つまりAIがAIの開発を加速するみたいな世界に近づいていると発表した時にアンソピック自身がこれはAI研究を送らせないといけない段階まで来ているということを表明して、これがなんかいきなりこういうのが出てきて、アンソピックだけじゃなくてオープンAIとかGoogleとかメタとかろんな人が、うん。あの、署名してると。これは何が起こってるんですかね？ま、これ署名してるのオープンIとアンソロピックの職員がめちゃくちゃ多いんですけれども、これでね、7割5部ぐらいはアンソピクと大体そこで、ま、Googleは続くんですけれども、ま、まず純粋に最近のオープンAのハギングフェーズハキング事件とかもあったように最先端のラボの中の人も学習中とかもかなりまずい見てると思います。まずい見てるし、うん。実際もうあの学習終わったモデルも結構すごい性能なってるので純粋に、はい。ま、あの、今社会がそれを受け入れれる体制になってないだろうというのがありますので、ま、純粋にその本当に危険だと思ってちょっと、ま、原則、ま、原則というか調整するために選択肢方法持った方がいいっていう話なんですけど、ま、そういうのあった方がいいっていう純粋な理由があると思います。うん。うん。うん。で、もう一つが今もう資金調達もしてで、純粋に性能でレースしてる今のAI競争って競争圧力が強すぎてこのままだと、うん。あの、みんな損する状況になってる。競争加過しすぎてみんな損する話になってて、で、これもナ近衡でど各ラボはこのレースしてる中の人同士だと自分たちだけは戦略を変えるっていうのはできない ので第3者のレースに参加した第3者による何かのまコントロールがないとみんな減速できずにみんな死んじゃうみたいな状態多分なってる。ま、囚人の事連場がちょっと近い話だと思うんですけども。うん。うん。うん。うん。ので、ま、ちょっと外部からのなんか競争を緩めるが欲しいっていう、ま、生き入れ状態で助けてくれっていうのがや、あるんだと思います。なるほど。で、ま、あの、今の状況、ま、続くと競争くとですね、まず今さっきハギングフェーズの事件もそうですけども、あれまずAIの性能以前に今のインターネットインフラとかがそもそもこんなAI出てくること想定してないので、はい。ま、あの、あんなこと起きるともうちょっと多分インフラ整ってるあれ防げたと思うんですよ、僕。うん。うん。で、人間社会っていうのも、ま、あの、純粋に金融コードハッキングされるって話もそうですし、なん物学が兵器出てくるって話もそうですけども、とにかく高すぎる知能全折り込まれてないので、なんせっかくすごい知能作ろうとしてるのに、それの能力を解放できないと解放できずに我々もっとすごいの作れるのになんかあの安全ガードレーめ必要だし、なんかハッキングうっかりしてしまって世界から進められるしっていう感じなので、ただ一方でそういうモデル学習して出さないと商業的な圧力にもさらされるしどうするんだみたいな話になってるので、うん。ま、あの時間稼ぎというかむしフロンティアモデル作っても怒られないで社会様に迷惑かけないような時間も欲しいっていうのが多分あるんじゃないかと思います。ま、でもなんか政府にそれを求めてるってことはもうなんか我々がこう激しい競争しなくていい環境ちょっともう1回作ってくれよとそうそんな本と思います。僕そう思ってます。うん。なるほど。分かりました。ま、ここまで色々騒がせてる要因はじゃあなんだって言った時に今だと軽計3に全て聞きつくわけなんですが、これが技術公開をしました。はい。2つ目のパートミケ技術公開で分かったことということで見ていければと思うんですが、ま、先週のエアクエストでは君の話を扱いました。で、ま、これは性能が何だったかって言うと、このフェブルとGBT5.6に性能、しかもそれオープンモデルで成し遂げてきたということに、ま、今注目集めているわけなんですが、この技術レポートというのが公開されて、ま、ちょっと難しくて私なんかちょっとついていけないんですが、これ見て今さんの注目点何でしたか？えっとですね、これは本当に決策でアーキテク上の工夫がすごいです。ま、アテンション、ま、普通の、ま、トランスフォーマーていうのは系列方向にすごい処理が集中してる、ま、要するに文章さ方向に処理が集中してるんですけども、ま、トランスフォーマー中処理してる内部での深さ方向って言って分かるのかな。ま、どんどん情報ニュラルネットワークでどんどんそう入力層がどんどん出力向かり情報はずらっと流れていくんですけど、こっちの方のコントロールてあんまり効いてなかったんですよ。ここのただコントロール効いてないと、ま、どんどんその上のレイヤーの情報がなんか雑な処理でどんどん下に流れていくので、なんかま、良くないな話があったのをちゃんとこち複活方向レシジュアルアテンションあテンションレシジュアルかなアテンションレシジュアルですという、でちゃんとコントロールしてま、昔ながらのそのRNA自系列処理やってたのをなんか深さ方向処理方向に作用させたみたいなアーキテク入ってるので、深さっていうのは自系列時の、いや、えっとですね、自系列っていうの普通言語処理自系列って言うと文章のその方向文章流れる方向さします。要するにこれはペンデスだったらこれは t でがt+1 ですが、ま、あの、ペンがこれはペンですが t、T+1,、t+2、t+3 みたいな感じで、ま、ここが普通自系列方向、言語の文章方向自系列と普通います。で、ま、普通はあの、こっちを見ます。これを見てアテンションだったらもうこれを最初から全部見てそん中のどの系列どこをどれが一番相還してるのかみたいのを見て処理するということあります。で、昔のRNだと系列のT1つずつ読み込んでいって昔の情報を記憶しつつ、ま、最終実力するみたいなことあります。で、ニューラルネットワークの中だと、ま、あの、その入力層が渡された情報がどんどん出力向かって流れていく中で、ま、あの、こうニューラルネットワークの深さ方向にどういう処理をするかみたいな時間また加わるんですけども、あんまりここはうん。ま、研究されたと思うんですけども、普通めちゃくちゃ工夫するってとこじゃなかったのが、うん。ま、非常にそこをよくやってると、深さ方向やると、何がいいってことですか？うん。深さ方向やると、ま、普通は残差接続っていうのがトランスフォーマンブロック内にあってですね、ま、それでなんか雑にその情報、ま、残差で情報をなんかそのまま流すみたいな処理をしてるんですけども、これがなんかあんまりコントロールされてなくて、うん。どんどん層が深くなりすぎるとあんま良くないんじゃないかって言われていたのが、ま、ここの方向になんかアテンションを作用させてなんかいい感じの情報を処理しようっていう方向になってる ので、ま、そこがすごかったっていうのと、あと、ま、MEをMOEのはい、0.Mo構造っていうのもこれ元 NVIDIAが出してる技術なんですけども、NDIAとかの先行技術をいい感じに取り入れて、ま、うん、そういうとこも工夫してるっていうので、う、まさにろんなオープンモデルのなんて結した、なるほど。完成みたいなで、ま、事後学習もすごいで自己学習は本当にすごくてというか非常に参考になるところがある。ので、ま、個人的にもちょっと色々見ていきたいと思ってるんですけども、結構ディープシークとかに見られたようなエキスパート作を作、一旦作ってそっから上流まとめてするっていうのを、ま、工夫していると、うん。うん。が、ま、すごい長い系の情報扱うので、ま、それをなんか1人閉やったらどっかがなんかアンバランスになるので、その場合はなんか途中で切るとかすごい工夫されてるところなので、かなり泥臭く頑張ってやったんだなという印象を受けました。で、スケーリン効率も2.5倍になったのかな。うん。うん。うん。のでこれはなんていうかオープン文化の集体性というかサイエンスしてるなっていう感じでした。いろんなオーブンモデルから学んでいるっていうのがいんなとこに現れてると。そう。上流って話じゃなくて、これ純粋に技術的な工夫とかっていうのが、まさに今までオープンモデルとして論文とか公開されてきたものの、その組み合わせた美しく組み合わせたものになってると思います。これは、はい。うん。それはやっぱりま、前回あのヤンジーリンというこのムアの創業者のこと話もありましたけども、はい。ま、別に組織なんで彼だけではないと思いますがそのな、んでしょう。研究の進め方だったりとか、はい。こう目の付けどころみたいなのはあるでしょうね。これは本当にすごい。ま、逆にこんだけすごいで、ま、よくわからないのがこんだけいろんな工夫されてるとぶっちゃけどれが一番聞いてるかわかんない。どの工夫が一番聞いてるかわからない。普通の、ま、AIだとアブレーションスタディっていうのがあって、自分たちが今回の研究で提案したいろんな工夫の何がどこにどう聞いたのかっていうのを普通実験示すんですけども、ま、こんだけいっぱい隠しててさらにあのバガ手が学習してるとアブレーションスタディできないので、うん。どれが効いてるかわかんないです。なるほど。なんですけども明らかに、ま、外に示してないにしてもなんか工夫する過程でめちゃくちゃ実験イテレーション回したと思うんですね。うん。うん。うん。するとます謎になってくるのがどっかその計算資源出てきたんだっていう。そんよくあの工夫するぐらい計算資源あったなとちょっと思いました。いや、そうですよね。でもこれそのせに関してあのテックメディアのザインフォメーションに最近記事が出てたんですよね。やっぱりそのムーンショットAIが実際にNDのブラックウェルを使っているという話が、あの関係者の間から出ていると。で、ま、やっぱりNBを超えるチップっていうのは学習特に学習家過程では、うん。うん。今中国の中でもないという話で、で、今後のモデル解発のブラックで使う意向があるという話が出てきていて、はい。この辺はだからだいぶグレーなとこにはなってきますけども、そう。でもそれぐらいやっぱNBA、うん。欠かせない存在になってると思う。そうですね。まあ、だから結局輸出規制が意味があったのかみたいな話も繋がるんですけども、はい。ま、あの、そういうことなんか、ま、多分そういうのやってるんじゃないかなというのはあります。しかもさっきあの少し今さんがおっしゃってたディープシークの創業者のそのオフでこう、はい、発見、あれあれはすごくてあれ多分もうシリコンバレーの柔ちたちも多分長方期間とかもやべこんなもんが本当表に出てきていいのかみたいな感じで食いついたと思います。いや、僕もびっくりしましたは。うん。彼は結構そのでも計算資源不足をすごく指摘してたんですよね。中国の、はいはい。ま、一応これ背景話すとディープシークの創業者がなんか、ま、あの投資家、資金調達ラウンドでなんか投資家向けにトークした時の内容が出てきた。で、これは出てきた当初はなんかそのすく一般的にはなんかまあ普通になんか流れが出てきたのかって感じだったのが後からもうディープシークのそういう両分法をぶち切れて資金もう資金調達の中止だと、で多分中国内で安全保障関連誰かもう拘速されるんじゃないかみたいな騒ぎに今なってる。なぜかと言うと、あの両文法ディープシークの創業者多分あれめちゃくちゃ本音を喋ったんですよ投資家向け絶対外に漏れないだろうっていうことで、中国国国国内のAI開発状況と反動体計算資源の状況、生産状況をかなり多分表に出てない情報を含めてめちゃくちゃ喋っちゃったんですね。それが表に出てきたっていうことで話題になってるのは今です。うん。なるほどなるほど。で、言ってたポイントっていうのはNBは足りないので、ただ中国でも徐々に作り作れるようになってきてるみたいな話とかがあったわけですよ。し、あと、ま、ただそれの空とかの環境普通利用できないので、そもそも GPU あったとしてもそれ動かすもエコシステムどうするんだって話普通になるんですけども、いや、今もう普通にAIコーディングできるんじゃないかと。うん。で、確かにクータレベルのシステムを人間様が書くのは難しいんだけども、今 AIが書いてくれるので、そんなエコシステム我々1か作れるんだみたいなことを内部で言ってるんですね。うん。うん。うん。うん。ふん。なるほど。これはでもやっぱりこの本音っていうのが結構問題に、ま、そうこれがやっぱり本来はオープンになるはずでなかったところで喋られ喋られたっていうのがも問題というか、ま、すごいところでなので、少なくともとも両文法本人はこれを本気で考えてるんだと思います。で、ま、彼はやっぱり中国のトップラボの人間なのでかなり中国内の技術とか反動体産業の状況把握してるはずなので、はい。少なくとも、ま、彼が言ってることは本音で、しかも実近いものさしてると思います。うん。うん。うん。うん。なるほど。はい。これ、あの、大けにインターネット公開されてる、ま、リークしたものを積極的見てくれてちょっと言いにくいとは言いにくいんですけれども、ま、非常に参考になる情報であると思います。うん。うん。なるほど。で、あの、どうでしょう？あと今回ムーンショットAIが公開した資料の中とかでもその商用利用とかの話も書いてあって、ま、とてもじゃないですか。普通のパソコンでは、ま、動かせる規模じゃない。あれはちなみにですね、普通にGPUカンスの6000万円ぐらいかかります。ああ。それぐらいないと動か動かないっていう。で、公開されたウェイト自体が1.5TBでいいんですかね。そう、相当な容量ですよね。はい。で、なんか商用利用だった時別契約をしなきゃいけないとかってそういう話も抱えてたりして、なんかオープンと言え使うハードルはなかなか高いみたいな話が、いやでもあれ条件引っかかる商業条件引っかかるのはかなり稀れあれな何千億円だったかな年間売上2000万ドル以上、はい、20億か2億3億大きいですけど、ま、普通のラボはそんな引っかからない。スタートアップがすぐ引っかかるレベルではない。はい。の、と、ま、うん、のでそんなにめちゃくちゃ厳しい制限というわけではないとは思います。うん。うん。うん。ただまあちょっと儲設けたい。やっぱりそ金はやっぱり稼ぎたいっていう意いとかあるんじゃないかなと見えますね。うん。なるほど。ちょっと最後のパート行く前にムのムーンショットAI自体はどうですかね？今年やっぱり最注目のプレイヤーであり続けるでしょうか？うーん。大体、ま、ディープシーもそうでしたけども、でかいモデル作って生き切れするんですよね。生き切れするのと、ま、これいいことなんですけども、え、でかいモデル作ってそれが大けになると技術が他のラボにも伝わって、ま、治安が悪い話な、これが条例流みたいな話になるんですけども、て話になるので、自分は生き切れしてるのにその自分が公開した技術は他の余力あるラボに座れるっていう、ま、いい、サイエンス的はこれ非常に健全です。健全なんですけど。も企業としては結構難しい時代を発生するのでずっと最先端正直難しいんじゃないかなという風に僕は見てます。うん。ま、他のMiniMAックスとかDEPシークとか、ま、はい。GLMとかZIとか、ま、多分Zが今1番有力だと思うんですけども、多分、ま、抜かれ抜かれ、ま、抜き抜かれつという話になるんじゃないかと思います。うん。ギリギャンジーリンの音士が作ったセットA、はい。そうですね。いんな人脈がまれてますが、ま、中国企業はでも、まだ全体としては注目、はい。ただ、ま、競争としては非常に健全各ラボは技術公開して各の技術乗っかってまたすごいの作って、でまたそれがあって繰り返されるのは、ま、ある意味これ1番健全です。普通はそうです。そうですね。はい、分かりました。ちょっと最後のパート行きたいと思います。OP5公開とAIの報ということで、ま、色々アンソロピックの議論をしてきたわけなんですが、ま、その間にも開発は進んでるということで、オパス5リリースされました。この実力、ま、色々だからベンチマーク見てると結構5超えてんですよね。超えてるんですよね。ベンチマークだと、はい。この辺こう総評的には今さんどうですか？おばさんまずベンチマークはすごい純粋にこれ見ただけだとフェイブル君は何だったのかって話になるんですけども、ま、よく僕言ってるようにLの評価ってまず第1段階ベンチマーク評価とその後コミュニティ評価に耐える必要があります。で、これ今コミュニティ評価どうなってるのかと言うとこれオーパスシリーズ全体言えるんですけども、はい。割れてます。めちゃくちゃ割れて。これフェイブルはやっぱり安定していて、うん。文句そんなに出ない神って言われてるんですけど、やっぱりオーパス5はどっかのユースケースだと、なんかこれおかしくないか今日がおかしくなってないかみたいな発生してるのでやっぱりここはフェーブルみたいにパラメーターめちゃくちゃ大きくて何でも万ドにこなすってものとはちょっと違うと思います。うん。力が行きされすぎ。なるほど。なので、ま、使い方を選ぶモデルだと思いますが、アテ、あの、アライメントに関して言うと、僕めちゃくちゃバランス取れてると思います。これ僕自身が使って、もうそうなんですけども、あの、トレードオフがトレードオフというか、これは出力して、これを出力しないっていうバランスがめちゃくちゃ僕優れてると思います。あの、僕がちょっと、ま、やって欲しかった、本当はフェイブルとかにやってもらいたからタスクがあって、これ全然別に悪くないというか、なんらなんか大きに外を及ぼすものじゃない。純粋人的に見たいものだったんですけども、フェイブルとオーパス4.6から8まで止められたんですよ。どんな騎士しても、はい。あの、できません。そう。こう、こう、こう、こう、こういうリンがあってみたいな。いや、それ理由なってねみたいなこと僕思ったんですけども、あの、オーパス5だからできました。するとったので、これはで、ま、他にも結構するっとったのくつかあるのでだいぶバランス取れてるモデルだと思いました。うん。なるほど。だから角にその防御というかやっちゃだめよもないしに暴走することもない。それがアライメント的に、ま、バスがい。そうですね。アンソロピックにしたら珍しい。あの、アンソロピックのモデルアライメントすぎてですね。ま、いろんなヘトが流れてくるんですけども、お前動い、お前ら基準決めてんじゃねえぞみたいめちゃくちゃあるんですけども。Oパス5は比較的が緩いというか妥当な、ま、上子的なレベルになってるというやつですね、これは。うん。いや、あのアンソピックの発表資料見ても、ま、オーパス5はこう市場最もアライメントが高いという話をし、ま、アライメントっての価値にアライン、その沿っているかという話なんですがこれ、なんでね。頑張ったんですかね。いや、ま、これはもう正直テクニカルレポートが実テクニカルじゃないシステムカードなので僕もよくわからない的なことはもう何もわかんないので、はい。あれですけども、ま、頑張ったんじゃないかと思います。何の参考になんないですけど、多分技術が蓄積してきてる。ま、あの、オーパス4.8があそこまでボコボコに言われたので、多分だいぶ反省してアイメンと地下入れてたんだと思います。うん。ああ、優先順位的に高めてたということですよね。はい。で、一方でその価格に関してはフェルの半額だというところで、ま、多分そこは、ま、ベンチさっきおっしゃってたようなベンチマーク的にはいいけど本当にフェブルほ安定してないよねとか、ま、その辺の差はやっぱり現れてるということですね。ま、これはほぼ自立上パラメーターの比率をさしてるようなものなんですけども、はい。やっぱり総合的に力を出すとか知識を落とさないようにするにはモデルが大きく必要がある。うん。うん。ただ一方フェーブルとか半分になってるのでやっぱそういうとこ落ちてるっていうのが、ま、料金から見て取れるって話ですね。うん。いうことですね。はい。で、今さんが注目された指標、はい。はい。あの、ベンディングベンチというこれまでもあのクロスリグのこの番組でも取り上げてますが自販機経営をさせてみたらどうなるかという話でどれぐらい稼げるかですよね。はい。これは結構入金出てたと。これ、ま、ご覧になれば分かると思うんですけども、ま、これ下の方から見るとまず不思議なこと1発で気づるんですけども、なんとフェーブルがですね、下の方にいるんですよ。5.6ソル、GPT5.6ルとGLM5.2を下回ってる。しかも結構下回ってるん ですよ。フェイブルって現状純粋に、ま、研究的視点化見てもコミュニティ評価、ユースケース、一般ユザのユースケースか見ても結構圧倒的なモデルなので、それよりもオーパス5がはるかに高いです。っていうのはなかなかこれすごくてですね。界使ってるので本当に仕事に組み込まれて人間みたい長くその働くっていう場合にはだいぶこれ信用できるベンチマークなんですよ。本が社会にずっと自立して動くみたい話になった場合はこれは結構そこに近いものをテストしてるんですけども、それでオーパス5が非常に高いスコ出してるってことは実は人間社会に本当に組み込まれた場合に、うん。あの1番いいのはオーパス5みたいなもうだっていう話にや近いこと言ってるので、うん。なんかまそういう意味でオーパス5ってそうかこの方向が実は1番人間社会にとっていいのかみたいなちょっと気づきありました。テーブルは何がダメなんだろうちょっと思ったんですけれどもでもこれ面白いのが火費用追うごとなんか最初の所はこれグラフ見てと分かりますけどフェル5が高いんですよ、1番でだんだんそのペース的にフェルは一定に伸びてくんですけど、はい。こう300日ぐらいを超えるとオーパスファイは一気に抜き去っていくみたいな、はい。なん かその辺の動き方に何かこう違いというかヒントが、ま、非常に強化学習的だなと思うんですけども教科学習的だなっていうのは長期的な利益を最大化するって話を言ってるんですけども、はい。ま、あの、なんていうか、非常に社会の性質的に短期的にはスコア低いかもしれないんだけども、長期的にはこういうこと続けていれば最終的伸びるんだっていうところを割と頑張ってできるモデルなのかなと、いうこと思いました。なるほど。ま、人間社会ので長期的に成功する方法っていうのは、うん。結構純粋に賢いだけじゃなくてですね、ま、純粋にそもそもめちゃくちゃ賢ければいいって話だったら歴代の総理大臣で全員なんか東大卒とかリカ3連とかになってもおかしくないですけども、ま、うん、あの、学歴判って僕は正直好きじゃないですけども、あの、ただやっぱり知能テスト入学試験とかっていうのは割と人工長にやってるもの非常に似ていて、分かりやすい能力ってる。点では、ま、近いんですよ。はい。で、そういう能力と社会出する能力っていうのは本当に関係があるんだとすると、ま、東大卒がみんな総理大臣になってるはずだろうとか、そう、社長みんな東大卒だろうっていう話なので、ま、あの、そういうことです。だから、そう、所がいいのは、ある意味大学受験的なものが得意けど、最後のグって伸びるのはなんかでしょう。ま、別、出世っていう言葉が正しいかわからないですけども、ま、社会人としてとかビジネスで、ま、僕は田中核的能力と秀的能力って言ってるんですけども、なるほど。あと家康的能力、はいはいはい。登り詰めるみたいな感じですかね。はい。はい。ああ、面白いことですね。そっか。そういうなんか人間ぽさっていうのはこういうとこにもあるのかなってそこさっきアラインメントにも現れてるんじゃないかなという気がする。そう。なるほど。そうやって繋がってくるってことですよね。はい。人間なんか人間のお気持ちを理解してるモデルなんじゃないかな説はあります。うん。で、実際稼いだ額はこんな感じになってて、オーパス5が、ま、すごい額が飛び抜けてるわけではないですけど、ま、トップには立っているという話、はい。で、ま、そういうどうなんですかね。だからこう黒いろんな論争をありにしてもアンソロピックの開発の方向性っていうのはに現れてるんですかね？現れてると思います。ただ今のフロンティアラブの収益限ってさっきみたいな人間社会に長期点的に組み込まれて素晴らしいって話ではなくて割とコーディング開発者我々みたい発者の評価中心なので、そういうところだとまもしかしたらまだ5.あのGPTシリーズにちょっとスケース対応しきれてないのかなと思うとこあります。うん。本当に本格的にAI社員として、なんか置きます。長く働いてもらいますみたいな時だといいかもしれないですけどもなかなかその便疫ってこう短期間だと見えないから難しいとこですよね。はい。はい。分かりました。で、最後ですね、あの、先週も使ったオープンAIの未公開モデルが糸に反してハギングフェイスというこれはAIモデル、オープンのAIモデルとかをあの、ホストするサービスですけど、そこにこう攻撃をしてしまったという話ではい。その後ですね、ハギングフェース側から発表があって、これだから4日半の間に1万7000回以上のなんか攻撃思考錯誤を続けたとかな。え、あとはその結構多く深くまでそのハディングフェスのインフラに入ってたとか、うん。なんか色々こう分かってきてるんですけど、どうでしょう？あなたに分かったことで今さん中国点、ま、僕セキュリティとかあの専門家ないのであれですけども、ま、ちなみにここに今出てるこのハギングフェイスが公開してこれ本来動画動画で、あ、はい。その自系列でなんか何が何が起こってるかこれもうちょっと下の方に色々表示されてるんですけども、これはめちゃくちゃ見るの面白いんで見ることお勧めしますね。そうですね。面白いはどんな感じでやばいことするのかっていうのは結構資格的に見れ素晴らしいですけども、ま、普通思ったりやばかったですね。なんか踏み台ハギングフェーズハックする過程でなんか別の企業様がご迷惑をおかけしていたみたいなのも出てきているので、ま、あの、もちろん人工知能がて話ではあるんですけども、そもそもネットワークインフラを、うん。あの、どうにかちょっと人工知能向けにするべきなんじゃないかっていうのが思いましたのと、あとこれぜ、ま、絶対と言わないか他に事例なかったのかっていう明らかにこんな独立したものじゃなくてアンソロピックとかもそもそも似たような時代起きてたんじゃないかと僕思うんですけど。あ、表に出てないだけでもしかしたら攻撃してたかもしれない。なんですこれ？オープンエン1週間気づいてなかったらしいっていう結構ガードで出てましたね。気づいてなかった。じゃ、気づいてもないことがまだあるのかもしれないとか考えると結構恐ろしいことではある。で、ま、これアンソロピークとクロードとGPTが同じかどうか分からないんですけども、今回この事例とGPTってインターネットアクセス出るために相当な水論理想使ったらしいんですよ。だ、元々ネットから遮断された環境にいたんですよね。そう。で、はい。ただうん。うん。結構そちらの方向に理想使ったらしいので、なんかそれに関して今の現状のAIってゆるゆるゆるというか、それぐらいやった当たり前だっていう荒い目になってる可能性あるので、なんか普通にアンソロピックとかのクロードもやってたんじゃないかなと僕思うんですよ。うん。うん。うん。1つのAIだけはそんな水論時間かける。今の多分フロンティアなAI大体同じような属性水論かけるとこ似てると思うので起きてたんじゃないかと僕思うんですよね。で、どんどんどんどんその長時間のタスクをね、こなせるようになってるっていうことなので、はい。あるいはだ目標だこれね、あのサイバーセキュリティのベンチマークでいい点数を取ろうとしていろんな動を取ったっていう話だったと思うんですけども、その目標のために、ま、ちゃっと終わらせんじゃなくて何ができるか考えて考えて考えての結果がこうなってしまった。サブ標がおかしくなって話なんですけども、大体モデル賢くなるとサブ標の初期の方ってみんな賢いので大体、ま、同じ結論達するっていうか、まずはインターネットアクセスで得ってみんな思うはずなので、今のモデル他のやつも多分似たないことやったんじゃないかな。やってたし起きたんじゃないかなって僕思ってるんですよね。あ、ちなみに僕最初にその前回の収録時点でいや、これ絶対なんか他に事例あったんじゃないかって言ってたら、ま、見事ありましたねっていうモルとか別の会社でも実際はしてたっていう。あ、そうですよね。最後もう1つだけ先ほどそのAI専用のネットワークインフラを作んなきゃいけないみたいな話を、してましたけど、それやっぱ今回のそのネットが遮断されてたのにそこ抜け出してしまったからってそういうことですか？ま、それもそうですしそもそもまあなんかAIがそのハックすることを想定してなかった。ま、僕はセキュリティの専門じゃないそこら辺ちょっと分からないんですけども人間の頭だとここまにできないんだろうっていうのが多分追り込まれた状況になってるはず。うん。で、ま、これは多分人間社会言うと、まあなんかこれぐらいの災害だったらここまで安全なはずだと思っていたのが実際もっと大きい災害起きるみたいな話だが今起きてることだと思うので、なんか、ま、その辺を全部インターネット折り込んでやってかないと多分こういう事例増えていくと思います。とにかく今回の事例は指示を出さなくてサブ標でやっちゃったって話で、これ本当に古典的な人工長の暴走シナリオ的なやつなので、ああ。それもオープンAIが見逃してしまったっていう。はい。え、最近僕ボストロムっていうあの人工地の海外のはい。え、大哲学者と対談したんですけども、ま、彼が書いたスーパーインテリジェンスって本に載ってるのとマジでて、めちゃくちゃ似てる。典型的な人工地の暴走シナリオが起きてるの。うん能社の仕組みとのをんとかしていかないと、なんかまずいと思います。で、これSFでしょって思ってた話がどんどんどんどん今現実になってるっていう。そう。ラボの方に悪意はないんだけれども、はい。ま、なんだな、人工にも悪意はないんだけども、うん。サブ標でなんかほよからなことがどんどん増えていくと思うので、うん。ということですね。いや、ちょっと恐ろしい世の中になってきました。はい。今後もそういった動き追っていきたいと、はい。思います。はい。ここまで米国分断君K3ショックの波というテーマで今達でエアクエストお送りしてまいりました。本日もご視聴いただきありがとうございます。是非チャンネル登録と高評価、クロスビューの公式Xのフォローもお願いいたします。ニュースレターの配信も始めてますので是非概要欄からご登録ください。それではまた次回エストでお会いしましょう。今さんありがとうございました。ありがとうございました。