Sam Altman on the future of AI | ReThinking with Adam Grant

サム・アルマンは自身のテックチェックを自分で行います。一体どうやってそんなことが起きたのでしょうか？ええ、分かります。分かりません。大丈夫です。ここにハンドラーはいません。多くの会話が過去一年で始まったであろうところから始めなければならない時があります。それは、あなた自身の会社から解雇されたことについてどう感じましたか？ええ、まるで現実離れした霞のようなものでした。混乱が最初の支配的な感情でした。それから、私はあらゆることを経験しましたが、混乱が最初でした。そして、それから、それから、フラストレーション、怒り、悲しみ、感謝、つまり、全てでした。ワオ、それは人間の感情の全範囲でしたね。それは、それは息を呑むほどでした。その48時間、それらの感情をどう処理しましたか？正直に言うと、戦術的にやるべきことがあまりにも多く、感情に対処する時間があまりありませんでした。ですから、その48時間ではほとんど何もせず、その後、塵が落ち着き、この全ての中で仕事に戻らなければならなかった時、大変でした。スティーブ・ジョブズがアップルから追い出された数年後に言ったことを覚えています。「それは不味い薬だったが、患者はそれを必要としていた」と。それは何かしら共感できますか？それとも、この状況はあまりにも違いすぎますか？おそらくまだ時間が経っていません。最近、深く反省していません。スティーブ・ジョブズのケースとはあらゆる点で非常に異なっていたと思いますし、全体が5日間で終わってしまったという点でも非常に短かったです。まるで奇妙な熱病のような夢で、その後、仕事に戻って、断片を拾い集めたような感じでした。5日間と10年間では、学習曲線が少し違いますよね。何を学びましたか？実際、もしかしたら間違っていたかもしれません。4日間だったかもしれません。4日間だったと思います。その過程の最中とその後でどのようにコミュニケーションをとったかについて、次回とは違うことをたくさん学びました。何が起こっているのかを直接的に明確にする必要があるということも学びました。長い間、オープンAIに疑念の雲がかかっていたと思います。私たちはその点でより良い仕事ができたと思います。素晴らしい人たちと仕事をしたことは知っていましたが、危機的状況やストレスの多い状況、不確実性のなかでチームがどれほど優れているかを見ることは、私にとって最も誇らしい瞬間の一つでした。しばらくの間、私抜きで経営陣が活動しているのを見て、彼らなら誰でも会社を完全に運営できると知った時です。私は、それらの人々を選んだこと、そして何らかの程度で彼らを教育したことに、大きな誇りを感じました。そして、会社が非常に強力な立場にあったということです。そうおっしゃるのを聞いて驚きました。私は、あなたを支持した従業員の圧倒的な数こそが、あなたの最も誇らしい瞬間だとばかり思っていました。組織心理学者の立場から見て、その忠誠心と支援の溢れ方は驚異的だったと思います。それは気持ちの良いことでしたが、私が心に残っていることではありません。チームを誇りに思ったことは覚えていますが、その理由ではありません。それは、ジョブズが彼の最も誇らしい業績について尋ねられた時、MacでもiPodでもiPadでもなく、それらの製品を作り上げたチームだったということに似ています。私はリサーチをしません。製品を作りません。いくつかの決定はしますが、ほとんどはしません。私が作ることができるのは会社です。だから、それは確かに私が著作権を主張するものです。では、実際には何をしているのですか？どのように時間を過ごしているのですか？それは素晴らしい質問です。早朝はなぜかそれほど混沌としていませんが、午後にはしばしばすべてが軌道から外れてしまいます。たくさんのことが起こっていて、反応モードや消火モードに入っているのです。ですから、本当に重要なことを一日の早い時間に行うようにしています。私は時間の多くを、研究やコンピューティング、そして私たちが作る製品について考えて過ごしています。そして、その他のことについては少ないです。しかし、それはいつどのようなものになるかは非常に異なります。私が非常に興味を持っていたことの1つは、過去数年間にあなたが世界をひっくり返しているのを見てきたことです。人間はどうなるのでしょうか？私はこれまでに行われた最も興味深い研究を追跡してきましたが、人間は私の予想よりもはるかに速く、はるかに速く衰えています。私たちはすでに創造性、共感、判断、説得力において遅れをとっています。それぞれの分野におけるいくつかのデータポイントに対するあなたの反応を聞きたいのですが、まず、全体的なことについて、AIが多くの人間の能力をどれほど速く凌駕したことに驚いていますか？私たちの最新のモデルは、ほとんどすべての点で私よりも賢く感じられます。そして、それは本当に私の人生に影響を与えません。私は以前と同じ種類のことを気にしています。少し、あるいはもっと効率的に働くことができるかもしれません。社会がこの新しいテクノロジーを消化するにつれて、社会ははるかに速く動くでしょう。科学の進歩もはるかに速く進むことを願っています。私たちは、この驚くべき新しい人工物、ツール、何と言おうと、共存しています。しかし、数年前と比べて、あなたの日常生活はどのくらい違いますか？それほど変わらないですよね。私は、非常に長期的に見ると、AIは本当にすべてを変えると思います。しかし、10年前に私がナイーブに考えていたのは、私たちの最も強力なモデルと同じくらい強力なモデルを持った日には、すべてが変わるだろうということです。今では、それはナイーブな見方だったと思います。これは、短期的な変化を過大評価し、長期的な変化を過小評価するという標準的なものです。あなたはそれのバリエーションを生きているのです。ですから、最終的には、経済全体が変革し、新しい仕事が見つかるでしょう。私はそれについて心配していません。新しい技術が登場するたびに、すべてがなくなると仮定しますが、私たちは常に新しい仕事を見つけます。いくつかの仕事はなくなることは事実ですが、私たちは非常に多くの新しい仕事、そしてより良い仕事を見つけるでしょう。だから、起こることは、これは技術進歩の長い展開する指数関数曲線の次の段階にすぎないと思います。ある意味では、AI革命はインターネットの逆のように見えます。なぜなら、当時は世界を変えるとは思っていなかった企業が経営されており、必要な変更をしなかったために倒産したからです。しかし、受け入れた人々にとっては、行動的意味合いが非常に明確でした。「機能するウェブサイトが必要だ」「そのウェブサイトを通して製品を販売する方法を知っている必要がある」といった具合に、デジタル革命への適応はロケット科学ではありませんでした。今、多くの創業者やCEOから聞いているのは、その逆です。誰もがAIがゲームチェンジャーであると考えていますが、リーダーシップ、仕事、組織、製品やサービスにとってそれが何を意味するのか、誰も分かりません。彼らは皆、その意味で暗闇の中にいます。それはインターネット革命よりも産業革命のようなものです。これがどのように展開していくのか、巨大な未知の未知数がありますが、それがどのように展開していくかについて多くのことを言えると思います。ですから、それらのことを聞きたいと思っています。私が持っているいくつかの重要な仮説の1つは、私たちは能力を重視することをやめ、人間の俊敏性を重視し始めるということです。私たちが本当に価値を置く能力の種類はありますが、同じ程度には生粋の知的能力ではありません。何が新しい能力で重要なのでしょうか？この愚かなバージョンは、答えを考え出すよりも、どのような質問をするかを考え出す方が重要になるでしょう。これは、過去数年間に私が見てきたことと一貫しています。私たちは以前、脳にどれだけ多くの知識を集めたかを重視していました。あなたが事実収集家であれば、それはあなたを賢く、尊敬されるものにしました。しかし、今では、事実収集家よりも、ドットを接続する方がはるかに価値があります。あなたがパターンを合成し、認識することができれば、あなたは優位性を持っています。あなたはバトルトースター・ギャラクティカというテレビ番組を見たことがありますか？その番組では何度も何度も、「これはすべて以前にも起こったことだ」「これはすべて再び起こるだろう」と言われています。人々がAI革命について話すとき、それはいくつかの非常に重要な、そして重要ではない質的な点で異なって感じられますが、子供の頃、インターネット上に新しいものが登場したときの以前の技術的パニックを思い出させます。私はそれをクールだと考えました。他の人もクールだと考えました。それは明らかに以前のものよりもはるかに優れていました。私には直接起こるにはまだ若すぎましたが、年上の子供たちが私に教えてくれました。教師たちはGoogleを禁止し始めました。Googleと呼んでいましたか？Google。もしあなたがすべての事実を調べるだけで良いなら、歴史の授業に行って事実を暗記する目的は何だったのでしょうか？私たちは、子供たちにどのように教え、社会の責任ある一員であるとはどういうことなのかについて、非常に重要な何かを失ってしまうのではないかと感じました。もしあなたがすぐにどんな事実でも調べるだけで良いなら、あなたは燃焼エンジンを始動させて図書館に行く必要も、カードカタログを探す必要も、本を見つける必要もありませんでした。それはそこにありました。それは不当に感じられました。それは間違っているように感じられました。私たちは何かを失ってしまうのではないかと感じました。私たちはそうしません。そして、これらすべてにおいて、何が起こるかは、より良いツールが得られれば、期待は高まりますが、誰かの能力も高まります。そして、私たちはより困難で、よりインパクトがあり、より興味深いものを行う方法を学ぶだけです。そして、AIもそれと同じになると予想しています。数年前の人に、「2024年に01と同じくらい強力なシステムがあるかどうか」「もしオラクルが間違っていると教えてくれたら、世界はどのくらい変わるか、あなたの日常生活はどのくらい変わるか、私たちはどのように存在論的なリスクに直面するか」と尋ねたら、ほとんどの人は最初のものについては「絶対にない」と言ったでしょう。しかし、もし間違っていて、それが起こったとしたら、2番目についてはかなり[ __ ]でしょう。そして、この驚くべきことが起こり、私たちは革新の領域にいます。エイデン・トナー・ロジャーズによる新しい論文があり、R&D科学者にとって朗報を示しています。AIアシストを受けた場合、特許出願が39％増加し、製品イノベーションが17％増加するというものです。そして、その多くは、発見された新しい化学構造など、抜本的なブレークスルーです。主要な成果は、最下位ではなく、トップレベルの科学者にとってです。あなたが下位3分の1の科学者の場合、ほとんど恩恵はありませんが、トップレベルの科学者の生産性はほぼ倍増します。そして、その倍増は、AIが多くのアイデア生成タスクを自動化し、科学者が有望なアイデアを認識するのが得意なアイデア評価にエネルギーを集中できるようになるためです。悪い人は偽陽性に弱いです。それはすべて良いニュースですよね。信じられないほどの科学的創造性の解き放ちですが、それはコストを伴います。この研究では、科学者の82％が仕事に満足しておらず、創造的な仕事をする機会が少なくなり、スキルが十分に活用されていないと感じています。その場合、人間は創造者や発明者ではなく、審査員に還元されているように見えます。その証拠についてどのように考えているのか、そしてそれについてどうすればいいのかを知りたいです。私はここで相反する2つの考えを持っています。個人的に、オープンAIで起こった最も満足のいくことの1つは、これらの新しい推論モデルをリリースしたときに、伝説的な科学者、数学者、コーダーなどに渡し、彼らの考えを尋ねることです。そして、これが彼らの仕事をどのように変えているか、そして彼らが新しい方法で仕事ができるようになったかについての話を聞くことは、間違いなく、本当に創造的に問題を解決し、誰も解決したことのない答えを見つけ出すことで、最高の専門的な喜びを得てきました。そして、もしそれがそうなった場合、AIがそれを引き継ぐことについて考えると、私は少し悲しみを感じます。現実に起こると予想していることは、単に難しい問題に取り組む新しい方法があるということです。最も難しい問題を解決することに積極的に参加することが喜びをもたらし、もし私たちがそれを私たちを異なる方法で増強する新しいツールを使って行うのであれば、私たちは適応すると思います。しかし、私は不確実です。あなたの仕事では、現在それはどのようなものですか？たとえば、どのようにしてChatGPTを使用して、仕事で直面する問題を解決していますか？正直に言うと、私は退屈な方法で使用しています。私は、それを新しい科学的アイデアを思いつくのに役立てる人ではありませんが、メールを処理したり、このドキュメントを要約したりするのに役立てるために使用しています。それは単なる非常に退屈なものです。それでは、あなたは、創造的なプロセスに依然として参加できるような方法で適応することを期待しているのですね？私はそう願っています。私は、それが人間の精神であり、私が考えるには、それが何であっても、このすべてが続く方法だと思いますが、それは進化する必要があり、多少は異なるでしょう。私が人間が優位に立つと予想していたもう1つの分野は共感です。私がこれまで読んだ中で最も好きな実験は基本的に、テキストの会話をしていて、それが人間かChatGPTか分からない場合、その後、どれくらい見たと感じたか、どれくらい聞かれたと感じたか、どれくらい共感とサポートを得たか尋ねられた場合、AIから人間よりも多くの共感とサポートを得たと感じます。ただし、それがAIであることを伝えられると、もう好きではなくなります。私は心理学者としてその証拠を見て、いくつかの反応があります。1つは、AIが共感においてそれほど優れているわけではないということです。人間としての私たちのデフォルトは非常に悪く、貧弱であるということです。私たちは、誰かが問題を私たちに話すと、自分自身の問題に関連付けるのではなく、彼らに寄り添うのではなく、会話的なナルシシズムに陥りやすすぎます。ですから、それは単に人間の共感の貧弱な基準に対する告発かもしれません。また、AIであることを知っていれば、それがどれくらい続くのか疑問に思います。私たちはますますこのテクノロジーを擬人化し始めます。まず、人々が何かが出力されたもの、それがAIであることを知られるまで、それがAIであることを伝えられると、それが好きではなくなるという一般的な概念について話しましょう。あなたはそれを何度も何度も見てきました。最近、AIアートを本当に嫌っている人々の中でも、彼らが最も好きなアートの作品について、彼らが選択したAIの出力が人間よりも多いという研究を見ました。それがAIであることを伝えられるまで、そしてもちろんそれは異なっていました。他の多くの例を挙げることができますが、AIが多くの点で私たちに追いついたにもかかわらず、私たちは人間を気にするように、そしてAIを気にするようにハードワイヤードされています。私はそれが非常に良い兆候だと思います。私たちは皆憶測をしています。ですから、私はすべてのことに非常に高い不確実性があると言います。そして、あなたは今日よりもAIと話すことは増えるでしょうが、それでもあなたは人間と話すことを本当に気にします。これは私たちの生物学、進化の歴史、社会機能、何と言おうと、非常に深く根付いています。なぜ私たちは依然として人間とのつながりを望むと思いますか？それは、人々がシミュレートされた喜びよりも経験を好むという、ロバート・ノージックの主張のバリエーションのように聞こえます。それが私たちが切望しているものだと思いますか？私たちは、たとえそれが欠陥があり、混乱していても、本物の人のつながりを望んでいます。もちろん、AIもシミュレートすることを学ぶでしょう。あなたはすぐに、常に完璧で、完全に共感的なものと話すことで、ドラマや緊張、または私が、何かが欠けていることに気付くでしょう。私たちは他の人々がどのように考えているか、感じているか、私たちをどのように見ているかを気にするように、非常にワイヤードされています。それはAIには当てはまらないと思います。AIとの会話は役に立ち、あなたは承認されていると感じます。それはビデオゲームをするような良いエンターテイメントですが、私たちにとって登録されるような、社会の一員であるという社会的ニーズを満たすものだとは思いません。私はこの点で間違っているかもしれませんし、AIは私たちの心理を完全にハックして、そうするかもしれません。そして、もしそうなら、私は本当に悲しくなります。私もそう思います。あなたは正しいです。AIが所属に取って代わるのは困難です。AIから地位を得たり、重要だと感じたり、クールだと感じたり、他の人の目や耳に依存している方法で尊敬されていると感じたりするのも困難です。私が言おうとしていたのは、AIが私たちよりも信じられないほど有能で、驚くべきことをしている世界がすぐに来ることを想像できます。そして、その世界とそこの人々を想像すると、私はそれらの人々が依然として他の人々を非常に気にかけており、他の人々に対する相対的な地位や愚かなゲームについて依然として非常に考えていることを想像します。しかし、多くの人がAIが何をしているか、何ができるかを基準に自分自身を測定することはないと思います。私が本当に興味を持っていたことの1つは、情報がますます争われ、事実を人に納得させることがますます困難になっている世界です。たとえば、陰謀論の信念に関するデータでそれを見ることができます。人々は、それが彼らを特別で重要に感じさせるので、陰謀論を信じます。彼らは他の人にはない知識にアクセスしているからです。もちろん、それが唯一の理由ではありませんが、推進力の1つです。つまり、他の人が彼らをその信念から説得するのは本当に難しいということです。なぜなら、彼らは自分が間違っていることを認めているようなものです。私は最近の論文に魅了されました。これはカステロ、ペニー・クック、ランドの論文で、AIチャットボットと一度会話するだけで、数か月後でも、彼らの陰謀論の多くを信じさせないようにすることができます。それは基本的に、あなたが信じている虚偽の主張を標的にし、それを暴くことから始まります。そして、それは部分的に、あなたがあなたの信念に結び付けている具体的な理由に反応しているからであり、部分的に、人間の前のように機械の前でばかのように見えることを誰も気にしないからです。人々は、彼らのばかげた陰謀論を単一の交換の後で手放すだけでなく、AIがターゲットにしていない他の信念も手放します。ですから、私はその扉が開いていることを非常にエキサイティングだと思います。明らかに、これは悪にも善にも使用できますが、これらのツールを使用して人々の誤解を修正するというこの新しい機会についてあなたの考えを聞きたいです。世界には、何らかの方法で私たちの心を広げることができる人がいます。それは非常に強力です。そうした人はほとんどいません。彼らと話すことができるのはまれな特権ですが、もし世界最高のディナーパーティーのゲストのようなAIを作ることができれば、すべてを知っていて、あなたに非常に興味があり、新しい方向にあなたの思考を押し進めることができる場所を理解するのに時間を費やすことができるなら、それは良いことだと思います。また、私は重要な分野の真の専門家と話をした経験があり、それが私の世界の見方を変える経験をしました。確かに、そうできる人間はいますが、私はその時ちょうどその人と一緒ではありませんでした。それはまた、幻覚の問題と正確性について多くの疑問を提起します。外部の人間として、なぜこれがこれほど難しい問題なのかを理解するのは本当に難しいです。コンピュータ科学者ではない人にも意味が通じるように説明していただけますか？多くの人はまだGPT-3の日々に固執していると思います。2021年の古い歴史で、これらのものは何も機能していませんでした。そして、それは実際に多くの幻覚を起こしました。現在のChatGPTを使用しても、確かにまだいくつかの幻覚を起こしますが、それが一般的にかなり堅牢であることは驚くべきことです。私たちはこれらのモデルを、これまでに見られたすべての単語に基づいて予測を行うようにトレーニングします。トレーニングセットには多くの誤った情報があり、モデルが期待どおりに一般化できない場合もあります。モデルがいつ自信を持ってそれが知らないことを表現するべきか、つまり推測をするべきか教えることは、まだ研究の分野ですが、それははるかに改善されています。そして、私たちの新しい推論モデルでも、大きな進歩があります。私は、様々なイテレーションでChatGPTにプロンプトを与えてきました。「これは正しいですか？」「これが正確な答えであることを確認してください」これは、イテレーションで必須のステップとして組み込むべきだと思います。それが私たちが向かっている方向なのでしょうか？それはプロセスの自動的な一部になるのでしょうか？それはプロセスの部分になると思います。それをより良くする他の多くのものもあると思いますが、それはプロセスの部分になるでしょう。いくつかの真新しい研究があり、過去1～2年にわたってこれらの種類の研究がたくさんありましたが、先週私の心を吹き飛ばしたものは、AI単体と医師単体を比較すると、もちろんAIが勝つのですが、AIは医師とAIのチームにも勝つということです。そして、私のその証拠に対する解釈は、医師はAIのアシスタントから恩恵を受けていないということです。なぜなら、彼らが同意しない場合はAIをオーバーライドするからです。歴史全体でそれのバリエーションを見ることができます。AIがチェスをプレイし始めたとき、人間の方が優れていた時期があり、AIの方が優れていた時期があり、そしてしばらくの間、どれくらいかは忘れましたが、AIと人間が協力して作業する方がAI単体よりも優れていました。なぜなら、彼らは異なる視点を取り入れることができたからです。そして、人間がオーバーライドして、彼らが何かを見逃していた間違いをしているため、AIが再びAIと人間を合わせたものよりも優れている時期が来ました。あなたが常にAIをオーバーライドしようとすれば、それはうまくいかないことが分かります。一方、2番目のことは、人間とAIがどのように協力するべきかを理解するのはまだ初期段階だと思います。AIは人間医師よりも優れた診断医になるでしょう。そして、それはおそらくあなたが戦いたいものではありませんが、人間がはるかに得意なこと、あるいは少なくとも患者が人が行うことを望んでいることがたくさんあるでしょう。そして、それは非常に重要だと思います。私はこのことについてたくさん考えてきました。すぐに子供が生まれる予定です。私の子供はAIよりも賢くなることはありません。生まれたばかりの子供たちが知る世界は、AIのある世界だけでしょう。そして、それは自然なことであり、もちろんそれは私たちよりも賢く、私たちにはできないことができます。しかし、誰が気にしますか？ですから、それは私たちにとってこの1つの移行期間において奇妙なだけだと思います。ある意味では、それは謙虚さのための力であり、それは良いことだと思います。一方、私たちはこれらのツールとどのように連携するのかまだ分かっておらず、おそらく一部の人はあまりにも早くそれらに依存しすぎているかもしれません。私はもはや複雑な単語を綴ることができません。なぜなら、私は自動修正が私を助けてくれると信じているからです。私はそのことについて問題ないと感じています。人々が彼らの思考を表現するのにAIに依存するようになるとしても、それは未来のあり方かもしれないと思います。私は、ChatGPTを手元に置いていなければ論文を書きたくない学生を見てきました。なぜなら、空白のページや点滅するカーソルがあるからです。私は、そのような依存性が構築されているという点では少しあると思います。それを防ぐ方法についてどう思いますか？それとも、それは単なる未来であり、私たちはそれに慣れるべきなのでしょうか？それは私たちが防ぐべきことかどうかは分かりません。私にとって、文章を書くことはアウトソーシングされた思考であり、非常に重要ですが、人々がより良い思考の方法を新しい種類の文章で置き換える限り、方向性としては問題ないと感じます。私が本当にばかげていると思うことは、かなり一般的なワークフローでは、ある人が別の人に言いたいことの箇条書きを書き、ChatGPTにそれを素敵な複数の段落のメールに書き直させ、それを別の人に送ります。その人は、そのメールをChatGPTに入れ、「3つの重要な箇条書きを教えてください」と言います。ですから、おそらく多くの価値を持たない文章やコミュニケーションの痕跡のような形式があると思います。そして、誰もが箇条書きを送り合えるような社会規範が進化する世界になることは問題ないと思います。私は、ChatGPTが「ねえ、これまでに私が生成したものだよ、この人に箇条書きが欲しいと伝えるべきだよ」と言っ戻ってくるような、透かし、あるいは少なくとも内部メモリが本当に欲しいです。そうすれば、皆さんが将来より明確にコミュニケーションをとることができるようになります。より有名になることについて悲しいことの一つは、私自身やオープンAIにとってほとんどメリットのないことで、完璧にフレーズを表現しないことです。私はたくさんの攻撃を仕掛けたりするだけです。それは残念です。私はそれが特権だと思います。あなたは、公開してアイデアでリフやプレイを行い、部分的に間違っていたり、不完全であったり、ほとんど間違っていたり、中には宝石が含まれていたりする能力を失います。しかし、それが私が目指していたことです。そうは言っても、私たちの中には、自己省察や自己抑制を行わない同僚よりも少し慎重であることに感謝している人もいます。まあ、それは別のことです。思慮深く、ある程度注意深い人であることについてもあります。はい、もっと多くの人がそうすべきだと思います。部分的には、多くの人がツールへの適応が遅いことが起こっていると思います。私たちは本当に興味深い人間の創意工夫を見ているのです。私が心に浮かぶ証拠は、シャロン・パーカーと彼女の同僚による研究です。これはロボット工学技術の分野です。彼らは本質的に人間をロボットに置き換えている製造会社に行きます。そして、人々がもはや仕事をすることができなくなるのではないかとパニックになるのではなく、多くの従業員は、「私たちは独自の貢献を見つける必要があります」「私たちは仕事で意味を見つける必要があります」と言います。彼らはロボットを出し抜くことによってそれを得ます。彼らはロボットを研究し、何が駄目なのかを見つけ出し、その後、「私たちはそれを私たちの核となる能力にするつもりだ」と言います。私はこれが01と推論の進歩で恐ろしいことだと思います。なぜなら、昨年私たちを差別化すると考えられていたスキルの多くは、すでに時代遅れになっているからです。多くの人が2023年に使用していたプロンプティングのトリックは、もはや関連性がなく、それらのいくつかはもはや必要なくなるでしょう。それでは、人間は50年後、100年後、1000年後には何のために存在するのでしょうか？誰も知りません。しかし、私はより興味深い答えは、人間が今日何のために役に立つかだと思います。そして、私は他の人々に役立つことだと思います。そして、私はそれがこれからも続くと思います。何年も前にポール・ビューイットが私に言ったことがあり、それは本当に心に響きました。彼はオープンAIが始まるずっと前から、考えて、考えて、考えていました。そして、いつかただ存在するようになるだろうと考えていました。

人間のお金と機械のお金、そしてそれらは完全に別々の通貨になるだろう、そして片方はもう片方を気にしないだろう。文字通りそうなるとは思わないが、非常に深い洞察だと思う、実に興味深い。機械が独自の通貨を持つことについては考えたことがなかったが、AIがあなたのためにすべての感覚を発明し、病気を治し、核融合を実現し、想像もできないような不可能な偉業を成し遂げるとしたら、あなたは興奮するだろう。しかし、niiが何をするか、あなたの友人が何をするか、あるいは会社を経営している人が何をするかを気にするだろうか？たぶんそれほどではないだろう。いや、一部の人々は気にするかもしれない。特定のAIを崇拝するような奇妙なカルトが出てくるかもしれないし、我々は依然として非常に人間中心であるということに驚くことになるだろうと私は賭ける。

いいだろう、ライトニングラウンドの時間かもしれない。これは、01モードではなく、私ができる限り早く次のトークンを考え出さなければならないモードの、私とgbt-4モードだ。最初の質問は、最近AIについて考え直したこと、または考えを変えたことは何か？数年前に比べて、急速な離陸の可能性が高いと思うようになった。どのくらい速いかは推論が難しいが、10年ではなく、数年以内のことだ。AIへの適応について、人々に与えられる最悪のアドバイスは何だと思うか？AIは壁にぶつかっている、これは考えることを避けようとする最も怠惰な方法だと思う。見えるところに置かないことだ。AIへの適応方法、またはAIの世界で成功するためのアドバイスで一番好きなものは何か？これはばかげているが、明白なことは、単にツールを使うことだ。OpenAIが本当に素晴らしいと思うことの1つは、世界で最も強力なモデルである01を公開していることだ。誰でも使うことができる。月額20ドル払えば、20ドル払いたくなければ、それでも非常に良いものを使うことができる。それは最先端、世界で最も有能な人間と同じフロンティアにアクセスできるのだ。そして、私はそれが素晴らしいと思う。だから、それを使い、何が気に入って、何が気に入らなくて、何が起こると思うかを考えてみよう。

AIに関する最もホットな意見、または不人気の意見は何ですか？少なくとも短期的には、人々が考えるほど大きな問題にはならないだろう。長期的にはすべてが変わる。私は本当に、最初のAGIをローンチしても、それほど誰も気にしないと思う。テクノロジー業界の人々と哲学者たちは気にしている。私が一貫して反応してきた2つのグループだ。それでも、彼らは気にするが、20分後にはその晩の夕食のことで頭がいっぱいになるだろう。組織心理学者の私への質問は何ですか？私たちがこれほど狂ったような超知能の離陸を経験する中で、集団心理をどのように管理するかについて、OpenAIにどのようなアドバイスをしますか？より良い言い方はないが、ここで働く人々をどのようにして正気を保つか？私たちはまだ超知能の離陸段階にはないが、それを経験するにつれて、信じられないほど高いリスクと途方もないストレスを感じることになるだろうと思う。AGIへの準備段階でさえ、少しそう感じているが、これから起こることにはるかに多くの組織的回復力が必要だと私は思う。組織的回復力とはどのようなものですか？それは、人々が実際にストレスを感じなくなることですか？それは、彼らが自然に比べてより速く変化に対応できることを意味しますか？信じられないほど高いリスクと不確実性の中で、良い決定を下すこと、そして事実が変わり、私たちが考慮したり、実行する必要がある行動が非常に急速に変化するにつれて、適応力を持つこと。私にとって、まず始めるべきは、2×2の表を作成し、OpenAIの全員に、自分が下すそれぞれの選択がどれほど重大であるか、リスクはどれほど高いか、そしてそれぞれの選択はどれほど可逆的であるかを考えさせることだ。彼らは回転ドアを通っているのか、それともドアが背後で閉まってしまうのか？本当に減速し、事前にすべての思考と再考を行う必要があるのは、非常に重大で不可逆的な決定だ。なぜなら、それらは本当に重要であり、明日取り消すことができないからだ。他の3つの象限では、迅速に行動し、実験し、パイロットを行い、自分が知っていると思うことを疑うことにオープンであることは問題ないが、その象限では、正しく行うことが非常に重要だ。そこで、人々は最高の思考力と、おそらく最高のプロンプト力を発揮してほしい。

あなたが書いたことについて質問したい。あなたはかつて成功する方法についてのブログを書いたことがある。それはずっと昔のことだ。もうその記憶はない。大丈夫だ、ここにある。特に興味深いと思ったセクションは、自己信念についてだ。だから、あなたに引用させてもらう。「自己信念は非常に強力です。私が知っている最も成功している人々は、ほとんど錯覚するほど自分自身を信じています。あなたの判断が良いというデータポイントが増えるにつれて、それを早くから養いなさい。そして、あなたは一貫して結果を出すことができます。もっと自分を信じなさい。」あなたは今でもそう思いますか？そう思う。OpenAIを始めた頃、外部からの見方とは対照的に、私たちが内部で信じていたものと比較して、OpenAIに対する懐疑論が最大になった頃のことだが、その段階での会社への私の最も重要な貢献は、私は人々に「見てください、外部の世界は新しいもの、既成の信念とは異なる方向に進むかもしれないものをすべて嫌っています。だから、人々は私たちについてこれらすべての狂ったようなネガティブなことを言っていますが、それでも私たちは信じられないほどの進歩を遂げています。まだ初期段階であり、それが拡大し続けると信じるために懐疑心を捨てなければならないことはわかっていますが、それは拡大しているので、ばかげたほど遠くまで押し進めましょう」と言い続けたことだ。今では当たり前のことだが、当時、私たちがそうしなかったら、それは長い間起こらなかったかもしれないと本当に信じていた。なぜなら、私たちはGPTモデルのスケールアップに10億ドルを費やすというばかげたことをするだけの自己信念を持っていた唯一の人々だったからだ。だから、私はそれが重要だったと思う。すべて真実だと思う。それは恐ろしいことでもあると思う。なぜなら、それらの人々は、錯覚するほど自分自身を信じるが、専門分野の外ではひどい決断をする人たちだからだ。あなたが書いたものを修正するならば、特定の分野であなたの判断が良いというデータポイントが増えるにつれて、その分野ではもっと自分を信じるべきだ、人生全体ではそうではない、と言うだろう。経験と能力は全く一般化されないというわけでは無いとは思うが、多くの人がそれをあまりにも一般化しようと試みる。専門分野について何か言及するべきだった。しかしニュアンスがある。なぜなら、私は新しいことをする意思も持っていると思うからだ。6、7年前には投資家で、AI研究所の幹部ではなかった。安定した環境か動的な環境かによっても大きく異なる。なぜなら、過去の経験からパターンを潜在的に学習してきた安定した環境では、直感に基づいた判断を信頼できる。一方、より不安定な環境では、あなたの直感は、もはや適用されないデータに基づいて訓練されたものであることがよくあるからだ。その世界では、自分が信じている、そして自分にとって機能する本当に中心的な根本原則にもっと近づきたいと思う。なぜなら、それらはさらに価値があるからだ。

最後に話したい話題は倫理だ。これもあなたが多くのことを考えて、多くを語ってきたことだ。これは、ほとんどの人がAIへの判断のアウトソーシングを最も嫌がる分野だ。そして、最終的には人間に頼らなければならないと思う。私は多くの核抑止の比喩を聞いている。つまり、悪い行為者よりも先に進み、相互確実破壊を持つ必要があるということだ。待ってほしい。軍拡競争の比喩はここでは機能しない。多くの悪い行為者は国家行為者ではなく、同じリスクや結果に直面していないからだ。そして、今度は選挙で選ばれた役人ではなく、民間企業を信頼することになる。これは非常に複雑で、うまくいかないように思える。それについて、そして倫理と安全性の問題について話してください。まず、人間がルールを設定しなければならない。AIはそれらに従うことができる。そして、私たちはAIが私たちが集団的に決定したルールに従うようにすべきだ。しかし、人間がそれらを設定しなければならない。第二に、人々は歴史的な類推で考えないことができないように思える。それは理解できるし、すべてが悪いとは思いません。しかし、歴史的な例は将来の例とは似ていないので、ある程度悪いと思う。そこで、私は人々に、今の私たちが知っていることを基に、AIがこれまでにないものと何が違うのかについて、できるだけ議論の根拠を置くことを奨励したい。そして、それに対して機能するシステムを設計しようとする。私が本当に信じていることの1つは、AIを展開することは、個人の能力、意志、あなたが何と言おうと、私たちの現在の状況に対する非常に良い戦略であり、1つの会社や敵対者、個人などが今日の世界のAIの力をすべて使用することよりも優れている。しかし、AIがより主体性を持つようになるとどうなるのかはわからないと、喜んで認める。私たちが彼らに3時間プログラムするタスクを与えることができるようなものではなく、非常に複雑なことで、通常は組織全体で何年もかかるようなことを彼らにやらせることができるような場合だ。私は、新しいモデルを考え出さなければならないだろうと思う。歴史は私たちに役立たないだろう。ソフトウェアの世界では、そうではなかった。他の強力な技術は米国で規制されていると思う。そして、EUは議会に比べて少し有能なように見える。EUがAI規制で行っていることは、別の理由から役立たないと私は思う。例えば、新しいモデルを完成させると、それがそれほど強力でない場合でも、EUでローンチできるようになるずっと前に米国でローンチできる。なぜなら、規制プロセスが山ほどあるからだ。それがEUが常にフロンティアから数ヶ月遅れていることを意味するならどうなるだろう？私は、彼らは流暢さと経済的エンジン、理解力、そしてあなたがその方向に付け加えたいものを何でも構築する量が少なくなると考えている。だから、規制のバランスを正しく取るのは本当に難しいし、明らかに私の意見では、何らかの規制が必要になるだろう。責任ある規制はどこから始めるべきか、どのようにマップを作成しますか？テストと理解。私はそれが素晴らしい出発点だと思う。人々が生物兵器を設計し、安価に作ることができるようになった場合、どのような規制が役立つだろうか？あなたは既にGoogleの世界でそれを行うことができる。それがより有能で簡単になればなるほど、ずっと重要になる。しかし、私たちはいくつかの規制を設けている。それがより良いものになる必要があるのかもしれないし、より厳しくなる必要があるのかもしれない。今後10年ほどで何が一番心配ですか？変化の速度。私は人間の精神がすべての問題を解決できると本当に信じているが、私たちはすぐに多くの問題を解決しなければならない。倫理と将来への影響について考えるとき、私が取り組んできたもう一つのことは、私たちは多くのデジタル技術が民主化されると考え、不平等を防止したり、少なくとも減少させると考えていたが、多くの場合、逆の結果になっていることだ。裕福な人々は、これらのツールへのアクセスが良いので、より裕福になっている。あなたは01がアメリカの基準ではかなり安価であることを指摘したが、それでもアクセス上の格差があると思う。それを変えるにはどうすれば良いのか？開発途上国でAIを善の力にするにはどうすれば良いのか？私たちは知性の価格を毎年約10倍に下げることができた。それ以上はできないだろう。しかし、私たちはしばらくの間それを行ってきた。そして、知性がどれほど安価になったかは驚くべきことだと思う。しかし、ある意味では、今のところ本当に強力なモデルを作ることができるのは政府と巨大企業だけであるという問題に反している。現在、それを訓練するために責任を負うのはそれらだが、それを使うのは全く違う。過去3年間を見返すと、生涯にわたる変化を経験したようなものだろう。奇妙なことだ。なぜこんなことをしているのか？それは一つの言い方だ。私はテクノオプティミストであり、科学オタクであり、これは私が想像できる最もクールなことであり、私が信じている私たちの時代の最も興味深く、クールで、重要な科学革命の一部になることができる、私が想像できる最良の方法だ。なんて素晴らしい特権だろう。信じられない。そして、利己的でない理由として、社会の進歩としての科学的進歩への義務感を感じている。私が個人的に貢献できること、あるいはすべてのことの中で、これは私が信じている、科学的進歩、そしてそれによって生活水準、人間の経験の質、あなたが何と言おうと、最も前進させるものだ。そして、義務感を感じている。しかし、負の感覚ではなく、感謝の気持ちと共に。それは責任だ。もうすぐ父親になる者として、次世代のためにどのような世界を見たいと思っていますか？最初に浮かんだ言葉は豊かさだ。二つ目は繁栄だ。しかし、一般的に、人々がより多くのことをでき、より充実し、より良い人生を送ることができる世界だ。私たちは自分自身のためにそれをどのように定義するとしてもだ。すべてのこと。おそらく、他のすべてのもうすぐ父親になる人が自分の子供のために願ってきたことと同じことだろう。デザイナーベビーについては長い間多くの憶測がなされてきたが、あなたがこれまでに行った仕事のいくつかは、私が予想していたよりも早くそれを可能にするだろうように思える。カップルが100万個の胚を作り、それぞれを完全に遺伝子配列決定し、自分が望む軸に沿って最適なものを選ぶことができるのは、それほど遠い未来のことではないように思える。私たちが生物学的必然性をショートカットするようになることが心配ですか？何かが深く不安定なように感じる。人間は単に異なる好みが多すぎて、依然として多くの多様性を得られることを願うことができる。しかし、人々が望まないものを取り除き始め、実際には予期せぬ利益があることも想像できる。私は、多様性よりもモード崩壊の方がよくわかる。それでは、それを解決してくれるのですか？考えていない。なぜあなたがそれを解決しないのですか？私はこれに取り組み続けます。資格がありません。いいえ、私たちはそれについて考える人を見つける必要があります。今日あなたが表現したように、あなたがテクノロジーだけでなく人間も信じていることをこれほど強く表現したのを聞いたことがない。ある意味では、それは危険な場所です。ソーシャルメディアでそれを目撃してきたからだ。しかし、テクノロジーを構築する上で、それは重要な要素だ。人間を大切にし、人間を信じなければならないからだ。私は、正確であろうと努力しているにもかかわらず、楽観的だ。もしテクノロジーについて楽観的すぎるなら、何でもそうだが、もし人間について楽観的すぎるなら、それは危険になる可能性がある。私たちはこれらのツールを世に出す。そして、人々はそれを悪よりもずっと良いために使うだろうと。そして、私たちが人間の性質について本当に間違っていたということになるだろう。それは私たちの戦略の欠陥になるだろう。しかし、私はそうは思わない。願わくば。サム、時間を作ってくれてありがとう。多くのことを学び、本当に楽しかったです。呼んでくれてありがとう。楽しかったです。