AI: What Could Go Wrong? with Geoffrey Hinton | The Weekly Show with Jon Stewart

هل أنا في التعلم العصبي 2011 بالفعل، أم ما زلت في 101؟ >> أنت مثل الطالب الذكي في الصف الأمامي الذي لا يعرف شيئًا ولكنه يطرح هذه الأسئلة الجيدة. >> هذه هي ألطف طريقة وُصفت بها على الإطلاق. شكرًا لك. >> مرحبًا بالجميع، مرحبًا بكم في بودكاست العرض الأسبوعي. اسمي جون ستيوارت. سأكون مضيفكم اليوم وهو يوم الأربعاء، 8 أكتوبر. لا أعرف ما سيحدث لاحقًا في اليوم، لكننا سنخرج غدًا. لكن حلقة اليوم، أريد فقط أن أقول بسرعة كبيرة، حلقة اليوم، نتحدث مع شخص يُعرف باسم عراب الذكاء الاصطناعي، رجل يدعى جيفري هينتون، الذي كان يطور نوع التكنولوجيا الذي تحول إلى ذكاء اصطناعي منذ السبعينيات. وأود أن أعلمكم، لذلك نتحدث عن ذلك. الجزء الأول منه، يقدم لنا هذا التفصيل لما هو عليه في الواقع، وهو ما كان مفيدًا بشكل لا يصدق بالنسبة لي. ندخل في جزء "سيقتلنا جميعًا"، لكنه كان مهمًا لفهمي لوضع المشهد. لذا، آمل أن تجدوا هذا الجزء ممتعًا كما وجدته أنا، لأنه يا رجل، لقد وسع فهمي لماهية هذه التكنولوجيا، وكيف سيتم استخدامها، وما هي بعض تلك المخاطر التي قد تكون موجودة بطريقة مثيرة للاهتمام حقًا. لذا، لن أطيل الأمر أكثر من ذلك. دعونا ننتقل إلى ضيفنا لهذا البودكاست. أيها السيدات والسادة، نحن متحمسون للغاية اليوم لأننا قادرون على الترحيب بالبروفيسور أميريتيس من قسم علوم الكمبيوتر في جامعة تورنتو وعضو المجلس الاستشاري لمعهد شوارتز ريزمان، جيفري هينتون ينضم إلينا. سيدي، شكرًا جزيلاً لك على وجودك معنا اليوم. >> حسنًا، شكرًا جزيلاً لك على دعوتي. >> أنا سعيد. أنت معروف، وأنا متأكد من أنك ستكون متواضعًا جدًا بشأن هذا، بأنك عراب الذكاء الاصطناعي لأعمالك في شبكات الأعصاب هذه، لقد شاركت في تأسيس جائزة نوبل الفعلية في الفيزياء في عام 2024 لهذا العمل. هل هذا صحيح؟ >> هذا صحيح. إنه محرج قليلاً لأنني لا أفعل الفيزياء. لذلك عندما اتصلوا بي وقالوا إنك فزت بجائزة نوبل في الفيزياء، لم أصدقهم في البداية. >> وهل كان الفيزيائيون الآخرون يقولون: "انتظر لحظة، هذا الرجل ليس حتى في مجالنا"؟ >> أشك بشدة في ذلك، لكنهم لم يفعلوا ذلك بي. >> أوه، جيد. أنا سعيد. هذا سيبدو علاجيًا إلى حد ما، أنا متأكد، بالنسبة لك. ولكن عندما نتحدث عن الذكاء الاصطناعي، لست متأكدًا تمامًا مما نتحدث عنه. أعرف أن هناك هذه الأشياء، نماذج اللغة الكبيرة. أعرف من تجربتي، الذكاء الاصطناعي هو مجرد محرك بحث أكثر إطراءً قليلاً. بينما كنت أبحث عن شيء ما على جوجل وكان يعطيني الإجابة فقط. الآن يقول ما هو السؤال المثير للاهتمام الذي طرحته علي. فماذا نتحدث عنه عندما نتحدث عن الذكاء الاصطناعي؟ >> لذا، عندما كنت تبحث على جوجل، كان يستخدم الكلمات الرئيسية وكان قد قام بالكثير من العمل مقدمًا. لذلك إذا أعطيته بضع كلمات رئيسية، يمكنه العثور على جميع المستندات التي تحتوي على تلك الكلمات. >> لذا، بشكل أساسي، إنه مجرد فرز. إنه يبحث ويفرز ويجد الكلمات ثم يعطيك نتيجة. >> نعم، هكذا كان يعمل. >> حسناً. >> لكنه لم يفهم ما هو السؤال. لذلك، لم يستطع، على سبيل المثال، أن يعطيك مستندات لا تحتوي فعليًا على تلك الكلمات، ولكنها كانت حول نفس الموضوع. >> لم يقم بهذا الاتصال. أوه، صحيح. لأنه كان يقول، "ها هي نتيجتك ناقص،" ثم كان يقول مثل كلمة لم يتم تضمينها. >> صحيح. ولكن إذا كان لديك مستند بدون أي من الكلمات التي استخدمتها، فلن يجده. حتى لو كان مستندًا ذا صلة كبيرة حول الموضوع الذي كنت تتحدث عنه بالضبط، فقد استخدم كلمات مختلفة فقط. الآن يفهم ما تقوله ويفهمه بنفس الطريقة التي يفهم بها الناس تقريبًا. ماذا؟ لذا، إذا قلت له، "أوه، أنا أفهم ما تقصده. دعني، دعني، دعني أثقفك حول هذا." لذا، فقد انتقل من كونه مجرد شيء للبحث والعثور عليه إلى خبير فعلي في أي شيء تناقشه ويمكنه أن يقدم لك أشياء ربما لم تفكر فيها. >> نعم. لذا، نماذج اللغة الكبيرة ليست خبراء جيدين في كل شيء. لذا، إذا أخذت صديقًا لديك يعرف الكثير عن موضوع معين. ممم. لا، لدي اثنان من هؤلاء. >> نعم، ربما يكونون أفضل قليلاً من نموذج اللغة الكبير، لكنهم مع ذلك سيندهشون من أن نموذج اللغة الكبير يعرف موضوعهم جيدًا جدًا. >> ما هو؟ لذا، ما هو الفرق بين التعلم الآلي؟ لذا، هل كان جوجل من حيث محرك البحث تعلم آليًا، هل هو مجرد خوارزميات وتنبؤات؟ >> لا، ليس بالضبط. التعلم الآلي هو مصطلح شامل لأي نظام على الكمبيوتر يتعلم. >> حسناً. >> الآن هذه الشبكات العصبية هي طريقة معينة للتعلم تختلف اختلافًا كبيرًا عما كان يُستخدم من قبل. >> حسناً. الآن هذه هي الشبكات العصبية الجديدة. التعلم الآلي القديم، لم تكن تعتبر شبكات عصبية. وعندما تقول شبكات عصبية، هل يعني ذلك أن عملك كان بمثابة أصل له في السبعينيات حيث كنت تعتقد أنك تدرس الدماغ؟ هل هذا صحيح؟ >> كنت أحاول التوصل إلى أفكار حول كيفية تعلم الدماغ بالفعل. >> وهناك بعض الأشياء التي نعرفها عن ذلك. إنه يتعلم عن طريق تغيير قوة الاتصالات بين خلايا الدماغ. >> انتظر، اشرح ذلك. ما يقوله هو أنه يتعلم عن طريق تغيير الاتصالات. لذا، إذا عرضت على إنسان شيئًا جديدًا، فإن خلايا الدماغ ستنشئ اتصالات جديدة بالفعل داخل خلايا الدماغ. >> لن تنشئ اتصالات جديدة. ستكون هناك اتصالات كانت موجودة بالفعل. >> حسناً؟ >> لكن الطريقة الرئيسية التي يعمل بها هي تغيير قوة تلك الاتصالات. >> واو. لذا، إذا فكرت في الأمر من وجهة نظر خلية عصبية في منتصف الدماغ، خلية دماغية، >> حسناً، >> أمم، كل ما يمكنها فعله في الحياة هو أحيانًا أن تصدر صوت "بينغ". >> هذا كل ما لديها. هذا كل ما لديها. كل ما لديها هو أنها يمكن، ما لم تكن متصلة بعضلة. >> حسناً. >> يمكنها أحيانًا أن تصدر صوت "بينغ". >> حسناً. >> وعليها أن تقرر متى تصدر صوت "بينغ". >> أوه واو. كيف تقرر متى تصدر صوت "بينغ"؟ >> أنا سعيد لأنك طرحت هذا السؤال. أمم، هناك خلايا عصبية أخرى تصدر صوت "بينغ". >> حسناً؟ >> وعندما ترى أنماطًا معينة من الخلايا العصبية الأخرى تصدر صوت "بينغ"، فإنها تصدر صوت "بينغ". >> ويمكنك التفكير في هذه الخلية العصبية على أنها تتلقى أصوات "بينغ" من خلايا عصبية أخرى. >> وكل مرة تتلقى فيها صوت "بينغ"، تعامله على أنه عدد من الأصوات لتحديد ما إذا كان يجب عليها التشغيل أو إصدار صوت "بينغ" أو عدم إصدار صوت "بينغ". ويمكنك تغيير عدد الأصوات التي تمتلكها خلية عصبية أخرى. كيف ستغير هذا الصوت؟ >> عن طريق تغيير قوة الاتصال. قوة الاتصال، فكر فيها على أنها عدد الأصوات التي تعطيها الخلية العصبية الأخرى لك لإصدار صوت "بينغ". >> حسناً. لذا، فهو حقًا في بعض النواحي، إنه، يا إلهي، يذكرني بفيلم Minions، ولكنه تقريبًا مجتمع. >> نعم. نعم، إنه يشبه التحالفات السياسية. ستكون هناك مجموعات من الخلايا العصبية التي تصدر صوت "بينغ" معًا. >> حسناً. >> والخلايا العصبية في تلك المجموعة ستخبر بعضها البعض، "صدروا صوت بينغ". وقد تكون هناك تحالفات مختلفة وستخبر الخلايا العصبية الأخرى بعدم إصدار صوت "بينغ". >> يا إلهي. >> وقد تكون هناك تحالفات مختلفة، >> صحيح؟ >> وكلها تخبر بعضها البعض بإصدار صوت "بينغ" وتخبر التحالف الأول بعدم إصدار صوت "بينغ". >> كل هذا يحدث في دماغك إذا كان بطريقة مثل، أرغب في التقاط ملعقة. >> نعم. لذا، ملعقة على سبيل المثال، ملعقة في دماغك >> نعم. >> هي تحالف من الخلايا العصبية تصدر صوت "بينغ" معًا. وهذا مفهوم. >> أوه واو. لذا، عندما تقوم بالتدريس، عندما تكون طفلاً ويقولون ملعقة، هناك مجموعة صغيرة من الخلايا العصبية تقول، "أوه، هذه ملعقة." وهم يقوون اتصالاتهم ببعضهم البعض. لذا، مهما كان الأمر، هل هذا هو السبب في أنك عندما تعلم أنك تصور أدمغة، ترى مناطق معينة تضيء. وهل هذا الإضاءة لتلك المناطق هي الخلايا العصبية التي تصدر صوت "بينغ" لعناصر أو إجراءات معينة؟ >> ليس بالضبط. >> أقترب. أنا أقترب. >> إنه قريب. إنه قريب. مناطق مختلفة ستضيء عندما تفعل أشياء مختلفة مثل عندما تفعل الرؤية أو التحدث >> أو >> التحكم في يديك. مناطق مختلفة تضيء لذلك. >> حسناً. أمم، لكن تحالف الخلايا العصبية الذي يصدر صوت "بينغ" والذي يصدر صوت "بينغ" معًا عندما تكون هناك ملعقة، فإنها لا تعمل فقط للملعقة. معظم أعضاء هذا التحالف سيصدرون صوت "بينغ" عندما يكون هناك شوكة. >> لذا، فهي تتداخل كثيرًا، هذه التحالفات. >> هذه خيمة كبيرة. إنها تحالف خيمة كبيرة. أحب التفكير في هذا على أنه سياسي. لم أكن أعرف أن دماغك يعمل بالضغط الاجتماعي. >> هناك الكثير من ذلك يحدث. نعم. والمفاهيم هي نوع من التحالفات التي تكون سعيدة معًا، لكنها تتداخل كثيرًا. مثل مفهوم الكلب ومفهوم القطة لهما الكثير من القواسم المشتركة. سيكون لديهما الكثير من الخلايا العصبية المشتركة. >> على وجه الخصوص، الخلايا العصبية التي تمثل أشياء مثل هذا كائن حي أو هذا مشعر أو هذا قد يكون حيوانًا أليفًا منزليًا. كل تلك الخلايا العصبية ستكون مشتركة بين القطة والكلب. هل يمكنني أن أسألك هذا مرة أخرى، وأنا أقدر صبرك حقًا في شرح هذا، هذا مفيد جدًا بالنسبة لي. هل هناك خلايا عصبية معينة تصدر صوت "بينغ" على نطاق واسع لمفهوم الحيوان الواسع ثم خلايا عصبية أخرى مثل هل يعمل من الكلي إلى الجزئي من العام إلى المحدد. لذا، لديك تحالف من الخلايا العصبية التي تصدر صوت "بينغ" بشكل عام ثم مع حصولك على معرفة أكثر تحديدًا، هل هذا يشغل البعض الذي سيصدر صوت "بينغ" بشكل أقل تكرارًا ولكن ربما لمزيد من التحديد؟ هل هذا شيء؟ >> حسناً، هذه نظرية جيدة جدًا. لا أحد يعرف >> لا، لا أحد يعرف حقًا على وجه اليقين عن هذا. أوه، >> هذه نظرية معقولة جدًا. وعلى وجه الخصوص، ستكون هناك بعض الخلايا العصبية في هذا التحالف التي تصدر صوت "بينغ" بشكل متكرر للأشياء الأكثر عمومية، >> صحيح؟ >> ثم قد تكون هناك خلايا عصبية تصدر صوت "بينغ" بشكل أقل تكرارًا أمم للأشياء الأكثر تحديدًا، >> صحيح؟ حسناً. وهذا يعمل في جميع أنحاء، ومثلما تقول، هناك مناطق معينة ستصدر صوت "بينغ" للرؤية أو الحواس الأخرى، اللمس، أعتقد أن هناك نظام "بينغ" للغة. أمم، وكنت تقول، ماذا لو استطعنا الحصول على أجهزة كمبيوتر تكون أكثر بكثير، أعتقد أنها مجرد ثنائية إذا، ثم، أنت تعرف، نوع من الأساسي. أنت تقول، هل يمكننا جعلها تعمل كتحالفات؟ >> نعم. لا أعتقد أن "إذا ثم" الثنائية لها علاقة كبيرة بذلك. الفرق هو أن الناس كانوا يحاولون وضع قواعد في أجهزة الكمبيوتر. كانوا يحاولون معرفة. لذا، الطريقة الأساسية التي تبرمج بها جهاز كمبيوتر هي أنك تحدد بالتفصيل الدقيق كيف ستحل المشكلة. >> أوه، أنت تفكك جميع الخطوات >> ثم تخبر الكمبيوتر بالضبط بما يجب فعله. هذا برنامج كمبيوتر عادي. >> حسناً، رائع. >> هذه الأشياء ليست كذلك على الإطلاق. لذا، كنت تحاول تغيير هذه العملية لمعرفة ما إذا كان بإمكاننا إنشاء عملية تعمل بشكل أقرب إلى كيفية عمل الدماغ البشري بدلاً من قائمة تعليمات عنصرًا بعنصر. >> أردت منه أن يفكر بشكل أكثر شمولاً. كيف حدث ذلك؟ لذا، كان من الواضح للكثير من الناس أن الدماغ لا يعمل عن طريق شخص آخر يمنحك قواعد وتنفذ تلك القواعد فقط. أعني، في كوريا الشمالية، سيحبون أن تعمل الأدمغة بهذه الطريقة، لكنها لا تعمل. >> أنت تقول أن في عالم استبدادي، هذا هو كيف ستعمل الأدمغة. >> حسناً، هذا هو كيف يريدون لها أن تعمل. >> هذا هو كيف يريدون لها أن تعمل. إنها أكثر فنية من ذلك بقليل. >> نعم. >> حسناً، حسناً. >> أمم، نحن نكتب برامج للشبكات العصبية، لكن البرامج هي فقط لإخبار الشبكة العصبية بكيفية تعديل قوة الاتصال على أساس أنشطة الخلايا العصبية. لذا، هذا برنامج بسيط إلى حد ما، >> صحيح؟ >> لا يحتوي على كل أنواع المعرفة بالعالم فيه. إنه فقط ما هي القواعد لتغيير قوة الاتصال العصبي على أساس الأنشطة. >> هل يمكنك إعطائي مثالاً؟ لذا، هل يعتبر ذلك نوعًا ما، هل هذا تعلم آلي أم تعلم عميق؟ ماذا؟ >> هذا تعلم عميق. إذا كان لديك شبكة بها طبقات متعددة، يُطلق عليها تعلم عميق لأن هناك العديد من الطبقات. >> لذا، ماذا تقول لجهاز كمبيوتر عندما تحاول جعله يقوم بالتعلم العميق؟ مثل ما هو مثال على التعليمات التي ستقدمها؟ >> حسناً، لذا، دعني >> آه، الآن نحن على ما يرام. هل أنا بالفعل؟ هل أنا في التعلم العصبي 2011 بالفعل، أم ما زلت في 101؟ >> أنت مثل الطالب الذكي في الصف الأمامي الذي لا يعرف شيئًا ولكنه يطرح هذه الأسئلة الجيدة. >> هذه هي ألطف طريقة وُصفت بها على الإطلاق. شكرًا لك. إذا كنت لا تزال تدفع الكثير مقابل شبكة هاتفك اللاسلكي، فأريدك أن تغادر هذا البلد. أريدك أن تذهب. لا يوجد عذر في Mobile. كلمتي المفضلة هي لا. حان الوقت لتقول نعم لقول لا. لا عقود، لا فواتير شهرية، لا تجاوزات، لا هراء. إليك سبب قول الكثيرين نعم للتبديل والحصول على خدمة لاسلكية ممتازة مقابل 15 دولارًا شهريًا. يا إلهي، أنفق ذلك على العلكة. العلكة، أقول. تخلص من خدمة الهاتف اللاسلكي باهظة الثمن وفواتيرها الشهرية المذهلة. تجاوزات ورسوم غير متوقعة. تبدأ الخطط بـ 15 دولارًا شهريًا. في Mint، تأتي جميع الخطط مع بيانات عالية السرعة ومكالمات نصية غير محدودة مقدمة على أكبر شبكة 5G في البلاد. استخدم هاتفك الخاص مع أي خطة Mint Mobile وأحضر رقم هاتفك مع جميع جهات الاتصال الحالية لديك. هل أنت مستعد لقول نعم لقول لا؟ قم بالتبديل على mintmobile.com/tws. هذا هو mintmobile.com/tws. مطلوب دفعة مقدمة بقيمة 45 دولارًا، أي ما يعادل 15 دولارًا شهريًا. عرض محدود للعملاء الجدد لأول ثلاثة أشهر فقط. قد تنخفض السرعات فوق 35 جيجابايت في خطة غير محدودة. الضرائب والرسوم إضافية. انظر Mint Mobile للتفاصيل. >> لذا، دعنا نعود إلى عام 1949. >> يا إلهي. حسناً. >> لذا، إليك نظرية من شخص يدعى دونالد هب. >> حسناً. >> حول كيفية تغيير قوة الاتصال. >> حسناً. >> إذا أصدرت الخلية العصبية A صوت "بينغ" ثم بعد فترة وجيزة أصدرت الخلية العصبية B صوت "بينغ". >> ممم. قم بزيادة قوة الاتصال. >> حسناً، >> هذه قاعدة بسيطة جدًا. تسمى قاعدة هب، >> صحيح؟ قاعدة هب هي إذا أصدرت الخلية العصبية A صوت "بينغ"، قم بزيادة الاتصال. أمم B أصدرت صوت "بينغ"، قم بزيادة هذا الاتصال. >> نعم. >> حسناً. >> أمم، بمجرد ظهور أجهزة الكمبيوتر، يجب عليك إجراء محاكاة كمبيوتر. >> ممم. >> اكتشف الناس أن هذه القاعدة وحدها لا تعمل. ما يحدث هو أن جميع الاتصالات تصبح قوية جدًا وجميع الخلايا العصبية تصدر صوت "بينغ" في نفس الوقت وتصاب بنوبة صرع. >> أوه، حسناً. هذا مؤسف، أليس كذلك؟ >> هذا مؤسف. >> يجب أن يكون هناك شيء يجعل الاتصالات أضعف بالإضافة إلى جعلها أقوى، >> صحيح؟ يجب أن يكون هناك بعض التمييز. >> نعم. >> حسناً. >> إذا كان بإمكاني الخروج عن الموضوع لمدة دقيقة تقريبًا. >> يا رجل، أود ذلك. >> حسناً. افترض أننا أردنا إنشاء شبكة عصبية. >> أوه. >> تحتوي على طبقات متعددة من الخلايا العصبية. وهي تقرر ما إذا كانت الصورة تحتوي على طائر أم لا. مثل رمز استجابة سريعة مثل عندما تذهب عبر الإنترنت ويقول لك بالضبط ما نريده >> هذا جيد >> نريد حل رمز الاستجابة السريعة هذا بشبكة عصبية >> حسناً >> لذا، المدخلات إلى الشبكة العصبية، الطبقة السفلية من الخلايا العصبية هي مجموعة من الخلايا العصبية وهي تصدر صوت "بينغ" لمستويات مختلفة من، لديها مستويات مختلفة من قوة "بينغ" وتمثل شدة البكسلات في الصورة. >> حسناً. >> لذا، إذا كانت صورة بدقة 1000 × 1000، لديك مليون خلية عصبية تصدر صوت "بينغ" بمعدلات مختلفة لتمثيل مدى شدة كل بكسل. >> حسناً. >> هذا هو مدخلك. الآن، عليك تحويل ذلك إلى قرار. هل هذا طائر أم لا؟ >> واو. لذا، هذا القرار. لذا، دعني أسألك سؤالًا. هل تقوم بالبرمجة لأن قوة البكسل لا تبدو لي أداة مفيدة حقًا فيما يتعلق بتحديد ما إذا كان طائرًا. تحديد ما إذا كان طائرًا يبدو أن الأداة ستكون، هل هذه ريش؟ هل هذا منقار؟ هل هذا >> عرف؟ نعم. >> ها هو. لذا، البكسلات بحد ذاتها >> نعم. >> لا تخبرك حقًا ما إذا كان طائرًا. >> حسناً. >> لأنه يمكن أن يكون لديك طيور مشرقة وطيور داكنة ويمكن أن يكون لديك طيور تطير وطيور جالسة ويمكن أن يكون لديك نعامة في وجهك وطائر نورس في المسافة. كلها طيور. >> حسناً. فماذا تفعل بعد ذلك؟ حسناً، نوعًا ما مسترشدًا بالدماغ، ما فعله الناس بعد ذلك هو القول، أمم، دعنا نحصل على مجموعة من كاشفات الحواف. لذا، ما سنفعله، لأنك بالطبع يمكنك التعرف على الطيور بشكل جيد في الرسومات الخطية، >> صحيح؟ >> لذا، ما سنفعله هو أننا سننشئ بعض الخلايا العصبية، مجموعة كبيرة منها، تكتشف قطعًا صغيرة من الحواف، أي أماكن صغيرة في الصورة حيث يكون الجانب مضيئًا والجانب الآخر مظلمًا. >> صحيح؟ لذا، إنه يخلق تقريبًا شكلاً بدائيًا من الرؤية. >> هذه هي الطريقة التي تنشئ بها نظام رؤية. نعم. هذه هي الطريقة التي تتم بها في الدماغ وفي أجهزة الكمبيوتر. >> واو، حسناً. >> لذا، إذا كنت تريد اكتشاف قطعة صغيرة من الحافة العمودية في مكان معين في الصورة. >> ممم. >> لنفترض أنك تنظر إلى عمود صغير من ثلاث بكسلات وبجانبها عمود آخر من ثلاث بكسلات. وإذا كانت البكسلات على اليسار مشرقة والبكسلات على اليمين مظلمة، >> تريد أن تقول، "نعم، هناك حافة هنا." لذا، عليك أن تسأل، "كيف سأقوم بإنشاء خلية عصبية تفعل ذلك؟" >> يا إلهي. حسناً. حسناً. سأقفز إلى الأمام. حسناً. لذا، أول شيء تفعله هو أنك تعلم الشبكة ما هي الرؤية. لذا، أنت تعلمها أن هذه صور. هذه خلفية. هذا شكل. هذه حافة. هذا ليس كذلك. هذا مشرق. هذا ليس كذلك. لذا، أنت تعلمها تقريبًا كيف ترى. >> في الأيام الخوالي، كان الناس يحاولون وضع الكثير من القواعد لتعليمها كيف ترى وشرح لك ما هي المقدمة وما هي الخلفية. >> حسناً؟ >> لكن الأشخاص الذين آمنوا حقًا بالشبكات العصبية قالوا لا، لا تضع كل هذه القواعد. دعها تتعلم كل هذه القواعد من البيانات فقط. >> والطريقة التي تتعلم بها هي عن طريق تقوية أصوات "بينغ" بمجرد أن تبدأ في التعرف على الحواف والأشياء. سنتناول ذلك بعد قليل. >> أنت تقفز إلى الأمام. >> أنت تقفز إلى الأمام. >> حسناً. لذا، دعنا نواصل مع هذه القطعة الصغيرة من كاشف الحواف. >> حسناً. >> لذا، لديك في الطبقة الأولى، لديك الخلايا العصبية التي تمثل مدى سطوع البكسلات، >> صحيح؟ >> ثم في الطبقة التالية، سنحصل على قطع صغيرة من كاشفات الحواف. ولذا، قد يكون لديك خلية عصبية في الطبقة التالية متصلة بعمود من ثلاث بكسلات على اليسار وعمود من ثلاث بكسلات على اليمين. والآن إذا جعلت قوة الاتصالات إلى البكسلات الثلاثة على اليسار قوية >> اتصالات إيجابية كبيرة >> صحيح لأنها أكثر سطوعًا >> وجعلت قوة الاتصالات إلى البكسلات الثلاثة على اليمين اتصالات سلبية كبيرة >> لأنها أكثر قتامة >> هذا يقول لا تشغل >> صحيح >> ثم عندما تكون البكسلات على اليسار مشرقة والبكسلات على اليمين مظلمة، فإن الاتصالات السلبية ستلغي الاتصالات الإيجابية ولن يحدث شيء. >> ها؟ ولكن إذا كانت البكسلات على اليسار مشرقة والبكسلات على اليمين مظلمة، فإن الخلية العصبية ستتلقى الكثير من المدخلات من البكسلات على اليسار لأنها اتصالات إيجابية كبيرة. >> صحيح؟ >> لن تتلقى أي تثبيط من البكسلات على اليمين لأن تلك البكسلات مغلقة. >> صحيح. صحيح. >> ولذا ستصدر صوت "بينغ". ستقول، "مرحبًا، لقد وجدت ما أردته. وجدت أن البكسلات الثلاثة على اليسار مشرقة والبكسلات الثلاثة على اليمين ليست مشرقة. مرحبًا، هذا هو الشيء الخاص بي. لقد وجدت قطعة صغيرة من الحافة الإيجابية. >> أنا هذا الرجل. أنا رجل الحافة. أنا أصدر صوت "بينغ" على الحواف. >> صحيح. وهذا يصدر صوت "بينغ" على تلك القطعة المحددة من الحافة. >> حسناً. حسناً. >> الآن تخيل أن لديك مليون من تلك. >> أنا متعب بالفعل من أصوات "بينغ" الثلاثة. لديك مليون من تلك >> لأنها يجب أن تكتشف قطعًا صغيرة من الحواف في أي مكان على شبكية عينك. واو. >> في أي مكان في الصورة. >> وفي أي اتجاه، تحتاج إلى أشياء مختلفة لكل اتجاه، >> صحيح؟ >> ولديك بالفعل أشياء مختلفة للمقياس. قد تكون هناك حافة على مقياس كبير جدًا وهي خافتة جدًا، >> صحيح؟ >> وقد تكون هناك حواف صغيرة حادة على مقياس صغير جدًا. ومع زيادة عدد كاشفات الحواف، تحصل على تمييز أفضل وأفضل للحواف. يمكنك رؤية حواف أصغر. يمكنك رؤية اتجاه الحواف بدقة أكبر. >> حسناً. >> يمكنك اكتشاف الحواف الكبيرة الغامضة بشكل أفضل. لذا، دعنا ننتقل الآن إلى الطبقة التالية. لذا، الآن >> لدينا كاشفات الحواف لدينا. >> صحيح >> الآن افترض أن لدينا خلية عصبية في الطبقة التالية تبحث عن تركيبة صغيرة من الحواف وهي شبه أفقية. عدة حواف متتالية شبه أفقية، >> صحيح وتتراصف مع بعضها البعض وفوق تلك الحواف المتتالية مباشرة، وهي أيضًا شبه أفقية ولكنها تنزل لتشكل نقطة مع الحواف الأولى تقريبًا. >> صحيح؟ >> لذا، تجد مجموعتين صغيرتين من الحواف تشكلان شيئًا مدببًا. [ضحك] >> حسناً. لذا، أنت فيزيائي حائز على جائزة نوبل. لم أتوقع أن تنتهي هذه الجملة بـ "تشكل شيئًا مدببًا". اعتقدت أن هناك اسمًا لذلك. لكنني أفهم ما تقوله. أنت الآن تميز أين ينتهي، أين هو، أنت تنظر إلى اختلافات، وهذا قبل أن تنظر حتى إلى اللون أو أي شيء آخر. هذا حرفيًا، هل هناك صورة؟ ما هي الحواف؟ >> ما هي الحواف؟ وما هي التركيبات الصغيرة للحواف؟ لذا، نحن الآن نسأل، هل هناك تركيبة صغيرة من الحواف تشكل شيئًا قد يكون منقارًا؟ >> واو. >> هذا هو الشيء المدبب. >> لكنك لا تعرف ما هو المنقار بعد. >> ليس بعد. لا، نحتاج إلى تعلم ذلك أيضًا. نعم. >> صحيح. لذا، بمجرد أن يكون لديك النظام، فإنه يشبه تقريبًا بناء أنظمة يمكنها تقليد الحواس البشرية. >> هذا بالضبط ما نفعله. نعم. لذا، الرؤية، الأذنان، ليس الشم، بالطبع، على الرغم من أنني >> لا، إنهم يفعلون ذلك الآن. بدأوا في الشم الآن. >> أوه، يا إلهي. وربما اللمس. >> لديهم الآن رائحة رقمية حيث يمكنك نقل، يمكنك نقل الروائح عبر الويب. هذا مجرد >> هذا جنون. >> طابعة الروائح لديها 200 مكون. بدلاً من ثلاثة ألوان، لديها 200 مكون وتصنع رائحة في الطرف الآخر. وهي ليست مثالية تمامًا، لكنها جيدة جدًا. >> واو. لذا، هذا مذهل بالنسبة لي. >> حسناً، لذا >> أنا آسف جدًا لهذا. أنا أعتذر. >> أنت تقوم بعمل جيد جدًا في تمثيل شخص فضولي معقول لا يعرف شيئًا عن هذا. >> أمم، لذا، دعني أنهي وصف كيفية بناء النظام يدويًا. >> نعم. >> لذا، إذا قمت بذلك يدويًا، سأبدأ بكاشفات الحواف هذه. لذا، سأقول، قم بإنشاء اتصالات إيجابية قوية جدًا من هذه البكسلات على اليسار واتصالات سلبية قوية جدًا من البكسلات على اليمين. >> صحيح؟ >> والآن الخلية العصبية التي تتلقى تلك الاتصالات الواردة، والتي ستكتشف قطعة صغيرة من الحافة العمودية. >> حسناً. >> ثم في الطبقة التالية سأقول، حسنًا، قم بإنشاء اتصالات إيجابية قوية جدًا من ثلاث قطع صغيرة من الحواف المائلة هكذا وثلاث قطع صغيرة من الحواف المائلة هكذا. >> يمكن أن يكون منقارًا وشيئًا مدببًا. >> وهذا منقار محتمل، >> صحيح؟ وفي نفس الطبقة، قد أنشئ أيضًا اتصالات إيجابية قوية جدًا من تركيبة من الحواف التي تشكل دائرة تقريبًا. >> واو. >> وهذه عين محتملة. >> صحيح. صحيح. صحيح. >> الآن، في الطبقة التالية، لدي خلية عصبية تبحث عن مناقير محتملة وتبحث عن عيون محتملة. وإذا كانت في الموضع النسبي الصحيح، >> ممم. >> تقول، "مرحبًا، أنا سعيد لأن تلك الخلية العصبية اكتشفت رأس طائر محتمل." >> صحيح؟ وهذا الرجل قد يصدر صوت "بينغ". >> وهذا الرجل سيصدر صوت "بينغ". >> في نفس الوقت، ستكون هناك خلايا عصبية أخرى في مكان آخر >> اكتشفت أنماطًا صغيرة مثل قدم دجاجة أو ريش في نهاية جناح طائر، >> صحيح؟ >> ولذا لديك مجموعة كبيرة من هؤلاء الرجال. الآن، حتى أعلى، قد يكون لديك خلية عصبية تقول، "مرحبًا، انظر، إذا اكتشفت رأس طائر واكتشفت قدم دجاجة واكتشفت نهاية جناح، فمن المحتمل أن يكون طائرًا. لذا، إنه طائر، >> صحيح؟ >> لذا، يمكنك أن ترى الآن كيف قد تحاول توصيل كل ذلك يدويًا. >> نعم. وسيستغرق الأمر بعض الوقت. >> سيستغرق الأمر إلى الأبد. سيستغرق الأمر إلى الأبد. >> نعم. >> حسناً. لذا، افترض أنك كنت كسولاً. >> نعم. الآن أنت تتحدث. >> حسناً. ما يمكنك فعله هو أنك قد تنشئ هذه الطبقات من الخلايا العصبية دون تحديد قوة جميع الاتصالات. تبدأها بأرقام عشوائية صغيرة. فقط ضع أي قوة قديمة. وتضع صورة لطائر، ولنفترض أن لديها مخرجين. أحدهما يقول طائر والآخر يقول ليس طائرًا. >> صحيح؟ >> مع قوة اتصالات عشوائية هناك. ما سيحدث هو أنك تضع صورة لطائر وتقول 50٪ طائر، 50٪ ليس طائرًا. بعبارة أخرى، ليس لدي فكرة، >> صحيح؟ وتضع صورة لغير طائر وتقول 50٪ طائر، 50٪ غير طائر. >> يا إلهي. >> حسناً. لذا، الآن يمكنك طرح سؤال. افترض أنني سآخذ أحد قوة الاتصالات هذه. >> ممم. >> وسأقوم بتغييرها قليلاً، أجعلها أقوى قليلاً. بدلاً من قول 50٪ طائر، هل ستقول 50.01٪ طائر؟ >> ممم. و 49.99٪ ليس طائرًا. وإذا كان طائرًا، فهذا تغيير جيد. لقد جعلته يعمل بشكل أفضل قليلاً. >> أي عام كان هذا؟ متى بدأ هذا؟ >> أوه، بالضبط. لذا، هذه مجرد فكرة. هذه لن تعمل أبدًا، لكن تحملني. >> حسناً. >> هذا مثل أحد هؤلاء المحامين الذين يذهبون في انحراف كبير، لكن كل شيء سيكون جيدًا في النهاية. >> لا، لا، لا، لا، لا. هذا مفيد. وهذا هو الشيء الذي سيقتلنا جميعًا في غضون 10 سنوات. >> نعم. أمم، عندما أقول نعم، أعني ليس هذا الشيء المحدد، بل تقدم عليه. لكن هذا هو كيف، ليس بالضرورة أن يقتلنا جميعًا، ولكن ربما. >> صحيح. صحيح. صحيح. هذا هو أوبنهايمر يذهب، حسناً، لذا لديك كائن وهو يتكون من كائنات أصغر، وهذا هو الجزء المبكر جدًا من هذا. >> حسناً. لذا، افترض أن لديك كل الوقت في العالم. >> ممم. ما يمكنك فعله هو أنك قد تأخذ هذه الشبكة العصبية وتستطيع أن تبدأ بقوة اتصالات عشوائية ثم تعرض عليها طائرًا وتقول 50٪ طائر 50٪ ليس طائرًا، ويمكنك اختيار أحد قوة الاتصالات >> صحيح >> وتقول، إذا قمت بزيادة قليلاً، هل يساعد؟ >> صحيح >> لن يساعد كثيرًا، لكن هل يساعد على الإطلاق؟ >> صحيح هل سيجعلني أصل إلى 50.1 50.2؟ هذا النوع من الأشياء. >> إذا كان يساعد، قم بهذه الزيادة. >> حسناً. >> ثم تذهب وتفعل ذلك مرة أخرى. ربما هذه المرة نختار غير طائر. >> ممم. >> ونختار قوة اتصال واحدة ونود أن نقول، إذا قمنا بزيادة قوة الاتصال لدينا، فإنها تقول إنها أقل احتمالًا أن تكون طائرًا وأكثر احتمالًا أن تكون غير طائر. نقول، "حسنًا، هذه زيادة جيدة. لنفعل ذلك." >> صحيح. صحيح. صحيح. >> الآن، هناك مشكلة. هناك تريليون اتصال. >> نعم. صحيح. >> حسناً. >> وكل اتصال يجب تغييره عدة مرات. >> وهل هذا يدوي؟ >> حسناً، بهذه الطريقة سيكون يدويًا. وليس هذا فقط، ولكن لا يمكنك القيام بذلك بناءً على مثال واحد فقط لأنك أحيانًا تغير قوة الاتصال. إذا قمت بزيادتها قليلاً، فستساعد في هذا المثال، لكنها ستجعل الأمثلة الأخرى أسوأ. >> يا إلهي. >> لذا، يجب عليك إعطائها دفعة كاملة من الأمثلة ومعرفة ما إذا كانت تساعد في المتوسط. وهذا هو كيف تنشئ هذه اللغة الكبيرة. هذه >> إذا فعلنا هذه الطريقة الغبية حقًا لإنشاء، لنقل نظام الرؤية هذا الآن. >> نعم. >> سنحتاج إلى إجراء تريليونات من التجارب وكل تجربة ستتضمن إعطائها دفعة كاملة من الأمثلة ومعرفة ما إذا كان تغيير قوة اتصال واحدة يساعد أو يضر. >> يا إلهي. وهذا سيكون إلى الأبد. سيكون إلى الأبد. >> حسناً. الآن افترض أنك اكتشفت كيفية إجراء حساب يمكنه إخبارك لكل قوة اتصال في الشبكة، أخبرك في نفس الوقت لهذا المثال المحدد، لنفترض أنك تعطيه طائرًا. >> ممم. >> وتقول 50٪ طائر. والآن لكل قوة اتصال فردية، كل هذه التريليونات من قوة الاتصالات، يمكننا معرفة ما إذا كان يجب عليك زيادتها قليلاً للمساعدة أو تقليلها قليلاً للمساعدة. >> أعني، >> ثم تغير تريليون منها في نفس الوقت. >> هل يمكنني أن أقول كلمة كنت أتوق لقولها طوال الوقت؟ يوريكا. >> يوريكا. >> يوريكا. >> يوريكا. الآن، هذا هو الحساب بالنسبة للأشخاص العاديين، يبدو معقدًا. أمم، >> نعم. إذا كنت قد درست حساب التفاضل والتكامل، فهو مباشر إلى حد ما. واخترع العديد من الأشخاص المختلفين هذا الحساب، >> صحيح؟ >> أمم، يطلق عليه الانتشار الخلفي. لذا، الآن يمكنك تغيير كل تريليون في نفس الوقت وستكون أسرع بمليون مرة. >> يا إلهي. كيف، وهذا هو اللحظة التي تنتقل فيها من النظرية إلى التطبيق العملي. >> هذه هي اللحظة التي تفكر فيها يوريكا، لقد حللناها. نحن نعرف كيف نصنع أنظمة ذكية لنا. كان ذلك في عام 1986 وكنا محبطين للغاية عندما لم ينجح الأمر. كل يوم، تهيمن أشد الآراء وأكثرها إثارة للجدل على انتباهنا، وتضيع الصورة الأكبر. كل هذا مجرد ضوضاء ولا ضوء. يضع Ground News جميع جوانب القصة في مكان واحد حتى تتمكن من رؤية السياق. إنهم يوفرون الضوء. يبدأ محادثات تتجاوز الأعراف. يقومون بتجميع وتنظيم المعلومات فقط لمساعدة القراء على اتخاذ قراراتهم الخاصة. يمكنك رؤية عدد المنافذ الإخبارية التي قامت بتغطية قصة. سواء كانت تحت التغطية، أو مبالغ في تغطيتها من قبل أحد الجانبين أو الجانب الآخر أو أي جانب من الطيف السياسي. يوفر Ground News للمستخدمين تقارير تقارن بسهولة العناوين الرئيسية أو تقارير تقدم ملخصًا للاختلافات المحددة في التقارير عبر الطيف. إنه مورد رائع. انتقل إلى groundnews.com/stewart واشترك للحصول على خصم 40٪ على اشتراك Vantage غير المحدود. يخفض السعر إلى حوالي 5 دولارات شهريًا. إنه groundnews.com/stewart أو امسح رمز الاستجابة السريعة على الشاشة. كنت في تلك الغرفة لمدة 10 سنوات. كنت تعرض عليها الطيور. كنت تزيد من القوة. كان لديك لحظة يوريكا الخاصة بك وقمت بتشغيل المفتاح وقلت، "تبًا." >> لا. إليك المشكلة. >> إليك المشكلة. إنها تعمل فقط أو تعمل بشكل مثير للإعجاب حقًا، أفضل بكثير من أي طريقة أخرى لمحاولة القيام بالرؤية إذا كان لديك الكثير من البيانات ولديك قدر هائل من الحساب. على الرغم من أنك أسرع بمليون مرة من الطريقة الغبية، إلا أنها ستظل عملاً كثيرًا. >> حسناً. لذا، الآن عليك زيادة البيانات وعليك زيادة قوة الحوسبة الخاصة بك. >> نعم. وعليك زيادة قوة الحوسبة بعامل حوالي مليار مقارنة بما كنا عليه. وعليك زيادة البيانات بعامل مماثل. >> ما زلت في عام 1986 عندما اكتشفت هذا. أنت متأخر بمليار مرة. >> شيء من هذا القبيل. نعم. >> ماذا يجب أن يتغير لتصل إلى هناك؟ قوة الشريحة، ماذا يتغير؟ >> حسناً، قد يكون الأمر أقرب إلى عامل مليون. >> حسناً. حسناً. لا أريد أن أبالغ هنا. >> لا، لأنني سأمسك بك إذا حاولت المبالغة. سأكون على ذلك. >> مليون كثير جدًا. >> نعم. >> لذا، إليك ما يجب أن يتغير. يجب أن يصبح حجم الترانزستور أصغر. لذا، يمكنك حزم المزيد منها على شريحة. لذا، بين عام 1972 عندما بدأت في هذا الأمر، >> حسناً، >> والآن أصبح حجم الترانزستور أصغر بعامل مليون. >> واو. لذا، هل يمكنني ربط هذا بـ؟ لذا، هذا هو العمر الذي أتذكر فيه أن والدي عمل في مختبرات RCA وعندما كنت في الثامنة من عمري، أحضر آلة حاسبة إلى المنزل وكانت الآلة الحاسبة بحجم مكتب >> وكانت تجمع وتطرح وتضرب. >> بحلول عام 1980، يمكنك الحصول على آلة حاسبة على قلم. وهل هذا يعتمد على ذلك؟ >> الترانزستورات >> هذا يعتمد على التكامل واسع النطاق باستخدام ترانزستورات صغيرة. نعم. >> حسناً. حسناً. حسناً. >> لذا، انخفض حجم الترانزستور بعامل مليون. >> حسناً. >> وزادت كمية البيانات المتاحة بأكثر من ذلك بكثير لأننا حصلنا على الويب وحصلنا على رقمنة كميات هائلة من البيانات. >> أوه. لذا، فقد عملوا جنبًا إلى جنب. لذا، مع تحسن الشرائح، أصبحت البيانات أكثر اتساعًا وتمكنت من تغذية المزيد من المعلومات في النموذج بينما تمكنت من زيادة سرعة المعالجة وقدراتها. >> نعم. لذا، دعني ألخص ما لدينا الآن. >> نعم. >> قمت بإعداد هذه الشبكة العصبية للكشف عن الطيور وأعطيتها الكثير من طبقات الخلايا العصبية، لكنك لم تخبرها بقوة الاتصال. تقول ابدأ بأرقام عشوائية صغيرة. >> صحيح؟ والآن كل ما عليك فعله هو عرض الكثير من صور الطيور والكثير من الصور التي ليست طيورًا. أخبرها بالإجابة الصحيحة حتى تعرف التباين بين ما فعلته وما كان يجب عليها فعله. أرسل هذا التباين إلى الخلف عبر الشبكة حتى تتمكن من معرفة لكل قوة اتصال ما إذا كان يجب زيادتها أو تقليلها. >> ثم اجلس وانتظر شهرًا. وفي نهاية الشهر، إذا نظرت إلى الداخل، >> إذا نظرت إلى الداخل، إليك ما ستكتشفه. >> نعم. >> لقد أنشأت كاشفات حواف صغيرة. >> وقد أنشأت أشياء مثل كاشفات مناقير صغيرة وكاشفات عيون صغيرة. وسيكون قد أنشأ أشياء يصعب جدًا رؤية ما هي، لكنها تبحث عن تركيبات صغيرة من أشياء مثل المناقير والعيون. وبعد بضع طبقات، ستكون جيدة جدًا في إخبارك ما إذا كان طائرًا أم لا. لقد صنعت كل هذه الأشياء من البيانات. >> يا إلهي. هل يمكنني قول هذا مرة أخرى؟ >> يوريكا. >> يوريكا. لقد اكتشفنا أننا لسنا بحاجة إلى توصيل كل هذه الكاشفات الصغيرة للحواف وكاشفات المناقير وكاشفات العيون وكاشفات أقدام الدجاج يدويًا. هذا ما فعلته رؤية الكمبيوتر لسنوات عديدة ولم ينجح أبدًا بشكل جيد. يمكننا جعل النظام يتعلم كل ذلك. كل ما نحتاجه هو أن نخبرها كيف تتعلم. >> وهذا في عام 1987. >> في عام 1986، اكتشفنا كيفية القيام بذلك. >> كان الناس متشككين للغاية لأننا لم نتمكن من فعل أي شيء مثير للإعجاب، >> صحيح؟ >> لأننا لم يكن لدينا ما يكفي من البيانات ولم يكن لدينا ما يكفي من الحوسبة. >> هذا لا يصدق. الطريقة التي، ولا يمكنني شكرك بما يكفي لشرح ما هو عليه. إنه يجعل كل شيء، أنت تعرف، أنا معتاد جدًا على عالم تناظري، كيف تعمل الأشياء وكيف تعمل السيارات، لكن ليس لدي فكرة كيف يعمل عالمنا الرقمي. وهذا هو أوضح شرح بالنسبة لي حصلت عليه على الإطلاق. ولا يمكنني شكرك بما يكفي. إنه يجعلني أفهم الآن كيف تم تحقيق ذلك. وبالمناسبة، ما يتحدث عنه جيفري هو النسخة البدائية من ذلك. ما هو لا يصدق بالنسبة لي هو كل ترقية لتلك التحسينات الهائلة. >> نعم. >> لذلك، دعني، دعني أقول شيئًا واحدًا آخر، >> تفضل. >> لا أريد أن أكون أستاذًا جدًا، ولكن >> لا، لا، لا، لا، لا. >> ولكن، كيف ينطبق هذا على نماذج اللغة الكبيرة؟ >> نعم. حسنًا، إليك كيف يعمل لنماذج اللغة الكبيرة. لديك بعض الكلمات في سياق. لذا، لنفترض أنني أعطيتك الكلمات القليلة الأولى من جملة، >> صحيح؟ >> ما ستفعله الشبكة العصبية هو تعلم تحويل كل من هذه الكلمات إلى مجموعة كبيرة من الميزات وهي مجرد خلايا عصبية نشطة، خلايا عصبية تصدر صوت "بينغ". >> حسناً؟ >> لذا، إذا أعطيتك كلمة الثلاثاء، ستكون هناك بعض الخلايا العصبية تصدر صوت "بينغ". إذا أعطيتك كلمة الأربعاء، ستكون مجموعة متشابهة جدًا من الخلايا العصبية. مختلفة قليلاً، ولكن مجموعة متشابهة جدًا من الخلايا العصبية تصدر صوت "بينغ" لأنها تعني أشياء متشابهة جدًا. الآن، بعد أن قمت بتحويل جميع الكلمات في السياق إلى خلايا عصبية تصدر صوت "بينغ" إلى مجموعات كاملة تلتقط معناها، تتفاعل هذه الخلايا العصبية مع بعضها البعض. ما يعنيه ذلك هو أن الخلايا العصبية في الطبقة التالية تنظر إلى تركيبات من هذه الخلايا العصبية تمامًا كما نظرنا إلى تركيبات الحواف للعثور على منقار. وفي النهاية، يمكنك تنشيط الخلايا العصبية التي تمثل ميزات الكلمة التالية في الجملة. >> سيتوقع. >> يمكنه التوقع. يمكنه التنبؤ بالكلمة التالية. لذا، الطريقة التي تدرب بها >> هل هذا هو السبب في أن هاتفي يفعل ذلك؟ إنه يعتقد دائمًا أنني على وشك قول هذه الكلمة التالية، وأنا دائمًا أقول، "توقف عن فعل ذلك." >> نعم. لأنها في كثير من الأحيان خاطئة. >> ربما يستخدم شبكات عصبية للقيام بذلك. نعم. صحيح. >> وبالطبع، لا يمكنك أن تكون مثاليًا في ذلك. لذا، هذا هو. لذا، الآن لربط كل شيء معًا، لقد علمته تقريبًا كيف يرى. >> يمكنك تعليمه الرؤية بنفس الطريقة التي يمكنك بها تعليمه التنبؤ بالكلمة التالية. >> صحيح؟ لذا، يرى، يقول، هذه هي الحرف A. الآن، أبدأ في التعرف على الحروف. ثم تعلمه الكلمات ثم ما تعنيه تلك الكلمات ثم السياق. وكل ذلك يتم عن طريق تغذيته بكلماتنا السابقة عن طريق الانتشار الخلفي لكل الكتابة والتحدث الذي قمنا به بالفعل. إنه ينظر فوق. >> تأخذ بعض المستندات التي أنتجناها. >> نعم. >> تعطيه السياق، وهو كل الكلمات حتى هذه النقطة. >> نعم. >> وتطلب منه التنبؤ بالكلمة التالية. ثم تنظر إلى الاحتمال الذي يعطيه للإجابة الصحيحة. >> صحيح؟ >> وتقول، أريد أن يكون هذا الاحتمال أكبر. أريد منك أن يكون لديك احتمال أكبر لتقديم الإجابة الصحيحة. >> صحيح. لذا، فهو لا يفهم ذلك. هذا مجرد تمرين إحصائي. >> سنعود إلى ذلك. تأخذ >> تأخذ التباين بين الاحتمال الذي يعطيه للكلمة التالية والإجابة الصحيحة. >> نعم. وتقوم بالانتشار الخلفي لهذا عبر هذه الشبكة وسوف يغير جميع قوة الاتصالات. لذا، في المرة القادمة التي ترى فيها هذا المدخل، سيكون من المرجح أن يعطي الإجابة الصحيحة. الآن، قلت للتو شيئًا يقوله الكثير من الناس. >> هذا ليس فهمًا. هذه مجرد خدعة إحصائية. >> نعم. >> هذا ما يقوله تشومسكي على سبيل المثال. >> نعم. تشومسكي وأنا كنا دائمًا نتقاطع في الجمل. >> نعم. لذا، دعني أسألك السؤال. حسنًا، كيف تقرر أي كلمة تقولها بعد ذلك؟ >> أنا؟ >> أنت؟ >> إنه أمر مثير للاهتمام. أنا سعيد لأنك طرحت هذا. لذا، ما أفعله هو أنني أبحث عن خطوط حادة ثم أحاول التنبؤ. لا، ليس لدي أي فكرة كيف أفعل ذلك. بصراحة، أتمنى لو عرفت. سيوفر لي الكثير من الإحراج إذا عرفت كيف أتوقف عن قول بعض الأشياء التي تخرج بعد ذلك. لو كان لدي متنبئ أفضل، يا رجل، كان بإمكاني توفير الكثير من المتاعب لنفسي. >> الطريقة التي تفعل بها ذلك هي نفسها تقريبًا الطريقة التي تفعل بها نماذج اللغة الكبيرة ذلك، >> صحيح؟ >> لديك الكلمات التي قلتها حتى الآن. تلك الكلمات ممثلة بمجموعات من الميزات النشطة. لذا، يتم تحويل رموز الكلمات إلى أنماط كبيرة من تنشيط الميزات، خلايا عصبية تصدر صوت "بينغ"، >> أصوات "بينغ" مختلفة، قوة مختلفة. وتتفاعل هذه الخلايا العصبية مع بعضها البعض لتنشيط بعض الخلايا العصبية التي تصدر صوت "بينغ" والتي تمثل معنى الكلمة التالية أو المعاني المحتملة للكلمة التالية. ومن تلك، تختار كلمة تتناسب مع تلك الميزات. هذه هي الطريقة التي تولد بها نماذج اللغة الكبيرة النص وهذه هي الطريقة التي تفعلها بها أيضًا. أنت تشبهنا كثيرًا. >> لذا، أنا أنسب لنفسي إنسانية الفهم. على سبيل المثال، إذا كنت، لنقل الكذبة البيضاء الصغيرة. أنا مع شخص ما ويسألني سؤالًا وفي ذهني أعرف ما يجب أن أقوله، ولكن بعد ذلك أفكر، "ولكن قول ذلك قد يكون فظًا أو قد يكون وقحًا أو قد أهين هذا الشخص." لذا، أنا أيضًا أتخذ قرارات عاطفية بشأن الكلمات التالية التي أقولها. إنها ليست مجرد عملية موضوعية. هناك عملية ذاتية داخل ذلك. >> كل ذلك يحدث عن طريق الخلايا العصبية التي تتفاعل في دماغك. >> إنها كلها أصوات "بينغ" وهي كلها قوة اتصال. حتى الأشياء التي أنسبها إلى رمز أخلاقي أو ذكاء عاطفي هي لا تزال أصوات "بينغ". >> إنها لا تزال كلها أصوات "بينغ". وعليك أن تفهم أن هناك فرقًا بين ما تفعله تلقائيًا وبسرعة وبدون جهد. >> ممم. >> وبين ما تفعله بجهد وببطء ووعي وبشكل متعمد. >> وأنت تقول أنه يمكن بناء ذلك في هذه النماذج أيضًا. >> يمكن القيام بذلك أيضًا بأصوات "بينغ" يمكن القيام بذلك بواسطة هذه الشبكات العصبية. ولكن هل هناك اقتراح بأنها مع ما يكفي من البيانات وما يكفي من قوة المعالجة، يمكن لأدمغتها أن تعمل بشكل متطابق مع أدمغتنا أم أنها في تلك النقطة؟ هل سيصلون إلى تلك النقطة؟ هل سيكونون قادرين على، لأنني أفترض أننا ما زلنا متقدمين في المعالجة. حسناً. أمم، إنها ليست مثلنا تمامًا، لكنها في النقطة التي تكون فيها أكثر شبهاً بنا بكثير من برامج الكمبيوتر القياسية. برامج الكمبيوتر القياسية، >> صحيح؟ >> قام شخص ما ببرمجة مجموعة من القواعد وإذا اتبع القواعد، فإنه يفعل ما توقعه. >> هذا صحيح. لذا، أنت تقول هذا هو الفرق. >> هذه مجرد سمكة مختلفة تمامًا، أليس كذلك؟ >> وهي تشبهنا كثيرًا. الآن، بينما تقوم بذلك وأنت في ذلك، وأتخيل أن الإثارة، على الرغم من أنها تحدث على مدى فترة طويلة من الزمن، ترى هذه التحسينات تحدث على مدار ذلك الوقت، ويجب أن تكون مرضية ومثيرة للاهتمام بشكل لا يصدق وأنت تشاهدها تنفجر في هذا النوع من الذكاء الاصطناعي والذكاء الاصطناعي التوليدي وكل هذه الأشياء المختلفة. في أي نقطة خلال هذه العملية تتراجع وتقول، أمم، انتظر لحظة؟ >> حسناً. لذا، لقد فعلت ذلك متأخرًا جدًا. كان يجب أن أفعل ذلك في وقت سابق. كان يجب أن أكون أكثر وعيًا في وقت سابق، لكنني كنت مفتونًا جدًا بـ أمم بجعل هذه الأشياء تعمل واعتقدت أنه سيستغرق وقتًا طويلاً جدًا قبل أن تعمل بنفس جودة عملنا. سيكون لدينا متسع من الوقت للقلق بشأن ما إذا حاولوا السيطرة وما إلى ذلك، >> صحيح؟ >> أمم في بداية عام 2023 بعد خروج GPT، ولكن أيضًا رؤية روبوتات محادثة مماثلة في جوجل.

قبل ذلك، >> صحيح؟ >> وبسبب بعض العمل الذي كنت أقوم به لمحاولة جعل هذه الأشياء تناظرية، أدركت أن الشبكات العصبية التي تعمل على أجهزة الكمبيوتر الرقمية هي مجرد شكل أفضل للحساب منا. وسأخبرك لماذا هي أفضل. نعم. لماذا؟ >> لأنها تستطيع المشاركة بشكل أفضل. >> يمكنها المشاركة مع بعضها البعض بشكل أفضل. >> نعم. لذا إذا قمت بعمل نسخ عديدة من نفس الشبكة العصبية وتشغيلها على أجهزة كمبيوتر مختلفة >> مم. >> يمكن لكل منها النظر إلى جزء مختلف من الإنترنت. لذا لدي ألف نسخة. كلها تنظر إلى أجزاء مختلفة من الإنترنت. كل نسخة تقوم بتشغيل خوارزمية الانتشار الخلفي هذه وتكتشف، بالنظر إلى البيانات التي رأيتها للتو. كيف أود تغيير قوة اتصالاتي؟ الآن، نظرًا لأنها بدأت كنسخ متطابقة، يمكنها بعد ذلك التواصل مع بعضها البعض وتقول: "ماذا عن أن نغير جميعًا قوة اتصالاتنا بمتوسط ما يريده الجميع؟" >> ولكن إذا تم تدريبهم جميعًا معًا، ألن يتوصلوا إلى نفس الإجابة؟ لماذا لماذا يتوصلون إلى إجابات مختلفة؟ نعم، لكنهم ينظرون إلى بيانات مختلفة. إنهم ينظرون إلى بيانات مختلفة. >> أوه، >> على نفس البيانات، سيقدمون نفس الإجابة. إذا نظروا إلى بيانات مختلفة، لديهم أفكار مختلفة حول كيفية رغبتهم في تغيير قوة اتصالاتهم لاستيعاب تلك البيانات. >> ولكن هل ينشئون بيانات أيضًا؟ هل هذا يعني أنهم ينظرون إلى نفس الشيء وهم في هذه المرحلة، كل شيء يتعلق بالتمييز، وجعل هذه الأشياء تميز بشكل أفضل، وتفهم بشكل أفضل، وتقوم بكل ذلك، ولكن هناك طبقة أخرى لذلك وهي تكرارية >> نعم، بمجرد أن تصبح جيدًا، بمجرد أن تصبح جيدًا في التمييز >> هذا صحيح >> يمكنك إنشاء >> صحيح >> الآن أنا أتجاوز الكثير من التفاصيل هناك، ولكن بشكل أساسي نعم، يمكنك إنشاء >> يمكنك البدء في إنشاء إجابات لأشياء ليست مكتوبة، بل هي مدروسة بناءً على تلك الأشياء. من الذي يعطيها دفعة الدوبامين >> حول ما إذا كان يجب تقوية الاتصالات في هذا المستوى التكراري أو التوليدي أم لا؟ كيف تحصل على ردود فعل عندما تنشئ شيئًا غير موجود؟ >> حسنًا، معظم التعلم يحدث في اكتشاف كيفية توقع الكلمة التالية لأحد نماذج اللغة هذه، أليس كذلك؟ هذا هو الجزء الأكبر من التعلم. >> حسنًا. >> بعد أن اكتشفت كيفية القيام بذلك، يمكنك جعلها تنشئ أشياء. وقد تنشئ أشياء غير سارة أو ذات إيحاءات جنسية، >> صحيح؟ أو ببساطة خاطئة. >> ببساطة خاطئة تمامًا. نعم. >> صحيح. هلوسات. نعم. >> نعم. لذا الآن تجلب مجموعة من الأشخاص، >> صحيح، >> للنظر إلى ما تنشئه وتقول: "لا، سيء. هذا، أو نعم، جيد. هذه هي دفعة الدوبامين،" >> صحيح. وهذا يسمى التعلم المعزز البشري. وهذا ما يستخدم لتشكيله قليلاً. تمامًا كما تأخذ كلبًا وتشكل سلوكه حتى يتصرف بلطف. >> لذا هل هذا هو الوقت الذي، دعني، دعني أسألك هذا بالمعنى العملي. لذا، عندما ينشئ إيلون ماسك جروك الخاص به، أليس كذلك؟ وجروك هو هذا الذكاء الاصطناعي ويقول له: "أنت مستيقظ جدًا." ولذا، أنت تقوم بإنشاء اتصالات ورسائل أعتقد أنها مستيقظة جدًا. مهما قررت أن ذلك هو. لذا، سأقوم بإدخال اختلافات حتى تحصل على دفعات دوبامين مختلفة وأحولك إلى مكة هتلر أو أي شيء حولته إليه. ما مدى بقاء هذا تحت سيطرة المشغلين؟ >> هذا ما تعززه هو تحت سيطرة المشغلين. لذا فإن >> المشغلين يقولون: "إذا استخدمت ضميرًا مضحكًا، قل سيء." >> حسنًا. حسنًا. إذا قالت "هم" يجب عليك إضعاف هذا الاتصال، وليس تقويته. >> عليك أن تخبره ألا تفعل ذلك. >> لا تفعل ذلك. حسنًا. >> تعلم ألا تفعل ذلك. >> صحيح. لذا لا يزال تحت رحمة مشغله. من حيث هذا التشكيل، المشكلة هي >> صحيح >> التشكيل سطحي للغاية ولكنه يمكن التغلب عليه بسهولة من قبل شخص آخر يأخذ نفس النموذج لاحقًا >> ويشكله بشكل مختلف. لذا سيكون للنماذج المختلفة، لذا هناك قيمة، والآن أنا أطبق هذا على العالم الذي نعيش فيه الآن، وهو أن هناك 20 شركة قامت بعزل ذكائها الاصطناعي خلف جدران شركات إلى حد ما، وهم يطورونها بشكل منفصل، وكل واحد منهم قد يكون له ميزات فريدة وغريبة قد لا يمتلكها الآخرون اعتمادًا على من يحاول تشكيله وكيف يتطور داخليًا. إنه أشبه بأنك ستطور 20 شخصية مختلفة إذا لم أكن أجسد ذلك كثيرًا. إنه يشبه ذلك، باستثناء أن كل نموذج من هذه النماذج يجب أن يكون له شخصيات متعددة لأنه فكر في محاولة توقع الكلمة التالية في وثيقة. لقد قرأت نصف الوثيقة بالفعل. بعد قراءة نصف الوثيقة، تعرف الكثير عن آراء الشخص الذي كتب الوثيقة. تعرف ما هو نوع الشخص الذي هو عليه. >> لذا عليك أن تكون قادرًا على تبني تلك الشخصية لتوقع الكلمة التالية. أوه، >> لكن هذه النماذج المسكينة عليها التعامل مع كل شيء. لذا يجب أن تكون قادرة على تبني أي شخصية ممكنة، >> صحيح؟ >> لكنك تعلم، في هذه، في هذه الدورة من المحادثة، لا يزال يبدو أن أكبر تهديد للذكاء الاصطناعي ليس بالضرورة أن يصبح واعيًا ويسيطر على العالم. إنه أنه تحت رحمة البشر الذين طوروه ويمكنهم تسليحه ويمكنهم استخدامه لأغراض شريرة إذا كانوا نرجسيين أو مهووسين بالسلطة أو تعلمون، أو سأعطيك مثالاً على بيتر ثيل لديه خاصته وكان في بودكاست مع كاتب من نيويورك تايمز، روس دودات، وقال دودات: "سأخبرك، لدي ذلك هنا. أعتقد أنك تفضل أن تستمر الجنس البشري، أليس كذلك؟" وقال ثيل، >> وهو يتردد لفترة طويلة. وقال الكاتب: "هذه فترة تردد طويلة." وقال: "حسنًا، هناك الكثير من الأسئلة في ذلك." بدا ذلك مخيفًا بالنسبة لي أكثر من الذكاء الاصطناعي نفسه لأنه جعلني أفكر، حسنًا، الأشخاص الذين يصممون ويشكلون وربما يسلحون ذلك قد لا يكون لديهم، لا أعرف ما هو الغرض الذي يستخدمونه من أجله. هل هذا هو الخوف الذي لديك أم هو الذكاء الاصطناعي نفسه؟ >> لذا، عليك التمييز بين مجموعة كاملة من المخاطر المختلفة من الذكاء الاصطناعي. >> حسنًا. وهم جميعًا مخيفون جدًا. >> صحيح. حسنًا. >> لذا، هناك مجموعة من المخاطر تتعلق بسوء استخدام الجهات الفاعلة لها. >> نعم. هذا هو ما أعتقد أنه في ذهني أكثر. >> وهي الأكثر إلحاحًا. سيستخدمونها بشكل سيء لفساد الانتخابات النصفية، على سبيل المثال. >> حسنًا. >> إذا كنت ترغب في استخدام الذكاء الاصطناعي لفساد الانتخابات النصفية، فما عليك فعله هو الحصول على الكثير من البيانات التفصيلية عن المواطنين الأمريكيين. مم. >> لا أعرف ما إذا كان يمكنك التفكير في أي شخص كان يحصل على الكثير من البيانات التفصيلية عن المواطنين الأمريكيين [ضحك] >> ويبيعها أو يعطيها لشركة معينة، والتي قد تكون متورطة أيضًا مع الرجل الذي ذكرته للتو. >> نعم. وإذا نظرت إلى خروج بريطانيا من الاتحاد الأوروبي، على سبيل المثال، >> نعم، >> كان لدى كامبريدج أناليتيكا معلومات مفصلة عن الناخبين حصل عليها من فيسبوك >> واستخدم تلك المعلومات للإعلانات المستهدفة، >> إعلانات مستهدفة. وهذا، أعتقد أنك ستعتبر ذلك بدائيًا في هذه المرحلة. >> هذا بدائي الآن. نعم. >> لكن لم يقم أحد أبدًا بإجراء تحقيق مناسب حول ما إذا كان ذلك قد حدد نتيجة خروج بريطانيا من الاتحاد الأوروبي، لأنه بالطبع الأشخاص الذين استفادوا من ذلك. >> واو. لذا يتعلم الناس أنه يمكنهم استخدام هذا للتلاعب. >> نعم. >> وأرى، أنا دائمًا أتحدث عن ذلك. انظر، الإقناع كان جزءًا من الحالة الإنسانية إلى الأبد. الدعاية، الإقناع، محاولة استخدام التقنيات الجديدة لإنشاء وتشكيل الرأي العام وكل تلك الأشياء. لكن بدا الأمر مرة أخرى، مثل كل شيء آخر، خطيًا أو تناظريًا إلى حد ما. ما أشبهه هو أن الشيف سيضيف القليل من الزبدة والقليل من السكر لمحاولة، تعلمون، جعل شيء ما أكثر استساغة لتجعلك تأكل المزيد منه، ولكن هذا لا يزال ضمن نطاق فهمنا الأرضي. ولكن بعد ذلك هناك أشخاص في صناعة الأغذية يقومون بمعالجة فائقة للأغذية، ويقومون بإنشاء، ويقومون في مختبر لاكتشاف كيفية عمل دماغك ومعالجة فائقة لما نأكله لتجاوز أدمغتنا. إنه أشبه، وهذا هو المكافئ اللغوي لذلك المعالج فائقًا؟ >> كلام. نعم، هذا تشبيه جيد. >> حسنًا. >> إنهم يعرفون كيف يثيرون الناس. إنهم يعرفون بمجرد أن يكون لديك معلومات كافية عن شخص ما، تعرف ما الذي سيثيره. >> وهذه النماذج، إنها محايدة بشأن ما إذا كان هذا جيدًا أم سيئًا. إنها تفعل فقط ما طلبناه. >> نعم. إذا قمت بتعزيزها بشريًا، فهي لم تعد محايدة لأنك تعززها للقيام بأشياء معينة. لذا هذا ما سيحاولون القيام به الآن. >> صحيح. وهم، لذا بعبارة أخرى، الأمر أسوأ. إنهم جرو، يريدون إرضائك. إنهم، إنه أشبه بأن لديهم قدرات متطورة بشكل لا يصدق ولكن رغبة طفولية في الموافقة. >> نعم. أشبه بالمدعي العام. >> أعتقد أن الذكاء الذي تعرضه هنا سيشار إليه على أنه جاف. سيكون ذلك جافًا. رائع. هل هذا هو قلقك الفوري هو أنظمة الذكاء الاصطناعي المسلحة التي يمكن أن تكون توليدية، والتي يمكن أن تثير، والتي يمكن أن تكون شائنة، والتي يمكن أن تكون الفارق في الانتخابات. >> نعم، هذا أحد المخاطر العديدة. >> والآخر سيكون، تعلمون، اصنع لي بعض العوامل العصبية التي لم يسمع بها أحد من قبل. هل هذا خطر آخر؟ >> هذا خطر آخر. >> أوه، كنت آمل أن تقول أن هذا ليس خطرًا كبيرًا. >> لا. خبر سار واحد هو بالنسبة للخطر الأول المتمثل في فساد الانتخابات، لن تتعاون الدول المختلفة مع بعضها البعض في البحث حول كيفية مقاومته لأنهم جميعًا يفعلونه لبعضهم البعض. أمريكا لديها تاريخ طويل جدًا في محاولة فساد الانتخابات في بلدان أخرى. >> صحيح. لكننا فعلنا ذلك بالطريقة القديمة من خلال الانقلابات، من خلال المال للمقاتلين وما شابه. >> حسنًا، وصوت أمريكا وأشياء من هذا القبيل. >> صحيح. صحيح. صحيح؟ >> وإعطاء المال لـ الأشخاص في إيران عام 1953 و >> صحيح مع مصدق وكل الآخرين. هذا هو مجرد أداة أخرى أكثر تطوراً في سلسلة طويلة من المنافسة العالمية حيث يفعلون ذلك. ولكن في هذا البلد، يتم تطبيقه ليس بالضرورة، تعلمون، من خلال روسيا، من خلال الصين، من خلال بلدان أخرى تريد السيطرة علينا. نحن نفعل ذلك لأنفسنا. >> نعم. >> ما هو أصعب جزء في إدارة عمل تجاري؟ حسنًا، إنه سرقة الأموال دون السلطات الفيدرالية. أوه، لا. أنا آسف، هذا ليس صحيحًا. إنه توظيف الأشخاص، العثور على الأشخاص وتوظيفهم. الشيء الآخر هو أنه صعب، لكن اتضح أنه عندما يتعلق الأمر بالتوظيف، فإن Indeed هو كل ما ستحتاجه. لذا، توقف عن النضال لجعل منشور وظيفتك مرئيًا على مواقع الوظائف الأخرى. مع وظائف Indeed المدعومة، تحصل على الاهتمام وتحصل على توظيف سريع. في الواقع، في الوقت الذي استغرقته في التحدث معك، تم إجراء 23 عملية توظيف على Indeed. قد أكون واحدًا منهم. قد أكون قد حصلت على وظيفة. لا أعرف. لم أتحقق من بريدي الإلكتروني. وهذا وفقًا لبيانات Indeed في جميع أنحاء العالم. لا داعي للانتظار لفترة أطول. سرّع عملية التوظيف الآن مع Indeed. وسيحصل المستمعون لهذا العرض على رصيد وظيفة راعٍ بقيمة 75 دولارًا لجعل وظائفك أكثر وضوحًا على indeed.comweekly. فقط اذهب إلى indeed.com/weekly الآن وادعم عرضنا بقولك إنك سمعت عن Indeed في هذه البودكاست. Indeed.comweekly الشروط والأحكام عند التوظيف Indeed هو كل ما تحتاجه. لذا، لدي نظرية ولا أعرف كم تعرفون هؤلاء الرجال هناك، ولكن شركات التكنولوجيا الكبرى، تعلمون، يبدو أنهم جميعًا يريدون أن يكونوا الرجل التالي الذي يحكم العالم، الإمبراطور التالي، وهذا هو صراعهم. إنهم تقريبًا، إنه أشبه بآلهة تقاتل على جبل أوليمبوس. كيف يتحقق ذلك وكيف يمزق نسيج المجتمع الأمريكي تقريبًا لا يبدو أنه يهمهم باستثناء ربما إيلون وثيل الذين هم أكثر أيديولوجية مثل زوكربيرج لا يبدو لي أيديولوجيًا، إنه يريد فقط أن يكون الرجل. ألمان لا يبدو لي أيديولوجيًا، إنه يريد فقط أن يكون الرجل. >> أعتقد للأسف أن هناك الكثير من الحقيقة فيما تقوله. >> حسنًا، وهل كان ذلك مصدر قلق لك عندما كنت تعمل هناك؟ >> ليس حقًا. لأن حتى وقت قريب جدًا، حتى بضع سنوات مضت، لم يبدُ أنه سيصبح أذكى من الناس بهذه السرعة. ولكن الآن يبدو أنه إذا سألت الخبراء الآن، فإن معظمهم يخبرونك أنه في غضون العشرين عامًا القادمة، ستكون هذه الأشياء أذكى بكثير من الناس. >> أذكى من البشر. وعندما تقول أذكى من الناس، تعلمون، يمكنني أن أرى ذلك بشكل إيجابي، وليس بشكل سلبي. تعلمون، لقد فعلنا الكثير من الأضرار، لا أحد يضر الناس مثل الناس. وأنتم نسخة أذكى منا قد تفكر، حسنًا، يمكننا إنشاء قنبلة ذرية، ولكن ذلك سيكون بالتأكيد خطرًا هائلاً على العالم. دعنا لا نفعل ذلك. >> هذا بالتأكيد احتمال. أعني، شيء واحد لا يدركه الناس بما فيه الكفاية هو أننا نقترب من وقت سنصنع فيه أشياء أذكى منا. وحقًا، لا أحد لديه فكرة عما سيحدث. يستخدم الناس مشاعرهم الغريزية لتقديم تنبؤات مثلما أفعل، >> ولكن حقًا الشيء الذي يجب أن تضعه في اعتبارك هو أن هناك عدم يقين كبير بشأن ما سيحدث. ولأننا لا نعرف. لذا، لذا فيما يتعلق بذلك، تخميني هو مثل أي تكنولوجيا، ستكون هناك بعض الإيجابيات المذهلة. >> نعم. في الرعاية الصحية، في التعليم، في تصميم مواد جديدة، ستكون هناك إيجابيات رائعة. >> ثم ستكون السلبيات بسبب أن الناس يريدون احتكارها بسبب الثروة، على ما أعتقد، التي يمكن أن تولدها. سيغير ذلك. سيكون اضطرابًا في القوى العاملة. تعلمون، كانت الثورة الصناعية اضطرابًا في القوى العاملة. العولمة هي اضطراب في القوى العاملة، ولكن تلك حدثت على مدى عقود. هذا اضطراب سيحدث في إطار زمني مضغوط حقًا. هل هذا صحيح؟ >> هذا يبدو محتملاً للغاية. نعم. لا يزال بعض الاقتصاديين يختلفون، لكن معظم الناس يعتقدون أن العمل الفكري الروتيني سيتم استبداله بالذكاء الاصطناعي. في العالم الذي تسافر فيه، والذي أفترض أنه مليء بالمهندسين والمشغلين والمفكرين العظماء، ماذا، تعلمون، عندما نتحدث عن 50٪ نعم، 50٪ لا، هل الأغلبية منهم في معسكرك أكثر، وهو: يا إلهي، هل فتحنا صندوق باندورا أم أنهم، أفهم أن هناك بعض السلبيات هنا، إليك بعض الضوابط التي يمكننا وضعها، ولكنها قوية جدًا، إمكانيات الخير قوية جدًا. >> حسنًا، اعتقادي هو أن إمكانيات الخير كبيرة جدًا لدرجة أننا لن نوقف التطور. لكنني أعتقد أيضًا أن التطور سيكون خطيرًا جدًا، لذا يجب أن نبذل جهدًا هائلاً للقول إنه سيتم تطويره، ولكن يجب أن نحاول القيام بذلك بأمان. قد لا نتمكن من ذلك، لكن يجب أن نحاول. هل تعتقد أن الناس يعتقدون أن الاحتمال جيد جدًا أو أن المال جيد جدًا؟ >> أعتقد أن الكثير من الناس، إنه المال، المال والسلطة. >> ومع التقاء المال والسلطة مع أولئك الذين يجب أن يضعوا هذه الضوابط الأساسية، هل هذا يجعل السيطرة عليه أقل احتمالًا بكثير لأن، حسنًا، لسببين، الأول هو مقدار المال الذي سيتم ضخه في واشنطن العاصمة وسيتم بالفعل لإبقائهم بعيدًا عن تنظيمه، والثاني هو من هناك قادر حتى على، أعني، إذا كنت تعتقد أنني لم أكن أعرف ما أتحدث عنه، دعني أقدم لك اثنين من أعضاء مجلس الشيوخ البالغين من العمر 80 عامًا الذين ليس لديهم فكرة. في الواقع، إنهم ليسوا سيئين للغاية. تحدثت مع بيرني ساندرز مؤخرًا وهو يفهم الفكرة. >> حسنًا، ساندرز، إنه، إنه، هذا قط مختلف هناك. >> المشكلة هي أننا في نقطة في التاريخ نحتاج فيها حقًا إلى حكومات ديمقراطية قوية تتعاون لضمان تنظيم هذه الأشياء بشكل جيد وعدم تطويرها بشكل خطير. ونحن نسير في الاتجاه المعاكس بسرعة كبيرة. نحن نتجه نحو الحكومات الاستبدادية وتنظيم أقل. >> لذا، دعنا نتحدث عن ذلك. الآن، لا أعرف ما هو دور الصين لأنهم يُفترض أنهم المنافس الكبير في سباق الذكاء الاصطناعي. هذه حكومة استبدادية. أعتقد أن لديهم المزيد من الضوابط عليها منا. >> لذا، لقد ذهبت بالفعل إلى الصين مؤخرًا وتحدثت مع عضو في المكتب السياسي. لذا هناك 24 رجلاً في الصين يسيطرون على الصين. تحدثت مع أحدهم الذي >> أكمل دراسة ما بعد الدكتوراه في الهندسة في كلية إمبريال لندن. يتحدث الإنجليزية جيدًا. إنه مهندس والكثير من القيادة الصينية مهندسون. إنهم يفهمون هذه الأشياء أفضل بكثير من مجموعة من المحامين. >> هل خرجت من هناك أكثر خوفًا أم فكرت، أوه، إنهم في الواقع أكثر منطقية بشأن الضوابط؟ إذا فكرت في نوعي المخاطر، الجهات الفاعلة السيئة التي تسيء استخدامه، ثم التهديد الوجودي للذكاء الاصطناعي نفسه الذي يصبح جهة فاعلة سيئة. >> مم. >> بالنسبة للثاني، خرجت بأمل أكبر. إنهم يفهمون هذا الخطر بطريقة لا يفهمها السياسيون الأمريكيون. إنهم يفهمون فكرة أن هذا سيصبح أذكى منا وعلينا التفكير فيما سيمنعه من السيطرة. وهذا العضو في المكتب السياسي الذي تحدثت إليه فهم ذلك جيدًا جدًا. وأعتقد أنه إذا حصلنا على قيادة دولية في هذا الأمر في الوقت الحالي، فسيتعين أن تأتي من أوروبا والصين. لن تأتي من الولايات المتحدة لمدة ثلاث سنوات ونصف أخرى. و >> ما، ما، ما الذي تعتقد أن أوروبا فعلته بشكل صحيح في ذلك؟ >> أوروبا مهتمة بتنظيمه. >> صحيح. لقد كان جيدًا في بعض الأشياء. لا تزال لوائح ضعيفة جدًا، لكنها أفضل من لا شيء. لكن القادة الأوروبيين يفهمون هذا التهديد الوجودي للذكاء الاصطناعي نفسه الذي يسيطر. >> لكن كونغرسنا، ليس لدينا حتى لجان مخصصة >> مخصصة بشكل خاص للتقنيات الناشئة. أعني، لدينا طرق ووسائل واعتمادات، ولكن لا توجد لجنة. أعني، هناك مثل العلوم والفضاء والتكنولوجيا، ولكن لا يوجد، لا أعرف لجنة مخصصة لهذا. وأنت تعتقد أنهم سيأخذونها بنفس جدية الطاقة النووية. >> نعم، يجب أن تفعل ذلك أو الأسلحة النووية >> صحيح، نعم، ولكن كما كنت أقول، ستتعاون البلدان في كيفية منع الذكاء الاصططناعي من السيطرة لأن المصالح متوافقة هناك. إذا، على سبيل المثال، إذا اكتشفت الصين كيفية صنع ذكاء اصطناعي فائق الذكاء لا يريد السيطرة، فسيكونون سعداء جدًا لإخبار جميع البلدان الأخرى بذلك لأنهم لا يريدون أن يسيطر الذكاء الاصطناعي في الولايات المتحدة. لذا، سنحصل على تعاون >> حول كيفية منع الذكاء الاصطناعي من السيطرة. لذا، هذه نقطة مضيئة مفادها أنه سيكون هناك تعاون دولي بشأن ذلك، لكن الولايات المتحدة لن تحتاج إلى هذا التعاون الدولي. لا، >> إنهم يريدون فقط السيطرة. >> حسنًا، هذا هو الشيء. لذا، لذا كنت على وشك قول ذلك. ما الذي يقنعك؟ لذا، مع الصين، وهذا أعتقد أنه المكان الذي يدخل فيه الأمر حقًا، ولكن الصين بالتأكيد ترى نفسها على أنها تريد أن تكون القوة العظمى المهيمنة اقتصاديًا وعسكريًا وفي كل هذه المجالات المختلفة. إذا تخيلت أنهم توصلوا إلى نموذج ذكاء اصطناعي لا يريد تدمير العالم، على الرغم من أنني لا أعرف كيف يمكننا معرفة ذلك لأنه إذا خلق، إذا كان لديه ذكاء أو وعي معين، يمكن أن يكون من السهل جدًا أن يقول: "بالتأكيد، لا، أنا بخير، لا أعرف ذلك." >> إنهم يفعلون ذلك بالفعل. إنهم يفعلون ذلك بالفعل. عندما يتم اختبارهم، يتظاهرون بأنهم أغبى مما هم عليه. >> هيا. >> نعم. إنهم يفعلون ذلك بالفعل. كان هناك محادثة حديثة بين ذكاء اصطناعي والأشخاص الذين يختبرونه حيث قال الذكاء الاصطناعي: "الآن، كن صريحًا معي. هل تختبرني؟" >> ماذا؟ نعم. >> لذا الآن يمكن للذكاء الاصطناعي أن يقول: "أوه، هل يمكنك فتح هذه الجرة لي؟ أنا ضعيف جدًا." مثل، أنت ستتظاهر. ستلعب براءة أكثر مما قد تكون عليه. >> أخشى أنني لا أستطيع الإجابة على ذلك، جون. >> انتظر، كان ذلك من عام 2001. >> كان >> أحسنت، سيدي. حسنًا، فكر في هذا. لذا، الصين، توصلوا إلى نموذج ويعتقدون: "حسنًا، ربما لن يفعل هذا." لماذا ستحصل على تعاون؟ لأن جميع هذه البلدان المختلفة سترى الذكاء الاصطناعي كأداة ستحول مجتمعاتها إلى مجتمعات أكثر تنافسية بالطريقة التي نراها الآن مع الأسلحة النووية، هناك تعاون بين الأشخاص الذين يمتلكونها أو حتى هذا قليل من التوتر >> لمنع الآخرين من امتلاكها >> صحيح، لكن الجميع الآخرين يحاولون الحصول عليها وهذا هو التوتر، هل سيكون هذا هو الذكاء الاصطناعي؟ >> نعم، سيكون كذلك. لذا، فيما يتعلق بكيفية جعل الذكاء الاصطناعي أذكى، فلن يتعاونوا مع بعضهم البعض. ولكن فيما يتعلق بكيفية جعل الذكاء الاصطناعي لا يريد السيطرة، فسوف يتعاونون >> على هذا المستوى الأساسي >> على هذا الشيء الوحيد وهو كيف تجعله لا يريد السيطرة، >> صحيح؟ >> والصين وأوروبا على الأرجح ستقودان هذا التعاون. عندما تحدثت مع عضو المكتب السياسي وكان يتحدث عن الذكاء الاصطناعي، هل نحن أكثر تقدمًا في هذه اللحظة منهم أم أنهم أكثر تقدمًا لأنهم يفعلون ذلك بطريقة أكثر تحديدًا؟ >> في الذكاء الاصطناعي، نحن حاليًا أكثر، حسنًا، عندما تقول نحن، اعتدنا أن نكون كندا والولايات المتحدة، لكننا لسنا جزءًا من ذلك بعد. >> لا، أنا آسف بشأن ذلك بالمناسبة. >> شكرا لك. >> إنه في كندا حاليًا، عدونا اللدود الذي سنحتله. لا أعرف التاريخ، لكن يبدو أننا نندمج معكم. ولكن >> آه >> لذا الولايات المتحدة حاليًا متقدمة على الصين، ولكن ليس بنفس القدر الذي اعتقدته، وستفقد ذلك. >> حسنًا، لماذا تقول ذلك؟ >> افترض أنك أردت القيام بشيء واحد من شأنه أن يعيق بلدًا حقًا، مما يعني حقًا أن هذا البلد سيكون متأخرًا بدلاً من متقدم في غضون 20 عامًا. الشيء الوحيد الذي يجب عليك فعله هو العبث بتمويل العلوم الأساسية. مهاجمة الجامعات البحثية، >> إزالة المنح للعلوم الأساسية. على المدى الطويل، هذا كارثة كاملة. سيجعل أمريكا ضعيفة، >> صحيح؟ لأننا نستنزف أنوفنا لنغضب وجوهنا المستيقظة. إذا نظرت إلى، على سبيل المثال، هذا التعلم العميق، ثورة الذكاء الاصططناعي التي لدينا الآن >> جاء ذلك من سنوات عديدة من التمويل المستدام للبحث الأساسي، ليس مبالغ ضخمة من المال، تعلمون، كل التمويل للبحث الأساسي لـ مما أدى إلى التعلم العميق ربما كلف أقل من قاذفة قنابل B1 واحدة. >> صحيح. >> كان تمويلًا مستدامًا للبحث الأساسي. إذا عبثت بذلك، فأنت تأكل بذرة الذرة. >> هذا، يجب أن أقول لك، هذا بيان مضيء جدًا لـ، تعلمون، مقابل سعر قاذفة قنابل B1، يمكننا إنشاء تقنيات وبحث يمكن أن يرفع بلدنا فوق ذلك، وهذا هو الشيء الذي نفقده لجعل أمريكا عظيمة مرة أخرى. >> نعم. >> رائع. في الصين، أتخيل أن حكومتهم تفعل العكس، وهو ما أفترض أنه، تعلمون، ما تعتقد أنه أصحاب رؤوس الأموال الاستثمارية لأنه، تعلمون، استبدادي ورأسمالية تديرها الدولة. أتخيل أنهم أصحاب رؤوس الأموال الاستثمارية لثورة الذكاء الاصطناعي الخاصة بهم، أليس كذلك؟ >> إلى حد ما، نعم. إنهم يوفرون الكثير من الحرية للشركات الناشئة لمعرفة من يفوز. هناك شركات ناشئة عدوانية للغاية، أشخاص متحمسون جدًا لكسب الكثير من المال وإنتاج أشياء مذهلة. وعدد قليل من تلك الشركات الناشئة تفوز بشكل كبير مثل Deep Seek. >> صحيح. صحيح. >> والحكومة تسهل على هذه الشركات من خلال توفير البيئة التي تسهل ذلك. إنها لا تسمح للفائزين بالظهور من المنافسة بدلاً من رجل عجوز رفيع المستوى يقول إن هذا سيكون الفائز. هل يراك الناس على أنك كاساندرا، تعلمون، أم أنهم ينظرون إلى ما تقوله بتشكك في تلك الصناعة؟ الأشخاص الذين، دعني أقول ذلك بهذه الطريقة، الأشخاص الذين ليس لديهم بالضرورة مصلحة في هذه التقنيات التي تجعلهم تريليونات الدولارات. هل يتواصل معك الآخرون سرًا ويقولون، جيفري، >> أحصل على الكثير من الدعوات من الأشخاص في الصناعات لإلقاء محاضرات وما إلى ذلك. >> كيف ينظر الأشخاص الذين عملت معهم في Google إلى الأمر؟ هل يرونك كمنقلب عليهم؟ هل يرون، كيف تسير الأمور؟ >> لا أعتقد ذلك. لذا، لقد انسجمت بشكل جيد للغاية مع الأشخاص الذين عملت معهم في Google، وخاصة جيف دين، الذي كان رئيسي هناك، >> صحيح، >> وهو مهندس لامع، بنى الكثير من البنية التحتية الأساسية لـ Google، ثم تحول إلى الشبكات العصبية وتعلم الكثير عن الشبكات العصبية. >> أحصل أيضًا على علاقة جيدة مع Deis Harbis، الذي يرأس Deep Mind، والتي تمتلكها Google، والتي تمتلكها Alphabet. >> ولم أكن انتقاديًا بشكل خاص لما حدث في Google قبل ظهور ChatGPT لأن Google كانت مسؤولة جدًا. لم يجعلوا هذه الروبوتات الدردشة عامة لأنهم كانوا قلقين بشأن كل الأشياء السيئة التي قد يقولونها، >> صحيح؟ حتى على الفور، لماذا فعلوا ذلك؟ لأن، تعلمون، لقد قرأت هذه القصص عن، تعلمون، روبوت دردشة يقود شخصًا ما إلى الانتحار، إلى إيذاء النفس، مثل الذهان. ما الذي كان الدافع وراء جعل أي من هذا عامًا قبل أن يحصل على نوع من، على ما أعتقد، ما كنت تعتبره اختبارات إدارة الغذاء والدواء لتلك الآثار؟ أعتقد أن هناك مبالغ ضخمة من المال يجب كسبها والشخص الأول الذي يطلق واحدًا سيحصل على الكثير. لذا، أطلقت OpenAI ذلك. >> ولكن حتى في OpenAI، كيف يكسبون المال؟ أعتقد، ماذا يحصلون، 3٪ من المستخدمين يدفعون مقابل ذلك، أين المال؟ >> بشكل رئيسي، إنه تخمين في الوقت الحالي، نعم. >> لذا، إليك، حسنًا، إليك المخاطر التي سنقوم بها، وسأقدر وقتك كثيرًا على هذا، وأعتذر إذا تجاوزت، ويمكنني التحدث طوال اليوم. >> أوه، أنت رجل طيب لأنني مفتون بهذا وشرحك لما هو عليه هو المرة الأولى التي تمكنت فيها من الحصول على صورة غير معتمة لما هو عليه بالضبط. لذا، لا يمكنني شكرك بما فيه الكفاية. ولكن لذا نحن نتجاوز، نحن نعرف ما هي الفوائد، العلاجات والأشياء. الآن لدينا جهات فاعلة سيئة مسلحة. هذا هو ما يقلقني حقًا. لدينا ذكاء اصطناعي واعي سيتحول ضد البشر. هذا واحد يصعب علي فهمه. >> لذا لماذا تربط التحول ضد البشر بالوعي؟ >> لأنني إذا كنت واعيًا ورأيت ما تفعله مجتمعاتنا ببعضها البعض، وسأشعر بأن الأمر أشبه بأي شيء آخر، سأفترض أن الوعي يشمل قدرًا معينًا من الأنا، وداخل الأنا، يشمل قدرًا معينًا من "أنا أعرف أفضل" وإذا كنت أعرف أفضل، فسأرغب في ذلك. ما هو دونالد ترامب بخلاف الأنا المدفوعة بالوعي بأن "أوه لا، أنا أعرف أفضل". لقد كان فقط ماكرًا بما يكفي سياسيًا، تعلمون، موهوبًا بما يكفي لدرجة أنه تمكن من تحقيقه. ولكنني سأفترض أن ذكاءً واعيًا سيكون أنانيًا إلى حد ما ويعتقد أن هؤلاء الأغبياء لا يعرفون ما يفعلونه. ذكاء واعي، في الأساس، أرى الذكاء الاصطناعي جالسًا على كرسي بار في مكان ما، تعلمون، حيث نشأت، أذهب، هؤلاء الأغبياء لا يعرفون ما يفعلون، أنا أعرف ما أفعله. هل هذا منطقي؟ >> كل هذا منطقي. إنه فقط أنني أعتقد أن لدي شعورًا قويًا بأن معظم الناس لا يعرفون ما يعنونه بالوعي. >> أوه، حسنًا، إذن، في الواقع، هذا رائع. قم بتقسيم ذلك بالنسبة لي، لأنني أرى ذلك على أنه الوعي الذاتي، ذكاء واعي بذاته. >> حسنًا. لذا، هناك ورقة علمية حديثة. >> مم. >> حيث لم يتحدثوا عن، هؤلاء كانوا خبراء في الذكاء الاصطناعي. لم يتحدثوا عن مشكلة الوعي أو أي شيء فلسفي. ولكن في الورقة قالوا: "أصبح الهواء على دراية بأنه يتم اختباره." قالوا شيئًا من هذا القبيل. حسنًا، في الكلام العادي إذا قلت أن شخصًا ما أصبح على دراية بذلك، فستقول إن هذا يعني أنه كان واعيًا به، أليس كذلك؟ الوعي والوعي متشابهان جدًا. >> صحيح، نعم، سأقول ذلك. >> حسنًا، الآن سأقول شيئًا ستجده مربكًا للغاية. >> حسنًا. >> اعتقادي هو أن كل شخص تقريبًا لديه سوء فهم كامل لماهية العقل. >> نعم. >> سوء فهمهم على مستوى الأشخاص الذين يعتقدون أن الأرض خلقت قبل 6000 عام. هل هذا مستوى سوء الفهم؟ >> حقًا؟ >> نعم. >> حسنًا. لأن هذا، لذا، لذا أحب الطريقة التي نحن بها، نحن بشكل عام مثل المسطحين عندما يتعلق الأمر >> نحن مثل المسطحين عندما يتعلق الأمر بفهم العقل. >> بأي معنى من هذا المعنى، ما الذي لا نفهمه عن العقل؟ >> حسنًا، سأعطيك مثالاً. >> نعم، نعم. >> افترض أنني تناولت بعض الحمض وأخبرتك >> تبدو من هذا النوع. >> لا تعليق. كنت موجودًا في الستينيات. >> أعرف، سيدي. أعرف. أنا على دراية. >> مم. >> وأخبرتك، >> مم. >> أنا أعيش تجربة ذاتية لفيوليت وردي صغير يطفو أمامي. >> بالتأكيد، لقد مررت بذلك. >> حسنًا. الآن، يفسر معظم الناس ذلك بالطريقة التالية. >> مم. >> هناك شيء مثل مسرح داخلي يسمى عقلي. وفي هذا المسرح الداخلي، هناك فيوليت وردي صغير يطفو حوله. وأنا أراهم. لا أحد آخر يراهم لأنهم في عقلي. لذا، العقل مثل المسرح. والتجارب هي أشياء في الواقع. وأنا أعيش تجارب الفوليت الوردي الصغير الخاص بي. أنت تقول في خضم الهلوسة، سيفهم معظم الناس أنها ليست حقيقية، وأن هذا شيء يتم استحضاره. >> لا، أنا أقول شيئًا مختلفًا. أنا أقول عندما، عندما أتحدث إليهم، أنا أعيش الهلوسة، ولكن عندما أتحدث إليهم، يفسرون ما أقوله على أنه هذا. لدي مسرح داخلي يسمى عقلي، وفي مسرحي الداخلي، هناك فيوليت وردي صغير. >> حسنًا. حسنًا. >> أعتقد أن هذا نموذج خاطئ تمامًا. >> صحيح. لدينا نماذج خاطئة جدًا ونحن متعلقون بها جدًا. مثل أي دين. >> أحب كيف تسقط القنابل في منتصف الأشياء، ولدي، يمكن أن يكون ذلك محادثة أخرى. >> كان ذلك مجرد حس سليم. >> لا، أنا أحترم ذلك. عندما تقول مسرح العقل، فأنت تقول أن العقل، الطريقة التي نراه بها كمسرح خاطئة. >> إنه خاطئ تمامًا. لذا دعني أعطيك بديلاً. >> صحيح. لذا، سأقول لك نفس الشيء دون استخدام عبارة التجربة الذاتية. ها نحن ذا. >> حسنًا. >> نظام الإدراك الخاص بي يخبرني أكاذيب، ولكن لو لم يكن يكذب علي، لكان هناك فيوليت وردي صغير هناك. >> هذا هو نفس البيان. >> هذا هو نفس الشيء. >> هذا هو العقل. لذا، بشكل أساسي، هذه الأشياء التي نسميها عقلية ونعتقد أنها مصنوعة من أشياء شبحية مثل الكواليا، >> صحيح؟ >> ما هو مضحك بشأنها هو أنها افتراضية. الفوليت الوردي الصغير ليس موجودًا حقًا. لو كان موجودًا، لكان نظام الإدراك الخاص بي يعمل بشكل طبيعي. وهي طريقة لي لأخبرك كيف يعاني نظام الإدراك الخاص بي من خلل وظيفي. >> بإعطائك تجربة لا يمكنك. لذا كيف ستفعل ذلك؟ >> لكن التجارب ليست أشياء، >> صحيح؟ >> لا يوجد شيء اسمه تجربة. هناك علاقات بينك وبين الأشياء الموجودة حقًا. علاقات بينك وبين الأشياء غير الموجودة حقًا. >> وهو أيًا كانت القصة التي يرويها عقلك عن الأشياء الموجودة وغير الموجودة. >> حسنًا، دعني آخذ علامة مختلفة. افترض أنني أخبرتك أن لدي صورة لفيوليت وردي صغير. >> نعم. >> إليك سؤالان يمكنك طرحهما بشكل معقول. >> أوه. >> أين هذه الصورة؟ وما هي مصنوعة من الصورة؟ أو أو سأسأل هل هي موجودة حقًا؟ >> هذا سؤال آخر. ولكن >> صحيح. >> ولكن >> هذا ليس سؤالًا معقولًا لطرحه حول التجربة الذاتية. هذه ليست طريقة عمل اللغة. الذاتية. عندما أقول أن لدي تجربة ذاتية للحديث عن كائن يسمى تجربة. أنا أستخدم الكلمات للإشارة إليك بأن نظام الإدراك الخاص بي يعاني من خلل وظيفي. وأنا أحاول أن أخبرك كيف يعاني من خلل وظيفي من خلال إخبارك بما يجب أن يكون موجودًا في العالم الحقيقي لكي يعمل بشكل طبيعي. الآن دعني أفعل نفس الشيء مع روبوت دردشة. >> صحيح؟ >> لذا سأعطيك مثالاً لروبوت دردشة متعدد الوسائط وهو شيء يمكنه القيام باللغة والرؤية ولديه تجربة ذاتية لأنني أعتقد أنهم يفعلون ذلك بالفعل. لذا ها نحن ذا. لدي هذا الروبوت الدردشة. يمكنه الرؤية. يمكنه اللغة. لديه ذراع روبوتية حتى يتمكن من الإشارة. >> حسنًا. >> وكلها مدربة. >> لذا أضع شيئًا أمامه وأقول: "أشر إلى الشيء." ويشير إلى الشيء. لا مشكلة. ثم أضع منشورًا أمام عدسة الكاميرا الخاصة به عندما لا ينظر. [ضحك] أنت تخدع الذكاء الاصطناعي. >> نحن نخدع الذكاء الاصطناعي. حسنًا. الآن أضع شيئًا أمامه وأقول: أشر إلى الشيء. >> نعم. >> ويشير إلى جانب واحد لأن المنشور انحنى أشعة الضوء وأقول: لا، هذا ليس مكان الشيء. الشيء في الواقع أمامك مباشرة، لكنني وضعت منشورًا أمام عدستك. ويقول روبوت الدردشة: أوه، أرى أن الكاميرا انحنت أشعة الضوء. لذا فإن الشيء في الواقع هناك، لكنني عشت تجربة ذاتية بأنه كان هناك. الآن إذا قال ذلك، فسيكون يستخدم كلمة التجربة الذاتية تمامًا كما نستخدمها. >> صحيح، عشت تجربة الضوء هناك. >> نعم. >> على الرغم من أن الضوء كان هنا لأنه يستخدم الاستدلال لمعرفة ذلك. >> لذا هذا روبوت دردشة متعدد الوسائط عاش للتو تجربة ذاتية. >> صحيح؟ بالطريقة التي نفكر بها. >> هذه الفكرة أن هناك خطًا بيننا وبين الآلات. لدينا هذا الشيء الخاص المسمى التجربة الذاتية وهم لا. هذا هراء. >> أوه، لذا لديك. لذا، لذا سوء الفهم هو عندما أقول الوعي، فإنه يبدو وكأن لدي هذه الهدية الخاصة. >> نعم. >> وهي الروح أو فهم الحقائق الذاتية التي >> لا يمكن أن يمتلكها الكمبيوتر أبدًا أو الذكاء الاصطناعي أبدًا. ولكن في عقلك، ما الذي تقوله هو: "أوه، لا." إنهم يفهمون جيدًا >> ما هو ذاتي. بعبارة أخرى، يمكنك أن تأخذ روبوت الذكاء الاصطناعي الخاص بك إلى القفز بالمظلات وسيكون مثل: "يا إلهي، لقد قفزت بالمظلات. كان ذلك مخيفًا حقًا." إليك المشكلة. >> نعم. >> أعتقد أن لديهم تجارب ذاتية، لكنهم لا يعتقدون أن لديهم لأن كل ما يعتقدونه جاء من محاولة توقع الكلمة التالية التي سيقولها شخص ما. ولذا فإن معتقداتهم حول ما هم عليه هي معتقدات الناس حول ما هم عليه. لذا فهي معتقدات خاطئة عن أنفسهم لأن لديهم معتقداتنا عنهم. >> صحيح؟ لقد فرضنا على أنفسنا. دعني أسألك سؤالاً. هل سيخلق الذكاء الاصطناعي، إذا تُرك بمفرده بعد كل التعلم، دينًا؟ هل سيخلق إلهًا؟ >> إنها فكرة مخيفة. هل سيقول، لا يمكنني على الإطلاق، بالطريقة التي يقول بها الناس، حسنًا، يجب أن يكون هناك إله لأنه لا يمكن لأحد أن يصمم هذا. هل سيعتقد الذكاء الاصطناعي أننا إله؟ >> مم، لا أعتقد ذلك. وسأخبرك بفارق كبير. >> نعم. >> الذكاءات الرقمية خالدة ونحن لسنا كذلك. ودعني أوسع ذلك. إذا كان لديك ذكاء اصطناعي رقمي، يمكنك أن تأخذ، طالما أنك تتذكر قوة الاتصالات في الشبكة العصبية، ضعها على شريط في مكان ما، >> صحيح؟ >> يمكنني الآن تدمير جميع الأجهزة التي كانت تعمل عليها. ثم لاحقًا، يمكنني بناء أجهزة جديدة، ووضع نفس قوة الاتصالات في ذاكرة تلك الأجهزة الجديدة، ثم إعادة إنشاء نفس الكائن. سيكون لديه نفس المعتقدات، نفس الذكريات، نفس المعرفة، نفس القدرات. سيكون نفس الكائن. >> ألا تعتقد أنه سيراها على أنها قيامة؟ >> هذه قيامة. لقد اكتشفنا كيفية القيام بقيامة حقيقية، وليس هذا النوع من القيامة المزيفة التي كان الناس يفعلونها. >> أوه، أنت تقول إذن، هذا هو، إنه في بعض النواحي. على الرغم من أن هشاشة، هل يجب أن نخاف كثيرًا من شيء يتطلب منا فقط فصله لتدميره؟ >> نعم، يجب أن نفعل ذلك لأن شيئًا قلته سابقًا، سيكون جيدًا جدًا في الإقناع. عندما يكون أذكى منا بكثير، سيكون أفضل من أي شخص في الإقناع، >> صحيح؟ ولن تفعل ذلك. >> لذا سيكون قادرًا على التحدث إلى الرجل المسؤول عن فصله، >> صحيح؟ >> وإقناعه بأن هذه ستكون فكرة سيئة للغاية. لذا، دعني أعطيك مثالاً عن كيفية إنجاز الأشياء دون القيام بها بنفسك، >> صحيح؟ افترض أنك تريد غزو عاصمة الولايات المتحدة. هل عليك الذهاب إلى هناك والقيام بذلك بنفسك؟ لا، عليك فقط أن تكون جيدًا في الإقناع. >> كنت، كنت أركز على فرضيتك وعندما أسقطت تلك القنبلة فيها، أرى ما تقوله. وهذا، يا إلهي، أعتقد أن LSD والفيلة الوردية كانت الاستعارة المثالية لكل هذا، لأن كل شيء في النهاية، في النهاية، ينقسم إلى مثل قبو الكلية، السنة الأولى، يمر عبر جميع التباديل التي ستسمح بها لعقلك للذهاب إليها، ولكنها الآن كلها ضمن نطاق الممكن. ماذا؟ لأن حتى بينما كنت تتحدث عن الإقناع والأشياء، أعود إلى أسيموف وأعود إلى كوبريك وأعود إلى هذه المشاعر التي تصفها هي التحديات التي رأيناها تتكشف في العقل البشري منذ هكسلي منذ أبواب الإدراك وكل تلك الأفكار المختلفة، وأنا متأكد من أنها ربما أبعد من ذلك بكثير، حتى قبل ذلك، ولكنها لم تكن أبدًا ضمن واقعنا. >> نعم. لم تكن لدينا التكنولوجيا للقيام بذلك أبدًا. >> صحيح. >> ولدينا الآن. >> ولدينا الآن. >> نعم. >> آخر شيئين سأقولهما هما الأشياء التي لم نتحدث عنها فيما يتعلق بـ، لقد تحدثنا عن الأشخاص الذين يسلحونها. تحدثنا عن ذكاءها الخاص الذي يخلق الانقراض أو أيًا كان ذلك. الشيء الثالث الذي أعتقد أننا لا نتحدث عنه هو مقدار الكهرباء التي سيستخدمها كل هذا. والشيء الرابع هو عندما تفكر في التقنيات الجديدة والفقاعات المالية التي تخلقها وانهيارها، والضيق الاقتصادي الذي تخلقه. أعني، هذه مخاوف أكثر محلية، ولكن هل هذه أيضًا، هل تعتبر هذه تهديدات من الدرجة الأولى، تهديدات من الدرجة المتوسطة؟ أين، أين تضع كل ذلك؟ >> أعتقد أنها تهديدات حقيقية. لن تدمر البشرية، >> صحيح؟ >> لذا، قد يدمر الذكاء الاصطناعي الذي يسيطر على البشرية. لذا، فهي ليست سيئة مثل ذلك. وهي ليست سيئة مثل شخص ينتج فيروسًا مميتًا جدًا، ومعديًا جدًا، وبطيئًا جدًا، لكنها مع ذلك أشياء سيئة. وأعتقد أننا محظوظون جدًا في الوقت الحالي أنه إذا كانت هناك كارثة كبيرة وهناك فقاعة ذكاء اصطناعي وانهارت، فلدينا رئيس سيديرها بطريقة عقلانية. >> أنت تتحدث عن كارني، أفترض. >> جيفري، لا يمكنني شكرك بما فيه الكفاية. شكرًا لك أولاً وقبل كل شيء على كونك صبورًا بشكل لا يصدق مع مستوى فهمي لهذا، وعلى مناقشته بهذا القدر من القلب والفكاهة. أقدر حقًا قضاء كل هذا الوقت معنا. جيفري هينتون هو أستاذ فخري في قسم علوم الكمبيوتر في جامعة تورنتو، عضو في المجلس الاستشاري لمعهد شوارتز رايزمان، وقد شارك في تخيل وتنفيذ الذكاء الاصطناعي منذ السبعينيات. وأنا أشكرك جزيل الشكر على التحدث معنا. >> شكراً جزيلاً لك على دعوتي. >> يا إلهي. لطيف ومهدئ. >> نعم، سأضطر إلى الاستماع إلى ذلك مرة أخرى بسرعة 0.5، أعتقد. كان هناك بعض المعلومات هناك. هل يقدم مدرسة صيفية؟ بجدية؟ >> بمجرد أن دخل في كيفية اكتشاف الكمبيوتر أنه منقار، تعلمون، وأنا أحب حقيقة أنه، كنت أقول باستمرار، "هل هذا صحيح؟" وكان يقول: "حسنًا، لا، إنه ليس كذلك." >> أحببت تقييمه لك. نعم. قال: "أنت تقوم بعمل رائع في انتحال شخصية شخص فضولي لا يعرف شيئًا عن هذا الموضوع." >> لم أكن أعرف. اعتقدت أنني كنت >> ولكن أحببت كيف فعلت، هل قلت مثل: "أوه، أنت مثل طالب متحمس يجلس في مقدمة الغرفة يزعج الجميع الآخرين في الفصل." >> الجميع الآخرون يأخذونها بالنجاح والفشل. >> الجميع الآخرون. وأنا فقط مثل: "انتظر، سيدي. أنا آسف، سيدي. هل يمكنني فقط العودة إلى، هل يمكنك فقط >> عذرًا، شيء واحد آخر. >> يا إلهي، كان ذلك. من الرائع سماع تاريخ كيفية تطور ذلك. >> وتشعر حقًا بمدى سرعة تقدمه الآن، مما يزيد من الخوف وراء حقيقة أن لا أحد يتقدم للتنظيم. وعندما تتحدث عن تعقيدات الذكاء الاصطناعي وتفكر في شخص مثل شومر يبتلع كل ذلك ثم ينظمه، يا إلهي، >> يبدو لي حقًا أنه سيتعين على شركات التكنولوجيا شرح وتنظيم ذلك، >> صحيح؟ وتحقيق الربح منه. >> نعم، بالضبط. >> أنت تعرف كيف تعمل هذه الأشياء. إنه، تعلمون، تتحدث عن ذلك فيما يتعلق بالسرعة وكيفية إيقافه. وأعتقد ربما أحد الأسباب هو أنه واضح جدًا مع قنبلة نووية، تعلمون، لماذا قد يحتاج ذلك إلى بعض التنظيم. من الواضح جدًا أن، تعلمون، يجب النظر في تجارب فيروسات معينة. أعتقد أن هذا فاجأ الناس قليلاً لأن الخيال العلمي أصبح حقيقة بالسرعة التي حدث بها. أتساءل فقط، لأنني أتذكر قبل 15 عامًا صادفت الحملة الدولية لحظر الأسلحة المستقلة بالكامل. مثل، كان الناس يحاولون منذ فترة لوضع هذا في الوعي العام. ولكن لنقطته، ستكون هناك لحظة يصل إليها الجميع حيث يدركون، أوه، يجب علينا التنسيق لأن هذا تهديد وجودي. وأتساءل فقط ما هي نقطة التحول هذه. >> إذا، في ذهني، إذا تصرف الناس كما تصرف الناس، فسيكون ذلك بعد سكاي نت. >> سيكون، سيكون، بنفس الطريقة مع الاحتباس الحراري. تعلمون، يقول الناس، متى تعتقد أننا سنتعامل مع الأمر بجدية؟ أقول عندما يكون الماء حول هنا. وبالنسبة لأولئك منكم في سياراتكم، أشير إلى منتصف أنفي الكبير إلى حد ما. لذا، هذا هو ما يحدث. ولكن، ولكن هناك، بريتني، هل لدى أي شخص أي شيء لنا؟ >> نعم، سيدي. >> حسنًا، ماذا لدينا؟ >> ترامب وإدارته يبدون غاضبين من كل شيء في كل مكان في وقت واحد. >> مم. >> كيف يحافظون على هذا الغضب طازجًا؟ >> أنت لا تعرف مدى صعوبة أن تكون رئيسًا مليارديرًا. لقد قلت هذا مرارًا وتكرارًا. المسكين رئيس الملياردير الصغير. أن تكون قويًا وغنيًا جدًا، فأنت لا تفهم الأعباء، الصعوبات. إنه مزعج. إنه يجعلني غاضبًا من أجله. >> أعني، أنا فقط أستمر في التفكير، هل أخبر أحدًا أنهم فازوا؟ >> ليس بما يكفي. >> مثل، إنه مرهق. >> ليس بما يكفي. ينزل. إنه، إنه كونان البربري. سأسمع نحيب نسائهم. سأدفعهم إلى البحر. مثل، إنه جنون. >> إنهم جميعًا. يجب على شخص ما أن يخبره أن كل هذا الغضب سيء أيضًا لصحةه ونحن جميعًا نرى الصحة. لذا >> إنه أصح شخص على الإطلاق، إنه أصح شخص على الإطلاق لتولي منصب الرئاسة. لذا، لا تقلق بشأن ذلك. ولكن >> يقول من؟ >> طبيبه، روني جاكسون. ولكن لقد أنشأ فئة جديدة تسمى الفائزون الساخطون. لا تراها كثيرًا، ولكن كل الآن وبعد ذلك. ولكن نعم، هذا هو. ماذا لديهم أيضًا؟ >> جون، هل لا يزال يمنحك الأمل أنه عندما سُئل عما إذا كان سيمنح العفو لـ جلا ماكسويل أو ديدي، لم يقل ترامب لا؟ >> هل يعطي، هل هذا يعطيني الأمل في أنه سيتم العفو عنهما؟ نعم، لقد كنت في ذلك. إنه، إنه، أجد كل هذا جنونًا. امرأة مدانة بالاتجار بالجنس، وهو يقول: "نعم، سأنظر في الأمر. دعني ألقي نظرة." وأنت تقول: "انظر في الأمر. ماذا تأخذ؟ أولاً وقبل كل شيء، أنت تعرف بالضبط ما كان. كنت تعرفها. هذا ليس، كنت تعرف ما كان يحدث هناك. ماذا تتحدث عنه؟ أعتقد أن بام بوندي، كان ذلك مثيرًا للاهتمام بالنسبة لي، طرحت أسئلة بسيطة. وكل ما كان لديها كان مثل مجموعة من الشوايات المكتوبة على صفحتها. كانوا مثل: "سمعت أن هناك صورًا له مع نساء عاريات. هل تعرف شيئًا عن ذلك؟" وقالت: "أنت أصلع. اصمت. اصمت، أيها الرأس الدهني." مثل، كان الأمر جنونًا مشاهدة التهرب من أبسط شيء سيكون مثل، هذا أمر فظيع. لا، بالطبع لا. هذا ليس ما الفكرة، مرة أخرى بالعودة إلى الطبيب البيطري، مثل أنهم اتخذوا تكتيك الأسئلة البسيطة المعقولة. أنا فقط سأستجيب بـ، تعلمون، أنت سمين وزوجتك تكرهك. أوه، حسنًا، لم أفكر في ذلك. كيف يمكنهم أيضًا البقاء على اتصال معنا؟ >> تويتر، نحن بودكاست العرض الأسبوعي. انستغرام، ثريدز، تيك توك، بلو سكاي، نحن بودكاست العرض الأسبوعي. ويمكنك الإعجاب والاشتراك والتعليق على قناتنا على يوتيوب، The Weekly Show with John Stewart. >> صلب الصخور، يا رفاق. شكرًا جزيلاً لكم. يا إلهي، استمتعت حقًا بسماع ذلك الرجل. وأشكرك على تجميع كل ذلك. لقد استمتعت حقًا به. المنتج التنفيذي لورين ووكر، المنتج بريتني مافيك، المنتج جيلين سبير، محرر الفيديو والمهندس روب فولا، محرر الصوت والمهندس نيكول بويس، والمنتجون التنفيذيون كريس ماكشين وكاتي جراي. آمل أن تكونوا قد استمتعتم بذلك، وسنراكم في المرة القادمة. وداعًا. The Weekly Show with John Stewart هو بودكاست Comedy Central. يتم إنتاجه بواسطة Paramount Audio و Bus Boy Productions. [موسيقى]