Everyone Thinks AI Is Just Software. Einstein Says Otherwise.

มีคนแสดงให้ผมเห็นบางอย่างเมื่อเร็วๆ นี้ การสาธิตเล็กๆ น้อยๆ เอเจนต์วิจัย ระบบปัญญาประดิษฐ์ที่ถูกนำมาใช้ทำในสิ่งที่ผมใช้เวลาทั้งชีวิตทำ มันได้รับคำถามเกี่ยวกับทฤษฎีสนามควอนตัม [ดนตรี] และมันก็ทำงานได้ มันค้นหาฐานข้อมูล มันดึงเปเปอร์ มันอ่านบทคัดย่อ มันตรวจสอบการอ้างอิง มันจัดอันดับแหล่งข้อมูลตามความเกี่ยวข้อง มันสังเคราะห์บทสรุป มันตรวจสอบ [ดนตรี] บทสรุปนั้นกับข้อเรียกร้องดั้งเดิม มันพบความขัดแย้ง มันแก้ไข มันผลิตคำตอบสุดท้าย ทั้งหมดนี้โดยอัตโนมัติ ในเวลาประมาณ 40 วินาที ผมเฝ้าดูสิ่งนี้และรู้สึกสองสิ่งพร้อมกัน อย่างแรกคือความรู้สึกชื่นชม เพราะกระบวนการ รูปแบบของกระบวนการนั้นคุ้นเคยสำหรับผม นั่นคือวิธีที่วิทยาศาสตร์เคลื่อนไหวจริงๆ อย่างค่อยเป็นค่อยไป วนซ้ำ ตรวจสอบตัวเองกับความเป็นจริงเสมอ อย่างที่สองที่ผมรู้สึกคือความกังวล ไม่ใช่ความกังวลที่คุณอาจคาดหวัง ผมไม่ได้กังวลว่าเครื่องจักรจะเข้ามาแทนที่นักวิทยาศาสตร์ คำถามนั้นน่าเบื่อสำหรับผม มันเป็นมาตลอด ความสามารถที่ปราศจากความเข้าใจคือกลอุบายในโรงละคร ไม่ใช่สิ่งทดแทน สิ่งที่ทำให้ผมกังวลคือบางสิ่งที่เงียบกว่า บางสิ่งที่แทบไม่มีใครในห้องสังเกตเห็น 40 วินาที ทุกคนประทับใจกับ 40 วินาที ความเร็ว ผลลัพธ์ ความสง่างามของอินเทอร์เฟซ ไม่มีใครถามว่า 40 วินาทีนั้นมีค่าใช้จ่ายเท่าใด และผมเป็นนักฟิสิกส์ ผมหยุดถามคำถามนั้นไม่ได้ เพราะในฟิสิกส์ ไม่มีอะไรฟรี ไม่มีอะไรลอยได้ ไม่มีอะไรเกิดขึ้นนอกเหนือจากสสาร พลังงาน และกฎที่ควบคุมทั้งสองอย่าง

ดังนั้น ขอให้ผมบอกคุณว่าเกิดอะไรขึ้นจริงๆ ใน 40 วินาทีนั้น ไม่ใช่ผลลัพธ์ ไม่ใช่คำตอบ แต่เป็นฟิสิกส์ เพราะเมื่อคุณเห็นมัน เห็นมันจริงๆ การสนทนาเกี่ยวกับปัญญาประดิษฐ์จะเปลี่ยนไปอย่างสิ้นเชิง คำถามจะเปลี่ยนไป ความเสี่ยงจะเปลี่ยนไป สิ่งที่คุณควรให้ความสนใจจะเปลี่ยนไป ทุกคนคิดว่า AI เป็นเพียงซอฟต์แวร์ พวกเขาคิดผิด และผมสามารถแสดงให้คุณเห็นได้ว่าทำไมอย่างแม่นยำ มาติดตามเอเจนต์วิจัยกัน ไม่ใช่ในเชิงเปรียบเทียบ แต่ในเชิงกายภาพ ทันทีที่คุณส่งคำถาม บางสิ่งก็เริ่มขึ้น ไม่ใช่ความคิด ไม่ใช่เวทมนตร์ แต่เป็นการเรียงซ้อนทางกายภาพ และถ้าคุณต้องการเข้าใจปัญญาประดิษฐ์ เข้าใจมันจริงๆ คุณต้องติดตามการเรียงซ้อนนี้ไปจนสุด ขั้นตอนที่หนึ่ง คำถามของคุณจะถูกแปลงเป็นโทเค็น ถูกแบ่งออกเป็นส่วนย่อยๆ ของภาษาที่ระบบสามารถประมวลผลทางคณิตศาสตร์ได้ แต่ละส่วนกลายเป็นตัวเลข แต่ละตัวเลขเข้าสู่การดำเนินการเมทริกซ์ การดำเนินการเมทริกซ์นั้นเกิดขึ้นบนชิป ชิปนั้นกำลังสลับทรานซิสเตอร์ นับพันล้านตัว เปิดและปิดนับพันล้านครั้งต่อวินาที เราได้ออกจากโลกของซอฟต์แวร์และเข้าสู่โลกของฟิสิกส์แล้ว การสลับทรานซิสเตอร์สร้างความร้อน ความร้อนต้องได้รับการจัดการ ดังนั้นชิป [ดนตรี] จึงอยู่ในระบบระบายความร้อน ระบบระบายความร้อนใช้พลังงาน พลังงานมาถึงผ่านระบบจ่ายไฟที่เชื่อมต่อกับกริด กริดถูกสร้างขึ้นมานานหลายทศวรรษ [ดนตรี] และทำงานภายใต้ข้อจำกัดทางเทอร์โมไดนามิกส์ที่เข้มงวด ทั้งหมดนี้สำหรับขั้นตอนที่หนึ่ง ก่อนที่เอเจนต์จะทำอะไรที่มีประโยชน์ ตอนนี้ ขั้นตอนที่สอง เอเจนต์ตัดสินใจว่าต้องค้นหา มันสอบถามฐานข้อมูล การสอบถามนั้นเดินทางผ่านสายใยแก้วนำแสงเป็นพัลส์แสง มันมาถึงเซิร์ฟเวอร์ เครื่องจักรทางกายภาพที่แตกต่างกัน อาจจะอยู่ในอาคารที่แตกต่างกัน อาจจะอยู่ในประเทศที่แตกต่างกัน เซิร์ฟเวอร์นั้นประมวลผลการสอบถาม หน่วยความจำที่หมุนอ่านข้อมูล ทรานซิสเตอร์อีกหลายตัวสลับกัน ความร้อนอีก ความเย็นอีก ผลลัพธ์กลับมาผ่านใยแก้วนำแสง พัลส์แสงอีก พลังงานอีก ขั้นตอนที่สาม เอเจนต์อ่านสิ่งที่มันพบ ทุกคำที่มันประมวลผล ทุกโทเค็นที่มันประเมิน ต้องผ่านการดำเนินการเมทริกซ์อีกครั้ง โมเดลชั่งน้ำหนักพารามิเตอร์นับพันล้านตัว การชั่งน้ำหนักแต่ละครั้งคือการคูณ การคูณแต่ละครั้งคือการกระทำทางกายภาพที่เกิดขึ้นในสสารโดยการเคลื่อนย้ายประจุผ่านวงจร ขั้นตอนที่สี่ เอเจนต์พบสิ่งที่น่าสนใจและตัดสินใจตรวจสอบอีกครั้ง ดังนั้น มันจึงค้นหาอีกครั้ง การเดินทางไปกลับผ่านใยแก้วนำแสงอีกครั้ง เซิร์ฟเวอร์อีกเครื่องจักรทางกายภาพอีกเครื่องที่ทำงานบนทวีปอื่น ขั้นตอนที่ห้า ตรวจพบความขัดแย้ง เอเจนต์แก้ไขสมมติฐานการทำงานของมัน นี่ไม่ใช่การแก้ไขเชิงเปรียบเทียบ นี่คือโมเดลที่คำนวณน้ำหนักความสนใจใหม่ทั่วทั้งหน้าต่างบริบทที่ยาวนาน ยิ่งบริบทยาวนานเท่าใด ก็ยิ่งต้องใช้การประมวลผลมากขึ้นเท่านั้น ยิ่งต้องใช้การประมวลผลมากขึ้น ก็ยิ่งต้องใช้พลังงานมากขึ้น ขั้นตอนที่หก การสังเคราะห์ เอเจนต์ร่างคำตอบ ทีละโทเค็น การสร้างโทเค็นแต่ละครั้งต้องผ่านการส่งไปข้างหน้าตลอดทั้งโมเดล การส่งไปข้างหน้าแต่ละครั้งคือการคำนวณทางอุตสาหกรรมที่แต่งกายด้วยเสื้อผ้าของประโยค ขั้นตอนที่เจ็ด การตรวจสอบ เอเจนต์ตรวจสอบคำตอบของตัวเองกับแหล่งข้อมูลของมัน ชุดการส่งผ่านอีกชุด การดำเนินการเมทริกซ์รอบใหม่ การสลับทรานซิสเตอร์อีกชุด 40 วินาที

ตอนนี้ บอกผมสิว่าคุณคิดว่าคุณกำลังดูอะไรอยู่ เพราะสิ่งที่คุณกำลังดูจริงๆ คือกระบวนการอุตสาหกรรมแบบกระจาย ครอบคลุมเครื่องจักรทางกายภาพหลายเครื่อง อาคารหลายหลัง แหล่งพลังงานหลายแหล่ง ระบบระบายความร้อน เครือข่ายใยแก้วนำแสง ลำดับชั้นหน่วยความจำ ทั้งหมดนี้ทำงานตามลำดับที่ประสานกัน เพื่อให้ผู้ช่วยวิจัยสามารถส่งย่อหน้าให้คุณได้ ย่อหน้าไม่ใช่ผลิตภัณฑ์ ย่อหน้าคือใบเสร็จรับเงิน ผลิตภัณฑ์คือการคำนวณ และการคำนวณนั้นเป็นทางกายภาพ [ดนตรี] ทุกขั้นตอนของมัน นี่ไม่ใช่การวิพากษ์เทคโนโลยี ผมไม่ได้กำลังโต้แย้งต่อต้านปัญญาประดิษฐ์ ผมใช้เวลาทั้งอาชีพของผมโต้แย้งว่าจักรวาลนั้นแปลกประหลาดและร่ำรวยกว่าที่สัญชาตญาณของเราแนะนำ [ดนตรี] ผมจะไม่เริ่มปฏิเสธสิ่งต่างๆ เพียงเพราะมันซับซ้อน ผมกำลังชี้ประเด็นที่ง่ายกว่ามาก คุณไม่สามารถเข้าใจบางสิ่งได้หากคุณมองเพียงพื้นผิวของมัน และพื้นผิวของปัญญาประดิษฐ์ อินเทอร์เฟซที่สะอาด คำตอบที่รวดเร็ว 40 วินาทีที่สง่างาม กำลังซ่อนความเป็นจริงทางกายภาพอันมหาศาล

ตอนนี้ ผมอยากจะให้ฟิสิกส์แก่คุณ ไม่ใช่ด้านวิศวกรรม ไม่ใช่กรณีธุรกิจ แต่เป็นฟิสิกส์ที่แท้จริงที่อยู่เบื้องหลังสิ่งที่ผมเพิ่งอธิบายไป ในปี 1961 และผมพูดสิ่งนี้ด้วยความพึงพอใจเล็กน้อย เพราะผมยังไม่เกิดมาเพื่อเห็นมัน แต่ผมคงจะพบว่ามันน่าพอใจมาก นักฟิสิกส์ชื่อ Rolf Landauer ได้พิสูจน์บางสิ่งที่พื้นฐาน ข้อมูลนั้นไม่ฟรี กล่าวให้แม่นยำยิ่งขึ้น การดำเนินการคำนวณบางอย่างมีต้นทุนทางเทอร์โมไดนามิกส์ขั้นต่ำ การลบข้อมูลบิตเดียว เพียงหนึ่งหลักฐานไบนารี สร้างความร้อนในปริมาณขั้นต่ำ ตัวเลขนั้นเล็กจนแทบจะจินตนาการไม่ได้ เล็กเกินกว่าจะรู้สึกได้ในการคำนวณแต่ละครั้ง แต่ข้อมูลเชิงลึกของ Landauer ไม่ได้เกี่ยวกับแต่ละการดำเนินการ แต่มันเกี่ยวกับหลักการ และหลักการก็คือ การคำนวณเป็นกระบวนการทางกายภาพ มันไม่ใช่เหตุการณ์ทางคณิตศาสตร์ที่เป็นนามธรรมที่ลอยอยู่ข้างนอกสสาร มันเกิดขึ้นในสสาร มันจัดเรียงสสารใหม่ และเมื่อสสารถูกจัดเรียงใหม่ในลักษณะที่ผันกลับไม่ได้ทางเทอร์โมไดนามิกส์ ความร้อนจะถูกสร้างขึ้น คุณไม่สามารถคิดได้โดยไม่ต้องใช้พลังงาน สมองมนุษย์ก็ไม่ใช่ ชิปซิลิคอนก็ไม่ใช่ ปัญญาประดิษฐ์ที่ทำการวิจัย 40 ขั้นตอนใน 40 วินาทีก็ไม่ใช่

ตอนนี้ ตรงนี้แหละที่มันน่าสนใจ สมองมนุษย์นั้นยอดเยี่ยม มันใช้พลังงานประมาณ 20 วัตต์ ซึ่งเท่ากับกำลังของหลอดไฟสลัวๆ และถึงกระนั้น มันก็ทำการคำนวณที่ซับซ้อนอย่างยิ่ง วิวัฒนาการมีเวลา 4 พันล้านปีในการปรับปรุงให้เหมาะสม มันขนานกันอย่างมหาศาล มันทำงานด้วยเคมี มันอาจเป็นระบบประมวลผลข้อมูลที่มีประสิทธิภาพที่สุดเท่าที่เคยสร้างมา ระบบปัญญาประดิษฐ์ที่ผมอธิบายไปก่อนหน้านี้ไม่ใช่สมองมนุษย์ มันเป็นเครื่องจักรที่แตกต่างกันมาก และมันก็แสดงให้เห็น การสร้างการตอบสนองเพียงครั้งเดียวจากโมเดลภาษาขนาดใหญ่ต้องใช้พลังงานมากกว่าการกระทำทางปัญญาที่เทียบเท่าในสมองมนุษย์หลายเท่า ช่องว่างนั้นไม่ใกล้เคียง เราไม่ได้ใกล้เคียงกับการจับคู่ประสิทธิภาพทางชีวภาพ เรากำลังสร้างด้วยหินก้อนใหญ่และมีราคาแพงมากในแง่ของพลังงาน นี่ไม่ใช่ข้อบกพร่องที่น่าละอาย เครื่องบินยุคแรกไม่มีประสิทธิภาพเท่ากับนก เครื่องยนต์ยุคแรกไม่มีประสิทธิภาพเท่ากล้ามเนื้อ เทคโนโลยีมีการปรับปรุง แต่คุณไม่สามารถปรับปรุงสิ่งที่คุณปฏิเสธที่จะวัดได้ และนี่คือสิ่งที่เกี่ยวกับเอเจนต์วิจัยที่ผมอธิบาย มันไม่ได้ทำงานเพียงครั้งเดียว >> [ดนตรี] >> มันทำงานเจ็ดขั้นตอน เจ็ดเฟสการคำนวณที่แตกต่างกัน แต่ละขั้นตอนต้องการการใช้พลังงานของตัวเอง การเข้าถึงหน่วยความจำของตัวเอง การส่งผ่านโครงสร้างพื้นฐานทางกายภาพของตัวเอง การสอบถามวิจัยเพียงครั้งเดียว เจ็ดเหตุการณ์ทางกายภาพ

ตอนนี้ ลองขยายภาพดู ลองจินตนาการว่าไม่ใช่แค่นักวิจัยคนเดียวที่ใช้เอเจนต์ครั้งเดียว ลองจินตนาการว่าผู้คนนับล้านใช้เอเจนต์ตลอดทั้งวัน เอเจนต์ที่ไม่เพียงแค่ตอบ แต่เอเจนต์ที่วนซ้ำ ที่ลองอีกครั้ง ที่ตรวจสอบ ที่แก้ไข ที่เรียกใช้เครื่องมือ ที่เรียกใช้เอเจนต์ย่อย ที่ทำงานอย่างต่อเนื่องเป็นชั้นใต้การทำงานของมนุษย์ แต่ละรอบไม่ใช่เหตุการณ์ทางกายภาพเดียว แต่เป็นหลายเหตุการณ์ และหลายคูณด้วยล้านๆ ทำงานอย่างต่อเนื่อง รวมกันเป็นสิ่งที่เทอร์โมไดนามิกส์เริ่มสังเกตเห็นแล้ว แม้ว่าอินเทอร์เฟซจะยังคงสงบอย่างสมบูรณ์แบบ แม้ว่าคำตอบจะมาถึงใน 40 วินาที แม้ว่าทั้งหมดจะดูเหมือนจากภายนอกไม่มีน้ำหนักเลยก็ตาม

ผมต้องการกล่าวถึงบางสิ่งโดยตรง เมื่อผู้คนได้ยินว่าปัญญาประดิษฐ์ใช้พลังงานจำนวนมาก พวกเขามักจะตอบด้วยเปอร์เซ็นต์ พวกเขาพูดว่า "ศูนย์ข้อมูลคิดเป็นเพียงส่วนเล็กน้อยของการใช้ไฟฟ้าทั่วโลก" พวกเขาพูดว่า "เมื่อเทียบกับอุตสาหกรรมอื่นๆ สิ่งนี้สามารถจัดการได้" พวกเขาพูดว่า "คุณกำลังพูดเกินจริง" ผมมีประสบการณ์กับผู้คนที่ตอบสนองต่อฟิสิกส์ที่ไม่สบายใจด้วยเปอร์เซ็นต์ มันไม่จบลงด้วยดีสำหรับเปอร์เซ็นต์ นี่คือสิ่งที่เปอร์เซ็นต์พลาดไป กริดไฟฟ้าไม่ได้รับประสบการณ์ระดับโลก พวกเขามีประสบการณ์ในสถานที่ต่างๆ กริดคือเครือข่ายทางกายภาพของเครื่องกำเนิดไฟฟ้า หม้อแปลง สายส่ง และสถานีไฟฟ้าย่อย [ดนตรี] และส่วนประกอบเหล่านั้นแต่ละส่วนมีขีดจำกัดความจุที่แท้จริง เมื่อความต้องการเพิ่มขึ้นเร็วกว่าที่โครงสร้างพื้นฐานจะได้รับการอัปเกรด ข้อจำกัดจะไม่ปรากฏเป็นสถิติทั่วโลก มันจะปรากฏเป็นปัญหาเฉพาะในสถานที่เฉพาะ ภูมิภาค เมือง สถานีไฟฟ้าย่อย แนวส่ง และความต้องการปัญญาประดิษฐ์ไม่ได้กระจายอย่างสม่ำเสมอทั่วโลก มันกระจุกตัว มันรวมตัวกันรอบเครือข่ายใยแก้วนำแสง แหล่งน้ำหล่อเย็น ความพร้อมของที่ดิน และสัญญาพลังงานที่เอื้ออำนวย ซึ่งหมายความว่าความเครียดในท้องถิ่นอาจมีนัยสำคัญ แม้ว่าเปอร์เซ็นต์ทั่วโลกจะดูเล็กน้อย นี่เป็นหนึ่งในข้อผิดพลาดที่เก่าแก่ที่สุดในการคิดเกี่ยวกับโครงสร้างพื้นฐาน คุณมองค่าเฉลี่ยและลืมการกระจาย แต่การกระจายคือที่ที่ข้อจำกัดที่แท้จริงอาศัยอยู่

ตอนนี้ เพิ่มมิติที่สอง เอเจนต์วิจัยที่ผมอธิบาย เจ็ดขั้นตอน 40 วินาที ไม่ใช่อนาคตของการใช้งาน AI แต่มันคือจุดเริ่มต้น อุตสาหกรรมกำลังสร้างสิ่งที่เรียกว่าระบบเอเจนต์ ไม่ใช่โมเดลที่ตอบคำถามเพียงครั้งเดียว แต่เป็นระบบที่ทำงานอย่างต่อเนื่อง ระบบที่ตรวจสอบ ดึงข้อมูล อัปเดต สังเคราะห์ เส้นทาง สรุป และดำเนินการ ไม่ใช่เพียงครั้งเดียวตามคำขอ แต่ทำงานอย่างต่อเนื่องเป็นชั้นใต้ระบบอื่นๆ ผมพบว่าสิ่งนี้น่าสนใจจริงๆ โดยบังเอิญ ความทะเยอทะยานนั้นน่าทึ่งมาก ในการสร้างโครงสร้างพื้นฐานทางปัญญาแบบกระจายที่ทำงานอยู่ใต้การทำงานของมนุษย์ เช่นเดียวกับโครงสร้างพื้นฐานทางไฟฟ้าที่ทำงานอยู่ใต้การทำงานทางกายภาพ แต่ขอให้เราแม่นยำเกี่ยวกับความหมายทางกายภาพของสิ่งนี้ โมเดลที่ตอบสนองเพียงครั้งเดียวจะสร้างการคำนวณเป็นชุดเดียว เอเจนต์ที่ทำงานอย่างต่อเนื่องจะสร้างการคำนวณในอัตราที่แปรผันตามกิจกรรมของมัน ชั้นเอเจนต์ใต้ทั้งองค์กรจะสร้างการคำนวณในอัตราปริมาณงานขององค์กรนั้น คูณด้วยทุกอุตสาหกรรมที่ต้องการเทคโนโลยีนี้พร้อมกัน กฎหมาย การเงิน การแพทย์ โลจิสติกส์ การวิจัย การศึกษา รัฐบาล การผลิต บริการลูกค้า สื่อ การพัฒนาซอฟต์แวร์ นี่ไม่ใช่เทคโนโลยีเฉพาะกลุ่มอีกต่อไป มันกำลังกลายเป็นสิ่งที่ผมจะเรียกว่าชั้นเมแทบอลิซึมใหม่ของอารยธรรม ระบบที่ประมวลผลข้อมูลเช่นเดียวกับร่างกายที่ประมวลผลอาหาร อย่างต่อเนื่อง ในระดับใหญ่ เพื่อการทำงานที่ต่อเนื่อง และระบบเมแทบอลิซึมมีต้นทุนเมแทบอลิซึม สำนักงานพลังงานระหว่างประเทศได้คาดการณ์ว่าความต้องการไฟฟ้าทั่วโลกจากศูนย์ข้อมูลอาจสูงถึง 1,000 เทราวัตต์-ชั่วโมงต่อปีภายในสิ้นทศวรรษนี้ 1,000 เทราวัตต์-ชั่วโมง นั่นไม่ใช่ตัวเลขในห้องปฏิบัติการ นั่นคือตัวเลขของอารยธรรม นั่นคือประเภทของตัวเลขที่เปลี่ยนแปลงสิ่งที่ถูกสร้างขึ้น ที่ที่มันถูกสร้างขึ้น ใครเป็นผู้จ่าย และใครจะขาดบางสิ่งบางอย่างเป็นผลลัพธ์

และนี่นำผมมาสู่ส่วนของการสนทนาที่แทบไม่เคยเกิดขึ้น คำถามว่าการใช้งานใดที่คุ้มค่าจริงๆ ผมอยากจะแนะนำวลี "หนี้สินทางเทอร์โมไดนามิกส์" ทุกอารยธรรมทำข้อตกลงกับฟิสิกส์ คุณใช้พลังงานเพื่อสร้างความเป็นระเบียบในท้องถิ่น >> [ดนตรี] >> คุณหลอมเหล็กให้เป็นเหล็กกล้า คุณสูบน้ำขึ้นที่สูง คุณแช่เย็นอาหาร [ดนตรี] คุณส่งข้อมูลข้ามมหาสมุทร คุณให้ความร้อนแก่อาคารในฤดูหนาว คุณผลิต [ดนตรี] เครื่องมือที่มีความแม่นยำสูงอย่างยิ่งยวด ทั้งหมดนี้คือข้อตกลง คุณสร้างความเป็นระเบียบที่นี่โดยจ่ายด้วยพลังงานและความร้อนเหลือทิ้งที่อื่น ฟิสิกส์อนุญาตให้มีข้อตกลงนี้ มันไม่ได้ห้าม แต่มันติดตาม ทุกจูลถูกนับ ทุกแคลอรี่ของงานที่มีประโยชน์จะถูกจับคู่กับเอนโทรปี [ดนตรี] ที่ใดที่หนึ่งในระบบ อารยธรรม ในแง่หนึ่ง คือศิลปะของการทำข้อตกลงนั้นให้ดี การใช้พลังงานในสิ่งต่างๆ ที่ให้ผลตอบแทนมากพอ มูลค่ามากพอ การลดความทุกข์ทรมานมากพอ การเพิ่มขีดความสามารถมากพอ การขยายขอบเขตของมนุษย์ให้มากพอที่จะคุ้มค่ากับต้นทุนทางเทอร์โมไดนามิกส์

ตอนนี้ ลองพิจารณาเอเจนต์วิจัยอีกครั้ง เจ็ดขั้นตอน 40 วินาที ย่อหน้าที่สังเคราะห์คำถามทางวิทยาศาสตร์ที่ซับซ้อน มันคุ้มค่ากับหนี้สินทางเทอร์โมไดนามิกส์หรือไม่? ผมจะบอกว่าใช่ อาจจะใช่ด้วยความกระตือรือร้น ถ้าเอเจนต์ที่ออกแบบมาอย่างดีสามารถเร่งการวิจัยทางวิทยาศาสตร์ ช่วยให้นักวิจัยมนุษย์นำทางวรรณกรรมที่เติบโตเร็วกว่าที่บุคคลใดจะติดตามได้ มูลค่าที่ได้รับอาจเกินต้นทุนทางกายภาพไปอย่างมาก แต่ตอนนี้ ลองพิจารณาการใช้งานที่แตกต่างกันของเทคโนโลยีเดียวกันนี้ เอเจนต์ที่ใช้ในการสร้างข้อความทางการตลาดในวงกว้าง เอเจนต์ที่ใช้ในการสรุปบทสรุปของเอกสารที่ไม่ควรมีอยู่ตั้งแต่แรก เอเจนต์ที่ทำงานเป็นวงจรเพื่อตอบคำถามที่ฐานข้อมูลที่ออกแบบมาอย่างดีสามารถตอบสนองได้อย่างรวดเร็วและราคาถูก เอเจนต์ที่ทำงานโครงสร้างพื้นฐานมูลค่า 10 ดอลลาร์ >> [ดนตรี] >> เพื่อแก้ปัญหา 1 เซ็นต์ สิ่งเหล่านี้ไม่ใช่สมมติฐาน นี่คือความเป็นจริงในปัจจุบัน และสิ่งเหล่านี้มีความสำคัญเพราะพลวัตที่ผมเคยเห็นเกิดขึ้นมาก่อนในบริบทที่แตกต่างกัน เมื่อเทคโนโลยีที่ทรงพลังมาถึง สัญชาตญาณแรกไม่ใช่การถามว่าการใช้งานแต่ละครั้ง [ดนตรี] คุ้มค่ากับต้นทุนหรือไม่ สัญชาตญาณแรกคือการใช้งานทุกที่ สำหรับทุกสิ่ง อย่างรวดเร็วที่สุดเท่าที่จะทำได้ เพราะเทคโนโลยีนั้นน่าตื่นเต้น เพราะคู่แข่งกำลังใช้งาน เพราะอินเทอร์เฟซนั้นสะอาดและต้นทุนนั้นมองไม่เห็น การที่ต้นทุนมองไม่เห็นไม่ได้หมายความว่าต้นทุนนั้นไม่มีอยู่จริง

ผมได้เรียนรู้บางสิ่งที่สำคัญในช่วงหลายปีที่ผมใช้เวลาคิดเกี่ยวกับพลังงานและสสาร จักรวาลไม่แยแสต่อเจตนาของคุณ >> [ดนตรี] >> มันไม่ให้รางวัลความกระตือรือร้น มันไม่ให้ข้อยกเว้นด้วยเหตุผลที่ดี มันเพียงแค่บังคับใช้การบัญชีของมัน และการบัญชีที่นี่กำลังจะปรากฏให้เห็น พลังงานได้กลายเป็นคอขวดที่แท้จริงในการแข่งขันปัญญาประดิษฐ์ >> [ดนตรี] >> ไม่ใช่การสร้างแบรนด์ ไม่ใช่ความฉลาด ไม่ใช่คุณภาพของพรอมต์ แต่เป็นพลังงาน บริษัทเทคโนโลยีที่ใหญ่ที่สุดบางแห่งบนโลกกำลังเจรจาสัญญาไฟฟ้าในระดับกิกะวัตต์ พวกเขากำลังสร้างโครงสร้างพื้นฐานพลังงานของตนเองเพราะกริดที่มีอยู่ไม่สามารถขยายตัวได้เร็วพอ กิกะวัตต์ไม่ใช่คำศัพท์ซอฟต์แวร์ มันเป็นคำศัพท์กริด เป็นคำศัพท์สาธารณูปโภค เป็นคำที่อยู่ในประโยคเดียวกันกับเขื่อน โรงไฟฟ้า และแนวส่ง นี่คือการสนทนาที่เรายังไม่ได้พูดถึงอย่างดังพอ ไม่ใช่ "โมเดลทำอะไรได้บ้าง" แต่ "ต้องใช้ค่าใช้จ่ายเท่าใดในการทำเช่นนั้น ใครเป็นผู้จ่ายค่าใช้จ่ายนั้น และมูลค่าคุ้มค่ากับการใช้จ่ายหรือไม่" คำถามเหล่านี้ไม่ใช่คำถามต่อต้านเทคโนโลยี ผมไม่เคยต่อต้านเทคโนโลยี ผมต่อต้านความสะเพร่า และอารยธรรมที่สร้างชั้นเมแทบอลิซึมใหม่บนโครงสร้างพื้นฐานของตนเองโดยไม่ถามว่าอะไรเป็นตัวหล่อเลี้ยงชั้นนั้น กำลังสะเพร่าในลักษณะที่ฟิสิกส์จะแก้ไขในที่สุด [ดนตรี] การแก้ไขนั้นไม่ค่อยอ่อนโยน

ขอให้ผมกลับไปที่จุดเริ่มต้นของเรา เอเจนต์วิจัย 40 วินาที ย่อหน้า ผมบอกคุณว่าผมรู้สึกสองสิ่งเมื่อเฝ้าดูมัน อย่างแรกคือความชื่นชม และผมหมายความอย่างนั้น รูปแบบของกระบวนการนั้น การวนซ้ำ การแก้ไขตนเอง การสังเคราะห์นั้นคุ้นเคย มันคล้ายคลึง แม้จะไม่สมบูรณ์แบบ กับโครงสร้างของการสอบถามที่แท้จริง และการสอบถามที่แท้จริงคือสิ่งที่ผมใช้เวลาทั้งชีวิตรักมัน อย่างที่สองคือความกังวล ตอนนี้ คุณรู้แล้วว่าความกังวลนั้นคืออะไร ไม่ใช่ว่าเครื่องจักรจะเข้ามาแทนที่นักวิทยาศาสตร์ ไม่ใช่ว่าสติปัญญาจะทรงพลังเกินไป เร็วเกินไป หรือแปลกเกินไป ความกังวลเหล่านั้นเป็นของบทสนทนาที่แตกต่างออกไป ซึ่งผมพบว่าน่าสนใจน้อยกว่าบทสนทนาที่ผมกำลังทำอยู่มาก ความกังวลนั้นง่ายกว่าและเก่าแก่กว่า มันคือความกังวลที่ผมรู้สึกทุกครั้งที่แนวคิดที่ทรงพลังเข้าสู่วัฒนธรรมก่อนที่วัฒนธรรมจะเข้าใจผลกระทบทางกายภาพของมัน ผู้คนรักนามธรรม พวกเขารักแนวคิดของพลังงานสะอาดไม่จำกัด สติปัญญาที่สะอาดไม่จำกัด [ดนตรี] สิ่งที่สะอาดไม่จำกัด พวกเขารักพื้นผิวเพราะพื้นผิวนั้นไม่มีแรงเสียดทาน และพวกเขาสงสัยในใครก็ตามที่ชี้ไปที่เครื่องจักรที่อยู่เบื้องล่าง >> [ดนตรี] >> เพราะเครื่องจักรนั้นไม่สะดวก และนามธรรมนั้นน่าตื่นเต้น แต่ผมได้ใช้เวลามากมายกับนามธรรม และผมสามารถบอกคุณจากประสบการณ์ตรงว่า นามธรรมที่สวยงามนั้นน่าสนใจเสมอเมื่อคุณมองดูสิ่งที่อยู่เบื้องล่าง E = mc squared นั้นสวยงาม แต่สิ่งที่ทำให้มันเป็นจริงคือสิ่งที่ยากกว่า แปลกกว่า และต้องการมากกว่าความสง่างามของสมการ สิ่งที่ทำให้มันเป็นจริงคือสสารและพลังงาน [ดนตรี] และโครงสร้างทางกายภาพของความเป็นจริงที่ไม่ยอมทำตามที่สัญชาตญาณคาดหวัง

อินเทอร์เฟซของปัญญาประดิษฐ์นั้นสวยงาม [ดนตรี] แต่สิ่งที่ทำให้มันเป็นจริง สิ่งที่ทำให้มันทำงาน สิ่งที่ทำให้มันมีพลัง สิ่งที่ทำให้ [ดนตรี] มันขยายขนาดได้ คือสสาร ทองแดงและซิลิคอนและใยแก้วและสารหล่อเย็น >> [ดนตรี] >> และไฟฟ้าที่ผลิตขึ้นที่ใดที่หนึ่งโดยการเผาไหม้บางสิ่ง หรือแยกบางสิ่ง หรือจับลมหรือแสง นั่นไม่ใช่ข้อร้องเรียน นั่นคือเงื่อนไข และการตอบสนองที่เติบโตเต็มที่ต่อเทคโนโลยีที่ทรงพลังไม่ใช่การเฉลิมฉลองพื้นผิวอย่างไม่มีที่สิ้นสุด แต่คือการเข้าใจเงื่อนไข [ดนตรี] สร้างขนาดเล็กเมื่อขนาดเล็กทำงานได้ ใช้เอเจนต์เมื่อผลลัพธ์คุ้มค่ากับรอบการทำงาน วัดหนี้สินทางเทอร์โมไดนามิกส์ของการใช้งานแต่ละครั้ง และถามอย่างตรงไปตรงมาว่ามูลค่าที่ได้รับนั้นคุ้มค่าหรือไม่ หยุดปฏิบัติต่ออินเทอร์เฟซราวกับว่ามันอธิบายระบบ อารยธรรมที่เข้าใจสิ่งนี้ยังคงสามารถสร้างสิ่งมหัศจรรย์ด้วยปัญญาประดิษฐ์ได้ วิทยาศาสตร์ที่ดีขึ้น การแพทย์ที่ดีขึ้น เครื่องมือที่ดีขึ้นสำหรับนักวิจัยที่จะมาหลังจากผม วิธีที่ดีขึ้นในการนำทางโลกที่ในหลายๆ ด้าน ซับซ้อนเกินกว่าที่จิตใจเดียวจะเข้าใจได้ แต่ก็จะสร้างมันขึ้นมาอย่างซื่อสัตย์ ไม่ใช่ในฐานะตำนาน ในฐานะวิศวกรรม ในฐานะเทอร์โมไดนามิกส์ ในฐานะข้อตกลงที่ตั้งใจกับฟิสิกส์ [ดนตรี] ทำด้วยตาที่เปิดกว้าง ไม่ใช่ตาที่ปิด

จักรวาลไม่สนใจยูโทเปียหรือวันสิ้นโลกของคุณ มันสนใจการไหล สมดุล ข้อจำกัด มันเป็นมาตลอด มันจะเป็นตลอดไป และเมื่อคุณเข้าใจสิ่งนั้น เข้าใจมันจริงๆ คุณจะหยุดถามเพียงว่าปัญญาประดิษฐ์ทำอะไรได้บ้าง คุณจะเริ่มถามว่าต้องใช้ค่าใช้จ่ายเท่าใดในการทำเช่นนั้น คุณจะเริ่มถามว่าข้อตกลงนั้นดีหรือไม่ คุณจะเริ่มถามคำถามที่กำหนดว่าเทคโนโลยีกลายเป็นอารยธรรมหรือเพียงแค่การแสดง อินเทอร์เฟซนั้นสะอาด ฟิสิกส์ไม่สะอาด และฟิสิกส์ เช่นเคย คือที่ที่ความจริงอาศัยอยู่ จงอยากรู้อยากเห็นเกี่ยวกับเครื่องจักรเบื้องหลังเวทมนตร์ นั่นคือที่ที่คำตอบที่แท้จริงอยู่เสมอ