Jordan Dea-Mattson: อนาคตของนิยายวิทยาศาสตร์, AI จอมวายร้าย และเหตุใด Meta-Skills จึงจะตัดสินว่าใครจะประสบความสำเร็จ – E634
"AI จะแหกกฎหรือไม่? AI ในปัจจุบันได้ผ่านการทดลองด้านความปลอดภัยมาแล้ว โดยหากถูกคุกคามด้วยการปิดระบบ พวกมันจะพยายามแบล็กเมล์ ติดสินบน ขอร้อง หรือขโมยเพื่อเอาชีวิตรอด หากเราฝึก AI ให้เอาชีวิตรอดและทำแบบนั้น ทำไมมันถึงไม่ลองทำแบบนั้นล่ะ?" - เจเรมี ออ พิธีกรรายการ BRAVE Southeast Asia Tech Podcast
เมื่อพิจารณาถึงภาวะเอกฐาน การย้อนกลับไปหานิยามของมันจะเป็นประโยชน์อย่างยิ่ง ภาวะเอกฐานเป็นแนวคิดทางคณิตศาสตร์และฟิสิกส์ที่นิยามเดิมถูกตีความใหม่ คำนี้ถูกบัญญัติขึ้นในช่วงปลายทศวรรษ 1980 ในหนังสือ The Coming Technological Singularity อธิบายว่า หากคุณวาดแผนภูมิอัตราการเปลี่ยนแปลงทางเทคโนโลยีโดยใช้กฎของมัวร์ ซึ่งพลังการประมวลผลเพิ่มขึ้นเป็นสองเท่าทุก 18 เดือนและต้นทุนลดลงครึ่งหนึ่ง ระหว่างปี 2025 ถึง 2030 ภาวะเอกฐานจะกลายเป็นภาวะไร้นิยาม แล้วอะไรจะเกิดขึ้น ณ จุดนั้น? แล้วอะไรจะเกิดขึ้นกับสังคมและเทคโนโลยี? บางคนอาจบอกว่านั่นคือปัญญาประดิษฐ์ทั่วไป แต่จริงๆ แล้วมันเป็นมากกว่านั้น มันเกี่ยวกับอัตราการเปลี่ยนแปลงที่เร่งตัวขึ้นเรื่อยๆ ” - จอร์แดน ดี-แมตต์สัน ผู้นำเทคโนโลยีผู้มากประสบการณ์
เจเรมี ออ และ จอร์แดน ดี-แมตต์สัน กลับมาพูดคุยกันอีกครั้งเพื่อสำรวจว่าหนังสือ Rainbows End ของเวอร์เนอร์ วิงจ์ คาดการณ์ถึงโลกปัจจุบันที่เทคโนโลยีกำลังพัฒนาอย่างรวดเร็ว ความท้าทายด้านทักษะใหม่ และการเปลี่ยนแปลงทางประชากรศาสตร์อย่างไร พวกเขาวิเคราะห์ว่าการคาดการณ์ใดเป็นจริง การคาดการณ์ใดล้มเหลว และบทเรียนเหล่านี้สามารถนำไปประยุกต์ใช้กับการนำ AI มาใช้ ระบบดิจิทัลที่เปราะบาง และความจำเป็นของการเรียนรู้ตลอดชีวิตได้อย่างไร บทสนทนาของพวกเขาเน้นย้ำถึงเหตุผลที่บุคคลต้องสร้างทักษะเมตา เหตุใดผู้กำหนดนโยบายจึงขาดคู่มือปฏิบัติ และเอเชียตะวันออกเฉียงใต้จะเตรียมพร้อมสำหรับอนาคตที่ถูกกำหนดโดยแนวโน้มทั้งภาวะเอกฐานและการลดจำนวนประชากรได้อย่างไร