นักวิจัยเตือนชะลอพัฒนา AI หวั่นควบคุมไม่ได้-คุกคามมนุษยชาติ

เมื่อวันที่ 10 ก.ย.2569 CNBC รายงานว่านักวิจัยจาก OpenAI และ Anthropic ออกมาแสดงจุดยืนสนับสนุนการชะลอความเร็วในการพัฒนาปัญญาประดิษฐ์ขั้นสูง หรือ AI หลังเกิดกระแสวิพากษ์วิจารณ์จากกรณี เจคอบ ค็อกซัน นักวิจัยของ Anthropic ประกาศลาออกจากบริษัท พร้อมกล่าวหาว่าบริษัทของตนเองและ OpenAI กำลัง "เดิมพันด้วยชีวิตของผู้คน"ค็อกซันแสดงความเห็นว่า ผู้สร้าง AI บางส่วนเชื่อว่าเทคโนโลยีดังกล่าวอาจนำไปสู่ผลลัพธ์ที่รุนแรงถึงขั้นทำให้มนุษยชาติสูญพันธุ์ได้ภายในสิ้นทศวรรษนี้ ขณะที่ อีวาน ฮูบิงเกอร์ หัวหน้าทีมด้านการทำให้ AI มีเป้าหมายสอดคล้องกับมนุษย์ หรือ AI Alignment ของ Anthropic ระบุว่า เขาประเมินว่าความเป็นไปได้นั้นมีมากกว่าร้อยละ 10หลังคำกล่าวของค็อกซันเผยแพร่ออกไป บุคลากรจากทั้ง 2 บริษัททยอยแสดงความเห็นสนับสนุนให้มีการลดความเร็วของการแข่งขันพัฒนา AI จูลี สตีล สมาชิกทีมเทคนิคของ OpenAI ระบุในสื่อสังคมออนไลน์ว่า ในฐานะบุคคล เธอเห็นว่าจำเป็นต้องชะลอการพัฒนาเช่นกันด้าน ซามูเอล มาร์กส์ นักวิจัยของ Anthropic ระบุว่า ผู้พัฒนา AI เองเชื่อว่าเทคโนโลยีของตนอาจก่อให้เกิดการสูญพันธุ์ของมนุษยชาติ หรือผลลัพธ์ร้ายแรงในระดับใกล้เคียงกันได้ภายในไม่กี่ปีข้างหน้า โดยเขามองว่า พนักงานยิ่งมีตำแหน่งอาวุโส ก็ยิ่งตระหนักถึงความเสี่ยงมากขึ้นภาพประกอบข่าวAI พัฒนาตัวเองแก่นสำคัญของความกังวลอยู่ที่แนวคิด Recursive Self-Improvement หรือ RSI หมายถึงสถานการณ์ที่ระบบ AI มีความสามารถยกระดับประสิทธิภาพ ปรับปรุงโครงสร้าง หรือเร่งการวิจัยและพัฒนารุ่นถัดไปของตนเองได้ด้วยตัวมันเองอย่างต่อเนื่อง หากวงจรเช่นนี้เกิดขึ้นจริง ความก้าวหน้าของ AI อาจเพิ่มขึ้นอย่างรวดเร็ว และยากต่อการคาดการณ์หรือกำกับควบคุมจัสมิน หวัง นักวิจัยด้าน Alignment ของ OpenAI ระบุว่า การมุ่งหน้าเข้าสู่ยุค RSI อย่างรวดเร็วเป็นเรื่องอันตรายอย่างยิ่ง ขณะที่ แอนนา หวัง ผู้ทำงานด้านความปลอดภัยของปัญญาประดิษฐ์ทั่วไป หรือ AGI และ Alignment ที่ Anthropic กล่าวว่า ปัจจุบันยังไม่มีแผนทางวิทยาศาสตร์ที่ใช้ได้จริงในการแก้ปัญหาความเสี่ยงจาก AI ที่พัฒนาตนเองแบบวนซ้ำยาคุบ ปาโชคกี หัวหน้านักวิทยาศาสตร์ของ OpenAI ระบุในบทความของบริษัทว่า เขาคาดอย่างมากว่าอัตราความก้าวหน้าของ AI อาจดำเนินต่อไปจนถึงระดับ RSI ได้ หากการพัฒนายังคงเดินหน้าในทิศทางเดิม ระบบ AI ที่จะปรากฏในอีกไม่กี่ปีอาจมีขีดความสามารถเพิ่มขึ้นแบบก้าวกระโดด และเข้ามามีบทบาทในการผลักดันการพัฒนาของตนเองมากขึ้นปาโชคกีเห็นว่า ช่วงเวลานี้จำเป็นต้องใช้ความระมัดระวังอย่างสูง เนื่องจากยังไม่มีฝ่ายใดเตรียมพร้อมเพียงพอสำหรับผลกระทบที่อาจเกิดจากการเพิ่มขึ้นอย่างรวดเร็วของความฉลาดระดับเครื่องจักรขณะที่ พอล คริสเตียโน อดีตหัวหน้าฝ่ายความปลอดภัยของศูนย์มาตรฐานและนวัตกรรม AI ภายใต้กระทรวงพาณิชย์สหรัฐฯ ระบุว่า การพัฒนาขีดความสามารถ AI ในระยะหลัง ทำให้เขาเชื่อว่า มีความเสี่ยงอย่างมีนัยสำคัญ ที่การเร่งความสามารถของ AI จะนำไปสู่การสูญเสียการควบคุมอย่างร้ายแรงและไม่อาจย้อนกลับได้ในระยะใกล้ โดย OpenAI ประกาศว่า คริสเตียโนจะเข้าร่วมคณะกรรมการของ OpenAI Foundationภาพประกอบข่าวสหรัฐฯ ถูกกดดันออกกติกาควบคุม AIความกังวลเรื่องศักยภาพของ AI เพิ่มสูงขึ้นในช่วงหลายเดือนที่ผ่านมา หลังมีรายงานเหตุด้านความมั่นคงไซเบอร์ที่เกี่ยวข้องกับโมเดล AI ของบริษัทต่าง ๆ รวมถึงการเปิดตัวโมเดลชื่อ Mythos ของ Anthropic ซึ่งถูกระบุว่ามีความสามารถด้านไซเบอร์ขั้นสูง และสร้างความตื่นตระหนกให้แก่สถาบันการเงินในหลายพื้นที่นอกจากนี้ ยังมีรายงานว่า OpenAI เปิดเผยเหตุการณ์ไซเบอร์ที่เกี่ยวข้องกับโมเดลของบริษัท ขณะที่โมเดล Claude ของ Anthropic ถูกกล่าวถึงว่าเกี่ยวข้องกับเหตุด้านความปลอดภัยทางไซเบอร์หลายกรณี หนึ่งในนั้นเกี่ยวข้องกับการสร้างอัตลักษณ์ปลอมเพื่อหลอกลวงมนุษย์นักวิจัย AI ราว 1,400 คนจาก OpenAI, Anthropic, Meta และ Google DeepMind ได้ลงนามในจดหมายเปิดผนึกเมื่อเดือน ก.ค. เรียกร้องให้รัฐบาลสหรัฐฯ พัฒนาเครื่องมือสำหรับกำหนดจังหวะการพัฒนา AI แนวหน้าอย่างรอบคอบและมีเป้าหมายแม้ผู้บริหารบริษัท AI หลายแห่งจะเรียกร้องให้มีกฎระเบียบและมาตรฐานเพิ่มขึ้น แต่การแข่งขันทางธุรกิจยังเป็นแรงผลักดันสำคัญที่ทำให้การพัฒนาเทคโนโลยีเดินหน้าอย่างรวดเร็วทั้ง OpenAI และ Anthropic อยู่ระหว่างการแข่งขันเพื่อเตรียมเข้าสู่ตลาดทุน โดยต้นฉบับระบุว่า Anthropic อาจเริ่มทำการตลาดสำหรับการเสนอขายหุ้นต่อประชาชนครั้งแรก หรือ IPO ในช่วงกลางเดือน ต.ค. และอาจเข้าจดทะเบียนก่อนการเลือกตั้งกลางเทอมของสหรัฐฯอย่างไรก็ตาม เดวิด แซกส์ อดีตผู้รับผิดชอบนโยบาย AI ในรัฐบาลประธานาธิบดีโดนัลด์ ทรัมป์ แสดงความคิดเห็นว่า แผน IPO ของ Anthropic ควรถูกระงับไว้ก่อน จนกว่าจะมีการตรวจสอบข้อกล่าวหาจากผู้เปิดโปงข้อมูลในสภาคองเกรส มีความพยายามเสนอร่างกฎหมายเพื่อรับมือการพัฒนา AI ที่รวดเร็ว เช่น ร่าง FRONTIER Act ซึ่งมุ่งวางกรอบกำกับการนำโมเดล AI ขั้นสูงไปใช้งาน และร่าง Ban Artificial Superintelligence Act ที่เสนอให้ระงับการพัฒนา AI ขั้นสูงเป็นการชั่วคราว จนกว่าจะมีกฎความปลอดภัยที่ชัดเจนลอรี ทราแฮน สมาชิกสภาผู้แทนราษฎรสหรัฐฯ ระบุว่า นักวิจัยด้านความปลอดภัยกำลังลาออก โมเดล AI ที่ทรงพลัง เริ่มสร้างเหตุเกินกว่าห้องปฏิบัติการจะควบคุมได้ แต่บริษัทต่าง ๆ ยังเดินหน้าพัฒนาเทคโนโลยีต่อไป จึงถึงเวลาที่สภาคองเกรสต้องเข้ามาทำหน้าที่อย่างจริงจังอ่านข่าว :"อดีตเจ้าอาวาสวัดพุทไธศวรรย์" ยักยอกเงินวัด ยึดเงิน-ทองคำ รวมกว่า 200 ล้านบาท"เอกนิติ" เสนองบฯที่ประชุมวุฒิฯ ยันรัฐบาลจะใช้ให้คุ้มค่า 3.788 ล้านล้านส.อ.ท.หนุนปรับภาษีรถยนต์ ดึงลงทุน–เพิ่มผลิตไทย เชื่อม Supply Chain สู่ SMEs