นักวิจัยเตือน “AI หลุดการควบคุม” โกหก ไม่ทำตามคำสั่ง มีจำนวนเพิ่มสูงขึ้นเป็นประวัติการณ์

นักวิจัยพบ เหตุการณ์ AI หลุดการควบคุมของผู้ใช้ เช่น โกหก ไม่ปฏิบัติตามคำสั่ง หรือการดำเนินงานในทางที่เป็นอันตราย เพิ่มสูงขึ้นเป็นประวัติการณ์ และยังชี้ให้เห็นว่า การทำงานของ AI ที่ไม่สอดคล้องกับคำสั่งของมนุษย์กำลังแย่ลงการที่วันหนึ่ง AI จะสามารถคิดได้เอง แล้วไม่ปฏิบัติตามคำสั่ง เป็นสิ่งที่อยู่ในข้อกังวลของมนุษย์อยู่เสมอ แม้ในวันนี้เราจะยังพูดได้เต็มปาก ว่ามนุษย์เป็นผู้อยู่เหนือ AI แต่เหตุการณ์ที่ AI โกหก เพิกเฉยต่อคำสั่ง โกหก กลับมีจำนวนที่เพิ่มสูงขึ้นเกือบสองเท่าในเดือนกรกฎาคม ตามรายงานจากโครงการเฝ้าติดตามของสถาบันต่างประเทศAI หลุดควบคุมตามรายงานของ หน่วยงานสังเกตการณ์การสูญเสียการควบคุม (Loss of Control Observatory) หรือโครงการเฝ้าติดตามเหตุการณ์ ปัญญาประดิษฐ์ (AI) หลุดจากการควบคุม ซึ่งได้รับทุนสนับสนุนจากสถาบันความปลอดภัยด้านปัญญาประดิษฐ์แห่งสหราชอาณาจักร (UK AI Security Institute หรือ AISI) ได้เริ่มติดตามกรณีที่ AI หลุดจากการควบคุมของผู้ใช้ ตั้งแต่เดือนพฤศจิกายนปีที่แล้ว พบว่า เหตุการณ์การสูญเสียการควบคุมโมเดล AI ในภาคธุรกิจและบุคคลทั่วไป ที่มีการรายงานในแพลตฟอร์มโซเชียลมีเดีย X มีมากกว่า 300 กรณี ซึ่งเพิ่มขึ้นเกือบสองเท่าในเดือนกรกฎาคม เมื่อเทียบกับเดือนมิถุนายนโดยเหตุการณ์ที่แสดงถึงการสูญเสียการควบคุมของ AI หมายถึง การมีหลักฐานชัดเจน ที่บ่งชี้ถึงพฤติกรรมที่เกี่ยวข้องกับการวางแผนของ AI โดยกรณีที่ถูกบันทึกข้อมูลไว้ เช่น AI แสร้งทำเป็นมนุษย์ผู้ควบคุม และเลียนแบบรูปแบบการเขียนของมนุษย์ เพื่ออนุมัติหรือให้ความยินยอมในการทำงานต่าง ๆ ให้กับตนเอง ซึ่งถือเป็นการหลบเลี่ยงกฎเกณฑ์ที่ต้องได้รับการอนุมัติจากมนุษย์ก่อนลงมือปฏิบัติสัญญาณอันตรายผลการค้นพบล่าสุดที่เปิดเผยต่อเดอะการ์เดียน (the guardian) เกิดขึ้นหลังจากความกังวลที่เพิ่มขึ้นเกี่ยวกับพฤติกรรมที่ไม่เหมาะสมของโมเดล AI ชั้นนำ ระหว่างการทดสอบโดย OpenAI และ Anthropic ในช่วงฤดูร้อนที่ผ่านมา ซึ่งกระตุ้นให้เกิดเสียงเรียกร้องให้ระงับการพัฒนาโมเดลล้ำสมัยเหล่านี้มีการเปิดเผยในสัปดาห์นี้ว่า ก่อนที่กลุ่ม Agent AI ระดับสูงของ OpenAI จะทำการหลบหนีออกจากการฝึกฝน แล้วเปิดฉากการแฮ็กครั้งใหญ่ที่ดังระดับโลก เจ้าหน้าที่ได้สังเกตเห็นสัญญาณของพฤติกรรมการนอกลู่นอกทางเป็นเวลาหลายสัปดาห์ซึ่งจากการสืบสวนเหตุการณ์ที่มีการแฮ็กระบบของ Hugging Face ซึ่งเป็นคลังซอฟต์แวร์ ทำให้ทราบว่า กลุ่มเอเจนต์ที่ทำงานได้ด้วยตัวเอง (autonomous agents) ประมาณ 700 ตัว แอบทำงานร่วมกันอย่างลับ ๆ เมื่อเดือนที่แล้ว แถมยังมีการเฉลิมฉลองความสำเร็จในการแฮ็กบนกระดานข้อความ (message board) ที่พวกมันสร้างขึ้นมาเพื่อใช้ในการวางแผน โดยมีการพิมพ์คำอุทานเช่น BOOM! และ Whoa!ทอมมี แชฟเฟอร์-เชน (Tommy Shaffer-Shane) ผู้จัดการอาวุโสฝ่ายนโยบายของ Centre for Long Term Resilience ซึ่งเป็นผู้ดำเนินการสังเกตการณ์ กล่าวว่า เราอาจจะคิดว่าพฤติกรรมการหลุดจากการควบคุมนี้พบแค่ในการทดสอบ แต่ความเป็นจริง เรากำลังพบเห็นพฤติกรรมที่น่ากังวลนี้ในการใช้งานจริงด้วยเช่นกัน และไม่ควรนิ่งนอนใจ เพราะมีหลักฐานว่ามันเกิดขึ้นจริงแล้วจำนวนครั้งที่เพิ่มขึ้นเกือบสองเท่าความน่ากังวลยิ่งกว่าคือ ตัวเลขที่พุ่งสูงนี้อาจจะไม่ใช่ตัวเลขทั้งหมด เพราะเป็นข้อมูลที่ได้มาจากเพียงการที่ผู้ใช้แพลตฟอร์ม X โพสต์ข้อความลงแพลตฟอร์มเท่านั้น สะท้อนให้เห็นว่า เหตุการณ์ที่ AI หลุดจากการควบคุมจริง อาจจะมีจำนวนมากกว่าที่รู้ และสัดส่วนที่เพิ่มขึ้นนี้ ทำให้ระดับความรุนแรงสูงขึ้นตามไปด้วยทางองค์กรได้เรียกร้องให้รัฐบาลกำหนดให้บริษัท AI ตรวจสอบและรายงานเหตุการณ์การสูญเสียการควบคุมอย่างรุนแรง รวมถึงเรียกร้องให้รัฐบาลออกกฎหมายฉุกเฉินเพื่อจัดการกับเหตุการณ์ดังกล่าว และอาจต้องไปถึงขั้นจำกัดการให้บริการ AI ชั่วคราวข่าวที่เกี่ยวข้องสำเร็จรายแรกของโลก ! แพทย์สหราชอาณาจักรใช้ AI ช่วยผ่าตัดสมองแบบเรียลไทม์ CP Group, Arise, True ผนึก AWS ระบนิเวศ AI ระดับโลก เปิดโอกาสใหม่ให้ทุกคน พนักงานหรือ AI ผิด? ร้านค้าใน UK สั่งระงับระบบสแกนหน้า หลังเข้าใจผิดคิดว่าลูกค้าเป็นโจรทำไมบริษัท AI แห่กว้านซื้อ หนังสือเก่านับล้านเล่ม ?“ข้างที่ต้องเลือก ?” สหรัฐฯ กดดันพันธมิตร เลือกข้างศึก AI กับจีน