เหตุใด Shadow AI Agents จึงเป็นความเสี่ยงสูงสุดขององค์กร

บริษัทฯ คงไม่จ้างพนักงานใหม่โดยไม่ตรวจประวัติ แล้วทำไมจึงยอมให้ AI agents นอกระบบ (shadow AI agents) เข้าถึงเครือข่ายภายในองค์กรของคุณได้บริษัทฯ คงไม่จ้างพนักงานใหม่โดยไม่ตรวจประวัติ แล้วทำไมจึงยอมให้ AI agents นอกระบบ (shadow AI agents) เข้าถึงเครือข่ายภายในองค์กรของคุณได้แต่นั่นคือสิ่งที่กำลังเกิดขึ้นจริงในปัจจุบันที่องค์กรต่างต้องเผชิญปัญหาจากการที่พนักงานเปลี่ยนจากการนำ แอปพลิเคชันนอกระบบ (shadow apps) มาใช้ ไปสู่การนำ agents นอกระบบ (shadow agents) มาใช้อย่างรวดเร็ว ปัญหานี้เกิดขึ้นอย่างแพร่หลายและส่วนใหญ่ยังไม่ได้รับการจัดการที่ดีพอ ข้อมูลจาก Nutanix Enterprise Cloud Index (ECI) ระบุว่า 79% ของผู้บริหารไอทีพบว่าพนักงานมีการนำแอปพลิเคชัน AI หรือ AI agents มาใช้โดยพลการ และไม่ได้รับการกำกับดูแลจากฝ่ายไอทีขององค์กรในขณะที่ AI ถูกยกให้เป็นวาระเร่งด่วนของบอร์ดบริหาร พนักงานเองก็พยายามสรรหาเครื่องมือเอเจนต์มาใช้ โดยไม่สนใจว่าจะผ่านการอนุมัติจากฝ่ายไอทีหรือไม่ หากฝ่ายไอทีไม่สามารถให้บริการแพลตฟอร์มที่ทั้งรวดเร็วและเป็นไปตามข้อกำหนดขององค์กรเพื่ อรองรับการใช้ AI ได้ ท้ายที่สุดพนักงานก็จะหาทางนำเครื่องมือเหล่านั้นเข้ามาใช้เองShadow AI agents เหล่านี้กำลังได้รับความนิยมเพิ่มขึ้น และนำมาซึ่งความเสี่ยงมิติใหม่ ที่ทำให้องค์กรต้องเผชิญกับเหตุการณ์ละเมิดความปลอดภัย โทษปรับตามกฎหมาย และความสูญเสียทางการเงิน หากขาดการวางฐานรากที่ถูกต้อง shadow AI ก็จะยังคงเป็นต้นตอของความเสี่ยงที่นับวันจะเพิ่มมากขึ้นทั้งในด้านการดำเนินงานและการปฏิบัติตามกฎระเบี ยบองค์กรต่าง ๆ จำเป็นต้องเร่งปิดช่องว่างด้านความพร้อมรอบด้านขององค์กรและการกำกับดูแล ซึ่งลำพังแค่มีนโยบายเกี่ยวกับเรื่องนี้นั้นไม่เพียงพอ จำเป็นต้องมีทั้งโครงสร้างพื้นฐานที่ทันสมัย สภาพแวดล้อมการทำงานของแอปพลิเคชันและเอเจนต์ต่าง ๆ ที่เป็นหนึ่งเดียว รวมถึงโมเดลการกำกับดูแลที่รองรับบุคลากรยุค AI ไม่ใช่แค่กำกับดูแลบุคลากรผู้ปฏิบัติงานเท่านั้นการเพิ่มขึ้นของเครื่องมือดิจิทัลนอกระบบที่แฝงอยู่เบื้องหลัง จินตนาการที่ว่ามีคนภายนอกนับสิบชีวิตตบเท้าเข้ามาทำงานในองค์กรอย่างเงียบเชียบ โดยไม่มีใครเคยเซ็นชื่อหรือตอกบัตรเข้าทำงานเลย ไม่ใช่แค่การสมมติขึ้นมาลอย ๆ อีกต่อไปในยุคแห่ง AIเครื่องมือดิจิทัลนอกระบบ กำลังปรากฎตัวขึ้นภายในระบบเครือข่ายขององค์กรหลายแห่งในปัจจุบัน โดยไม่ผ่านกระบวนการอนุมัติให้เข้าถึงระบบขององค์กรอย่างเป็นทางการ การหลั่งไหลเข้ามาอย่างรวดเร็วนี้ เป็นผลมาจากคำสั่งจากบอร์ดบริหารและเป้าหมายเชิงรุกในการใช้ AI เพื่อเพิ่มผลิตผล สร้างสรรค์นวัตกรรม และยกระดับประสบการณ์ลูกค้า อย่างไรก็ตาม รายงาน Nutanix ECI ระบุว่าผู้นำด้านไอทีถึง 82% ยอมรับว่าโครงสร้างพื้นฐานในปัจจุบันของพวกเขายังไม่พร้อมที่จะรองรับเวิร์กโหลด AIอันตรายอยู่ตรงที่เมื่อฝ่ายไอทีบอกว่า 'ยังไม่พร้อม' ฝ่ายธุรกิจกลับสวนว่า 'งั้นเราทำกันเอง' พนักงานขององค์กรหันไปพึ่งพา AI agents นอกระบบที่ไม่ได้รับอนุญาต โดยไม่มีการตรวจสอบความเหมาะสมและไม่ได้รับการควบคุมดูแลอย่างถี่ถ้วนผลลัพธ์ที่ตามมาก็คือการเกิดเครื่องมือดิจิทัลนอกระบบของเหล่าเอเจนต์อัตโนมัติ ที่ทำงานอยู่เบื้องหลังโดยที่องค์กรไม่สามารถมองเห็น ขาดการควบคุมดูแล และไม่มีการกำหนดความรับผิดชอบที่ชัดเจนเปรียบเหมือนแรงงานดิจิทัลนอกระบบเหล่านี้ได้ก้าวเท้าเข้ามาในองค์กรและเริ่มเข้าไปทำงานกับระบบสำคัญรวมถึงข้อมูลที่มีความอ่อนไหวขององค์กรเป็นที่เรียบร้อยแล้วเมื่อเหล่าเอเจนต์นอกระบบโลดแล่นอย่างอิสระ หากมีผู้คนที่ไม่ได้รับอนุญาตเข้ามาเดินเพ่นพ่านอยู่ภายในองค์กร สิ่งสำคัญที่ต้องทำเป็นอันดับแรก คือการตรวจสอบว่าพวกเขาเป็นใคร และเข้ามาทำอะไรในพื้นที่ขององค์กรในทำนองเดียวกัน เมื่อแรงงานดิจิทัลขยายตัวเร็วกว่าการกำกับดูแล องค์กรต่าง ๆ จึงมีความเสี่ยงที่จะทำให้ข้อมูลที่ละเอียดอ่อนรั่วไหล ละเมิดกรอบข้อกำหนดทางกฎระเบียบ และเป็นการนำ AI ที่ไม่มีการควบคุมดูแลเข้ามาฝังอยู่ในกระบวนการทำงานหลักขององค์กรรายงาน ECI พบว่า ผู้บริหารด้านไอทีส่วนใหญ่ (87%) เชื่อว่าการใช้เครื่องมือและเอเจนต์ AI ที่อยู่นอกเหนือการควบคุมดูแลอย่างเป็นทางการนั้น สร้างความเสี่ยงต่อธุรกิจ เรื่องนี้ไม่ใช่เรื่องไกลตัวที่องค์กรยังไม่ต้องสนใจก็ได้ เพราะเมื่อ shadow AI ต้องมาเผชิญกับข้อบังคับทางกฎระเบียบที่เข้มงวดขึ้น ความเสี่ยงทางธุรกิจก็จะยิ่งทวีความรุนแรงอย่างรวดเร็ว ทำให้ปัจจุบันประเทศต่าง ๆ ทั่วภูมิภาคกำลังเพิ่มความเข้มงวดในการกำกับดูแลการใช้ AIการแก้ไขเพิ่มเติมพระราชบัญญัติความเป็นส่วนตัวของประเทศออสเตรเลีย จะเริ่มบังคับใช้ในเร็ว ๆ นี้ ซึ่งกำหนดให้องค์กรต้องมีความโปร่งใสในการตัดสินใจของระบบอัตโนมัติ ขณะที่สิงคโปร์ ธนาคารกลาง (MAS) ได้ออกแนวทางปฏิบัติที่บังคับให้ต้องมีการกำกับดูแลความเสี่ยงด้าน AI ส่วนอินเดีย กรอบการคุ้มครองข้อมูลอาจจำกัดการโอนย้ายข้อมูลข้ามพรมแดน และรัฐบาลกำลังศึกษาข้อกำหนดในการเก็บข้อมูลและโมเดล AI ไว้ภายในประเทศเพื่อป้องกันไม่ให้เกิดข้อมูลรั่วไหลสำหรับประเทศไทย สำนักงานพัฒนาธุรกรรมทางอิเล็กทรอนิกส์ (สพธอ. หรือ ETDA) กำลังอยู่ระหว่างการดำเนินการกรอบกฎหมายปัญญาประดิษฐ์ ที่จะบังคับใช้การบริหารจัดการตามระดับความเสี่ยงและความโปร่งใสอย่างเข้มงวดสำหรับการใช้งาน AI ที่มีความเสี่ยงสูง ในขณะเดียวกันก็เดินหน้าขับเคลื่อนแนวคิด “Driving Trust AI Governance” เพื่อวางรากฐานให้ระบบนิเวศ AI ของไทยเติบโตอย่างรับผิดชอบและยั่งยืนทางออกของเรื่องนี้คือการกลับมาควบคุมให้ได้ โดยไม่ขัดขวางการสร้างสรรค์นวัตกรรมการดึงเอเจนต์กลับมาอยู่ภายใต้การควบคุม หากการอนุมัติการนำเครื่องมือนอกระบบเข้ามาใช้อย่างเป็นทางการนั้นยุ่งยากเกินไป ทีมงานต่าง ๆ ย่อมจะหาหนทางที่รวดเร็วกว่าในการนำเครื่องมือเหล่านั้นเข้ามาใช้งาน และเมื่อใดก็ตามที่มีการข้ามขั้นตอนการตรวจสอบความปลอดภัย ก็เท่ากับเป็นการนำความเสี่ยงที่ไม่จำเป็นเข้ามาสู่องค์กรในโลกของ AI ก็เช่นเดียวกัน หากขาดการรู้เห็นและการควบคุมดูแลเอเจนต์อย่างเหมาะสม การกำกับดูแลก็จะพังทลายลงอย่างรวดเร็ว ความท้าทายนี้มีแนวโน้มที่จะทวีความรุนแรงมากขึ้น ทีมไอทีต่างก็แบกรับความกดดันในการทำงานให้ได้ประสิทธิภาพมากขึ้นด้วยทรัพยากรที่น้อยลง ผู้บริหารด้านไอที 59% คาดการณ์ว่าองค์กรของตนจะมีการใช้งานแอปพลิเคชันที่รองรับ AI มากกว่า 5 แอปภายในสามปี ดังนั้น ทางออกจึงไม่ใช่แค่การสั่งบล็อกหรือห้ามใช้งานเอเจนต์เหล่านี้ แต่เป็นการปรับกระบวนการอนุมัติให้ง่ายขึ้น รวดเร็วขึ้น และมีความโปร่งใสมากยิ่งขึ้นจุดโฟกัสสำคัญต้องอยู่ที่การสนับสนุนให้เกิดการนำ AI มาใช้ได้อย่างปลอดภัย มากกว่าที่จะไปรั้งให้ช้าลง แอปพลิเคชัน AI ยุคใหม่ต้องพึ่งพาข้อมูลปริมาณมหาศาล และต้องการโครงสร้างพื้นฐานที่สามารถให้ได้ทั้งประสิทธิภาพและควบคุมได้นูทานิคซ์ช่วยให้องค์กรต่าง ๆ สามารถรวมโครงสร้างพื้นฐาน ข้อมูล และนโยบายความปลอดภัย ไว้ในสภาพแวดล้อมการทำงานเดียว การเปลี่ยนจากระบบที่กระจัดกระจายและเครื่องมือที่แยกส่วนกันมาสู่แพลตฟอร์มที่เป็นหนึ่งเดียวนี้ จะช่วยลดความติดขัดในการดำเนินงาน โดยที่องค์กรไม่สูญเสียอำนาจในการควบคุมทีมไอทีสามารถมองเห็นได้ว่า AI agents กำลังทำงานอยู่ตรงจุดใด มีการเข้าถึงข้อมูลอย่างไร และมีการใช้กรอบการกำกับดูแลอย่างไร แพลตฟอร์มที่ทำงานได้อย่างสอดคล้องและต่อเนื่องกัน ทั้งบนสภาพแวดล้อมแบบไฮบริดและมัลติคลาวด์ จะช่วยให้องค์กรเปิดโอกาสให้ทีมงานต่าง ๆ สามารถทดลองใช้ AI ได้ในสภาพแวดล้อมที่มีความปลอดภัยสูง ซึ่งเป็นความเรียบง่ายที่มีประสิทธิภาพ โดยไม่ต้องแลกกับระบบความปลอดภัยหรือความยืดหยุ่นในการฟื้นฟูและความแข็งแกร่งของระบบการมั่นใจได้ว่าจะสามารถมองเห็นความเป็นไป ความรับผิดชอบ และการกำกับดูแลเหล่าเอเจนต์ดิจิทัล เป็นปัจจัยสำคัญต่อความสำเร็จขององค์กรต่าง ๆ ที่กำลังเร่งนำ AI มาใช้ และยังเป็นกุญแจสำคัญในการยกระดับประสิทธิภาพการทำงาน พร้อมทั้งช่วยกระตุ้นให้เกิดนวัตกรรมอีกด้วยข่าวที่เกี่ยวข้องAI ช่วยให้งานง่ายขึ้น แต่ทำไมเรายังเหนื่อย? รู้จัก AI Brain Fry ภาวะสมองล้าจากการใช้ AI มากเกินไปHKEX ปั้นดัชนีใหม่ รับเมกะเทรนด์ AI ปลุกตลาดหุ้นฮ่องกง“Data Center” บูมใน “ออสเตรเลีย” ขุมพลังไอที หรือระเบิดเวลาเศรษฐกิจ ?เปิดลิสต์ 10 "เทคโนโลยี" ดาวรุ่ง รากฐานเศรษฐกิจยุคใหม่ไทยมีจุดแข็งด้านการตรวจจับ "บัญชีม้า"