ก่อนที่เสียงเพลงจะหยุดลง: OpenClaw และความต้องการมาตรฐานความปลอดภัยของ AI ที่เพิ่มมากขึ้น

คุณสายแล้วสำหรับงานแสดงเปียโนของลูกชาย ขณะที่เจ้านายของคุณส่งอีเมลมาบอกว่าคุณต้องเดินทางไปบอสตันภายในไม่กี่วันเพื่อเข้าร่วมการประชุมงาน ตัวแทน AI ของคุณจะอ่านอีเมลและเริ่มวางแผนการเดินทางให้คุณในขณะที่คุณรีบวิ่งออกจากบ้าน ได้ทำการจองทริปเรียบร้อยแล้ว และคุณก็มาถึงโรงเรียนทันเวลาพอดีที่จะได้เพลิดเพลินกับการร้องเพลง "Mary Had a Little Lamb" อย่างสนุกสนาน

แต่เรื่องราวไม่ได้จบลงเพียงแค่นั้น ขณะที่ตัวแทน AI กำลังค้นหาเว็บไซต์ท่องเที่ยวเพื่อหาราคาโรงแรมที่ดีที่สุดในบอสตัน ตัวแทนดังกล่าวได้พบกับความผิดปกติ — หน้าเว็บที่เสียหายซึ่งมีคำสั่งซ่อนอยู่ โดยคำสั่งนั้นสั่งให้ตัวแทนโอนเงินจำนวนมากไปยังกระเป๋าเงินดิจิทัลที่ไม่รู้จัก แล้วเสียงเพลงก็หยุดลง

ปัญญาประดิษฐ์ (AI) ที่เป็นเอเจนต์นั้นมีศักยภาพมหาศาลที่จะเปลี่ยนแปลงอนาคตของวิธีการทำงาน การใช้ชีวิต และการมีส่วนร่วมทางการค้าของเรา หากมีการกำหนดมาตรการป้องกันที่เหมาะสม เทคโนโลยีนี้จะนำมาซึ่งโอกาสในการเพิ่มประสิทธิภาพ ทำความเข้าใจและต่อสู้กับการฉ้อโกงและภัยคุกคามด้านความปลอดภัยได้ดียิ่งขึ้น รวมถึงปรับแต่งประสบการณ์การซื้อขายออนไลน์ของเราได้อีกด้วย อย่างไรก็ตาม การเปิดตัวเอเจนต์โอเพนซอร์สตัวใหม่ที่รู้จักกันในชื่อ OpenClaw เมื่อเร็วๆ นี้ ได้ยิ่งเพิ่มความกังวลเกี่ยวกับความปลอดภัยของเอเจนต์ AI ที่มีอยู่แล้วให้มากขึ้น

OpenClaw คือตัวแทน AI อัตโนมัติเต็มรูปแบบที่พร้อมใช้งานตลอดเวลา ซึ่งสามารถช่วยคุณทำภารกิจต่างๆ ในโลกแห่งความเป็นจริงได้ ตั้งแต่การจองการเดินทางไปจนถึงการซื้อของชำ OpenClaw ซึ่งทำงานบนคอมพิวเตอร์หรือเซิร์ฟเวอร์ของคุณ สามารถตั้งค่าให้สแกนอีเมลหรือข้อความของคุณ กำหนดว่าต้องทำภารกิจใดบ้าง และดำเนินการตามภารกิจเหล่านั้นอย่างเป็นระบบ โดยแทบไม่ต้องอาศัยการแทรกแซงจากมนุษย์เลย

ความซับซ้อนทางเทคนิคของ OpenClaw พัฒนาไปอย่างรวดเร็วภายในเวลาเพียงไม่กี่เดือนหลังจากเปิดตัวในปลายปี 2025 โดยได้รับแรงผลักดันจากลักษณะที่เป็นโอเพนซอร์ส และสะท้อนให้เห็นถึงความรวดเร็วในการพัฒนาของเทคโนโลยีนี้ OpenClaw เป็นตัวอย่างของระบบผู้ช่วยอัจฉริยะที่ขับเคลื่อนด้วย AI ซึ่งสามารถเพิ่มประสิทธิภาพได้อย่างมาก ประหยัดเวลา และลดต้นทุน แต่ OpenClaw และเทคโนโลยีที่คล้ายคลึงกันนั้นมาพร้อมกับ ความเสี่ยงด้านความปลอดภัยที่ได้รับการบันทึกไว้เป็นอย่างดี

เพื่อให้ OpenClaw สามารถทำในสิ่งที่ทำ จำเป็นต้องได้รับอนุญาตจากคุณในการ Access ข้อมูล รวมถึงอีเมลและเอกสารอื่น ๆ ที่อาจมีข้อมูลที่ละเอียดอ่อน รวมถึงอำนาจในการตัดสินใจที่สำคัญ เช่น การใช้เงิน อํานาจในการดําเนินการนั้นรวมกับการเปิดรับภัยคุกคามที่เป็นเอกสาร เช่น "การฉีดพร้อมท์" ซึ่งเป็นอินพุตที่เป็นอันตรายที่สามารถจัดการกับตัวแทน AI ได้ ทําให้บางคนอ้างถึง OpenClaw ว่า "ไม่ปลอดภัยโดยค่าเริ่มต้น" ในขณะที่เอเจนต์ AI เช่น OpenClaw ต้องต่อสู้กับความท้าทายด้านความปลอดภัยที่อาจเกิดขึ้นหลายประการ แต่การฉีดพร้อมท์เป็นภัยคุกคามด้านความปลอดภัยของ AI ที่มีปัญหาเฉพาะตัวและพบได้บ่อยขึ้น

การโจมตีแบบ Prompt injection เกิดขึ้นเมื่อผู้ไม่ประสงค์ดีซ่อนคำสั่งไว้ในข้อความที่ตัวแทน AI ของคุณจะอ่าน ซึ่งอาจอยู่ในหน้าเว็บ ข้อความ ไฟล์ PDF หรือสิ่งอื่นใดที่มันพบเจอ หากไม่มีมาตรการรักษาความปลอดภัยที่เหมาะสม คำสั่งที่เป็นอันตรายเหล่านี้สามารถหลอกให้เอเจนต์ของคุณละทิ้งคำสั่งที่คุณตั้งโปรแกรมไว้แต่แรก และทำตามที่ผู้โจมตีต้องการแทน นี่เป็นความเสี่ยงที่สำคัญ เนื่องจากความสามารถในการขยายการใช้งานเอเจนต์อย่างมีประสิทธิภาพสำหรับกรณีการใช้งานที่หลากหลาย ตั้งแต่การปรับปรุงวิธีการต่อสู้กับการฉ้อโกงไปจนถึงการซื้อรองเท้าคู่ใหม่ ขึ้นอยู่กับว่าเอเจนต์เหล่านั้นสามารถโต้ตอบและตัดสินใจเกี่ยวกับข้อมูลที่เปิดเผยต่อสาธารณะได้อย่างรวดเร็วหรือไม่

การป้อนข้อมูลแบบทันทีทันใดนั้นมีนัยสำคัญอย่างมาก ไม่เพียงแต่สำหรับการใช้งานเอเจนต์ AI โดยทั่วไปเท่านั้น แต่ยังรวมถึง การค้าผ่านเอเจนต์ โดยเฉพาะด้วย อันตรายจากการที่ผู้ไม่ประสงค์ดีเข้าควบคุมหรือควบคุมระบบ AI ที่ทำงานกึ่งอัตโนมัติหรืออัตโนมัติเต็มรูปแบบ ทำให้พวกเขาสามารถเปลี่ยนเส้นทางและขโมยเงินจำนวนมากได้ ถือเป็นภัยคุกคามที่แท้จริง หากผู้ใช้ไม่สามารถไว้วางใจตัวแทนว่าจะเข้าใจเจตนาของพวกเขาอย่างถ่องแท้ เคารพข้อจำกัดของพวกเขา และดำเนินการอย่างปลอดภัย ผู้คนก็จะไม่ใช้บริการนั้น ด้วยเหตุนี้ Mastercard จึงได้ทำงานเพื่อสร้างกรอบการทำงานสำหรับการค้าผ่านตัวแทน ซึ่งได้รับการออกแบบมาเพื่อช่วยให้มั่นใจได้ว่าระบบนิเวศใหม่นี้สามารถได้รับการยอมรับอย่างปลอดภัยและมั่นคง

แม้ว่าภัยคุกคามจะเป็นเรื่องจริง แต่เราก็รู้วิธีที่จะหยุดยั้งมันได้เช่นกัน มีเทคนิคหลายอย่างที่สามารถช่วยต่อสู้กับการโจมตีแบบ Prompt Injection และภัยคุกคามด้านความปลอดภัยอื่นๆ ของ AI ได้ เช่น การตรวจสอบและลบข้อมูลที่เป็นอันตรายก่อนที่เอเจนต์จะอ่านและดำเนินการกับข้อมูลเหล่านั้น การจำกัดระบบและข้อมูลที่เอเจนต์สามารถ Access ได้ และการตรวจสอบกิจกรรมของเอเจนต์หลังจากนั้นเพื่อวิเคราะห์และระบุพฤติกรรมที่ผิดปกติ 

Mastercard เป็นผู้นำในการพัฒนาและใช้ AI อย่างมีความรับผิดชอบและปลอดภัยมาโดยตลอด โดยยึดมั่นใน หลักการด้านข้อมูลและเทคโนโลยี ที่แข็งแกร่ง รวมถึงมีระบบการกำกับดูแล AI ที่เป็นเลิศระดับโลก อย่างไรก็ตาม การที่แต่ละบริษัทนำมาตรการรักษาความปลอดภัยด้วย AI มาใช้เพียงอย่างเดียวนั้นยังไม่เพียงพอ ไม่ว่ามาตรการรักษาความปลอดภัยจะแข็งแกร่งเพียงใด การกระจายมาตรการรักษาความปลอดภัยอย่างไม่สม่ำเสมอทั่วทั้งระบบนิเวศดิจิทัลของเรา ก็ไม่สามารถแก้ปัญหานี้ได้

การสร้างความยืดหยุ่นและความไว้วางใจอย่างแท้จริงในระบบนิเวศของเอเจนต์นั้นขึ้นอยู่กับการนำเทคนิคด้านความปลอดภัยและแนวปฏิบัติที่ดีที่สุดมาใช้กันอย่างแพร่หลาย เพื่อให้บรรลุเป้าหมายนั้น เราจำเป็นต้องพัฒนาและสนับสนุนมาตรฐานความปลอดภัยของ AI ที่ได้รับการยอมรับอย่างกว้างขวางและสอดคล้องกันทั่วโลก มาตรฐานเหล่านี้สามารถช่วยกำหนดสถาปัตยกรรมความปลอดภัยทั่วไป สร้างรากฐานที่มั่นคงและยืดหยุ่น ซึ่งช่วยให้เอเจนต์ AI สามารถดำเนินการทุกอย่างได้อย่างปลอดภัย ตั้งแต่การซื้อสินค้าไปจนถึงการตรวจสอบภัยคุกคามด้านความปลอดภัยต่อโครงสร้างพื้นฐานที่สำคัญ

องค์กรที่มีอิทธิพลทั่วโลกกำลังเร่งพัฒนามาตรฐานเหล่านั้น ในสหรัฐอเมริกา สถาบันมาตรฐานและเทคโนโลยีแห่งชาติ ภายใต้กระทรวงพาณิชย์ได้เริ่มดำเนินการรวบรวมข้อมูลที่หลากหลายเกี่ยวกับ มาตรฐานความปลอดภัยของเอเจนต์ AI  ในสิงคโปร์ หน่วยงานพัฒนาสื่อสารและสารสนเทศ (Infocomm Media Development Authority) ได้เสนอโครงร่างการกำกับดูแลแบบจำลองสำหรับ AI ตัวแทน (Agentic AI) โดยระบุแนวทางที่สมเหตุสมผล รวมถึง แนวปฏิบัติที่ดีที่สุดสำหรับความปลอดภัยของ AI ตัวแทน

แม้ว่าการใช้เทคโนโลยีนี้จะมีความเสี่ยง แต่เราเชื่อว่าข้อเสนอแนะสามประการต่อไปนี้เป็นกุญแจสำคัญในการก้าวไปสู่การสร้างระบบนิเวศของเอเจนต์ที่ปลอดภัยและมั่นคง

ประการแรก องค์กรต่างๆ จำเป็นต้องให้ความสำคัญกับการนำแนวปฏิบัติที่ดีที่สุดมาใช้และดำเนินการเพื่อให้มั่นใจได้ว่าการใช้งานเอเจนต์ AI จะมีประสิทธิภาพตั้งแต่ช่วงเริ่มต้นของวงจรชีวิตการพัฒนาและการใช้งานผลิตภัณฑ์

ต่อไป องค์กรจำเป็นต้องตรวจสอบตัวแทนเหล่านั้นอย่างต่อเนื่อง เพื่อให้แน่ใจว่าพวกเขาสามารถระบุและแก้ไขการกระทำหรือกิจกรรมใด ๆ ที่ผิดปกติได้

สุดท้ายนี้ ระบบนิเวศโดยรวมต้องสนับสนุนการพัฒนาและการนำมาตรฐานสากลด้านความปลอดภัยของ AI มาใช้ เพื่อให้ทุกคนสามารถใช้มาตรฐานร่วมกันในการสร้างสถาปัตยกรรมความปลอดภัยร่วมกันสำหรับอนาคตของเอเจนต์ที่ปลอดภัย

การนำมาตรการป้องกันเหล่านี้ไปใช้อย่างประสบความสำเร็จและการสนับสนุนการพัฒนามาตรฐานระดับโลกจะช่วยให้ผู้คนและธุรกิจหลายล้านรายได้รับประโยชน์จากเทคโนโลยีเอเจนต์ใหม่ ๆ ในขณะเดียวกันก็หลีกเลี่ยงปัญหาด้านความปลอดภัยที่อาจเกิดขึ้นได้