การเพิ่มขึ้นอย่างต่อเนื่องของ การหลอกลวงและการฉ้อโกงทางดิจิทัล อาชญากรรมไซเบอร์บนโซเชียลมีเดียและแอปพลิเคชันส่งข้อความได้บังคับให้บริษัทเทคโนโลยีรายใหญ่ต้องปรับปรุงมาตรการรักษาความปลอดภัยอย่างมีนัยสำคัญ พบว่ามีการกระทำของอาชญากรไซเบอร์เพิ่มมากขึ้นเรื่อยๆ ที่พยายามขโมยบัญชี ข้อมูลธนาคาร หรือแอบอ้างเป็นแบรนด์ดังผ่านข้อความ โฆษณา และรายชื่อติดต่อที่ดูเหมือนไม่มีอันตรายในตอนแรก
ในบริบทนี้, Meta กำลังเสริมสร้างกลยุทธ์ด้านความปลอดภัยด้วยระบบรุ่นใหม่ AI ป้องกันการฉ้อโกงถูกนำมาใช้กับ Facebook, WhatsApp และ Messengerแนวทางนั้นชัดเจน: เตือนผู้ใช้ก่อนที่พวกเขาจะตกเป็นเหยื่อ ลดการสัมผัสกับเนื้อหาที่เป็นอันตรายให้น้อยที่สุด และทำให้การทำงานของมิจฉาชีพที่ดำเนินการบนแพลตฟอร์มของตนเป็นเรื่องยากที่สุดเท่าที่จะเป็นไปได้
ระบบ AI ป้องกันการฉ้อโกง เพื่อก้าวล้ำหน้าการหลอกลวงบน Meta
Meta กำลังเปิดตัวชุดฟีเจอร์ที่ผสานรวมเข้าด้วยกัน ปัญญาประดิษฐ์บนตัวอุปกรณ์เองและการวิเคราะห์บนเซิร์ฟเวอร์ระยะไกลสถาปัตยกรรมนี้ช่วยให้สามารถรักษาความปลอดภัยของการเข้ารหัสแบบ end-to-end ในบริการต่างๆ เช่น WhatsApp และ Messenger ได้ ในขณะเดียวกันก็เพิ่มชั้นการตรวจจับขั้นสูงอีกชั้นหนึ่งเมื่อผู้ใช้ตัดสินใจส่งเนื้อหาที่น่าสงสัยบางอย่างเพื่อตรวจสอบ
เครื่องมือเหล่านี้อาศัยแบบจำลองที่สามารถวิเคราะห์ได้ ข้อความ รูปภาพ ลิงก์ และรูปแบบพฤติกรรมเป้าหมายคือการระบุทุกอย่าง ตั้งแต่โฆษณาหลอกลวงที่ใช้ใบหน้าของคนดังโดยไม่ได้รับอนุญาต ไปจนถึงข้อความ "การสนับสนุนทางเทคนิค" ที่พยายามขอรหัสยืนยัน รวมถึงคำขอเป็นเพื่อนจากบัญชีปลอมที่พยายามสร้างความไว้วางใจให้กับเหยื่อ
จากข้อมูลที่บริษัทเปิดเผย ปัญหาดังกล่าวไม่ใช่เรื่องเล็กน้อย: Meta อ้างว่ามี ขัดขวางบัญชีและโฆษณานับล้านรายการที่เกี่ยวข้องกับเครือข่ายฉ้อโกงที่จัดตั้งขึ้น บน Facebook, Instagram และ WhatsApp ในบางกรณีเชื่อมโยงกับศูนย์หลอกลวงจริงที่กระจายอยู่หลายประเทศ
การรุกทางเทคโนโลยีนี้ยังอาศัยทีมตรวจสอบที่เป็นมนุษย์ทำงานควบคู่ไปกับ AI เพื่อให้แบบจำลองได้รับการฝึกฝนด้วยตัวอย่างจริง และลดอัตราความผิดพลาดในการจำแนกเนื้อหาที่น่าสงสัย
WhatsApp: ไฟร์วอลล์ป้องกันการแฮ็กบัญชีและกลุ่มที่น่าสงสัย
ในกรณีของ WhatsAppระบบ AI ป้องกันการฉ้อโกงของ Meta มุ่งเน้นไปที่ช่องทางการโจมตีที่พบได้บ่อยหลายช่องทาง: การแฮ็กบัญชีผ่านการเชื่อมโยงอุปกรณ์การหลอกลวงและการฉ้อโกงด้านการสนับสนุนทางเทคนิคในกลุ่มที่ไม่รู้จัก
หนึ่งในคุณสมบัติใหม่ที่สำคัญคือระบบของ แจ้งเตือนเมื่อมีคนพยายามเชื่อมโยงบัญชีกับอุปกรณ์ที่ไม่รู้จักหากตรวจพบคำขอที่น่าสงสัย แอปจะแสดงข้อมูล เช่น ตำแหน่งที่ตั้งที่พยายามส่งคำขอ พร้อมคำเตือนอย่างชัดเจนว่าอาจเป็นการหลอกลวง ซึ่งจะช่วยให้ผู้ใช้สามารถหยุดกระบวนการได้ก่อนที่บุคคลที่สามจะเข้าถึงบทสนทนาของตนได้อย่างเต็มที่
ปัญญาประดิษฐ์ยังเข้ามาแทรกแซงในสถานการณ์ต่างๆ อีกด้วย การแชร์หน้าจอระหว่างการสนทนาทางวิดีโอกับผู้ติดต่อที่ไม่รู้จักเมื่อตรวจพบรูปแบบความเสี่ยงนี้ ระบบจะแจ้งเตือนโดยอัตโนมัติ เนื่องจากมิจฉาชีพหลอกลวงด้าน "การสนับสนุนทางเทคนิค" จำนวนมากอาศัยการดูหน้าจอของผู้ใช้แบบเรียลไทม์เพื่อขโมยข้อมูลบัญชีธนาคาร รหัสใช้ครั้งเดียว หรือข้อมูลที่ละเอียดอ่อนอื่นๆ
นอกจากนี้ กลุ่มที่ผู้ใช้เข้าร่วมโดยไม่รู้จักสมาชิกในกลุ่มมากนัก จะแสดงข้อมูลเพิ่มเติมดังนี้ แผงความปลอดภัยเชิงป้องกันแผงควบคุมนี้แสดงรายละเอียดเกี่ยวกับกลุ่ม คำแนะนำในการตรวจจับการพยายามฉ้อโกง และตัวเลือกในการออกจากกลุ่มโดยไม่ต้องโต้ตอบ พร้อมทั้งปิดเสียงแจ้งเตือนจนกว่าผู้ใช้จะยืนยันว่าต้องการอยู่ต่อ
Meta กำลังทดสอบอยู่เช่นกัน การแจ้งเตือนตามบริบทเมื่อเริ่มแชทกับหมายเลขที่ไม่ปรากฏในสมุดที่อยู่หากระบบตรวจพบสัญญาณทั่วไปของการหลอกลวงทางอีเมล การลงทุนปลอม หรือคำขอเงินที่ไม่ชัดเจน ระบบจะแนะนำให้ใช้ความระมัดระวังอย่างยิ่ง และเสนอตัวเลือกในการบล็อกหรือรายงานด้วยการแตะเพียงไม่กี่ครั้ง
เฟซบุ๊ก: ตรวจสอบคำขอเป็นเพื่อนและเพจ "ให้ความช่วยเหลือ" ปลอมอย่างเข้มงวด
En FacebookAI ป้องกันการฉ้อโกงมีสองด้านหลักๆ คือ: คำขอเป็นเพื่อนที่น่าสงสัย และเว็บไซต์ที่แอบอ้างเป็นแผนกบริการลูกค้าหรือแบรนด์ที่มีชื่อเสียง
เมื่อได้รับคำขอเป็นเพื่อน แพลตฟอร์มอาจแสดงคำเตือนหากตรวจพบปัจจัยเสี่ยง เช่น บัญชีที่มีเพื่อนร่วมกันน้อยมาก โปรไฟล์ที่สร้างขึ้นใหม่ไม่นาน ภูมิภาคที่ไม่ตรงกับเครือข่ายของผู้ใช้ หรือพฤติกรรมที่ตรงกับรูปแบบที่เกี่ยวข้องกับเครือข่ายบอท ด้วยวิธีนี้ ผู้ใช้จึงสามารถ... ควรประเมินให้ดียิ่งขึ้นว่าควรยอมรับ เพิกเฉย หรือบล็อกคำขอ ก่อนที่จะเปิดประตูให้แก่ผู้ฉ้อโกงที่อาจเกิดขึ้น
อีกประเด็นสำคัญที่เกี่ยวข้องคือ หน้าและบัญชีสนับสนุนปลอม เว็บไซต์เหล่านี้พยายามหลอกลวงผู้ใช้ที่กำลังมองหาความช่วยเหลือในการกู้คืนบัญชีหรือแก้ไขปัญหา Meta อ้างว่าได้ดำเนินการกับเว็บไซต์เหล่านี้ไปแล้วหลายหมื่นแห่ง ซึ่งโดยทั่วไปแล้วจะขอข้อมูลการเข้าสู่ระบบ เอกสารยืนยันตัวตน หรือการชำระเงินเพื่อ "เร่ง" กระบวนการกู้คืนที่อ้างว่าสามารถทำได้
บริษัทกำลังเสริมสร้างกลไกต่างๆ เพื่อ... การตรวจสอบผู้ลงโฆษณาและการตรวจจับโฆษณาที่ฉ้อโกงซึ่งรวมถึงผู้ที่ใช้ภาพของคนดัง นักธุรกิจ หรือบุคคลสาธารณะโดยไม่ได้รับอนุญาต ปัญญาประดิษฐ์ (AI) จะเปรียบเทียบใบหน้าและระบุการดัดแปลงภาพซ้ำๆ ที่ใช้เพื่อสร้างความน่าเชื่อถือให้กับการลงทุนปลอม โปรโมชั่นที่ไม่มีอยู่จริง หรือสินค้าที่ไม่เคยส่งถึงมือผู้รับ
ประเด็นนี้มีความอ่อนไหวเป็นพิเศษสำหรับบริษัทและผู้สร้างเนื้อหาในสเปนและประเทศอื่นๆ ในยุโรป เนื่องจากโฆษณาที่ใช้ ใช้ภาพลักษณ์ของผู้ประกอบการหรือบุคคลที่มีชื่อเสียงในท้องถิ่นเพื่อดึงดูดเหยื่อก่อให้เกิดความสับสนและความเสียหายต่อชื่อเสียงที่ยากจะแก้ไข
Messenger: การตรวจจับการหลอกลวงที่ผู้ใช้สามารถกำหนดค่าได้
แอปส่งข้อความที่เชื่อมโยงกับ Facebook Messengerประกอบด้วยฟังก์ชันเฉพาะที่เรียกว่า “การตรวจจับการฉ้อโกง”ตัวเลือกนี้ สามารถเข้าถึงได้ผ่านการตั้งค่าความเป็นส่วนตัวและความปลอดภัย โดยจะวิเคราะห์บทสนทนาที่เริ่มต้นโดยผู้ติดต่อที่ไม่รู้จักอย่างละเอียดมากขึ้น เมื่อเปิดใช้งานแล้ว คุณสมบัตินี้จะให้การวิเคราะห์บทสนทนาเชิงลึกยิ่งขึ้น
AI มุ่งเน้นไปที่ รูปแบบลักษณะเฉพาะของข้อเสนอปลอมสิ่งเหล่านี้รวมถึง: ข้อเสนองานทางไกลที่เรียกเก็บเงินล่วงหน้า การลงทุนที่มีผลตอบแทนรับประกัน ข้อความเร่งด่วนขอเงิน หรือความพยายามที่จะแอบอ้างเป็นเจ้าหน้าที่ฝ่ายสนับสนุนของบริษัทที่มีชื่อเสียง หากตรวจพบสิ่งผิดปกติ ระบบจะแสดงการแจ้งเตือนที่ระบุประเภทของความเสี่ยงที่มีอยู่ และแนะนำให้บล็อกหรือรายงานผู้ส่ง
เมื่อได้รับอนุญาตอย่างชัดแจ้งจากผู้ใช้ ข้อความที่ทำเครื่องหมายไว้สามารถส่งได้เป็นกรณีๆ ไปยัง เซิร์ฟเวอร์เมตาสำหรับการวิเคราะห์ AI เชิงลึกยิ่งขึ้นขั้นตอนนี้จะยกเลิกการเข้ารหัสแบบ end-to-end ชั่วคราวเฉพาะสำหรับเนื้อหานั้นๆ เท่านั้น ซึ่งแต่ละคนต้องพิจารณาตัดสินใจตามระดับความเสี่ยงที่ยอมรับได้และความกังวลเรื่องความเป็นส่วนตัวของตนเอง
ในขณะเดียวกัน Messenger ก็ได้ปรับปรุงระบบของตนให้ดียิ่งขึ้น การป้องกันลิงก์ฟีเจอร์ Safe Browsing ซึ่งวิเคราะห์ URL บนอุปกรณ์อยู่แล้ว ตอนนี้อาศัยเลเยอร์เพิ่มเติมที่เรียกว่าการป้องกันขั้นสูง ซึ่งเชื่อมต่อกับ รายการที่อัปเดตอยู่ตลอดเวลา จากเว็บไซต์อันตราย การออกแบบนี้มีจุดมุ่งหมายเพื่อบล็อกการเข้าถึงหน้าเว็บฟิชชิ่งหรือการดาวน์โหลดมัลแวร์โดยไม่เปิดเผยตัวตนของผู้ใช้หรือประวัติการท่องเว็บทั้งหมด
สำหรับทีมสนับสนุน ทีมขาย หรือทีมบริการลูกค้าที่ใช้ Messenger เป็นช่องทางหลัก การปรับปรุงเหล่านี้ถือเป็นทั้ง... เป็นเกราะป้องกันเพิ่มเติมจากการหลอกลวงที่มุ่งเป้าไปที่แบรนด์ของคุณเอง เพื่อสร้างสภาพแวดล้อมที่ปลอดภัยยิ่งขึ้นสำหรับผู้ใช้งานที่พวกเขาติดต่อด้วยในชีวิตประจำวัน
ปัญญาประดิษฐ์ที่อยู่เบื้องหลัง
คุณสมบัติการรักษาความปลอดภัยใหม่ของ Meta อาศัยสถาปัตยกรรมแบบไฮบริดที่ผสมผสานสองแนวทางที่เสริมกัน แนวทางแรกคือ การวิเคราะห์บนอุปกรณ์แอปพลิเคชันนี้ทำงานโดยตรงบนโทรศัพท์มือถือหรือคอมพิวเตอร์ของผู้ใช้ และเคารพการเข้ารหัสแบบ end-to-end เนื่องจากไม่จำเป็นต้องส่งเนื้อหาไปยังเซิร์ฟเวอร์ภายนอกเพื่อตรวจจับรูปแบบความเสี่ยง
การวิเคราะห์ในระดับท้องถิ่นนี้มุ่งเน้นไปที่สัญญาณต่างๆ เช่น ข้อเท็จจริงที่ว่า รับข้อความจากหมายเลขที่ไม่ได้บันทึกไว้สิ่งเหล่านี้รวมถึงการพยายามแชร์หน้าจอให้กับคนแปลกหน้า การเปลี่ยนแปลงพฤติกรรมบัญชีอย่างกะทันหัน หรือการปรากฏของลิงก์ที่ตรงกับรายงานการฉ้อโกงก่อนหน้านี้ การทำงานบนอุปกรณ์เองจะช่วยลดปริมาณข้อมูลที่ส่งออกไปภายนอก ทำให้เป็นการป้องกันด่านแรกได้ทันที
เลเยอร์ที่สองจะทำงานเมื่อผู้ใช้เลือกที่จะทำเช่นนั้น ส่งเนื้อหาเพื่อตรวจสอบโดยใช้ AI บนระบบคลาวด์ในกรณีนี้ ข้อความหรือรายการที่ถูกตั้งข้อสงสัยจะถูกประมวลผลโดยระบบของ Meta ซึ่งใช้แบบจำลองที่ซับซ้อนกว่าในการประเมินว่าสิ่งที่เกิดขึ้นนั้นเข้าข่ายการหลอกลวงประเภทที่รู้จักหรือไม่ หากการวิเคราะห์สรุปว่ามีความเสี่ยง แพลตฟอร์มจะแสดงคำอธิบายเกี่ยวกับการหลอกลวงที่อาจเกิดขึ้นและแนะนำการดำเนินการเฉพาะเจาะจง
บริษัทเน้นย้ำว่า นอกเหนือจากปัญญาประดิษฐ์แล้ว ยังมี... ทีมผู้ตรวจสอบเนื้อหาที่เป็นมนุษย์ ซึ่งตรวจสอบเนื้อหานับล้านชิ้นต่อวันองค์ประกอบด้านมนุษย์นี้เองที่ทำให้สามารถปรับปรุงแบบจำลอง จัดการกับกรณีที่ละเอียดอ่อนที่สุด และยุติแคมเปญขนาดใหญ่ที่มีการประสานงานกัน ซึ่งนอกเหนือไปจากการส่งข้อความแบบแยกส่วน
กลไกทั้งหมดนี้ได้รับการเสริมด้วยข้อตกลงกับหน่วยงานด้านความมั่นคงและผู้มีส่วนเกี่ยวข้องอื่นๆ ในภาคเทคโนโลยี เพื่อแบ่งปันข้อมูลข่าวกรองเกี่ยวกับโดเมนที่เป็นอันตราย เครือข่ายบัญชีปลอม และกลยุทธ์ใหม่ๆ ที่องค์กรอาชญากรใช้
ประเภทหลักของการหลอกลวงที่ AI ของ Meta พยายามหยุดยั้ง
แพลตฟอร์ม Meta เป็นแหล่งเพาะพันธุ์สำหรับ การฉ้อโกงทางดิจิทัลหลากหลายรูปแบบเครื่องมือใหม่นี้ได้รับการออกแบบมาเพื่อตรวจจับและหยุดยั้งการหลอกลวงทั่วไปที่มุ่งเป้าไปที่ผู้ใช้ในสเปนและยุโรป ซึ่งรวมถึงกลโกงประเภทต่างๆ ดังต่อไปนี้:
- การหลอกลวงเกี่ยวกับการให้ความช่วยเหลือทางเทคนิคปลอม: บุคคลที่แอบอ้างเป็นฝ่ายบริการลูกค้า พนักงานโอเปเรเตอร์ของธนาคาร หรือแม้แต่บริษัท Meta เอง เพื่อขอรหัสยืนยัน รหัสผ่าน หรือขอสิทธิ์เข้าถึงอุปกรณ์จากระยะไกล
- การฉ้อโกงผ่านการแชร์หน้าจอ: การสนทนาทางวิดีโอที่มิจฉาชีพหลอกล่อให้เหยื่อเปิดหน้าจอเพื่อขโมยข้อมูลบัญชีธนาคาร ข้อความ SMS ที่มีรหัสใช้ครั้งเดียว หรือข้อมูลประจำตัวสำหรับบริการต่างๆ เช่น ธนาคารออนไลน์ หรือช่องทางการชำระเงิน
- ข้อเสนองานและทุนการศึกษาที่ไม่มีอยู่จริง: โฆษณาหรือข้อความส่วนตัวที่สัญญาว่าจะให้งานง่ายหรือค่าตอบแทนดี โดยแลกกับการชำระเงินเบื้องต้นสำหรับ "ขั้นตอน" ต่างๆ หรือการให้ข้อมูลส่วนบุคคลที่ละเอียดอ่อน
- แผนการลงทุนและสกุลเงินดิจิทัล: แคมเปญโฆษณาที่สัญญาว่าจะให้ผลตอบแทนรวดเร็วและแน่นอน มักมีการนำบุคคลที่มีชื่อเสียงหรือนักธุรกิจที่มีชื่อเสียงมาใช้โดยไม่ได้รับอนุญาต
- ฟิชชิ่งและลิงค์ที่เป็นอันตราย: URL ที่เลียนแบบเว็บไซต์ที่ดูเหมือนจริง เช่น ธนาคาร แพลตฟอร์มอีคอมเมิร์ซ บริการสาธารณะ โดยมีจุดประสงค์เพื่อขโมยข้อมูลประจำตัวหรือติดตั้งมัลแวร์ลงในอุปกรณ์
การผสมผสานระหว่างการตรวจสอบอัตโนมัติ บัญชีดำเว็บไซต์อันตราย และกลไกการรายงานของผู้ใช้ ทำให้สามารถ ระบบสามารถปรับตัวได้อย่างรวดเร็วต่อรูปแบบใหม่ ๆ ของการหลอกลวงเหล่านี้ซึ่งมักจะกลายพันธุ์เพื่อหลีกเลี่ยงการตรวจจับได้ง่ายขึ้น
ผลกระทบต่อผู้ใช้ บริษัท และผู้ก่อตั้งที่พึ่งพา Meta
นอกเหนือจากการปกป้องผู้ใช้ทั่วไปแล้ว ฟีเจอร์ป้องกันการฉ้อโกงด้วย AI ใหม่นี้ยังมีผลโดยตรงต่อ... ธุรกิจที่ใช้ Facebook, WhatsApp และ Messenger เป็นโครงสร้างพื้นฐานหลัก เพื่อการขาย การบริการลูกค้า หรือการสร้างชุมชน
ในอีกด้านหนึ่ง หากบริษัทใช้ WhatsApp Business หรือ Messenger ในการติดต่อสื่อสารกับลูกค้า ข้อความเหล่านั้นอาจทำให้เกิดการแจ้งเตือนหากระบบตรวจพบว่าน่าสงสัยตัวอย่างเช่น การใส่ลิงก์จำนวนมาก หรือการขอข้อมูลที่ละเอียดอ่อน ดังนั้นจึงจำเป็นต้องตรวจสอบสคริปต์ น้ำเสียง และความถี่ เพื่อลดโอกาสเกิดความผิดพลาด และรักษาความไว้วางใจของผู้ชม
ในทางกลับกัน สตาร์ทอัพในภาคส่วนที่มีความอ่อนไหวเป็นพิเศษ เช่น เทคโนโลยีทางการเงิน, สุขภาพดิจิทัล หรือบริการทางกฎหมาย— พวกเขาพบในเครื่องมือเหล่านี้เป็นสัญญาณที่ชัดเจนว่า การรักษาความปลอดภัยโดยใช้ AI ไม่ใช่ "ส่วนเสริม" อีกต่อไป แต่เป็นส่วนหนึ่งของความคาดหวังขั้นต่ำในผลิตภัณฑ์หรือบริการใดๆ ที่จัดการข้อมูลสำคัญ
ความร่วมมือที่เพิ่มมากขึ้นของ Meta กับผู้เล่นด้านเทคโนโลยีรายอื่น ๆ และหน่วยงานภาครัฐ ยังเปิดโอกาสให้กับ โอกาสใหม่สำหรับบริษัทที่เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์ซึ่งสามารถผสานรวมโซลูชันของตนเข้ากับระบบนิเวศการตรวจจับภัยคุกคามของแพลตฟอร์มขนาดใหญ่ หรือให้บริการให้คำปรึกษาแก่บริษัทขนาดเล็กได้
ท้ายที่สุดแล้ว ประสิทธิภาพของมาตรการเหล่านี้จะขึ้นอยู่กับทั้งผู้ใช้และองค์กรในการนำแนวปฏิบัติที่ดีมาใช้ ได้แก่ การเปิดใช้งานคุณสมบัติป้องกันการฉ้อโกงที่มีอยู่ การอัปเดตแอปให้ทันสมัยอยู่เสมอ การระมัดระวังข้อความที่ไม่พึงประสงค์ และการรายงานพฤติกรรมที่น่าสงสัยใดๆ ไปยังระบบตรวจจับฟีด
ด้วยการนำระบบใหม่มาใช้ ระบบ AI ป้องกันการฉ้อโกงบน Facebook, WhatsApp และ MessengerMeta กำลังก้าวไปอีกขั้นสำคัญสู่สภาพแวดล้อมดิจิทัลที่ยากต่อการหลอกลวงมากขึ้น และปลอดภัยยิ่งขึ้นสำหรับผู้ที่ใช้บริการของ Meta เป็นประจำทุกวัน ตั้งแต่ผู้ใช้รายบุคคลไปจนถึงบริษัทต่างๆ ที่พึ่งพาแพลตฟอร์มเหล่านี้เป็นส่วนสำคัญในการดำเนินกิจกรรมของตน
