แพลตฟอร์ม X ภายใต้การบริหารของอีลอน มัสก์ ได้ประกาศเพิ่มมาตรการความปลอดภัยโดยการระงับฟีเจอร์ของแชตบอต AI 'Grok' ที่ใช้ในการตัดต่อภาพบุคคลให้ดูเปลือยหรือสวมเสื้อผ้าน้อยชิ้น หลังจากเผชิญแรงกดดันจากรัฐบาลหลายประเทศและองค์กรสิทธิมนุษยชนที่มีความกังวลเกี่ยวกับการสร้างภาพอนาจารของผู้หญิงและเด็ก
ทีมงานด้านความปลอดภัยของ X ได้ออกมาประกาศใช้มาตรการเทคโนโลยีใหม่เพื่อป้องกันไม่ให้ Grok สามารถแก้ไขหรือสร้างภาพบุคคลในชุดที่ล่อแหลม เช่น บิกินีหรือชุดชั้นใน มาตรการนี้มีผลกับผู้ใช้งานทุกคน รวมถึงสมาชิกที่ชำระเงิน
การเปลี่ยนแปลงนี้เกิดขึ้นหลังจากฟีเจอร์ 'Spicy Mode' ของ Grok ถูกวิพากษ์วิจารณ์อย่างหนักว่าช่วยให้ผู้ใช้สามารถใส่คำสั่งง่าย ๆ เพื่อสร้างภาพ Deepfake เชิงอนาจาร โดยผลการวิเคราะห์ภาพจาก Grok มากกว่า 20,000 ภาพ พบว่ากว่าครึ่งเป็นภาพบุคคลที่สวมเสื้อผ้าน้อยชิ้น ส่วนหนึ่งเป็นภาพของผู้เยาว์
ปัจจุบัน xAI บริษัทผู้พัฒนา Grok กำลังถูกตรวจสอบโดยหลายหน่วยงาน โดยในสหรัฐฯ อัยการสูงสุดรัฐแคลิฟอร์เนียได้เริ่มการสืบสวนว่า xAI ละเมิดกฎหมายหรือไม่ ขณะที่สหภาพยุโรปก็เฝ้าติดตามมาตรการใหม่ของ X อย่างใกล้ชิด
ในขณะเดียวกัน อินโดนีเซียเป็นประเทศแรกที่สั่งบล็อกการเข้าถึง Grok โดยสมบูรณ์ ตามด้วยมาเลเซีย ส่วนอินเดียได้บังคับให้ X ลบโพสต์และบัญชีผู้ใช้งานที่เกี่ยวข้องกับภาพอนาจารหลายพันรายการ
นอกจากนี้ X ยังได้ประกาศจำกัดสิทธิ์การสร้างและแก้ไขภาพผ่าน Grok ให้เฉพาะสมาชิกแบบชำระเงิน เพื่อสร้างชั้นการป้องกันพิเศษ แต่กลุ่มภาคประชาสังคมกว่า 28 แห่ง ได้ยื่นจดหมายเปิดผนึกเรียกร้องให้ถอดแอปพลิเคชัน X และ Grok ออกจากแอปสโตร์ เนื่องจากความกังวลว่ามาตรการที่มีอยู่อาจไม่เพียงพอในการหยุดยั้งการแพร่กระจายของภาพตัดต่อลามกอนาจารในระยะยาว.
