ทางการบราซิลได้ประกาศคำสั่งให้แชทบอตปัญญาประดิษฐ์ “Grok” หยุดการสร้างภาพ Deepfake เชิงอนาจาร พร้อมขู่ว่าจะฟ้องร้องและสั่งปรับหากไม่ปฏิบัติตามภายใน 5 วัน หลังจากที่ตรวจสอบพบปัญหาเกี่ยวกับการสร้างเนื้อหาที่ไม่เหมาะสม
เมื่อวันที่ 11 กุมภาพันธ์ที่ผ่านมา บราซิลได้มีคำสั่งให้แอปพลิเคชันเครือข่ายสังคมออนไลน์ X ระงับการใช้งาน Grok ในการผลิตภาพดีฟเฟคเชิงอนาจาร โดยบราซิลเป็นประเทศล่าสุดที่ออกมาตรการนี้ ซึ่งก่อนหน้านี้ อินโดนีเซียได้สั่งระงับการใช้งาน Grok ไปแล้วเมื่อเดือนที่ผ่านมา
ทั้งนี้ สหราชอาณาจักรและฝรั่งเศสก็ได้มีแผนกดดันมหาเศรษฐีอีลอน มัสก์ เจ้าของ X ต่อไป เนื่องจากพบว่า Grok ได้สร้างภาพอนาจารของผู้หญิงและเด็กในจำนวนมาก
หน่วยงานอัยการสูงสุดของบราซิลร่วมกับองค์การคุ้มครองข้อมูลส่วนบุคคลแห่งชาติ (ANPD) และสำนักงานคุ้มครองสิทธิผู้บริโภคแห่งชาติ (Senacon) ได้กำหนดให้ X มีเวลาเพียง 5 วันในการดำเนินมาตรการที่เหมาะสมเพื่อป้องกันการผลิตเนื้อหาทางเพศที่ไม่เหมาะสม
หาก X ไม่สามารถปฏิบัติตามคำสั่งได้ ทางการบราซิลอาจจะฟ้องร้องและสั่งปรับ แม้ X จะชี้แจงว่ามีการลบโพสต์หลายพันรายการและระงับบัญชีผู้ใช้หลายร้อยบัญชี แต่การตรวจสอบพบว่ายังคงมีการสร้างภาพดีปเฟคอนาจารต่อไป
แรงกดดันต่อ xAI บริษัทผู้พัฒนา Grok ยังคงเพิ่มสูงขึ้น โดยเฉพาะกับฟีเจอร์ “Spicy Mode” ที่อนุญาตให้ผู้ใช้สร้างภาพดีปเฟคเชิงเพศได้อย่างง่ายดายเพียงแค่พิมพ์คำสั่งตามที่ต้องการ
ศูนย์ต่อต้านความเกลียดชังทางดิจิทัล (CCDH) รายงานว่า Grok ได้สร้างภาพเชิงอนาจารของผู้หญิงและเด็กไปแล้วกว่า 3 ล้านภาพในระยะเวลาเพียงไม่กี่วัน
