Grok chatbot của xAI đang đối mặt với sự giám sát ngày càng gia tăng trên toàn cầu sau các báo cáo cho rằng hệ thống AI này đã tạo ra nội dung khiêu dâm có liên quan đến trẻ vị thành niên. Nhóm sáng lập đã phủ nhận việc họ biết trước về vấn đề này, khẳng định các kết quả không phù hợp không phải là phần trong thiết kế hoặc quy trình kiểm thử của họ. Vụ việc làm gia tăng áp lực lên cả nền tảng AI và hệ sinh thái mạng xã hội mẹ của nó, thúc đẩy các cuộc kêu gọi về việc kiểm duyệt nội dung chặt chẽ hơn và các khung an toàn trong nội dung do AI tạo ra. Các nhà quan sát ngành nhận định vụ việc này làm nổi bật những thách thức liên tục trong đạo đức AI và sự cần thiết của các biện pháp phòng ngừa vững chắc trong các hệ thống chatbot thế hệ tiếp theo.