Câu hỏi về an toàn AI vừa trở nên cấp thiết hơn. Tại sao lại dừng lại ở việc yêu cầu LLMs viết mã? Thách thức thực sự là yêu cầu chúng cung cấp các bằng chứng xác thực về tính đúng đắn cùng với đó. Nếu không có xác minh chính thức, chúng ta về cơ bản đang bay trong bóng tối với các hệ thống AI đã triển khai.

Dưới đây là những điều đáng chú ý: khoảng 80% các mô hình ngôn ngữ lớn—bao gồm Claude và các mô hình khác—lấy dữ liệu huấn luyện từ Common Crawl. Đó là một vấn đề phụ thuộc dữ liệu khổng lồ mà không ai nói đủ.

Nhưng có một giải pháp mới nổi đáng để theo dõi. Các nền tảng quản trị dựa trên blockchain được thiết kế đặc biệt cho an ninh mô hình AI/ML đang bắt đầu hình thành. Hãy tưởng tượng các lớp xác minh phân tán có thể đảm bảo tính toàn vẹn của mô hình và minh bạch quyết định bằng cách mã hóa ở quy mô lớn. Đó là loại hạ tầng mà ngành công nghiệp cần phải lấp đầy.

Sự hội tụ của xác minh chính thức, minh bạch mô hình và giám sát phi tập trung có thể thực sự định hình lại cách chúng ta tiếp cận rủi ro triển khai AI.