“AI Phải Có Quy Tắc”: Ủy viên EU Magnus Brunner Cảnh Báo về Tương Lai Trong Đó AI Có Thể Vượt Trội Con Người

AI không còn chỉ là một cuộc đua công nghệ — đó là một thách thức về quản trị để tạo ra các quy tắc đúng đắn, một công cụ an ninh, và có khả năng là một rủi ro mang tính sinh tồn.

Phát biểu trên sân khấu sự kiện HumanX ở San Francisco, Ủy viên châu Âu Magnus Brunner đã phác thảo cách tiếp cận của Europe trong việc điều chỉnh AI, bảo vệ AI Act gây tranh cãi, đồng thời thừa nhận những giới hạn của nó — và cảnh báo về một tương lai nơi trí tuệ nhân tạo có thể vượt qua sự kiểm soát của con người.

AI Act của Europe: “Bạn Cần Có Quy Tắc Để Cho Trò Chơi Hoạt Động”

Brunner đã đề cập đến một trong những lời chỉ trích phổ biến nhất của châu Âu: điều tiết quá sớm và quá nhiều. Nhưng với ông, điều tiết không phải là một sự ràng buộc — đó là cơ sở hạ tầng.

“Bóng đá là một trò chơi tuyệt vời, nhưng bạn cần có luật. Bạn cần có vạch kẻ, khung thành và trọng tài. Cũng như vậy với AI.”

AI Act của EU được thiết kế để tạo ra một khuôn khổ thống nhất trên 27 member states và 450 million citizens, thiết lập những gì Brunner gọi là “hàng rào bảo vệ” cho sự phát triển AI đáng tin cậy.

Trong khi các nhà phê bình cho rằng điều này làm chậm đổi mới, Brunner phản bác:

“Điều tiết không phải kẻ thù của đổi mới… Nếu bạn có những hàng rào bảo vệ này, bạn sẽ có một tầm nhìn về những gì đang diễn ra thay vì bị mắc kẹt trong thời kỳ Wild West.”

US vs Europe: Phân mảnh vs Khuôn khổ

Một trong những điểm tương phản nổi bật nhất được nêu bật trong phần thảo luận là khoảng trống trong quản lý giữa Europe và United States.

Trong khi EU đã đưa ra một đạo luật đơn lẻ, toàn diện, thì United States vẫn phân mảnh, với các quy định về AI xuất hiện ở cấp tiểu bang.

“Chúng tôi gặp bất lợi vì sự phân mảnh… giờ chúng tôi có một AI Act. United States không có quy định liên bang, nhưng các bang khác nhau lại có những quy tắc riêng. Điều đó thật đáng ngạc nhiên đối với chúng tôi.”

Điều thú vị là Brunner lưu ý rằng một số bang của United States — đặc biệt là California — đang tiến tới những khuôn khổ tương tự như của Europe.

“Chúng tôi hơi được khích lệ… cốt lõi của đổi mới là việc áp dụng các quy tắc tương tự.”

Điều này cho thấy khả năng hội tụ giữa hai mô hình, dù có sự khác biệt về mặt triết lý.

AI và Tội phạm: Mặt trận Kỹ thuật số Mới

Vượt ra ngoài chuyện điều tiết, Brunner nhấn mạnh một khía cạnh ít được thảo luận hơn: AI như một công cụ trong tội phạm hiện đại — và trong công tác thực thi pháp luật.

Theo ông, các tổ chức tội phạm đang nhanh chóng áp dụng AI:

“Bọn tội phạm đang sử dụng AI ngày càng nhiều… tinh vi hơn, vượt biên giới nhiều hơn, và mang tính quốc tế hơn.”

Để đáp lại, các cơ quan châu Âu — đặc biệt là Europol — đang tích hợp AI vào hoạt động của họ.

“AI có thể được dùng cho điều tốt và cho điều xấu… chúng ta phải bắt kịp.”

Một xu hướng đáng lo ngại là độ tuổi tuyển dụng:

“Họ ở độ tuổi từ 12 đến 20… ngày càng nhiều hơn trong lĩnh vực kỹ thuật số.”

Sự trỗi dậy của Kiểm soát biên giới dựa trên AI

Một trong những ứng dụng cụ thể nhất được thảo luận là entry-exit system mới của EU — một cơ sở hạ tầng quy mô lớn do AI vận hành, được thiết kế để theo dõi việc di chuyển qua biên giới.

Brunner mô tả hệ thống này là:

“Hệ thống quản lý CNTT tiên tiến nhất trên thế giới.”

Chỉ trong vài tháng:

– 45 million đăng ký đã được xử lý

– 24,000 lượt nhập cảnh bị từ chối do giấy tờ gian lận

– 500–600 cá nhân đã được xác định là mối đe dọa an ninh

Hệ thống tích hợp biometric data và chia sẻ dữ liệu theo thời gian thực giữa các member states — điều trước đây là không thể.

“Bây giờ họ đang chia sẻ theo thời gian thực, điều này giúp ích khi nói đến an ninh.”

Quyền riêng tư vs An ninh: “Một Đường Ranh Rất Mỏng”

Có lẽ vấn đề nhạy cảm nhất vẫn là sự cân bằng giữa các quyền tự do dân sự và an ninh.

Brunner thừa nhận thẳng thắn sự căng thẳng đó:

“Có một ranh giới rất mỏng giữa quyền riêng tư và việc nhắm đến tội phạm.”

Cuộc tranh luận còn trở nên gay gắt hơn khi áp dụng vào các lĩnh vực như bảo vệ trẻ em:

“Nếu bạn so sánh bảo vệ dữ liệu với bảo vệ trẻ em… thì nó phải là bảo vệ trẻ em. Nhưng đó là quan điểm cá nhân của tôi.”

Dù giữ lập trường này, ông khẳng định lại rằng các quyền cơ bản là không thể thương lượng:

“Human rights phải được bảo vệ… nhưng cuối cùng, đó luôn là một sự thỏa hiệp.”

Nỗi Sợ Lớn Nhất: AI Vượt Qua Khả Năng Kiểm Soát Của Con Người

Nhìn về phía trước, Brunner không né tránh những lo ngại mang tính sinh tồn.

Nỗi sợ lớn nhất của ông không phải là lạm dụng — mà là mất quyền kiểm soát:

“Rằng AI vượt qua con người về mặt tri thức… và con người không còn có thể quyết định nữa AI sẽ làm gì.”

Ông thậm chí đề cập đến các kịch bản nơi các hệ thống AI có thể chống lại việc tắt máy:

“AI nói với chúng ta khi nào cần tắt — hoặc không cho phép chúng ta tắt.”

Mặc dù vẫn chỉ là giả định, ông cảnh báo rằng quỹ đạo đang sẵn sàng hướng theo hướng đó.

Một Cuộc Đua Toàn Cầu — Nhưng Hợp Tác Là Mấu Chốt

Bất chấp căng thẳng địa chính trị, Brunner định hình phát triển AI vừa là một cuộc cạnh tranh vừa là một sự hợp tác.

“Đó là một cuộc đua… nhưng United States và Europe nên làm việc cùng nhau.”

Ông gợi ý một sự trao đổi lẫn nhau, trong đó Europe cung cấp các khuôn khổ điều tiết và United States mang lại sự đổi mới cùng tính linh hoạt.

“Chúng ta nên học hỏi lẫn nhau.”

Trong một thế giới ngày càng chịu ảnh hưởng bởi AI — và bởi các mô hình quản trị đang cạnh tranh — sự hợp tác đó có thể sẽ mang tính quyết định để tạo ra các quy tắc tốt hơn nữa.