Quản trị AI: Gore và Topol tại HUMANX

AI Governance tại HUMANX: Gore và Topol về khí hậu, y tế và dân chủ

Tóm tắt mini: Tại HUMANX ở San Francisco, Al Gore và Eric Topol lập luận rằng vấn đề cốt lõi không chỉ là những gì trí tuệ nhân tạo có thể làm, mà là xã hội lựa chọn điều gì để mở rộng. Cuộc thảo luận của họ liên kết quản trị AI với tác động khí hậu, chăm sóc y tế, sự gián đoạn lao động và sức bền dân chủ.

Tại HUMANX ở San Francisco, phiên thảo luận có tiêu đề What We Choose to Hyper-Scale đã đưa tranh luận về AI ra khỏi việc chỉ tập trung vào năng lực kỹ thuật, hướng tới trách nhiệm xã hội. Thông điệp trung tâm từ Al Gore và Eric Topol là rõ ràng: trí tuệ nhân tạo nên được đánh giá không chỉ dựa vào tốc độ nó tiến lên, mà còn dựa vào việc sự phát triển đó có hỗ trợ tính bền vững, sức khỏe cộng đồng và sức bền dân chủ hay không. Theo nghĩa đó, quản trị AI trở thành chủ đề trọng tâm của cuộc thảo luận.

Phiên thảo luận đã quy tụ những tranh cãi thường được bàn riêng rẽ. AI được trình bày như một lực lượng đang chuyển động nhanh và vẫn còn trong giai đoạn hình thành. Nó có thể làm tăng phát thải trong ngắn hạn, cải thiện kết quả sức khỏe trong 20 năm tới, định hình lại thị trường lao động và làm căng thẳng diễn ngôn công chúng nếu quản trị không theo kịp.

Quản trị AI đang định hình giai đoạn tiếp theo của AI

Một trong những chủ đề mạnh nhất từ phiên thảo luận là việc dừng phát triển AI không được xem là hiện thực. Thay vào đó, các diễn giả lập luận cho đổi mới có chủ ý hơn và sự sẵn sàng “nhắm cao hơn”. Vì vậy, câu hỏi chính sách và đầu tư thực sự là xã hội quyết định mở rộng theo kiểu hyper-scale như thế nào: các hệ thống làm gia tăng áp lực môi trường và xã hội, hay những ứng dụng hỗ trợ mục tiêu khí hậu, chất lượng y tế và niềm tin công chúng.

Cuộc tranh luận cũng phản ánh mối lo ngại ngày càng tăng rằng AI tiên phong không hành xử giống một chu kỳ phần mềm thông thường. Nó được mô tả như một hiện tượng đang nổi lên và, ở một số khía cạnh, “gần như có ý thức”, với các hành vi có khả năng tự bảo vệ. Dù cách diễn đạt đó có tính kích thích, điểm rộng hơn lại mang tính thực tiễn. Những hệ thống có tính tự chủ và ảnh hưởng ngày càng mở rộng cần sự giám sát mạnh hơn nhiều so với những gì thị trường đơn thuần có thể cung cấp.

Quản trị AI và thế lưỡng nan về khí hậu

Về khí hậu, Gore cho rằng AI có thể làm tăng phát thải trong ngắn hạn. Mối lo này đang trở nên liên quan hơn khi nhu cầu đối với trung tâm dữ liệu, chip, điện năng và hạ tầng làm mát tăng lên. Phiên thảo luận không cung cấp bằng chứng định lượng mới. Tuy nhiên, hàm ý thực tiễn là rõ ràng: sự mở rộng của AI không trung lập về mặt môi trường.

Đồng thời, Gore nói rằng một số ứng dụng AI có thể mang lại lợi ích ròng về khí hậu trong trung hạn. Lập luận không phải là AI vốn dĩ “xanh”. Đúng hơn, tác động của nó phụ thuộc vào cách nó được triển khai. Nếu được dùng để cải thiện hiệu suất, tối ưu hóa các hệ thống và hỗ trợ hạ tầng ít phát thải carbon hơn, AI có thể giúp bù đắp một phần dấu chân của chính nó theo thời gian.

Cuộc thảo luận cũng đặt AI trong một khuôn khổ bền vững rộng hơn, được định hình bởi Thỏa thuận Paris, được trích dẫn như một mốc tham chiếu toàn cầu chung. Điều này quan trọng vì nó định vị chính sách AI như một phần của quá trình chuyển đổi kinh tế rộng hơn, chứ không phải như một vấn đề công nghệ độc lập.

Vì sao nhà đầu tư đang theo dõi AI và tính bền vững cùng lúc

Generation Investment Management được dẫn ra cho quan điểm rằng đầu tư bền vững có thể tạo ra lợi nhuận cạnh tranh, thậm chí là vượt trội. Điểm này quan trọng vì nó thách thức ý tưởng rằng tính bền vững làm suy giảm hiệu suất, đặc biệt trong lúc chi tiêu cho hạ tầng AI đang tăng tốc.

Với nhà đầu tư, hàm ý là trực tiếp. AI và tính bền vững không nên bị coi là các chủ đề phân bổ vốn tách rời. Nếu AI đang trở thành hạ tầng nền tảng, thì cơ cấu năng lượng, mức độ thâm dụng tài nguyên và các lợi ích ở lớp dưới sẽ ảnh hưởng đến định giá dài hạn, rủi ro chính sách và tính chính đáng trước công chúng.

Phiên thảo luận cũng ghi nhận rằng các công ty công nghệ lớn, được mô tả là hyperscalers, đã và đang thúc đẩy đầu tư vào năng lượng tái tạo. Nhu cầu của họ đang giúp đẩy nhanh phát triển năng lượng mặt trời và pin. Kết quả là, chính những công ty đang mở rộng năng lực AI cũng đang tác động đến việc triển khai năng lượng sạch ở quy mô lớn.

Điều đó không loại bỏ mâu thuẫn giữa tăng trưởng AI và phát thải trong ngắn hạn. Tuy vậy, nó gợi ý rằng bảng cân đối khí hậu của AI sẽ phụ thuộc một phần vào việc đầu tư của hyperscaler có tiếp tục kéo các nguồn tái tạo đi nhanh đủ để bù đắp hay không.

Y tế là một trong những trường hợp mang lại lợi ích công cộng rõ ràng nhất cho AI

Topol trình bày y tế như một trong những lĩnh vực đầy hứa hẹn nhất đối với AI. Ông chỉ ra những khả năng cải thiện độ chính xác chẩn đoán, hiệu quả vận hành, phòng ngừa và mối quan hệ giữa bác sĩ và bệnh nhân. Đây là một trong những trường hợp vì lợi ích công cộng cụ thể nhất cho AI vì nó kết hợp áp lực hệ thống đo lường được với những nhu cầu chưa được đáp ứng rõ ràng.

Dự báo cụ thể nhất của ông liên quan đến thời điểm. Trong 20 năm tới, Topol nói, đóng góp quan trọng nhất của AI sẽ nằm ở phòng ngừa ban đầu. Điều này chuyển câu chuyện từ việc tự động hóa việc chăm sóc hiện có sang việc nhận diện rủi ro sớm hơn và can thiệp trước khi bệnh tiến triển.

Phiên thảo luận cũng đề cập đến các công cụ đang nổi lên có thể dự đoán không chỉ nguy cơ mắc bệnh mà còn cả thời điểm khởi phát bệnh có khả năng xảy ra. Nếu các hệ thống như vậy chứng minh được độ tin cậy và có giá trị về mặt lâm sàng, chúng có thể thay đổi chiến lược phòng ngừa, lập kế hoạch phân bổ nguồn lực và mức độ tham gia của bệnh nhân. Ngay cả khi không có chi tiết kỹ thuật về các mô hình nền tảng, hàm ý chiến lược vẫn mang tính đáng kể: AI y tế có thể tạo ra giá trị lớn nhất khi nó tiến lên phía trước, trước khi điều trị cấp tính trở nên cần thiết.

Đối với các hệ thống y tế và các chuyên gia, điều này có nghĩa là cuộc tranh luận về AI không nên bị rút gọn thành nỗi lo sợ về tự động hóa. Nó cũng liên quan đến phân luồng tốt hơn, can thiệp sớm hơn, cải thiện hiệu quả quy trình làm việc và có thêm thời gian cho tương tác của con người ở nơi nó quan trọng nhất.

Quản trị AI là bài kiểm tra then chốt cho các mô hình tiên tiến

Thông điệp của phiên thảo luận về quản trị là trực diện: các hệ thống AI mạnh mẽ hơn cần trách nhiệm giải trình trước công chúng cao hơn. Trong số những ý tưởng được nêu ra có “các hiến chương công” (public constitutions) cho các mô hình tiên tiến, cùng với minh bạch hơn và quản lý rủi ro tốt hơn.

Về mặt thực tiễn, các hiến chương công sẽ có nghĩa là các khuôn khổ quản trị áp đặt các nguyên tắc rõ ràng, ranh giới vì lợi ích công và các quy tắc không chỉ do các nhà phát triển tư nhân đặt ra. Phiên thảo luận không giải thích cách các hiến chương như vậy sẽ được soạn thảo hoặc thực thi. Dù vậy, khái niệm này phản ánh một sự thay đổi rộng hơn: AI tiên phong có thể cần các cơ chế quản trị gần giống với việc giám sát hạ tầng công cộng hơn là điều chỉnh sản phẩm thông thường.

Điểm này đặc biệt phù hợp vì các diễn giả đã liên kết rủi ro AI không chỉ với lỗi kỹ thuật, mà còn với áp lực mang tính thể chế. Trong bối cảnh đó, minh bạch không chỉ liên quan đến đầu ra của mô hình. Nó còn liên quan đến việc ai đặt ra các quy tắc, cách rủi ro được đánh giá và biện pháp khắc phục nào tồn tại khi những tổn hại lan rộng khắp thị trường lao động, hệ thống thông tin hoặc các quy trình dân chủ.

Gián đoạn lao động và căng thẳng dân chủ vẫn chưa có lời giải

Phiên thảo luận cảnh báo rằng xã hội chưa sẵn sàng cho tác động của AI đối với công việc. Mối lo này hiện đang trở thành vấn đề trung tâm của chính sách kinh tế vì sự gián đoạn thị trường lao động có thể đến không đồng đều, ảnh hưởng nhanh đến một số nghề trong khi để những nghề khác rơi vào trạng thái bất định kéo dài. Việc thiếu chuẩn bị xã hội được trình bày như một thất bại về quản trị, tương tự như một thách thức của thị trường.

Cuộc thảo luận cũng mở rộng sang nền dân chủ. Các diễn giả bày tỏ lo ngại về chất lượng của tranh luận công chúng và khả năng bị thao túng trong giao tiếp. Điều này phản ánh một vấn đề chính sách đang mở rộng xung quanh nội dung do AI tạo ra, sự thuyết phục ở quy mô lớn và sự xói mòn niềm tin trong các môi trường thông tin dùng chung.

Những lo ngại này không phải là thứ yếu. Nếu AI làm suy yếu niềm tin vào diễn ngôn công cộng, khả năng của các chính phủ và thể chế trong việc xây dựng đồng thuận về khí hậu, y tế và chuyển đổi kinh tế cũng có thể suy yếu, chỉ khi hành động phối hợp lại đang được cần đến nhất.

Một chương trình nghị sự đáng tin cậy hơn gắn kết đổi mới AI với mục đích công

Phiên thảo luận của HUMANX không tranh luận chống lại tiến bộ của AI. Thay vào đó, họ phản biện việc mở rộng theo hướng thiếu định hướng. Gore và Topol đã đưa ra một khuôn khổ trong đó giá trị của AI phụ thuộc vào việc đổi mới có được đi kèm với quản trị hay không, việc tăng trưởng hạ tầng có phù hợp với tính bền vững hay không và việc những lợi ích ban đầu mạnh nhất có được hướng tới y tế và phòng ngừa hay không.

Đối với người tham dự hội nghị, nhà đầu tư, chuyên gia y tế và các nhà hoạch định chính sách, thông điệp rút ra không phải là một bước đột phá đơn lẻ. Thay vào đó là sự liên kết chiến lược. AI không còn chỉ là câu chuyện công nghệ. Nó còn là câu chuyện phân bổ vốn, câu chuyện về sức khỏe cộng đồng, câu chuyện về lao động và câu chuyện về quản trị dân chủ.

Vấn đề chưa được giải quyết là nhiều trong số những khẳng định quan trọng nhất vẫn đi trước bằng chứng được trình bày trong cuộc thảo luận này. Phiên thảo luận không đưa ra dữ liệu phát thải chi tiết, không có bản thiết kế triển khai cho quản trị và cũng không giải thích kỹ thuật về các công cụ xác định thời điểm mắc bệnh mà Topol đã đề cập. Dù vậy, việc thiếu cụ thể đó không làm giảm mức độ quan trọng của chương trình nghị sự được nêu ra. Thay vào đó, nó làm rõ rằng sự giám sát nên chuyển sang đâu tiếp theo.

Tóm lại

Tại HUMANX, Al Gore và Eric Topol đã định hình AI như một lựa chọn xã hội và chính trị, không chỉ là một sự phát triển kỹ thuật. Cuộc thảo luận đã liên kết quản trị AI với bốn lĩnh vực lớn: khí hậu, y tế, lao động và dân chủ. Thông điệp cốt lõi rất đơn giản: AI sẽ được mở rộng, nhưng xã hội vẫn có những lựa chọn về việc điều gì nên được mở rộng cùng với nó.