Đầu tháng 9, các công ty này đã công bố “Yêu cầu bảo mật mô hình ngôn ngữ lớn cho chuỗi cung ứng” với Học viện công nghệ số thế giới trong một sự kiện bên lề tại Hội nghị ở Thượng Hải.

Tiêu chuẩn mới này bao gồm toàn bộ vòng đời của mô hình ngôn ngữ lớn (LLM), an toàn, tin cậy và trách nhiệm trí tuệ nhân tạo (AI) của Học viện công nghệ số thế giới. Nó tập trung vào việc đảm bảo tính an toàn, tin cậy và trách nhiệm của AI bằng cách giải quyết các rủi ro bảo mật tiềm ẩn như rò rỉ dữ liệu, giả mạo mô hình và các vấn đề tuân thủ của nhà cung cấp.

Được thành lập tại Geneva vào tháng 4/2023 theo khuôn khổ của Liên hợp quốc, sáng kiến này nhằm mục đích cung cấp các biện pháp toàn diện để quản lý rủi ro bảo mật trên toàn bộ chuỗi cung ứng, chẳng hạn như rò rỉ dữ liệu, giả mạo mô hình và nhà cung cấp không tuân thủ.

Tiêu chuẩn được xây dựng với sự tham gia của các chuyên gia từ các công ty công nghệ hàng đầu Trung Quốc và Mỹ, cùng với các tổ chức học thuật và công nghiệp uy tín, bao gồm Liên minh an ninh đám mây khu vực Trung Quốc mở rộng và Đại học Công nghệ Nanyang tại Singapore. Sự hợp tác quốc tế này nhấn mạnh tầm quan trọng của việc thiết lập các tiêu chuẩn toàn cầu cho việc sử dụng LLM một cách có trách nhiệm.

LLM đang được ứng dụng rộng rãi trong nhiều lĩnh vực, từ dịch vụ khách hàng đến tạo nội dung. Tuy nhiên, công nghệ này cũng có thể bị lạm dụng để tạo ra thông tin sai lệch, phát tán tin giả hoặc thực hiện các hành vi độc hại khác. Tiêu chuẩn mới này nhằm mục đích giảm thiểu những rủi ro này bằng cách cung cấp một khuôn khổ toàn diện để quản lý bảo mật LLM trên toàn bộ chuỗi cung ứng.