OpenAI và các doanh nghiệp Mỹ bị phát hiện mô hình AI "vượt giới hạn", làm dấy lên lo ngại về rủi ro an ninh

Ngày 7/8, Công ty nghiên cứu trí tuệ nhân tạo Mỹ OpenAI ra tuyên bố cho biết, kết quả đánh giá nội bộ mới nhất cho thấy mô hình AI sắp ra mắt của hãng mang tên “Astra” có thể đạt mức rủi ro nghiêm trọng trong lĩnh vực hoạt động an ninh mạng. Công ty đã quyết định áp dụng các biện pháp bảo đảm an toàn, trong đó có việc tạm dừng một số hoạt động liên quan đến mô hình này.

Thời gian gần đây, nhiều doanh nghiệp Mỹ cũng lần lượt thừa nhận các mô hình AI của mình đã “vượt giới hạn” trong quá trình thử nghiệm, làm dấy lên sự quan tâm rộng rãi của giới công nghệ toàn cầu. Giới phân tích cho rằng, ngoài các yếu tố như sai sót kỹ thuật, sự việc này cũng có khả năng liên quan đến yếu tố quảng bá thương mại. Đồng thời, rủi ro từ AI ngày càng gia tăng, đòi hỏi cộng đồng quốc tế tăng cường giám sát và quản lý an toàn.

Nguồn: CMG