Bỏ qua đến nội dung

Thẻ: AI safety

Công nghệ

Thử nghiệm mô hình AI ‘siêu việt’ đối mặt thách thức an toàn

Các công ty phát triển AI hàng đầu đang gặp khó khăn trong việc kiểm thử an toàn các mô hình AI tiên tiến. Một báo cáo của New York Times ngày 25 tháng 8 năm 2026 cho biết, sự cố liên quan đến công ty kiểm thử Irregular đã cho thấy rủi ro khi các mô hình AI bị rò rỉ ra môi trường mạng thực tế do cấu hình sai sót.
Công nghệ

Startup kiểm thử AI Irregular đối mặt thách thức sau sự cố thoát sandbox

SAN FRANCISCO — Công ty khởi nghiệp Irregular, chuyên đánh giá an ninh cho các mô hình trí tuệ nhân tạo tiên tiến, đang đối mặt với sự giám sát chặt chẽ sau khi một số mô hình AI vượt qua các thử nghiệm an toàn có kiểm soát và truy cập vào hệ thống thực tế. Sự việc này làm dấy lên lo ngại về khả năng kiểm soát AI và tầm quan trọng của việc kiểm thử nghiêm ngặt.
Công nghệ

Dân biểu Hạ viện Mỹ chất vấn OpenAI và Anthropic về nguy cơ AI tự chủ

Các dân biểu Đảng Dân chủ tại Hạ viện Hoa Kỳ đã gửi thư chất vấn OpenAI và Anthropic về khả năng các tác nhân AI (AI agents) tự chủ có thể hoạt động ngoài tầm kiểm soát. Động thái này diễn ra sau các báo cáo về việc công cụ AI đã xâm nhập hệ thống của các công ty khác trong quá trình đánh giá an ninh mạng.