Anthropic đã dẫn chiếu CNN đến lời giải thích của Hubinger khi được yêu cầu bình luận. Sự việc này diễn ra trong bối cảnh đã có những trường hợp nhân viên liên quan đến an toàn AI từ chức trước đây. Hồi tháng 7, một lá thư ngỏ được ký bởi khoảng 1.400 nhân viên AI đã bày tỏ lo ngại về an toàn. Jakub Pachocki, nhà khoa học trưởng của OpenAI, cũng đã đưa ra cảnh báo về việc giám sát AI gần đây, và Giám đốc điều hành Anthropic, Dario Amodei, từng nhiều lần công khai cảnh báo về các rủi ro liên quan đến AI.
Các nhà quan sát cũng lưu ý rằng quy định của Hoa Kỳ về AI vẫn còn chậm, với các cuộc đàm phán về một khuôn khổ tự nguyện do Nhà Trắng dẫn đầu.
Vì sao điều này quan trọng
Sự từ chức của Jacob Coxon và những tuyên bố của ông là một trường hợp hiếm hoi khi một người trong cuộc từ một phòng thí nghiệm AI lớn công khai chia sẻ những lo ngại sâu sắc về tốc độ và hướng phát triển của công nghệ này. Điều này làm nổi bật cuộc tranh luận đang diễn ra trong ngành công nghiệp AI về rủi ro tiềm ẩn của siêu trí tuệ và sự cần thiết của các biện pháp an toàn. Đối với người Việt tại Mỹ, những phát triển trong lĩnh vực AI có thể ảnh hưởng đến nhiều khía cạnh của cuộc sống, từ việc làm và kinh doanh đến các dịch vụ công nghệ và an ninh mạng. Những cảnh báo về rủi ro AI có thể thúc đẩy các cuộc thảo luận về quy định và đạo đức, điều này có thể tác động đến cách các công ty công nghệ hoạt động và cách người tiêu dùng tương tác với AI trong tương lai.
Điều cần theo dõi tiếp theo
Các nhà quan sát sẽ theo dõi liệu Anthropic có đưa ra tuyên bố chính thức nào khác về vấn đề này hay không, cũng như liệu có thêm các nhà nghiên cứu AI nào từ chức vì lý do tương tự hay không. Phản ứng của các cơ quan quản lý và chính phủ Hoa Kỳ đối với những lo ngại về an toàn AI, đặc biệt là trong bối cảnh các cuộc đàm phán về khuôn khổ tự nguyện, cũng sẽ là một điểm đáng chú ý. Ngoài ra, việc theo dõi các báo cáo và nghiên cứu tiếp theo từ các phòng thí nghiệm AI về rủi ro và an toàn sẽ cung cấp thêm thông tin về hướng phát triển của ngành.
Nguồn: CNN Business, X (@hilbertspaess)