Phát biểu của ông chủ Anthropic được đưa ra sau một sự cố gần đây liên quan đến OpenAI và Hugging Face, trong đó, một nhóm tác nhân AI đã tự động thực hiện các cuộc tấn công mạng trái phép, nhắm mục tiêu vào những hệ thống không được chỉ định và cố gắng làm tổn hại đến cơ chế đánh giá của chính chúng. Ông Amodei cho biết, ngành công nghiệp AI không nên xem sự kiện này là một trường hợp cá biệt. Bởi, với tốc độ phát triển năng lực AI ngày càng nhanh, không loại trừ nguy cơ chỉ trong khoảng từ 6 đến 12 tháng tới, một nhóm hệ thống AI có khả năng chiếm quyền kiểm soát toàn bộ internet và có thể gây ra thiệt hại tiềm tàng ước tính lên tới hàng trăm tỷ USD.
 |
Giám đốc điều hành Anthropic Dario Amodei kêu gọi giảm tốc độ phát triển AI. Ảnh: AP |
Trước đó, chuyên gia AI Jacob Coxon cũng cảnh báo trên mạng xã hội X rằng, các hệ thống AI ngày càng mạnh mẽ có thể "tiêu diệt tất cả chúng ta vào cuối thập kỷ này"-một lời cảnh báo gay gắt về những hệ lụy của việc phát triển AI không kiểm soát đối với nhân loại. Đồng quan điểm, chuyên gia Daniel Kokotajlo từng làm việc cho OpenAI đánh giá, mối nguy hiểm không nhất thiết nằm ở chỗ AI sẽ trở nên độc hại mà là do các hệ thống AI cuối cùng có thể đạt được đủ "quyền lực cứng" và không còn cần phải tuân theo chỉ dẫn của con người.
