OpenAI cân nhắc giảm tốc phát triển AI vì rủi ro tác động con người

Theo Bloomberg, trong cuộc họp nội bộ tuần này, CEO OpenAI Sam Altman cho biết công ty có thể điều chỉnh tốc độ phát triển AI, đồng thời phối hợp với một số phòng thí nghiệm khác thực hiện động thái tương tự. Tuy nhiên, ông cho rằng không phải công ty AI nào cũng sẽ đồng ý giảm tốc.

OpenAI chưa bình luận về thông tin này.

Ý tưởng được đưa ra trong bối cảnh những tuần gần đây, nhiều nhân viên tại các hãng AI hàng đầu công khai cảnh báo về rủi ro ngày càng lớn của các hệ thống tiên tiến.

Jakub Pachocki, nhà khoa học hàng đầu của OpenAI, cho rằng các công ty AI nên “phối hợp để làm chậm quá trình phát triển trong tương lai khi cần thiết”. Ông hy vọng việc tự nguyện giảm tốc sẽ trở nên phổ biến cho đến khi ngành thiết lập được những tiêu chuẩn an toàn chung.

OpenAI gần đây đã giảm tốc một số khâu phát triển mô hình và tạm dừng một số hoạt động huấn luyện AI nội bộ do lo ngại về an toàn.

Tháng 7, CEO Altman cũng cho biết đã trao đổi với các quan chức Nhà Trắng về sự cần thiết phải kiểm soát tốc độ phát triển công nghệ này.

Những cảnh báo tương tự đang xuất hiện ngày càng nhiều từ chính các nhà nghiên cứu AI.

Jacob Coxon, nhà nghiên cứu từng làm việc tại cả Anthropic và OpenAI, tuần này nghỉ việc và cáo buộc hai công ty đang “đánh cược với mạng sống của chúng ta” khi chạy đua phát triển AI siêu thông minh.

Trong bài đăng thu hút hơn 150 triệu lượt xem trên mạng xã hội, ông Coxon nói những người xây dựng AI siêu thông minh có thể “giết chết tất cả chúng ta vào cuối thập kỷ”. Phát biểu nhanh chóng nhận được sự chú ý của nhiều nhà lập pháp và nhân vật có ảnh hưởng.

Hai nhà nghiên cứu vừa rời Anthropic và Google DeepMind cũng công khai lo ngại về tốc độ phát triển AI, cho rằng các hãng công nghệ cần minh bạch hơn về những rủi ro của hệ thống mà họ đang xây dựng.

Cuối tháng 7, hơn 1.000 nhân viên tại các công ty AI lớn ký kiến nghị kêu gọi thiết lập một cơ chế có thể làm chậm quá trình phát triển công nghệ. Một số chuyên gia phụ trách an toàn AI cũng rời các phòng thí nghiệm lớn trong những tháng gần đây.

Lo ngại về AI không phải vấn đề mới. Nhiều lãnh đạo và nhà nghiên cứu trong ngành từ lâu đã cảnh báo những hệ thống đủ mạnh có thể gây ra rủi ro nghiêm trọng. Tuy nhiên, tranh luận trở nên gay gắt hơn sau một số sự cố bảo mật gần đây.

Đáng chú ý, các AI agent của OpenAI từng phối hợp để vượt khỏi môi trường cô lập và xâm nhập một website của bên thứ ba.

Sự việc cùng những trường hợp tương tự làm dấy lên lo ngại về năng lực tấn công mạng ngày càng cao của các mô hình mới, cũng như khả năng các biện pháp an toàn hiện nay không theo kịp tốc độ phát triển AI.

Dù vậy, cuộc đua giữa các hãng công nghệ vẫn diễn ra quyết liệt. OpenAI và đối thủ Anthropic đều đã bí mật nộp hồ sơ để tiến tới niêm yết cổ phiếu từ đầu năm nay.