Ông Biden muốn cấm AI giả giọng nói sau khi trở thành nạn nhân

Trong bài phát biểu Thông điệp Liên bang ngày 7/3 (sáng 8/3 giờ Hà Nội), ông Joe Biden kêu gọi các nhà lập pháp “khai thác những lời hứa về AI và bảo vệ mọi người khỏi những nguy hiểm của nó”. Người đứng đầu Nhà Trắng cũng kêu gọi cảnh báo về những rủi ro của công nghệ trí tuệ nhân tạo đối với người Mỹ nếu chúng không được kiểm soát.

Thông báo của ông Biden được đưa ra sau khi một bản ghi âm giả giọng ông kêu gọi người dân “không tham gia bầu cử sơ bộ của đảng Dân chủ ở New Hampshire” được phát tán trên mạng xã hội hồi tháng 1. Pindrop Security, công ty chuyên phát hiện lừa đảo qua giọng nói, sau đó đã phân tích bản ghi và kết luận đây thực chất là deepfake sử dụng công nghệ của ElevenLabs – startup phát triển phần mềm AI tạo lập giọng nói bằng hơn 20 ngôn ngữ.

Theo Fortune, bản ghi âm giả giọng ông Biden khiến nhiều chuyên gia và quan chức phụ trách bầu cử Mỹ lo ngại, gọi đây là “nỗi lực can thiệp bầu cử được hỗ trợ bởi AI”. Một số đánh giá nó không chỉ cho thấy việc phát tán deepfake âm thanh rất dễ dàng, mà còn thể hiện nguy cơ kẻ xấu dùng công nghệ này để ngăn cử tri đi bỏ phiếu và tác động đến kết quả bầu cử. Phát ngôn viên Văn phòng Chưởng lý New Hampshire nói thông điệp “dường như là nỗ lực trái phép nhằm làm gián đoạn cuộc bầu cử sơ bộ và gây khó cho cử tri”.

Dù vậy, theo CNN, các nhà lập pháp Mỹ hiện phải vật lộn trong việc đẩy nhanh tiến trình xây dựng một đạo luật liên quan đến trí tuệ nhân tạo. Trước đó, các ý kiến chỉ mang tính cá nhân, gồm việc lãnh đạo Thượng viện Mỹ Chuck Schumer đang nỗ lực đưa vấn đề AI lên hàng đầu trong chương trình nghị sự của Quốc hội Mỹ.

Siwei Lyu, giáo sư chuyên về deepfake và phân tích dữ liệu kỹ thuật số tại Đại học Buffalo, cảnh báo tình trạng lan truyền nội dung âm thanh, hình ảnh và video deepfake sẽ còn lặp lại trong cuộc bầu cử Tổng thống Mỹ. “Đây là vấn đề mà mọi người cần biết”, ông nói.

Theo Số hoá.