Hãng xếp hạng tín nhiệm toàn cầu Moody's cảnh báo trí tuệ nhân tạo (AI) sáng tạo và deepfake nằm trong số các vấn đề đe dọa tính chính xác và tin cậy của cuộc bầu cử Tổng thống Mỹ sắp tới.
Lo ngại lạm dụng AI trong tranh cử
Theo Moody's, cuộc bầu cử sắp tới tại Mỹ có thể sẽ chứng kiến sự cạnh tranh gắt gao, kéo theo đó là nguy cơ càng lớn xảy ra tình trạng lạm dụng AI tạo ra những nội dung deepfake (các nội dung làm giả chuyên sâu) để đánh lạc hướng cử tri, gây chia rẽ và gieo rắc bất đồng.
Nếu thành công, những kẻ đứng sau các thông tin sai lệch còn có thể thao túng cử tri, ảnh hưởng tới kết quả bầu cử, tác động tới các quyết định chính sách, từ đó ảnh hưởng tới uy tín của các thể chế chính phủ.
Cảnh báo của Moody's được đưa ra trong bối cảnh Chính phủ Mỹ cũng đã đẩy mạnh các nỗ lực để ngăn chặn tình trạng lạm dụng deepfake. Ngày 22-5, Chủ tịch Ủy ban truyền thông liên bang Mỹ (FCC) Jessica Rosenworcel, đã đề xuất một quy tắc mới, yêu cầu minh bạch thông tin về các nội dung chính trị có sử dụng sự sáng tạo của AI trên các kênh truyền hình, video và các kênh phát thanh.
Deepfake đã gây ra tình trạng bất ổn xã hội
Ngoài ra, việc tạo nội dung có sự can thiệp của AI hiện nay cũng đang trở nên dễ dàng hơn bao giờ hết.
Hồi tháng 5-2024, Moody's từng cảnh báo các nội dung deepfake đã được sử dụng trên thực tế để tuyên truyền và gây ra tình trạng bất ổn xã hội và thậm chí là khủng bố.
Theo Phó chủ tịch Moody's Ratings Abhi Srivastava, trước đây, để tạo ra nội dung deepfake thuyết phục cần phải có kiến thức về các thuật toán chuyên dụng, các thiết bị máy tính và thời gian.
Tuy nhiên, sự ra đời của các công cụ AI sáng tạo có giá phải chăng và dễ tiếp cận đã giúp việc tạo ra các nội dung giả mạo sát thực có thể được thực hiện trong vài phút.
Các công cụ dễ tiếp cận trong khi các biện pháp bảo vệ hiện có của mạng xã hội để ngăn chặn lan các nội dung giả mạo còn nhiều hạn chế cũng đã tạo ra những điều kiện thuận lợi cho việc lạm dụng rộng rãi deepfake.
Các đoạn âm thanh giả mạo giống người thật đã từng bị đưa vào các cuộc gọi tự động trong đợt bầu cử sơ bộ tổng thống Mỹ ở bang New Hampshire trong kỳ bầu cử này.
Phạm Huyền Phương