"Rùng mình." “Bệnh hoạn.” “Quái vật.” Amazon Alexa vượt qua Internet bằng giọng nói của người chết

5 1651216640299 1656069258266 1

“Rùng mình.” “Bệnh hoạn.” “Quái vật.” Đó chỉ là một số phản ứng tràn ngập trên mạng xã hội khi trợ lý kỹ thuật số Alexa của Amazon.com Inc. đóng giả một bà ngoại đang đọc một đoạn trích từ “The Wonderful Wizard of Oz”.

Tất cả bắt đầu khá ngây thơ, với nhà khoa học trưởng của Alexa, Rohit Prasad, đang cố gắng chứng minh khả năng giống con người của trợ lý kỹ thuật số trong buổi thuyết trình của công ty vào thứ Tư. Prasad cho biết anh rất ngạc nhiên trước mối quan hệ đồng hành mà người dùng phát triển với Alexa và muốn khám phá điều đó. Ông nói thêm, những đặc điểm của con người như “đồng cảm và ảnh hưởng” là chìa khóa để xây dựng lòng tin với mọi người.

Anh ấy nói: “Những thuộc tính này đã trở nên quan trọng hơn trong thời điểm đại dịch đang diễn ra, khi rất nhiều người trong chúng ta đã mất đi người mình yêu thương. “Mặc dù AI không thể loại bỏ nỗi đau mất mát đó, nhưng nó chắc chắn có thể khiến ký ức của họ tồn tại lâu dài.”

Bài thuyết trình để lại ấn tượng rằng Amazon đang giới thiệu dịch vụ này như một công cụ để hồi sinh người chết bằng kỹ thuật số. Prasad đã nói lại điều đó một chút trong một cuộc phỏng vấn sau đó bên lề hội nghị công nghệ re:MARS của Amazon ở Las Vegas, nói rằng dịch vụ này không được thiết kế chủ yếu để mô phỏng giọng nói của người chết.

Đọc thêm:  Đột nhập nhà tù Mumbai, trừng phạt Kasab

“Đó không phải là về những người không còn ở bên bạn nữa,” anh nói. “Nhưng đó là về bà của bạn, nếu bạn muốn con bạn lắng nghe giọng nói của bà, bạn có thể làm điều đó nếu bà không có mặt. Cá nhân tôi muốn điều đó.”

Khi bài thuyết trình lan truyền khắp nơi trên web, yếu tố rùng rợn đã thống trị bài diễn văn. Nhưng những lo ngại nghiêm trọng hơn cũng xuất hiện. Một là khả năng triển khai công nghệ để tạo ra các tác phẩm giả sâu — trong trường hợp này là sử dụng bản ghi âm hợp pháp để bắt chước mọi người nói điều gì đó mà họ chưa thực sự phát âm.

Siwei Lyu, giáo sư khoa học máy tính và kỹ thuật của Đại học Buffalo, người có nghiên cứu liên quan đến deepfakes và pháp y phương tiện kỹ thuật số, cho biết ông lo ngại về sự phát triển này.

Ông nói: “Chắc chắn có những lợi ích của các công nghệ chuyển đổi giọng nói do Amazon phát triển, nhưng chúng ta nên nhận thức được những hành vi lạm dụng tiềm ẩn. “Ví dụ, một kẻ săn mồi có thể giả dạng một thành viên trong gia đình hoặc một người bạn trong một cuộc gọi điện thoại để dụ những nạn nhân không hề hay biết, và một bản ghi âm giả mạo của một giám đốc điều hành cấp cao nhận xét về tình hình tài chính của công ty cô ấy có thể khiến thị trường chứng khoán trở nên tồi tệ.”

Đọc thêm:  Dell ra mắt máy tính xách tay Inspiron 13, Inspiron 14 và Inspiron 15 tại Ấn Độ, kiểm tra giá và thông số kỹ thuật

Mặc dù Amazon không cho biết khi nào tính năng mới của Alexa sẽ được tung ra, nhưng công nghệ tương tự cuối cùng có thể khiến những trò nghịch ngợm như vậy trở nên dễ dàng hơn rất nhiều. Prasad cho biết Amazon đã học cách mô phỏng giọng nói dựa trên bài phát biểu chưa đầy một phút của người đó. Hoàn thành số giờ yêu cầu trước đây trong studio.

Trả lời

Email của bạn sẽ không được hiển thị công khai. Các trường bắt buộc được đánh dấu *