Các nhà nghiên cứu cảnh báo Quốc hội về mối đe dọa khẩn cấp của các trò lừa đảo sâu và lừa đảo kỹ thuật số khác

Chủ tịch Jan Schakowsky, D-Ill., Được nhìn thấy trong phiên điều trần của Tiểu ban Thương mại và Năng lượng về Bảo vệ Người tiêu dùng và Thương mại tại Tòa nhà Rayburn với tiêu đề "Lái xe ngược lại: Sự quay trở lại của Cơ quan Quản lý về Kinh tế Nhiên liệu và Tiêu chuẩn Xe sạch", vào thứ Năm, 20 tháng 6, 2019.Tom Williams | Điểm danh CQ | Các nhà lập pháp ngày càng lo ngại về sự tàn phá tiềm tàng mà các phương tiện truyền thông thao túng như "deepfakes" có thể gây ra cho xã hội Mỹ. Tuy nhiên, các bước mà họ sẵn sàng thực hiện để giải quyết vấn đề vẫn chưa rõ ràng. Với cuộc bầu cử tổng thống sắp diễn ra vào cuối năm nay, các nhà nghiên cứu đã đưa ra báo động về sự cấp bách của việc giải quyết các vụ lừa đảo kỹ thuật số và các hình thức lừa đảo kỹ thuật số khác. Vào hôm thứ Tư, một hội đồng của Hạ viện đã nghe các chuyên gia kỹ thuật số và đại diện của Facebook làm chứng về những chiến lược mà các công ty công nghệ đang sử dụng để chống lại deepfakes và những gì cần làm ở cấp liên bang. Các chuyên gia cảnh báo Tiểu ban Bảo vệ người tiêu dùng và Thương mại của xã hội và an ninh quốc gia. Các tác động của phương tiện truyền thông kỹ thuật số bị thao túng, chẳng hạn như khả năng giả mạo nhận xét của một chính trị gia hoặc thúc đẩy các nhóm đối lập đến các sự kiện trong thế giới thực có thể khiến họ rơi vào xung đột chặt chẽ. Các chuyên gia và nhà lập pháp không đồng ý về mức độ can thiệp cần thiết từ Quốc hội để đảm bảo Trong phát biểu khai mạc của mình, Chủ tịch Jan Schakowsky, D-Ill., đã than thở cách tiếp cận "giấy thông hành" của Quốc hội trong thập kỷ qua đối với việc kiểm duyệt nền tảng kỹ thuật số. "Kết quả là Big Tech đã thất bại trong việc phản ứng với các mối đe dọa lớn do deepfakes gây ra ... bằng chứng là Facebook đang cố gắng công bố một chính sách mới khiến tôi hoàn toàn không thích đầy đủ ", Schakowsky nói, đề cập đến chính sách Facebook ban hành một ngày trước đó cấm các video có tính thao túng cao được tạo ra bởi trí tuệ nhân tạo hoặc máy học .chakowsky lưu ý chính sách mới sẽ không bao gồm video có nội dung của Chủ tịch Hạ viện Nancy Pelosi được lưu hành trên Facebook và các nền tảng khác. . Video chỉ đơn giản được làm chậm lại để làm cho bài phát biểu của Pelosi có vẻ bị lấp lửng và Facebook cho biết họ sẽ không xóa video sau khi nó được xem hàng triệu lần.VIDEO12: 1112: 11 Làm một video deepfake dễ dàng như thế nào? TechAt tại buổi điều trần, Monika Bickert , Phó chủ tịch quản lý chính sách toàn cầu của Facebook, xác nhận video Pelosi bị thay đổi sẽ không phải tuân theo chính sách deepfake mới nhưng cho biết nó vẫn sẽ phải tuân theo các chính sách thông tin sai lệch hiện có. Facebook trước đó cho biết họ đã giới hạn việc phân phối video Pelosi trên News Feed và bổ sung thêm bối cảnh sau khi một đối tác kiểm tra thực tế đánh giá video là sai. Một số đảng viên Đảng Cộng hòa, bao gồm cả thành viên xếp hạng Cathy McMorris Rodgers của Washington, kêu gọi thận trọng đối với luật pháp, cảnh báo của McMorris Rodgers nói: “Khi chúng ta thảo luận về các cách chống thao túng trực tuyến, chúng ta phải đảm bảo rằng Mỹ sẽ vẫn là nước dẫn đầu toàn cầu về phát triển AI”. “Không có nơi nào tốt hơn trên thế giới để nâng cao mức sống của mọi người và đảm bảo công nghệ này được sử dụng một cách có trách nhiệm.” Justin (Gus) Hurwitz, phó giáo sư luật tại Đại học Nebraska, đã có cách tiếp cận thận trọng đối với các quy định trong lời khai của mình hôm thứ Tư. . Đối với các mẫu tối - là những lựa chọn thiết kế nhất định có thể ảnh hưởng đến hành vi của người dùng, chẳng hạn như làm cho một nút lớn và nhiều màu sắc và một nút khác nhỏ và buồn tẻ - Hurwitz cho biết trong lời khai bằng văn bản của mình, "chúng tôi cần phải cẩn thận trong cách chúng tôi điều chỉnh các hoạt động này, bao gồm việc hiểu rõ khi nào và liệu chúng tôi có nên làm hay không. Trong một số trường hợp, các nỗ lực quản lý có thể được tập trung tốt hơn vào các lĩnh vực khác; trong một số trường hợp, việc cho phép công nghệ và thị trường cơ bản tiếp tục cải thiện trước Hurwitz viết: Nếu quy định được nhận thấy là cần thiết; và trong các trường hợp khác, can thiệp quy định vẫn có lợi có thể đơn giản là không thể thực hiện được. "Nếu quy định được thấy là cần thiết, Hurwitz viết, nó nên nhắm mục tiêu" thực tiễn thiết kế cụ thể "hoặc trao quyền cho một cơ quan như Ủy ban Thương mại Liên bang xác định các thực hành mà họ cho rằng vi phạm Đạo luật FTC. Thay vì chuyển sang lập pháp luật ngay lập tức, Hurwitz đề nghị cho phép FTC sử dụng quyền quản lý quy tắc của mình để điều chỉnh các mô hình đen tối, và yêu cầu cơ quan này thông báo cho Quốc hội nếu cần can thiệp thêm. Tuy nhiên, hai chuyên gia khác trong hội đồng kêu gọi Quốc hội tích cực hơn. Kiềm chế thao túng kỹ thuật số.Joan Donovan, giám đốc nghiên cứu của dự án công nghệ và thay đổi xã hội tại Trung tâm Shorenstein thuộc Trường Harvard Kennedy, cho biết điều quan trọng là đảm bảo FTC có quyền truy cập vào tất cả thông tin cần thiết để điều tra và kiểm toán hiệu quả các công ty công nghệ và Tristan Harris, giám đốc điều hành của Trung tâm Nhân đạo, cho biết FTC sẽ có thể "đánh giá những tổn thương đáng kể" trong các cuộc điều tra, nhưng một mình FTC có thể không đủ năng lực để giải quyết các vấn đề và quy mô "cấp số nhân" của ngành công nghệ. Công nghệ và cựu nhà đạo đức thiết kế của Google. "Đây là lý do tại sao tôi đang suy nghĩ về cách chúng tôi có thể có bản cập nhật kỹ thuật số cho từng đại lý khác nhau của chúng tôi, những người đã có quyền tài phán đối với ... sức khỏe cộng đồng hoặc trẻ em hoặc lừa đảo hoặc lừa dối, và chỉ cần họ đặt câu hỏi sau đó buộc các công ty công nghệ phải sử dụng nguồn lực của họ để tính toán, báo cáo lại, đặt mục tiêu cho những gì họ sẽ làm làm trong quý tới, "Harris nói. Ông cũng cảnh báo rằng việc tập trung hóa quyền lực này trong một cơ quan liên bang mới sẽ mất quá nhiều thời gian khi những vấn đề này tăng tốc.Harris cũng đề xuất tạo một chiến dịch nâng cao nhận thức để "truyền bá công chúng" chống lại sự lừa dối và thông tin sai lệch, lưu ý rằng chính phủ đã phát hành một bộ phim tuyên truyền vào những năm 1940 cảnh báo chống lại chủ nghĩa phát xít, mặc dù nghiên cứu đã đặt câu hỏi về tính hiệu quả của bộ phim cụ thể đó. Harris thậm chí còn gợi ý rằng các công ty công nghệ giúp phân phối một chiến dịch như vậy.Hurwitz cho biết chiến dịch này "có nguy cơ bị gọi là một mô hình đen tối nếu các nền tảng bắt đầu gắn nhãn nội dung nhất định theo những cách nhất định". Như Schackowsky đã lưu ý trong phần phát biểu mở đầu của mình, câu hỏi của Mục 230, một dự luật bảo vệ công nghệ khỏi trách nhiệm pháp lý đối với nội dung của người dùng, đã được tiến hành trong phiên điều trần. Bickert, đại diện Facebook, nhấn mạnh rằng luật cũng cho phép công ty xóa nội dung có hại khi thấy phù hợp. Greg Walden, R-Ore., Người cũng đã khuyên Quốc hội xem lại Mục 230, nói, "Phiên điều trần này sẽ đóng vai trò như một lời nhắc nhở đối với tất cả các nền tảng trực tuyến rằng chúng tôi đang theo dõi chúng chặt chẽ." Theo dõi CNBC trên YouTube. XEM: Sự nổi lên của Deepfakes và những gì Facebook, Twitter và Google đang làm để phát hiện chúngVIDEO12: 5612: 56 Sự gia tăng của deepfakes và cách Facebook, Twitter và Google làm việc để ngăn chặn chúng