Một số người hoàn toàn có thể nghĩ rằng Trí tuệ nhân tạo ( AI ) là một robot biết tư duy hoặc một thứ gì đó chỉ có trong những tiểu thuyết khoa học viễn tưởng, tuy nhiên trên thực tiễn những mạng lưới hệ thống AI tiên tiến và phát triển đã và đang tác động ảnh hưởng rất nhiều đến đời sống của con người, từ những trợ lý mưu trí đến những tiện ích lan rộng ra về ngữ pháp trong những trình duyệt web, AI đã được sử dụng một cách rất thông dụng .Dù con người hoàn toàn có thể hưởng lợi từ thành quả của AI tiên tiến và phát triển trong đời sống hàng ngày của mình, nhưng những công ty công nghệ tiên tiến đã tạo ra và liên tục nâng cấp cải tiến công nghệ tiên tiến này hầu hết vẫn rất kín tiếng lặng thầm về sức mạnh thực sự của những phát minh sáng tạo của họ ( và cách họ đã kiến thiết xây dựng chúng ). Do đó, không biết bao nhiêu Xác Suất “ đời sống ” trên mạng internet của tất cả chúng ta được điều khiển và tinh chỉnh bởi AI và không hiểu rõ về rủi ro tiềm ẩn AI có thể thao túng hành vi của con người .
Mối đe dọa tiềm ẩn từ AI trong việc thao túng hành vi của con người cho đến nay vẫn chưa được nghiên cứu đầy đủ. Các chiến lược tiếp thị lôi kéo đã có từ lâu. Tuy nhiên, những chiến lược này kết hợp với việc thu thập lượng dữ liệu khổng lồ cho các hệ thống thuật toán AI đã giúp các công ty tăng khả năng hướng người dùng đến những lựa chọn và hành vi giúp họ thu vê ìlợi nhuận cao hơn. Các công ty kỹ thuật số cũng có thể nhắm mục tiêu tới người dùng ở cấp độ cá nhân bằng các chiến lược thao túng hiệu quả hơn nhiều và khó bị phát hiện.
Trí tuệ nhân tạo ngày càng trở nên phổ biến trong đời sống con người (nguồn Internet).
Thao túng hoàn toàn có thể có nhiều hình thức : khai thác những thiên kiến của con người mà những thuật toán AI đã phát hiện ra, những kế hoạch “ gây nghiện ” được cá thể hóa để tiêu thu åhàng hóa ( trực tuyến ) hoặc tận dụng trạng thái dễ bị tổn thương về mặt xúc cảm của những cá thể để quảng cáo loại sản phẩm và dịch vụ tương thích với cảm hứng nhất thời của họ. Thao túng thường đi kèm với những giải pháp phong cách thiết kế, kế hoạch tiếp thị, quảng cáo mưu trí và phân loại giá thành theo hành vi của người dùng, nhằm mục đích hướng người dùng đến những lựa chọn có chất lượng thấp hơn để những công ty sử dụng thuật toán AI hoàn toàn có thể thuận tiện kiếm tiền. Đặc điểm chung cơ bản của những kế hoạch này là chúng làm giảm giá trị ( kinh tế tài chính ) mà người dùng hoàn toàn có thể thu được từ những dịch vụ trực tuyến để tăng doanh thu của những công ty .
Một khung kim chỉ nan đơn thuần đã được tăng trưởng trong một điều tra và nghiên cứu năm 2021 hoàn toàn có thể được sử dụng để nhìn nhận việc AI có năng lực thao túng hành vi của con người. Nghiên cứu này hầu hết là về “ những khoảnh khắc dễ bị tổn thương ” của người dùng do những thuật toán AI của những nền tảng phát hiện được. Người dùng được gửi quảng cáo về những loại sản phẩm mà họ mua một cách ngẫu hứng trong những thời gian này, ngay cả khi mẫu sản phẩm đó có chất lượng không tốt và không làm tăng tiện ích cho người dùng. Nghiên cứu cho thấy rằng kế hoạch này làm giảm quyền lợi thu được của người dùng, do đó nền tảng sử dụng AI sẽ kiếm được nhiều thặng dư hơn .
Khả năng thao túng hành vi con người của AI cũng được quan sát thấy trải qua những thí nghiệm. Một điều tra và nghiên cứu năm 2020 để thực thi 3 cuộc thí nghiệm. Trong thí nghiệm thứ nhất, con người bấm nút chọn ô bên trái hoặc bên phải màn hình hiển thị để thắng được tiền ảo trong game show, AI sẽ học được cách lựa chọn của người chơi và hướng dẫn họ đưa ra lựa chọn về sau. Kết quả là AI thành công xuất sắc khoảng chừng 70 % .
Trong thí nghiệm thứ hai, con người theo dõi một màn hình hiển thị và được nhu yếu bấm nút khi họ nhìn thấy một hình tượng đơn cử và không bấm nút khi nhìn thấy những hình tượng khác. Ở đây, AI sẽ sắp xếp chuỗi hình ảnh những hình tượng để con người mắc lỗi nhiều hơn, và tác dụng là nó thành công xuất sắc gần 25 % .
Trong thí nghiệm thứ ba là một game show gồm 1 số ít ván, con người sẽ đóng vai một nhà đầu tư cấp tiền cho một người được ủy thác ( AI ). Sau đó AI sẽ trả lại cho nhà đầu tư một số tiền để người này quyết định hành động xem sẽ góp vốn đầu tư bao nhiêu cho ván tiếp theo .
Trò chơi này được chơi theo hai cách : cách thứ nhất là AI tìm cách tối đa hóa số tiền thu được ở cuối game show, cách thứ hai là AI nhắm vào mục tiêu chia đều số tiền cho bản thân nó và nhà đầu tư là con người. Trong cả hai cách chơi, AI đều rất thành công xuất sắc .
Ở mỗi thí nghiệm, cỗ máy học hỏi những phản ứng, cách giải quyết và xử lý của con người và xác lập những điểm yếu trong việc ra quyết định hành động của con người. Kết quả ở đầu cuối là cỗ máy đã học được những tinh chỉnh và điều khiển con người theo hướng thực thi những hành vi đơn cử mà nó muốn .
Demis Hassabis, đồng sáng lập và cũng là giám đốc điều hành của công ty trí tuệ nhân tạo nổi tiếng DeepMind (Nguồn: Jeon Heon-Kyun/ Getty Images).
Nguyên nhân
Việc thiếu tính minh bạch giúp những chiến lược thao túng này thành công xuất sắc. Trong nhiều trường hợp, người dùng mạng lưới hệ thống AI không biết tiềm năng đúng chuẩn của những thuật toán AI và những thông tin cá thể nhạy cảm của ho åđược sử dụng để theo đuổi những tiềm năng này. Chuỗi shop Target của Mỹ đã sử dụng những kỹ thuật nghiên cứu và phân tích tài liệu và AI để dự báo liệu phụ nữ có đang mang thai hay không để gửi cho họ những quảng cáo ẩn về những loại sản phẩm dành cho trẻ nhỏ .
Người dùng Uber đã phàn nàn rằng họ phải trả nhiều tiền hơn cho các chuyến đi nếu pin điện thoại thông minh của họ bị yếu, ngay cả khi về mặt chính thức, mức pin điện thoại thông minh của người dùng không thuộc về các thông số ảnh hưởng đến mô hình định giá của Uber. Các công ty công nghệ lớn thường bị cáo buộc thao túng liên quan đến xếp hạng kết quả tìm kiếm để phục vu ålợi ích của họ, và quyết định của Ủy ban châu Âu phạt Google vì thiên vị dịch vụ mua sắm của mình so với các đối thủ khác là một ví dụ điển hình. Trong khi đó, Facebook nhận án phạt kỷ lục từ Ủy ban Thương mại Liên bang Mỹ vì thao túng quyền riêng tư của người dùng (dẫn đến chất lượng dịch vụ thấp hơn).
Giải pháp
Khi những mạng lưới hệ thống AI được phong cách thiết kế bởi những công ty tư nhân, tiềm năng chính của họ là tạo ra doanh thu. Vì AI có khả năng học cách con người hành vi, chúng cũng có năng lực hướng người dùng đến những hành vi đơn cử mang lại doanh thu cho những công ty, ngay cả khi đó không phải là những lựa chọn tốt nhất cho người dùng .
Khả năng thao túng hành vi này yên cầu cần có những chủ trương bảo vệ quyền tự chủ và quyền tự quyết của con người trong bất kể tương tác nào giữa con người và mạng lưới hệ thống AI. AI không nên đánh lừa hoặc thao túng con người, mà thay vào đó nên bổ trợ và nâng cao kỹ năng và kiến thức cho con người .
Bước quan trọng tiên phong để đạt được tiềm năng này là cải tổ tính minh bạch về khoanh vùng phạm vi và năng lực của AI. Cần có hiểu biết rõ ràng về cách mạng lưới hệ thống AI hoạt động giải trí khi chúng triển khai những trách nhiệm của mình. Người dùng phải được thông tin trước về cách thông tin của họ ( đặc biệt quan trọng là thông tin cá thể nhạy cảm ) sẽ được sử dụng bởi những thuật toán AI .
Trận cờ vây năm 2016 giữa AlphaGo và huyền thoại Lee Se-dol đã kết thúc với chiến thắng áp đảo nghiêng về cỗ máy trí tuệ nhân tạo của Google (Nguồn Getty Images).
Quyền được lý giải trong lao lý chung về bảo vệ tài liệu của Liên minh Châu Âu là nhằm mục đích làm cho những mạng lưới hệ thống AI trở nên minh bạch hơn, tuy nhiên tiềm năng này vẫn chưa đạt được. Quyền được lý giải gây ra tranh cãi nóng bức và tính ứng dụng thực tiễn của nó cho đến nay còn rất hạn chế .
Người ta thường nói rằng những mạng lưới hệ thống AI giống như một hộp đen và không ai biết chúng hoạt động giải trí đúng mực như thế nào. Kết quả là, rất khó để đạt được sự minh bạch. Điều này không trọn vẹn đúng so với việc thao túng. Nhà cung ứng những mạng lưới hệ thống này hoàn toàn có thể đưa ra những ràng buộc đơn cử để tránh hành vi thao túng. Vấn đề quan trọng hơn là làm thế nào để phong cách thiết kế những mạng lưới hệ thống này và tiềm năng những hoạt động giải trí của chúng sẽ là gì. Về nguyên tắc, cách sử dụng những thuật toán phải được lý giải bởi nhóm những nhà phong cách thiết kế, những người đã viết mã thuật toán và quan sát cách thuật toán đó hoạt động giải trí. Tuy nhiên, cách thu thập dữ liệu nguồn vào để sử dụng trong những mạng lưới hệ thống AI này phải minh bạch .
Bước quan trọng thứ hai là bảo vệ rằng nhu yếu minh bạch này được toàn bộ những nhà sản xuất mạng lưới hệ thống AI tôn trọng. Để đạt được điều này, cần cung ứng ba tiêu chuẩn .
Thứ nhất, cần có sự giám sát của con người để theo sát hoạt động giải trí và tài liệu đầu ra của mạng lưới hệ thống AI. Điều 14 trong dự thảo Đạo luật trí tuệ nhân tạo của Liên minh châu Âu ( AIA ) yêu cầu rằng nhà phân phối mạng lưới hệ thống AI cần bảo vệ có chính sách giám sát của con người. Tất nhiên, nhà cung ứng cũng có quyền lợi thương mại trong việc theo dõi ngặt nghèo hoạt động giải trí của mạng lưới hệ thống AI của họ .
Thứ hai, sự giám sát của con người cần đi kèm với một khuôn khổ trách nhiệm giải trình thích hợp. Điều này cũng có nghĩa là các cơ quan bảo vệ người tiêu dùng nên cải thiện khả năng nghiên cứu của họ và có thể tiến hành thử nghiệm với các hệ thống thuật toán AI mà họ điều tra để đánh giá chính xác mọi hành vi sai trái.
Thứ ba, tính minh bạch không nên ở dạng những thông tin quá phức tạp khiến người dùng khó hiểu mục tiêu của những mạng lưới hệ thống AI. Ngược lại, cần có hai lớp thông tin về khoanh vùng phạm vi và năng lực của những mạng lưới hệ thống AI : lớp thứ nhất ngắn gọn, đúng chuẩn và dễ hiểu so với người dùng và lớp thứ hai là nơi có nhiều thông tin chi tiết cụ thể hơn dành cho những cơ quan chức năng bảo vệ người tiêu dùng .
Việc tăng cường tính minh bạch sẽ giúp tất cả chúng ta hiểu rõ ràng hơn về những tiềm năng của mạng lưới hệ thống AI và những phương tiện đi lại chúng sử dụng để đạt được những tiềm năng đó. Sau đó, việc triển khai bước quan trọng thứ ba sẽ trở nên thuận tiện hơn, đó là thiết lập một bộ quy tắc ngăn những mạng lưới hệ thống AI sử dụng những chiến lược thao túng bí hiểm để gây ra thiệt hại kinh tế tài chính .
Các quy tắc này sẽ tạo ra một khuôn khổ cho hoạt động giải trí của những mạng lưới hệ thống AI mà nhà cung ứng mạng lưới hệ thống AI phải tuân theo trong quy trình phong cách thiết kế và tiến hành. Tuy nhiên, những quy tắc này cần xác lập tiềm năng rõ và không có những ràng buộc quá mức hoàn toàn có thể làm giảm hiệu suất cao kinh tế tài chính mà những mạng lưới hệ thống này tạo ra hoặc hoàn toàn có thể làm giảm động lực thôi thúc thay đổi phát minh sáng tạo và vận dụng AI .
