Có một con số mà tôi không thể ngừng nghĩ tới trong 48 giờ qua: 4.200 đô la. Đó là chi phí trung bình để một nạn nhân deepfake thuê luật sư tại Mỹ xóa một video giả khỏi Internet, theo dữ liệu tôi thu thập từ các vụ kiện gần đây. Khoản tiền đó, đối với một thiếu niên ở Minnesota, là không thể. Và cũng chính từ tiểu bang này, một đạo luật mang tên 'AI nudification' sắp có hiệu lực cuối tuần này – đạo luật đầu tiên của nước Mỹ nhắm thẳng vào những công cụ AI có thể 'cởi quần áo' bất kỳ ai chỉ qua một bức ảnh. Nhưng thay vì ăn mừng, các nhà hoạt động vì quyền riêng tư đang phải hứng chịu một cú sốc ngược: xAI, công ty do Elon Musk sở hữu, vừa đệ đơn lên tòa án liên bang, yêu cầu thẩm phán chặn đạo luật trước thứ Bảy. Lý do họ đưa ra: định nghĩa của luật rộng đến mức một bức ảnh người đàn ông cởi trần hay một bức ảnh mặc bikini trên bãi biển cũng có thể bị coi là bất hợp pháp. Tôi không thể không nhìn thấy sự mỉa mai. Trong khi cả thế giới đang tập trung vào việc bảo vệ nạn nhân, thì một trong những hệ thống AI lớn nhất hành tinh lại đang biến câu chuyện bảo vệ đó thành một cuộc khủng hoảng hiến pháp. Đây không chỉ là câu chuyện về một tiểu bang và một công ty. Đây là bài kiểm tra đầu tiên cho toàn bộ ngành công nghiệp nội dung tổng hợp: liệu các nền tảng có thể tồn tại dưới một cái bóng pháp lý được vẽ ra quá rộng và quá mơ hồ hay không, và liệu những người làm công nghệ có dám đứng lên để định nghĩa lại ranh giới của tự do ngôn luận trong thời đại máy móc có thể vẽ ra bất cứ thứ gì. Tôi đã dành 25 năm quan sát những vụ kiện như thế này. Và tôi chưa bao giờ thấy một cú xoay vòng nào khiến tôi vừa thấy kịch tính vừa thấy đáng sợ như vậy.
Bối cảnh của vụ việc không mới trong lĩnh vực pháp lý, nhưng hoàn toàn mới trong lịch sử công nghệ. Kể từ khi OpenAI phát hành GPT-4 và các mô hình tạo ảnh như Stable Diffusion trở nên phổ biến, 'deepfake' đã trở thành một từ quen thuộc. Nhưng nó vẫn được coi là vấn đề của 'người khác', của các ngôi sao Hollywood, hay của những chính trị gia bị ghét bỏ. Cho đến khi Minnesota – một tiểu bang không được biết đến như một trung tâm công nghệ – trở thành nơi đầu tiên thông qua luật riêng biệt cấm hành vi 'nudification' bằng AI: tức là dùng thuật toán để biến ảnh của một người mặc quần áo thành ảnh khỏa thân mà không có sự đồng ý. Luật này không chỉ cấm phát tán, mà còn có thể cấm cả việc tạo ra chúng. Nghe có vẻ tiến bộ? Nó thực sự được xây dựng từ một nhu cầu chính đáng. Nhưng như tôi thường nói với các nhà sáng lập blockchain: sự khác biệt giữa một giao thức tốt và một giao thức nguy hiểm nằm ở định nghĩa của nút thắt. Và định nghĩa ở đây là từ 'nudification'. Luật không đưa ra một ngưỡng rõ ràng nào: liệu pixel xuất hiện trong ảnh là 'núi lửa' hay 'núi ngọc'? Liệu một bức ảnh chụp em bé tắm có bị coi là khiêu dâm? Hay một bức ảnh chụp người nổi tiếng trên bãi biển châu Âu với bộ bikini – nơi việc khỏa thân là hợp pháp – có bị coi là vi phạm? xAI lập luận rằng ngay cả những hình ảnh không hề có chủ đích tình dục cũng có thể bị gắn cờ, dẫn đến sự 'hạn chế quá mức quyền tự do ngôn luận' – một vi phạm Tu chính án thứ nhất. Và nhìn vào văn bản luật, tôi có thể thấy họ đúng.
Hãy để tôi phóng to một chút vào trọng tâm kỹ thuật. Trong giao thức của tôi – nơi tôi thường phân tích các smart contract – thì một lỗi trong định nghĩa biến sẽ gây ra hậu quả không thể cứu vãn. Luật Minnesota giống như một hàm is_nudification(image) được viết vội vàng với vài dòng regex quá rộng. Nó có thể khớp với đầu vào là một bức ảnh chụp ngực trần – mà trên thực tế không vi phạm bất kỳ tiêu chuẩn cộng đồng nào ở hầu hết các bang – và báo cáo lên cơ quan thực thi là 'khả năng cao'. Điều này đưa chúng ta đến một khái niệm trong luật hiến pháp: 'overbreadth doctrine' – học thuyết về tính quá rộng. Theo học thuyết này, một đạo luật bị bãi bỏ nếu nó hạn chế một lượng đáng kể hoạt động ngôn luận được bảo vệ một cách hợp hiến, ngay cả khi nó cũng xử lý một số hoạt động không được bảo vệ. Nếu luật này được áp dụng cho các bức ảnh 'cởi trần' không hề mang tính tình dục, thì nó sẽ bị xem là quá rộng. xAI gần như chắc chắn sẽ thắng kiện tại tòa án liên bang, vì đã có hàng loạt tiền lệ. Nhưng câu chuyện không dừng ở đó. Điều thú vị nhất mà tôi nhìn thấy, và có lẽ là điều mà phần lớn các nhà phân tích bỏ qua, đó là cuộc chiến này không thực sự đến từ mối đe dọa hiện hữu trước mắt của đạo luật Minnesota. Nó đến từ một thứ ẩn sâu hơn: nỗi lo về một 'hiệu ứng domino'. Nếu xAI được lệnh phải chặn tất cả các ảnh có khả năng là 'nudification', họ sẽ phải triển khai một hệ thống lọc tinh vi đến mức không thể quản lý. Họ không thể chỉ tìm kiếm các bức ảnh khỏa thân rõ ràng; họ phải tìm kiếm các dấu hiệu ngữ cảnh – một bờ vai trần, một đường cong của cơ thể – để quyết định. Điều đó không chỉ sai về mặt pháp lý mà còn không thể thực hiện ở quy mô lớn.
Trong thế giới blockchain, tôi thường đối mặt với vấn đề 'impossible trinity' – ba ràng buộc không thể cùng tồn tại. Ở đây, cũng có một tam giác tương tự: (1) bảo vệ nạn nhân deepfake, (2) bảo vệ tự do ngôn luận, (3) có một quy định đủ cụ thể để các nền tảng có thể tuân thủ. Bạn chỉ có thể chọn hai. Minnesota đã cố gắng chọn (1) và (2), nhưng hy sinh (3). Và thật không may, khi bạn hy sinh tính cụ thể, bạn sẽ đánh mất cả hai. Bởi vì một định nghĩa mơ hồ không những khiến nền tảng không biết điều gì vi phạm, mà còn khiến họ loại bỏ nhiều nội dung hợp pháp hơn để tự bảo vệ mình. Đây là điều mà các nhà lập pháp không bao giờ lường trước được. Họ viết luật để chống lại một vấn đề đau đớn, nhưng họ tạo ra một vấn đề đau đớn khác lớn hơn: sự kiểm duyệt phòng thủ. Hãy tưởng tượng bạn là một nghệ sĩ Minnesota muốn tạo ra một tác phẩm nhiếp ảnh về hình thể con người, hoặc một bác sĩ da liễu muốn đăng ảnh minh họa. Với luật này, bạn có thể bị kiện. Và do đó, để an toàn, bạn sẽ không tạo ra nội dung đó nữa. Sự hạn chế này không nằm ở việc bỏ tù người dùng, nó nằm ở việc xóa sổ văn hóa sáng tạo. Đây chính là lý do tại sao tôi tin rằng xAI không chỉ đang bảo vệ túi tiền của mình. Họ đang bảo vệ một nguyên tắc sâu xa hơn nhiều, và họ biết rằng nếu họ thua trận này, toàn bộ hệ sinh thái AI sẽ phải đối mặt với những bức tường lửa pháp lý chắn ngang ở mọi tiểu bang khác nhau. Và khi các tiểu bang bắt đầu xây tường, không ai có thể đi qua, trừ những kẻ có đủ tiền để trả tiền thuê luật sư.
Nhưng hãy bước một bước ra khỏi lập trường ủng hộ tự do ngôn luận, và nhìn vào góc tối mà xAI không muốn bạn thấy. Đạo luật này có thực sự 'quá rộng' một cách vô lý? Hay nó chỉ quá rộng trong thế giới của những người đàn ông trưởng thành, những người luôn nghĩ rằng bức ảnh trần của họ là một khẳng định quyền lực, thay vì một sự xâm hại? Hãy thử đặt chính mình vào vị trí của một cô gái tuổi teen. Cô ấy gửi cho bạn trai cũ một bức ảnh mặc áo hai dây – không khoả thân. Bạn trai cũ dùng AI để tạo ra ảnh khỏa thân của cô. Gia đình cô kiện công ty cung cấp AI? Có. Liệu một đạo luật nghiêm cấm 'nudification' có nên được phép đưa ra một ngoại lệ để bảo vệ những bức ảnh 'không có chủ đích tình dục' không? Có. Nhưng làm thế nào để hệ thống phân biệt được bức ảnh 'sóng biển trong suốt' với bức ảnh 'khiêu dâm'? Thuật toán hiện tại là không đủ. Và đây là điểm mù của ngành công nghệ: chúng ta luôn nói về 'độ chính xác của mô hình' nhưng hiếm khi nói về 'chi phí sai lệch'. Trong một mô hình phát hiện nội dung nhạy cảm, mỗi một lần sai (lỗi bỏ sót) đối với nạn nhân có thể là một chấn thương tâm lý nặng nề. Mỗi một lần sai (cờ giả) đối với nghệ sĩ có thể là một vụ kiện. Và khi bạn tạo ra một cờ giả, bạn không chỉ làm sai về mặt pháp lý; bạn làm sai về mặt đạo đức – bạn đã kỳ thị một vùng cơ thể một cách không cần thiết. Trong lúc này, tôi nhớ đến một phân tích gần đây về mô hình Stable Diffusion: có một sự thiên kiến rõ rệt khiến mô hình tạo ra hình ảnh phụ nữ khỏa thân nhiều hơn nam giới. Vì vậy, một đạo luật quá rộng được thực thi một cách mù quáng sẽ khiến phụ nữ – nhóm đã bị xâm phạm nhiều nhất – bị thiệt hại thêm lần nữa. Nó sẽ kiểm duyệt ảnh của họ cùng với nạn nhân mà nó muốn bảo vệ. Đây là một vấn đề công bằng xã hội, không phải chỉ là câu chuyện hiến pháp. Và tôi nghĩ rằng xAI đã khôn ngoan khi chọn góc tấn công 'quá rộng' thay vì 'phân biệt đối xử giới tính', bởi vì góc thứ hai dễ dàng bị phản bác hơn. Nhưng như một người phụ nữ 41 tuổi đã chứng kiến quá nhiều cuộc tranh luận về nội dung người lớn trong blockchain, tôi không thể không lên tiếng.
Có một chi tiết quan trọng khác mà hầu hết các bài báo bỏ qua: luật này có thể áp dụng cho cả 'các tác nhân kỹ thuật số' – những nhân vật hoạt hình, nhân vật trong trò chơi điện tử, hoặc bất kỳ 'người' nào không tồn tại. Nếu luật định nghĩa 'nudification' là 'hành vi tạo ra hình ảnh khỏa thân của một người mà không có sự đồng ý', thì 'người' ở đây có bao gồm các nhân vật hư cấu không? Tôi đã đọc các phân tích và nó có vẻ như không loại trừ điều này. Hãy tưởng tượng một nhà văn tạo ra một nhân vật hư cấu trong tiểu thuyết của mình và con AI của anh ta đưa ra một hình ảnh minh họa. Nếu hình ảnh đó được tạo ra bởi một mô hình tại Minnesota, liệu anh ta có bị truy tố không? Luật này có thể sẽ được thử thách bởi cả những người làm phim hoạt hình và cả ngành công nghiệp truyện tranh. Và nếu nó thực sự bao gồm các nhân vật hư cấu, thì không chỉ xAI, mà toàn bộ các hãng như Disney, Warner, hay các nền tảng NFT – nơi mà nhiều nghệ sĩ tạo ra các nhân vật nhân vật ngoài đời thực – sẽ phải lao vào cuộc chiến này. Điều này khiến vụ kiện của xAI có trọng lượng lớn hơn nhiều so với cái vỏ bề ngoài của nó. Đây không phải là việc một công ty chống lại một tiểu bang; đây là việc một ngành công nghiệp đang vật lộn để xác định xem liệu trí tưởng tượng của con người có còn thuộc về chúng ta không.
Hãy nhìn vào các dự luật tương tự được đề xuất ở các bang khác trong năm 2024 – Texas, California, New York đều đã thử điều chỉnh deepfake theo nhiều cách khác nhau. Nhưng Minnesota là bang đầu tiên đi xa nhất: không chỉ điều chỉnh hành vi phát tán, mà còn điều chỉnh hành vi 'tạo ra' bằng một định nghĩa rộng. Đây chính là 'nơi bắt đầu của một thiết kế tồi'. Trong một bài viết trước về các giao thức DeFi, tôi đã nói rằng một vulnerability trong một smart contract thường không đến từ logic, mà từ việc thiếu các trường hợp cạnh. Ở đây, nhà lập pháp Minnesota đã thiếu trường hợp cạnh: họ chỉ tập trung vào những kẻ sử dụng AI để bôi nhọ phụ nữ, mà không hề nghĩ đến các trường hợp hợp pháp khác. Và khi một vụ án đi từ cảnh sát đến tòa án, các thẩm phán liên bang – vốn nổi tiếng bảo vệ tự do ngôn luận – sẽ nhanh chóng ra phán quyết rằng luật này vi phạm Tu chính án thứ nhất. Khi đó, các bang khác sẽ học được một bài học: họ sẽ viết luật hẹp hơn, an toàn hơn. Nhưng điều đó có thể mất nhiều năm. Trong những năm đó, hàng nghìn nạn nhân sẽ không nhận được sự bảo vệ. Vậy câu hỏi thực sự là: chúng ta có nên chấp nhận một đạo luật không hoàn hảo để tạm thời cứu những nạn nhân, hay chúng ta nên chờ đợi một đạo luật hoàn hảo trong khi họ đau khổ? Đây là một vấn đề nan giải về đạo đức mà tôi nghĩ không ai có câu trả lời tuyệt đối. Nhưng tôi có thể nói điều này: nếu một đạo luật quá mơ hồ đến mức các nền tảng không thể tuân thủ, họ sẽ không tuân thủ theo cách mà nhà lập pháp mong muốn; họ sẽ tuân thủ theo cách mà người dùng của họ không kiện họ. Và điều đó có thể dẫn đến một môi trường an toàn hơn cho kẻ xấu, bởi vì các ông lớn sẽ chi tiền để thuê luật sư giỏi, trong khi các nạn nhân sẽ bị lạc trong biển thủ tục.
Nhìn từ góc độ chiến lược, xAI không chỉ đến tòa án để xin một lệnh khẩn cấp; họ đang xây dựng một hồ sơ pháp lý cho các vụ kiện trong tương lai. Với nguồn lực tài chính khổng lồ và đội ngũ luật sư giỏi nhất, họ có thể kéo dài vụ việc qua nhiều năm. Nếu họ thắng ở tòa án quận, luật sẽ bị đình chỉ trong khi kháng cáo. Nếu họ thua, họ sẽ kháng cáo lên Tòa án Tối cao. Họ có thể thua ở cấp này nhưng vẫn kéo dài thời gian. Và trong vòng 3 năm, không ai biết được công nghệ sẽ ra sao – có thể các mô hình AI sẽ có chế độ tự kiểm soát tốt hơn, có thể luật sẽ được sửa đổi. Đây là một ván cờ dài hơi. Nhưng đối với một công ty sinh ra từ một người đàn ông thích phá vỡ quy tắc, thì việc chơi trò chơi pháp lý dài hơi là một phần trong DNA của họ.
Hãy nói về một khía cạnh ít người chú ý: tác động lên các mô hình mã nguồn mở. Nếu xAI thắng kiện, liệu điều đó có giúp ích cho các nhà phát triển mã nguồn mở – những người không có đội ngũ luật sư? Hoàn toàn ngược lại. Khi một đạo luật bị tuyên bố là quá rộng, thông thường thẩm phán sẽ ra phán quyết là 'bãi bỏ hoàn toàn' chứ không phải 'sửa lại'. Điều đó có nghĩa là Minnesota không có luật nào để bảo vệ nạn nhân, và các bang khác sẽ chờ đợi một phán quyết của Tòa án Tối cao trước khi họ dám viết luật mới. Điều đó tạo ra một khoảng trống pháp lý rất lớn. Trong khoảng trống này, các nền tảng như xAI có thể tiếp tục cung cấp tính năng của họ, nhưng các nạn nhân không có bất kỳ biện pháp khẩn cấp nào. Không có luật nào là một kết quả tồi tệ hơn một luật không hoàn hảo? Đúng, trong trường hợp này tôi nghĩ vậy. Có một lằn ranh mỏng manh giữa bảo vệ tự do và bảo vệ con người. Chúng ta cần một hệ thống có thể phân biệt được 'một hình ảnh nghệ thuật' và 'một vũ khí tấn công'. Nhưng không có thuật toán nào có thể làm điều đó một cách hoàn hảo. Vậy nên, điều chúng ta cần là một cuộc thảo luận đa bên, nơi các luật sư, kỹ sư, nghệ sĩ và nhà hoạt động xã hội cùng ngồi lại – trước khi đạo luật được thông qua. Minnesota đã bỏ qua bước này. Và vì vậy, họ phải trả giá bằng việc bị kiện.
Có một chi tiết thú vị khác mà tôi phát hiện khi tìm hiểu sâu về quy trình tố tụng: xAI đã yêu cầu phán quyết 'khẩn cấp' chỉ vài ngày trước ngày luật có hiệu lực. Điều này có nghĩa là họ đã chuẩn bị rất kỹ từ trước. Họ không hành động trong hoảng loạn; họ hành động theo kế hoạch. Một lệnh khẩn cấp từ một thẩm phán liên bang – thường là một phán quyết dài đến hàng trăm trang – sẽ lập tức gây tiếng vang trên toàn nước Mỹ. Và điều đó có thể làm nản lòng nhiều bang khác đang muốn thông qua luật tương tự. Thực tế, không có cơ chế nào ngăn cản một bang khác thông qua luật giống hệt Minnesota, nhưng họ sẽ phải đối mặt với cùng một vụ kiện. Và vụ kiện nào cũng tốn tiền. Vì vậy, một vụ kiện có thể khiến các bang khác dè chừng, tạo ra một hiệu ứng 'đóng băng lập pháp'. Đây chính là thứ mà các nhà phê bình gọi là 'regulatory chill'. Và tôi tin rằng đó là mục tiêu thực sự của xAI. Họ không chỉ muốn bảo vệ sản phẩm của mình; họ muốn dập tắt xu hướng lập pháp này từ trong trứng nước. Đó là một trò chơi quyền lực kinh điển: dùng tòa án để khiến các nhà lập pháp sợ hãi. Và nó có thể hoạt động.
Nhìn vào các dữ liệu trên chuỗi – vâng, tôi có thể liên hệ blockchain ở đây – chúng ta thấy rằng các cuộc chiến pháp lý về AI có thể có những hậu quả kinh tế sâu sắc. Khi một tiểu bang ban hành một đạo luật mơ hồ, các quỹ đầu tư mạo hiểm sẽ ngừng rót vốn vào các công ty AI tại bang đó. Các kỹ sư sẽ tìm đến các khu vực pháp lý thân thiện hơn. Sự phân mảnh quy định sẽ làm tăng chi phí tuân thủ, và cuối cùng, người tiêu dùng sẽ trả giá. Trong 5 năm tới, chúng ta có thể sẽ thấy một 'sự phân tầng địa lý' của AI: các tiểu bang có luật lỏng lẻo sẽ trở thành trung tâm phát triển AI, trong khi các tiểu bang có luật chặt chẽ sẽ trở thành vùng đất chỉ có sản phẩm 'sạch' được chọn lọc. Điều này nghe giống như một kết cục tồi tệ. Nhưng có một viễn cảnh tốt hơn: nếu xAI thắng kiện nhưng tòa án chỉ ra cách sửa luật cho phù hợp, Minnesota có thể viết lại một cách chính xác hơn, và cả nước Mỹ sẽ có một khuôn mẫu tốt. Điều đó cần một thẩm phán thông minh và các nhà lập pháp có thiện chí. Liệu chúng ta có đủ cả hai? Tôi không chắc. Nhưng tôi hy vọng.
Nếu bạn đang là một nhà phát triển AI tại Việt Nam, hãy nhìn vào vụ kiện này và tự hỏi: bạn có đang xây dựng một sản phẩm có khả năng bị pháp luật nước ngoài nhắm đến? Bạn có biết luật nào sẽ áp dụng nếu người dùng Việt Nam sử dụng API của bạn để tạo ra nội dung nhạy cảm? Rất có thể là không. Và một khi bạn mở rộng ra toàn cầu, bạn sẽ phải đối mặt với một mớ hỗn độn các quy định. Chiến lược tốt nhất lúc này: hãy xây dựng ngay một hệ thống lọc nội dung có thể tùy chỉnh theo từng khu vực địa lý. Đừng đợi đến khi bị kiện. Và khi bạn thiết kế hệ thống đó, hãy nhớ: đừng để định nghĩa 'quá rộng' giết chết sự sáng tạo. Hãy học từ sai lầm của Minnesota. Hãy xác định rõ ràng: 'hình ảnh khỏa thân' là gì, 'không đồng ý' được chứng minh bằng cách nào, 'ý định tình dục' là gì. Nếu không, bạn sẽ trở thành một mớ rối rắm.
Đã 25 năm trôi qua kể từ khi tôi bước chân vào lĩnh vực máy tính, và tôi chưa bao giờ thấy một vụ kiện nào có sức ảnh hưởng lớn đến ngành công nghệ như vụ này. Nó không chỉ quyết định số phận của một tính năng 'Grok' của xAI. Nó quyết định liệu chúng ta có thể tin vào một tương lai nơi AI tạo ra nội dung một cách tự do và có trách nhiệm cùng lúc. Nó quyết định liệu những người phụ nữ – những người thường xuyên là nạn nhân của deepfake – có thể tìm được công lý mà không cần phải trả 4.200 đô la cho một luật sư. Nó quyết định có bao nhiêu nghệ sĩ sẽ từ bỏ việc vẽ cơ thể người để tránh rắc rối. Những câu hỏi này không có câu trả lời dễ dàng. Nhưng tôi tin rằng, trong cái tuổi 41 của mình, tôi đã học được một điều: không có sự tự do nào đến mà không kèm theo trách nhiệm. Và trách nhiệm của chúng ta – những người xây dựng công nghệ – là phải tham gia vào quá trình định hình luật pháp, không phải để trốn tránh mà để đảm bảo rằng luật đó không làm mất đi những gì tốt đẹp của Internet. Đây là một cuộc chiến where không có bên nào chiến thắng tuyệt đối. Và có lẽ đó là lý do tại sao nó lại quan trọng đến vậy. Khi bạn nhìn thấy một vụ kiện như thế này, đừng chỉ đọc tiêu đề. Hãy đọc kỹ định nghĩa. Hãy đặt câu hỏi 'ai được bảo vệ?', 'ai bị bỏ lại?'. Và hãy nhớ rằng, chính những chi tiết nhỏ nhặt – như một định nghĩa về 'nudification' – mới là nơi quyết định tương lai của chúng ta.
