Và cùng lúc, chính nhờ hiện tượng nội dung rác rưởi tạo bằng AI này, lại càng củng cố thêm những quan điểm tin tưởng vào một cái lý thuyết gọi là “Thuyết internet chết.”

Thuyết "internet chết": 90% nội dung internet là sáo rỗng để chiều thuật toán, hoặc do bot tạo ra

Thuyết "internet chết" (Dead Internet Theory) là một giả thuyết gây tranh cãi, nổi lên mạnh mẽ vào cuối năm 2018 và tiếp tục lan rộng trên các nền tảng mạng xã hội như Twitter, Reddit và TikTok. Điều đáng sợ là càng đọc về thuyết âm mưu này, và...

 tinhte.vn

AI slop trông như thế nào?

Thật ra chẳng riêng gì ở Việt Nam, “AI slop” tràn ngập khắp hành tinh, và dưới vô vàn những hình dạng khác nhau.

Một ví dụ được dẫn lại trên tờ The Conversation. Đó là một là bài đăng trên Reddit vào tháng 5/2025, hỏi về việc tiết lộ mối quan hệ ngoại tình, đã nhận được hàng ngàn lượt ủng hộ và bình luận, lọt vào trang xu hướng của Reddit. Bài đăng này sau đó đã bị xóa bởi quản trị viên diễn đàn vì rất có khả năng đã được viết bởi trí tuệ nhân tạo.

Dấu hiệu nhận biết AI trong bài viết đó bao gồm việc lạm dụng các cụm từ sáo rỗng và dấu ngoặc kép, cùng với việc phác thảo một kịch bản không thực tế, được thiết kế để tạo ra sự phẫn nộ thay vì phản ánh một tình huống khó xử thực sự. Nhiều người dùng Reddit đã bày tỏ sự thất vọng lặp đi lặp lại về sự gia tăng của loại nội dung này.

Chẳng hạn hãy lấy một ví dụ comment tạo bằng AI, được hẳn hơn 1.300 người đánh giá upvote trên Reddit:


Anh em còn nhớ mấy mục bạn đọc viết, với những nội dung kỳ quặc và kích thích trực tiếp vào hỷ nộ ái ố của độc giả chính là chúng ta không? Bây giờ hãy tưởng tượng kết hợp những bài viết như vậy với sức mạnh của AI, mỗi ngày 20 bài như thế để giữ chân những cư dân mạng phẫn nộ, thì tương tác và lượt theo dõi có lẽ chẳng cần phải lo.

Quy mô và phạm vi của những thể loại nội dung này là đáng kinh ngạc, xâm nhập vào mọi thứ từ news feed trên mạng xã hội đến tin nhắn được chia sẻ qua các ứng dụng như WhatsApp. Ngay cả những nỗ lực nghiêm túc hơn cũng có thể tận dụng AI slop, ví dụ như hồ sơ ứng tuyển và thư xin việc được tạo bằng AI bởi các tin tặc Bắc Triều Tiên để xin việc tại các công ty phương Tây để kiếm nguồn ngoại tệ về, hoặc để tấn công các hệ thống mạng của các doanh nghiệp.

AI slop giờ “farm” rẻ cỡ nào? Rồi kiếm tiền kiểu gì?

Một báo cáo năm 2023 của StratCom Center of Excellence, trực thuộc NATO cho thấy, chỉ với một khoản tiền nhỏ, chỉ 5 đến 10 USD, có thể mua hàng chục ngàn lượt xem và thích do tài khoản bot tự động chạy, cùng hàng trăm bình luận được tạo bằng AI trên hầu hết các nền tảng mạng xã hội lớn. Nội dung này cực kỳ thu hút sự chú ý và do đó sinh lợi cho cả người tạo AI slop và các nền tảng mạng xã hội.

Có thể gọi chúng là “bait” để mọi người tương tác, một chiến thuật để khiến mọi người thả reaction, bình luận và chia sẻ, bất kể chất lượng bài đăng. Và như đã nói, sự bùng nổ của AI tạo sinh, với các công cụ chatbot như ChatGPT và các công cụ tạo hình ảnh như Midjourney, đã truyền cảm hứng cho việc nhìn nhận lại các lý thuyết về internet, như thuyết internet chết. Các công cụ này đã giúp tạo ra các mạng lưới tin tức được tạo bằng AI rất nhanh chóng, và làm cho quá trình tạo nội dung chất lượng thấp ở quy mô lớn trở nên hiệu quả và rẻ hơn nhiều.


Các công cụ tạo hình ảnh và video AI đã trở nên quá phổ biến và chi phí quá rẻ, đôi khi còn miễn phí, với hàng triệu người tạo và sử dụng nội dung trên các nền tảng lớn. Công nghệ được sử dụng để tạo AI slop đang nhanh chóng được cải thiện. Với các công cụ mạnh mẽ hơn như Google Veo 3, chúng ta đang tiến tới một mạng internet bão hòa và tràn ngập nội dung AI.

Các trang tạo AI slop thường liên kết đến các nguồn chất lượng thấp và quảng bá sản phẩm thật. Chúng có thể được thiết kế để tăng lượng người theo dõi nhằm bán tài khoản sau này để kiếm lời. Các trang trại nội dung (content farms), vốn đã có truyền thống lâu đời trong việc tạo ra tiền từ quảng cáo trực tuyến, giờ đây đã vận hành hiệu quả hơn rất nhiều với sự trợ giúp của AI tạo sinh.


Nghiên cứu trong ngành quảng cáo cho thấy, AI tạo sinh đang giúp bot mô phỏng hoạt động người dùng thật dễ dàng hơn, khiến cho việc nhấp vào quảng cáo trông giống như được thực hiện bởi người thật. Đối với các nền tảng như Meta, nội dung AI dễ sản xuất và thường thúc đẩy tương tác cao hơn, tạo ra nhiều cơ hội bán quảng cáo hơn, và Meta đang tích cực thúc đẩy xu hướng này. Đối với các gã khổng lồ công nghệ, nội dung là nội dung; càng rẻ, càng ít lao động con người tham gia, càng tốt. Kết quả là một internet của robot, kích thích người dùng bằng bất cứ cảm xúc và đam mê nào khiến họ gắn bó.

Rác rưởi hóa mạng internet

Khi AI slop tràn lan không kiểm soát, hệ quả nghiễm nhiên sẽ là, các dịch vụ trực tuyến ngày càng trở nên tồi tệ hơn theo thời gian khi các công ty công nghệ ưu tiên lợi nhuận hơn trải nghiệm người dùng.

Như tiêu đề, đây chính là một khía cạnh của hiện tượng "rác rưởi hóa" mạng internet. Nội dung được tạo bằng AI chỉ là một khía cạnh của điều này. Các nền tảng có thể đẩy nhiều AI slop tùy thuộc vào khả năng chịu đựng của công chúng. Sự thay đổi thuật toán của các nền tảng xã hội, chuyển từ đề xuất bài đăng của bạn bè và gia đình sang quảng bá nội dung từ người dùng mà mọi người không theo dõi, đã giúp các tài khoản ngẫu nhiên lan truyền slop xa hơn so với khi mạng xã hội còn "xã hội" hơn.

Thuật toán đề xuất nội dung AI slop cho người dùng ngay cả khi họ không theo dõi các trang hoặc tài khoản AI slop nào. Thuật toán nhanh chóng đột biến và cung cấp cho người dùng ngày càng nhiều những gì nó đã thu thập và cho là thú vị, dẫn đến việc tiêu thụ nội dung trở nên khó kiểm soát, và anh em sẽ bị nhấn chìm sâu hơn vào thế giới chủ quan thay vì thực tế khách quan.

Tác hại là gì?

Đầu tiên và quan trọng nhất, mật độ và tần suất hiển thị nội dung AI slop quá lớn sẽ khiến việc tiếp cận tin tức thật và nội dung do con người tạo ra trở nên khó khăn. Điều này có thể dẫn đến việc người dùng cảm thấy như đang "chết chìm trong AI slop". Mạng xã hội có cảm giác "lạ lùng" hơn, công cụ tìm kiếm có cảm giác "tồi tệ" hơn. AI slop góp phần vào hiện tượng "rác rưởi hóa" mạng internet, nơi các dịch vụ trực tuyến ngày càng tệ đi.


Sự bất mãn của cộng đồng người dùng với AI slop khiến người dùng mạng xã hội rời bỏ các nền tảng truyền thống và tham gia vào các cộng đồng trực tuyến chỉ dành cho những người được mời, hoặc thậm chí đóng phí. Điều này có thể dẫn đến sự phân mảnh hơn nữa của không gian công cộng và làm trầm trọng thêm sự phân cực của xã hội, vì các cộng đồng này thường bao gồm những cá nhân có cùng quan điểm. Mạng xã hội có nguy cơ biến chất thành trò giải trí vô bổ, được sản xuất và tiêu thụ chủ yếu bởi bot tương tác với bot, trong khi con người chỉ đứng xem chứ không có đóng góp có giá trị.

Sự tiếp xúc liên tục với hình ảnh AI, từ hình ảnh vô nghĩa, đến hình các chị em ăn mặc thiếu vải, rồi cả những hình ảnh dựa trên sự kiện mang tính thời sự, dần dần sẽ dẫn đến sự mất cảm giác và choáng ngợp về thị giác. Mọi thứ bắt đầu có cảm giác khác đi. Khi hình ảnh và video thực tế về các sự kiện nghiêm trọng trộn lẫn với dòng chảy vô tận của nội dung AI vi phạm quy luật vật lý và đạo đức, kết quả là sự mất phương hướng sâu sắc.


Anh em rồi sẽ không thể tin vào mắt mình khi xem nội dung trên MXH được nữa. Câu hỏi được đặt ra, nếu không tin nổi vào mắt mình thì anh em có thể tin vào điều gì? Mọi thứ bắt đầu vừa có cảm giác quá thật vừa hoàn toàn không thật. Kết hợp với sự tầm thường hóa và sự ngắn gọn khiêu khích của nền kinh tế đánh vào sự chú ý của con người, chúng ta sẽ có một "rạp xiếc đầy sự cường điệu". Ngay cả khi nội dung cực kỳ nghiêm túc, nó được trình bày như nội dung giải trí kiểu mỳ ăn liền.


Đáng sợ hơn sẽ là khả năng lan truyền thông tin sai lệch, hay những chiến dịch định hướng dư luận như đã từng có trong quá khứ. Giữa năm 2024, các nhà nghiên cứu của Google DeepMind đã đưa ra kết luận rằng, những deepfake giả mạo những chính trị gia hay người nổi tiếng, rồi ghép âm thanh thông tin sai lệch và giả mạo là thứ nội dung giả phổ biến nhất hiện nay.

Nghiên cứu này nói rằng, việc tạo ra những hình ảnh, video và âm thanh chân thực, khó phát hiện nhưng đều là giả mạo, là hành vi sử dụng công cụ AI sai mục đích phổ biến nhất. Kế đến là hành vi tạo ra thông tin giả mạo dựa trên những công cụ AI tạo sinh văn bản, ví dụ như chatbot, để tạo ra những đoạn văn chứa thông tin không chính xác, đánh lạc hướng dư luận.

Tương tự, tháng 5/2024, OpenAI đã tung ra một nghiên cứu hé lộ những chiến dịch định hướng thông tin trên mạng từ Nga, Trung Quốc, Iran và Israel, sử dụng ChatGPT để tạo và truyền bá thông tin không chính xác. Nahema Marchal, chủ biên cuộc nghiên cứu của DeepMind cho rằng: “Hiện tại đang có rất nhiều lo ngại có lý về những cuộc tấn công mạng phức tạp, với nội dung tạo ra bằng những công cụ AI.”


Ngay trước thềm kỳ bẩu cử tổng thống Mỹ cuối năm 2024, OpenAI tuyên bố đã khóa một loạt những tài khoản ChatGPT có liên quan tới những cá nhân đến từ Iran, tạo ra những nội dung thông tin sai lệch với mục đích định hướng dư luận. Theo họ, chiến dịch lan truyền tin giả này đã sử dụng công cụ AI của họ để tạo ra những bài viết với nội dung không đúng sự thật, đăng lên các trang tin và các trang mạng xã hội. May mắn là, theo OpenAI, những nội dung tin giả này không tiếp cận được nhiều người.

Ở một khía cạnh khác, AI slop được sử dụng trong các chiến dịch spam và lừa đảo. Ví dụ, các trang Facebook chứa đầy hình ảnh AI về những con bò nhỏ hoặc nhà nhỏ đã hướng người theo dõi đến các trang web lừa đảo hoặc đầy quảng cáo. Cùng lúc, các tin tặc có thể sử dụng lý lịch, thư xin việc và thậm chí là nhân vật tham khảo được tạo bằng AI để xin việc và che đậy danh tính của họ. Những “công nhân IT” từ Triều Tiên cố gắng xin việc ở các tập đoàn công nghệ phương Tây để kiếm nguồn ngoại tệ về là một ví dụ.

Triều Tiên và chiến lược mới: Cho hàng nghìn người đóng giả nhân viên IT làm từ xa kiếm tiền

Vừa rồi tạp chí Wired đã có một bài viết vô cùng chi tiết, mô tả kỹ lưỡng một chiến lược nữa để Triều Tiên kiếm nguồn ngoại tệ một cách bất hợp pháp. Tóm tắt một cách ngắn gọn, trước kia, điệp vụ và hacker Triều Tiên đã có những cuộc tấn công...

 tinhte.vn

Suy thoái môi trường thông tin trực tuyến

Các trang và kênh tin tức chất lượng thấp được tạo bằng AI đang mọc lên khắp nơi. Nội dung được tạo bằng AI ngày càng xuất hiện trong kết quả tìm kiếm, thường đẩy lùi tài liệu chất lượng cao do con người tạo ra. Điều này làm khó khăn cho việc tiếp cận tin tức thật và nội dung do con người tạo ra. Sự phát triển chóng mặt của internet vận hành bằng AI đã làm nổi bật một điều, các chiến lược kinh doanh của các gã khổng lồ công nghệ thường luôn luôn mâu thuẫn với lợi ích của người dùng.

Việc chuyển đổi sang một internet được cung cấp bởi chatbot có thể đe dọa cả những người chơi lớn nhất trên internet, như Google, công cụ tìm kiếm dựa trên việc hướng người dùng đến các nguồn thông tin khác. Google đã bắt đầu hiển thị các tóm tắt gọi là AI Overviews, nhưng chúng có thể khiến các trang web với nội dung có giá trị của con người khó thu hút lượt click từ mọi người hơn.


Một số nhà xuất bản trực tuyến đã thấy lưu lượng truy cập giảm mạnh và phần lớn họ đổ lỗi cho AI. Một số nhà xuất bản khác thì đang phản ứng bằng cách ký thỏa thuận với các công ty AI để được trả tiền cho việc truy cập nội dung hoặc dựng tường phí để ngăn bot thu thập dữ liệu.

Xu hướng này có thể làm suy yếu chính bản thân lý tưởng về một web miễn phí, mở và hữu ích. Người tiêu dùng thông thường sẽ khó tiếp cận thông tin nhất định mà không trả tiền hoặc phải đăng ký các bot AI nhất định để truy cập thông tin đó. Trong khi đó, các nhà xuất bản web nhỏ hơn có thể bị bỏ lại bên lề cuộc trò chuyện.

Sự tràn lan của AI slop còn tạo ra một vòng lặp phản hồi: nội dung được tạo bằng AI được tạo ra để làm hài lòng các hệ thống đề xuất được hỗ trợ bởi AI, đe dọa biến con người thành những người ngoài cuộc. AI slop hoạt động giống như một loài xâm lấn, lan truyền nhanh chóng đến mức ảnh hưởng tiêu cực đến các cư dân khác của internet. Nó giống như "sự nở rộ của tảo có thể bùng phát và làm ngạt thở sự sống mà bạn muốn có trong một hệ sinh thái khỏe mạnh". Đó là lời của Jeff Allan, đồng sáng lập think tank Integrity Institute.

Tạm kết

Có lẽ nên kết thúc bài viết này bằng một nguy cơ hoàn toàn có thật:

Anh em hãy thử tưởng tượng, xu hướng sử dụng dữ liệu phái sinh do chính AI tạo ra để huấn luyện cho các mô hình AI thế hệ mới, giữa lúc các startup và các lab đã sử dụng hết những nội dung có sẵn trên mạng internet. Lúc này, những mô hình AI được đào tạo bằng nội dung trên internet, chính là cái mạng toàn cầu đã bị AI "rác rưởi hóa" có khả năng sẽ chỉ tạo sinh ra nội dung rác. Nghiên cứu cho thấy, khi các mô hình AI đào tạo trên nội dung được tạo bằng AI, chúng có thể sụp đổ, hoàn toàn vô dụng.