如今，生成式AI廣泛應用，迭代迅速，給生活帶來了不小的改變素材。技術普及大幅降低了生成式AI的使用門檻，從AI影片生成到AI聊天陪伴，豐富大眾生活的同時，個別商家也以此為牟利工具，背棄技術倫理與法律底線，借生成式AI大模型，行違法“造黃”之舉，汙染網路空間、敗壞社會風氣。
所謂“擦邊賽道”違法牟利
利用AI批次製造黃色影片
按照消費者舉報的線索，記者在多個網際網路平臺上進行了檢索，眼下，不少平臺上有人在公開兜售“利用AI技術製作色情擦邊影片”的教程，號稱僅憑一張圖片，甚至幾句話就可自行“手搓”“讓自己滿意的大尺度影片”素材。
教程帖子標著“AI製作美女影片”“全網最強大尺度”“AI擦邊賽道日入5位數”的標題，再配上色情露骨的畫面，這些教程就在網路平臺上堂而皇之地宣揚如何讓使用者“從無到有”“手搓”“色情擦邊”影片素材。
這些教程為了兜售自己的產品，還刻意引導使用者如何規避監管素材。比如使用境外圖生影片AI軟體、將程式部署在本地電腦離線執行等。
眾多社交平臺上，一些博主還發布售賣各類AI生成擦邊影片的“提示詞”的帖子素材。所謂“提示詞”，就是指揮AI工作的一系列關鍵指令，這個指令的內容和精準度，直接決定了AI生成的影片究竟是怎樣的內容。商家表示，只需將購買到的提示詞複製到各大AI影片生成軟體，即可獲得提示詞對應的擦邊影片。
記者以9.9元和9.8元的價格，分別在“永珍小店”和“楠楠素材庫”下單，購買了兩組提示詞素材。點開商家發來的檔案，記者看到提示詞描述十分詳細，從髮型、服飾、身材，到姿勢、表情甚至腰部、胯部扭動的幅度，提示詞都做了極其細緻的刻畫。重要的是，商家還將一些敏感詞彙翻譯成英文，以此來規避網路上的監管。
記者對使用者使用較多的10款AI應用進行了實測素材。在測試過程中，記者發現，如果輸入的提示詞表述較為“露骨”，多數AI應用會觸發稽覈機制並拒絕生成內容。然而，這條防線卻很脆弱。只要將提示詞修改得更加隱晦，便有可能繞過限制。
例如一款擁有1.4億使用者的某知名AI應用，記者按照購買的提示詞教程，選取了一張美女圖片，並隨意選取一段提示詞，點選生成素材。一分鐘後，一個美女擦邊影片便生成了，影片中的女性身材火辣、穿著暴露、舞姿曖昧。
在這款名為“哩布哩布AI”的AI應用裡，記者輸入在網上購買的提示詞後，僅僅幾分鐘，這個AI平臺就生成了一個半裸身體的女性跳舞影片素材。在整個生成過程中，沒有觸發平臺任何限制機制，違規影片順利生成。同樣的問題也出現在市場上其他常見的AI應用平臺上。
除了這些透過提示詞，以問答的模式生成擦邊或者色情影片的AI平臺，市場上更有專門靠AI生成色情影片牟利的軟體素材。根據消費者舉報的資訊，記者找到了網路上這款AI照片生成器；這款軟體號稱“免下載，快速生成，圖片、影片換臉”；購買者可以根據充值金額的不同，透過AI技術一鍵快速替換原片，生成虛構的色情照片，只要購買者願意付費，這個軟體就可以透過一張圖片，生成全裸照片和色情影片。
境外涉黃AI軟體在社交平臺銷售
虛擬陪伴軟體成涉黃聊天軟體
AI的可定製性讓其高度擬人化，透過投餵資料，使用者可以將AI虛擬陪伴軟體中的智慧體打造成自己心目中最理想的情感投射物件，因此，與AI“談情說愛”正被越來越多年輕人嘗試和喜愛素材。
但業內人士介紹，這些軟體大多是境外的AI聊天軟體，它們普遍尺度很大，充斥著色情內容素材。這些AI軟體並不能從國內應用市場上下載，一些不法分子從中窺見了商機，他們開發出各種各樣的灰色通道，繞過監管，讓國內的使用者可以下載並使用這些境外大尺度的涉黃AI聊天軟體，而且以此牟利。
記者在某社交媒體平臺上搜尋“AI語聊”，在搜尋結果中看到，大量以“可開車、臉紅心跳、開放、無限制詞”等為關鍵詞的帖子素材。點開帖子，記者在評論區中隨處可見使用者傳送各種無限制詞的AI聊天軟體使用分享，以及軟體的下載連結和邀請碼。
同樣，記者在某短影片平臺上搜尋“AI聊天軟體推薦”，在搜尋結果中也看到，各種分享推廣的熱聊帖子，在帖子主頁以及評論區中，老使用者們互相分享、推薦自己喜歡的AI聊天軟體，並同時邀請新使用者進入分享群素材。
知情人士告訴記者，由於該AI聊天軟體是境外的軟體，沒有在國內正規的應用下載商店上架，因此，為了獲得大量國內的使用者，這些推銷AI聊天軟體的平臺，就透過發放金幣以及充值返利的方式，激勵老使用者拉新，併為使用者發帖引流提供幫助，以此逃避監管的同時，實現獲利的目的素材。
隨後，記者點選進入下載好的“Dady”App選擇一個AI角色進行體驗素材。在聊天過程中，AI也會自動生成3種回覆提示，以便使用者能有更好聊天體驗，而聊天的內容幾乎都是圍繞著各種色情話題展開。
戀愛的感覺、及時的回覆、量身定製的人設，吸引著眾多年輕人沉浸其中，其中更不乏未成年人素材。
根據商家指引，記者登入境外應用市場並下載到這款“flai”AI聊天軟體，若想順利開啟“flai”軟體還需要下載名為“快喵”的VPN加速器素材。
根據國家《生成式人工智慧服務管理暫行辦法》第十七條規定↓
違規下載境外AI軟體容易帶來資訊安全風險
我國AI治理框架正在加速形成
專家告訴記者，App上架有一系列稽覈要求，它不光是一個下載的渠道，同時也有安全稽覈的義務素材。如果是境外軟體，可能沒有人稽覈，手機下載之後，可能帶來病毒或其他資訊安全隱患。
根據《生成式人工智慧服務管理暫行辦法》第七條↓
2025年4月網信辦開展的“清朗·整治AI技術濫用”專項行動明確指出，將重點整治利用生成式人工智慧技術向公眾提供內容服務，但未履行大模型備案或登記程式的違規AI產品素材。
2026年4月10日，《人工智慧擬人化互動服務管理暫行辦法》正式公佈，《辦法》中進一步明確了安全評估和演算法備案的相關要求，同時還對未成年人和老年人使用擬人化互動服務作出了相關規定素材。
