四川
如今的AI生成式內容已經跳過了青澀階段，生成的內容已經到了需要反復辨別真假的地步。
因為用得好的話確實難以分辨，所以目前有不少倫理和造假問題，有人拿AI偽造證件照片，修改照片上的合同條款等等，或是拿AI生成假圖來退貨貪小便宜。
這些對于AI工具本身來說，它是不知道你的最終用途的，隨便敷衍兩句說寫錯字了，或者是想要跟朋友娛樂一下，那AI就是能幫就幫，生成沒有太多限制，除了一些帶有明顯違規的內容。
而在這方面最大膽的就是馬斯克的Grok了，它本身有“越獄”提示詞，可以讓它扮演虛擬機或者其他的角色來繞過一點限制，生成帶有顏色的內容，或者是創建比較清涼的圖片，甚至在一些比較奇怪的提示詞下：生成穿XXXX的圖片。——會生成比比基尼更更清涼的圖片。
（游民星空相關新聞，大致就是這個意思）
這段時間在外網玩得比較歡的就是上面生成各種比基尼的圖片，甚至馬斯克自己也調侃有些圖片怎么會那么好笑。
他自己也是先拿自己進行惡搞。
也有人對此感到冒犯的，就像是女生隨手發個自拍，然后就在評論區看到了自己生成的照片，難免會覺得蝦頭，以后發照片的時候都要猶豫一下。
而且離譜的是什么，在相關新聞報道后這些圖片的產出速度更快了，每小時就有6700張，Grok加班加點手搓“脫衣”圖了屬于是。
不過在這里是有底線的，如果是與兒童相關的內容，會直接被系統阻止。
但是Grok本身奔放的行為終于迎來了大家的共同抵制，最近的新聞是美國 28 個組織聯名致信蘋果、谷歌要求下架 X 和 Grok，如果向馬斯克抵制沒有用，那就讓第三方來制裁一下。
聯名信給出的理由是：
蘋果和谷歌不僅放任非自愿私密影像和兒童XXX內容的傳播，還在商業層面從中獲益，并要求蘋果方面立即采取行動，防止進一步的違法和濫用行為。
這下算是打到七寸的真實傷害，畢竟要是從源頭掐斷這兩個巨大的流量入口，Grok就更加打不過Gemini和chatGPT，于是Grok瞬間清醒了，光速滑跪表示有事好商量，然后就發了個聲明，表示：
對現實人物圖像進行編輯，尤其是涉及比基尼等暴露服裝的內容——限制將覆蓋所有用戶，不區分是否為付費訂閱者。
之前還說ChatGPT也要搞一個成人模式來吸引流量，現在有這些事之后，可能也得掂量掂量了。
而對于其中關于兒童相關的內容，馬斯克發表聲明說沒有，一張都沒有。并且邀請大家向他展示限制級的內容（除了上身以外）。
AI發展到現在，這類問題不是某個國家會遇到的，國內這幾天也有AI內容生成監管不力的典型案例，有的平臺有問題然后正在打官司中。
另外AI的出現賦予了使用者“音量增幅”的力量，可以基于立場和用途來發表出更具有迷惑性的內容，讓不明所以的觀看者產生判斷偏差和情緒波動，在國際新聞上就有不少用AI生成內容的博主，用了AI會產出速度更快，量更多。
以后只要設定一個立場，你甚至沒有情感波動也能產出情緒感染力比較強的內容，創作本身的門檻被降低后，推薦流里的內容質量更加會被稀釋。作者用AI生成內容，讀者用AI總結，甚至現在有些噴人的話都是用AI生成的。
再結合一些國家不讓十五六歲的未成年人使用社交媒體來看，那整件事就更有趣了，這些國家不讓青少年訪問社交媒體，那是認為年輕人在這些平臺上接觸的內容是弊大于利，以至于達到了要立法監管的地步。
在可預見的未來里，隨著AI的加入與信息價值的稀釋，總體的網絡環境會變得更加不可控。我們所處的環境對網絡的管理也會一步一步加強，對于違規信息的管控，對于在公共場合的言論傳播等等，以及使用AI的規范等等。
以后網絡信息本身的獲取就像是水一樣，或許隨處可見，但是有些是臭的，入眼是大量AI灌出的海水，不能飲用的，想要清澈的可飲用水源，就得花錢。
把時間放寬一點來說，以后這類新聞會越來越多，用來搞顏色抵制一下，用來戰爭抵制一下，在人形機器人解除限制時抵制一下，話說這還是相對正經大廠推出的模型，要是哪天某些成人廠商整個大模型出來，那畫面就太美了。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
