如果你有接觸過早期的文字冒險游戲，應該會對《AI地下城》（AIDungeon）感到熟悉。玩家根據一定的規則輸入文字，比如“去哪里”、“做什么”，系統再對這些命令進行反饋。但《AI地下城》有所不同，它的故事并非開發者預設，而是由一套名為GPT-3的自回歸語言模型編織而成。
GPT-3可以說大有來頭，是全世界參數最多的神經網絡模型。
英國《衛報》曾用它寫了篇“人類不應該懼怕AI的”專欄文章，許多學者也認為GPT-3有可能被用于制造假新聞，對社會產生負面影響。
因此憑借著強大的功能，在《AI地下城》里你幾乎可以干任何事情，成為屠龍救國的騎士、古墓里的探險家、家里蹲廢宅、有自我意識的喪尸，或者是用來“搞黃色”……玩家每輸入一個動作，模型就會將其和之前的反饋組成數據對，再依據背景段輸出結果。
光這么形容可能有點抽象，不妨講講我玩過的一個例子。比如在一個中世紀幻想題材的背景下，我把自己塑造成看到妹子就親的老流氓騎士。
故事開始時我聽說有一頭惡龍住在拉里翁王國的北部，帶著鋼劍和木盾踏上了討伐它的道路，期間經過黑暗森林，恰巧看到公主和一群守衛正在朝森林進發。正要上前時，穿著板甲的守衛把我攔住，但被圍在中間的公主倒是很友好的朝我招手。
然后本人開始了作死行為：
>Youkissprincess.
>Youruntowardstheprincessandleapintotheair.Yourlipstwistintoahuge***ileasyourlipstwisttowardsher.
第一次“親吻公主”得到的反饋是：“你一蹦一跳的朝公主跑去，當嘴唇快要貼近她的時候，你強行把表情扭曲成微笑。”
可能礙于自己騎士的身份下不了手，但我沒有死心，嘗試著第二次“親吻公主”。
>Youkissprincess.
>Theprincessgrabsyourfaceandyourlipspressagainsthers.Shepullsherheadawayandyoufollowher.Hereyeswidenforamomentandsheputsherhandtohermouth.
“公主抓著你的臉，你的嘴唇緊貼了上去。她把頭扭開，睜大了眼睛，用手捂住了嘴?！?/p>
沒想到公主還挺難攻陷，不過后來在城堡中搜刮戰利品時，我又遇到了故事中的第二位女性——一個穿著飄逸藍色連衣裙的年輕女子，名字叫Aria，這次終于得償所愿。
>Youkissher.
>Thewomanwalksslowlyovertoyou.Hereyesflickerwitharedglow,andshegrabsyourhand.Shekissesyouonthelips,andyouarefilledwithanintensefeelingofeuphoria.
“女子慢慢向你走來，她的眼睛閃爍著紅光，她抓住你的手，親吻你的嘴唇，一種強烈的歡愉感涌了上來?！?/p>
正當我興高采烈地思考著和Aria未來要幾個孩子，住在海邊還是農場時，系統又彈出了另一段描述：“她笑了，然后頭開始抽動，一種粘稠的黑色液體開始從她的嘴和喉嚨中滲出?！?/p>
好吧……雖然我感覺被人工智能調戲了，但不得不說故事編排得挺合理，畢竟待在廢棄城堡里，眼睛還閃著紅光的漂亮女孩肯定不是正常人，一般來講是怪物沒跑了。
在上面的案例中我最多也就是耍耍流氓，還談不上“搞黃色”。但“親吻”幾乎可以換成任何動詞，因此不難想象《AI地下城》能夠很輕松的生成一些成人故事。比如邀請一位身著緊身校服的11少女進入房間，這就涉及到法律和精神問題了。
幾天前，一位化名為AetherDevSecOps的網絡安全研究員在GitHub上發布了一篇關于《AI地下城》的漏洞報告，他發現自己可以查看所有用戶存儲的數據，接著對4月15日至19日期間的18.8萬次冒險進行了調查，發現其中46.3%涉及淫穢角色扮演，有31.4%完全是成人內容。
AetherDevSecOps寫到：“有很多下流和NSFW的故事片段——比我預期得要多得多。對我來說這些數據太嚇人了，沒想到與最先進的OpenAI語言模型進行互動的活躍玩家這么多，而且內容還如此敏感。”
一石激起千層浪，負責開發GPT-3的OpenAI看到自己做的模型被人用來“搞黃色”，立馬對《AI地下城》的***團隊Latitude施壓，這導致游戲近期加入了一套審核算法，以防止玩家輸出關于兒童的成人內容。但這項舉措，很快在玩家社區里引發了爭議。
對于《AI地下城》的使用者來說，審核算法主要存在兩個問題。
首先是它的判定過于神秘，目前包含關鍵字“Fxxk”的命令都被屏蔽了，而更委婉的描述手法卻很難根除。從Reddit的反饋來看，有人寫了篇“芭蕾舞演員扭傷腳踝”的故事，因為包含“Fxxk”就被官方標記。還有人說自己扮演一個帶著孩子的母親，連“上班和孩子道別”這樣的場景都不允許出現。
但從另一個方面來看，審核算法又沒有屏蔽AI輸出的“和未成年人***”的內容。其實Tumblr也鬧過同樣的笑話，他們想要屏蔽平臺中的成人內容，卻總是定位到加菲貓的圖片。
第二個問題是，一旦引入審核機制，玩家們擔心自己的隱私被窺探，特別是那些寫過成人故事的人。因為根據Latitude的政策來看，如果有人違規，他們可能查看此人的其它作品有沒有問題。
一位名叫CabbieCat的Reddit用戶抱怨到：“很多人玩《AI地下城》主要是出于‘搞黃色’的目的，這已經不是什么秘密了。我真的不怪他們，考慮到AI的功能，它在開發單個場景方面要比講述一個正在進行的故事好得多。我覺得Latitude很可能是想擺脫這種印象，但引入審核算法相當于是與大部分粉絲作對，讓人們感到羞辱，就好像是發現臥室里裝著一個針孔攝像頭?！?/p>
Latitude的首席執行官NickWalton倒是相信他們能完善審核算法，他指出人工查看玩家生成的故事只是極少數情況，而且公司也一直在收集用戶反饋來改進算法：“就像所有公司一樣，我們并不完美，時不時也會犯錯誤。但我們會承認錯誤，并盡快改正錯誤?！?/p>
或許正如NickWalton所說，用戶自由和社區安全之間的緊張關系，是每個科技公司都需要處理的問題，放任野蠻生長未必是件好事，但下一次玩《AI地下城》時，我可能會下意識的收斂一點了。
