852話炎上事件:AI 時代的道德難題

Advertisement

在 AI 算圖領域相當活躍的日本推主852話,一直以來都積極分享 Midjourney / Stable Diffusion / Nijijourney 的最新發展,後來開始承接商業委託。

他最近錄製了「少年風格」的 RVC* 語音檔,放到 booth 上面銷售,稱其為正太(ショタ)語音同時附上了一張小男孩的圖片(如圖)。

note(ノート)

現在Twitterを始めとして、自分がbooth販売したRVCデータについてのデマが横行しております。 そちらのデマ訂…

之後有其他的 Youtuber 及網站聲稱 852 話及其家族:「誘騙小學生外甥錄製語音,沒有獲得許可就將訓練資料以高價販售,同時也鼓勵大家用在兒童色情應用上。」

在那之後雖然 852 話不斷發表新的推文澄清絕無此事,更強調錄音者其實是自己,根本沒有所謂的外甥與正太。

但風波不但沒有平息下來,甚至開始引起其他人的不滿。

「如果是你錄製的,那麼 booth 上面說是變聲期以前小學生正太的聲音是虛假的囉?」

隨著事態發展,也開始有外國人開始參與譴責,認為將男童的聲音標記為 Shota 是不道德的。

關於此事的真相,我們無從得知。

只是在這個語音、照片、影片都可以任意變造、合成、擴寫、訓練、模擬、重現的年代,對於自身資料的保護,以及對他人資料的使用都要更加慎重才行。

多年前在從事生物辨識相關工作時,有許多客戶會問:「啊~這樣子刷臉那我的個資會不會外洩?我的指紋會不會被拿去做壞事?」

在現今的年代,問題似乎變得更為複雜與嚴重了。

* RVC 可以讓使用者將一個人的聲音樣本複製並轉移到另一個人身上,並可實現即時語音轉換。(Mnya.tw)

 

 點一下追蹤 IG 與吹著魔笛的浮士德粉絲團 🙏

追蹤 Instagram👍https://lihi3.cc/vlzV5

↓追蹤 Facebook 專頁↓

廣告內容