OpenAI的Voice Engine能複製你的聲音，但OpenAI選擇按兵不動。

OpenAI最近推出了一項名為Voice Engine的新型文字轉語音人工智慧模型，用於創建合成語音。然而，OpenAI表示，還沒有準備要發佈這項技術，因為風險過高。

InfoAI智能情報 ｛ 觀點 }

OpenAI的Voice Engine是一項創新的人工智慧技術，能夠根據短短15秒的語音樣本創建高度逼真的合成語音。這項技術展示了人工智慧在語音合成領域的驚人進步，不僅能夠創造出新的語音，還能模仿現有的聲音，這無疑打開了一系列潛在的應用領域，但同時也帶來了不少風險。

根據外媒的報導，一旦聲音被複製，用戶可以將文本輸入到Voice Engine中，並獲得AI生成的語音結果。但OpenAI還沒準備要發佈這項技術。OpenAI最初計劃在3月初啟動一個給開發者試用Voice Engine API的計劃。但在評估可能對社會倫理所產生的後，該公司決定縮小其野心。

OpenAI表示，考慮到AI安全和對社會的承諾，目前選擇有限的預覽而非廣泛發布這項技術。OpenAI希望Voice Engine的預覽不僅展示其潛力，也能激發社會增強對抗因越來越逼真的生成模型而所帶來挑戰的抵抗韌性。

OpenAI提出了三項建議，認為社會應如何改變以適應其技術。這些步驟包括逐步淘汰基於語音的銀行帳戶認證、教育公眾理解「欺騙性AI內容的可能性」，以及加速開發能追踪音頻內容來源的技術，確保人們清楚自己是在與真人還是AI互動。

此外，OpenAI表示，未來的語音複製技術應要求驗證原始說話者「知情地將其聲音添加到服務中」，並創建一個禁止複製的聲音清單，例如：「與名人過於相似」的聲音，這種篩選技術可能最終排除那些聲音與社會名人過於接近的聲音。

存在的風險與可能的應用領域

可以想像的是，OpenAI的這項技術，應用領域廣泛，可以從提供閱讀輔助、幫助創作者跨越語言障礙、支援無法說話的人士獲得個性化語音選項，到協助失去語音能力的患者恢復自己的聲音。這些都是Voice Engine技術可以應用之處。但是，對於這種先進技術的被濫用擔憂，也是社會大眾應先暸解並有所警覺的，比如，可能會發生「模仿他人聲音進行詐騙」、「冒充他人發佈不當言論」、「提供虛假的錄音證據」，或是冒充本人以獲取敏感資訊。

當下OpenAI選擇先展示這項技術但暫不廣泛發布，這反映出該公司對於AI技術倫理和社會影響的深思熟慮。這種做法顯示出OpenAI在推動技術創新的同時，也在積極探索如何平衡創新與社會責任，以確保技術的發展能夠對社會帶來正面而非負面的影響。

總體來說，OpenAI的這一策略彰顯了對人工智慧技術潛在影響的深思熟慮，體現了一種同時對先進技術和社會責任兼顧的負責任態度，這種做法值得在AI領域中快速發展的企業學習和借鑒。

InfoAI智能情報

www.InfoAI.com.tw 

Pitch提案成功：專做投資人想看的募資簡報

www.pitch.com.tw

金商機 精選報告：獲得市場數據洞察商機，省時省力省錢方法

www.InfoGold.World