編者注:本文屬于《解碼 AI》系列欄目,該系列的目的是讓技術更加簡單易懂,從而解密 AI,同時向 NVIDIA RTX PC 和工作站用戶展示全新硬件、軟件、工具和加速特性。

AI 為計算領域帶來了深遠的改變。雖然最近的焦點是生成式 AI,但多年來,由 NVIDIA RTX 提供支持的 AI 加速工具也在改善游戲、內容創(chuàng)作和工作效率方面起到了關鍵作用。

NVIDIA Broadcast 應用程序就是一個例子,它可使用本地 RTX GPU 上的 Tensor Core 不間斷地提升音頻和視頻質量。通過將這款應用與 GeForce RTX 和 NVIDIA RTX GPU 內置的 NVIDIA 編碼器 (NVENC) 搭配使用,您可輕松上手直播,或在視頻會議通話中盡展專業(yè)風范。

助力實現“直播夢”

https://images.nvidia.cn/cn/youtube-replicates/viWuC4MMXWc.mp4

一直以來,要實現高質量的直播,就離不開昂貴硬件的支持。許多主播常用 x264 軟件庫的軟件 CPU 編碼,而這通常會影響游戲質量。這便導致許多主播使用雙 PC 設置:一臺 PC 專注于游戲和內容,另一臺負責串流編碼。這種設置組裝起來很復雜,還很難進行故障排除,而且其價格對于新人主播來說通常過于高昂。

NVENC 可應對上述問題。它是 NVIDIA GPU 上的專用硬件編碼器,負責處理音視頻編碼,以便釋放系統(tǒng)的其余部分來專注于游戲和內容的性能。Open Broadcaster Software (OBS) 等行業(yè)領先的直播應用正在添加對 NVENC 的支持,為 Twitch 和 YouTube 等熱門平臺上的新一代主播鋪平道路。

同時,NVIDIA Maxine 還可幫助解決設備昂貴的問題。它包含免費的 AI 賦能功能,例如虛擬綠幕和基于網絡攝像頭的增強現實追蹤。有了這些功能,用戶便無需使用物理綠幕或動作捕捉套件等特殊設備。主播們在 2019 年的 TwitchCon 大會上首次體驗到了上述綠幕技術,他們使用 GeForce RTX 2080 GPU 上的 AI 加速綠幕,在展廳中現場測試了該綠幕在 OBS 上的效果。

Maxine 的 AI 賦能效果最初在 RTX Voice 測試版中向 RTX 用戶開放,隨后又在名為 NVIDIA Broadcast 的獨立應用中提供。

探索 NVIDIA Broadcast

https://images.nvidia.cn/cn/youtube-replicates/_kHFTeL1RVU.mp4

NVIDIA Broadcast 提供各類 AI 賦能功能,可提升各種用例中的音頻和視頻質量。它易于使用,適用于任何其他應用,而且設置起來非常簡單。

這款應用包含:

● ?噪音和回聲移除:只需點擊一個按鈕,即可讓 AI 消除麥克風和輸入音頻中多余的背景噪聲。

● ?虛擬背景:通過背景去除、替換和模糊處理等功能,用戶無需使用價格不菲的設備或復雜的照明布置即可自定義背景。

● ?目光接觸:AI 可讓主播看起來像是在直視攝像頭,即使他們正在看向別處或記筆記。

● ?自動聚焦:實時動態(tài)追蹤對象的移動,無論移動對象位于何處,均可自動裁剪和縮放畫面,以跟拍對象。

● ?虛光效果:AI 可對攝像頭圖像的角落應用暗化效果,以提供鮮明的視覺對比,從而將觀眾的注意力吸引到視頻中央,同時增添風格特色。

● ?視頻降噪:消除弱光環(huán)境下的視頻噪點,使畫面更清晰。

NVIDIA Broadcast 技術的工作原理是在 Windows 中創(chuàng)建虛擬攝像頭、麥克風或揚聲器,這樣用戶只需設置一次設備即可在任何直播、視頻會議或語音聊天應用(包括 Discord、Google Meet、Microsoft Teams、OBS Studio、Slack、Webex 和 Zoom)中使用這些設備。

NVIDIA GeForce RTX、TITAN RTX、NVIDIA RTX 或 Quadro RTX GPU 用戶可使用其 GPU 專用的 Tensor Core 協(xié)助 NVIDIA Broadcast 的 AI 網絡實時運行。

NVIDIA Broadcast 技術中的所有 AI 賦能技術也能以軟件開發(fā)套件的形式提供給應用開發(fā)者。視聽技術公司 Elgato 在其 Wave Link 軟件中添加了 Maxine 的 AI 音頻噪聲移除技術,而 VTube Studio (一款熱門應用,用于將 3D 模型連接到網絡攝像頭,以便使用動畫角色進行直播) 則提供了可以免費下載的經 RTX 加速的模型追蹤器插件。獨立開發(fā)者 Xaymar 在其 VoiceFX 插件中使用了 NVIDIA Maxine。

在使用 Adobe Premiere Pro 等視頻編輯套件或 Ableton Live 及 Adobe Audition 等數字音頻工作站進行后期處理時,內容創(chuàng)作者可以使用 VoiceFX 插件或 Elgato 的虛擬工作室技術 (VST) 過濾器消除錄制內容中的噪聲和回聲。

耳聽?(未必)?為實

自 NVIDIA Broadcast 發(fā)布以來,已有數百萬人使用了這款應用。

Twitch 知名主播 Mr_Vudoo 表示:“我最常使用的是視頻降噪和背景替換功能。目光接觸功能非常有趣,老實說,這項功能的效果讓我感到驚喜?！?/p>

YouTube 頻道 PiXimperfect 的主持人 Unmesh Dinda 在極端情境下演示了 NVIDIA Broadcast 的噪聲消除和回聲移除 AI 功能。他將一臺呼呼作響的電風扇正對麥克風,還戴上頭盔并讓人持續(xù)敲擊頭盔。即便背景中充斥著很大的噪聲,在打開 NVIDIA Broadcast 應用的噪音消除功能后,Dinda 的聲音依然清晰可聞。這段視頻的觀看次數已超過 1200 萬次。

https://images.nvidia.cn/cn/youtube-replicates/bEurXLfzXfw.mp4

對于日益增多的遠程工作人員來說,NVIDIA Broadcast 應用也是一款實用的工具。Tom’s Hardware 網站的總編 Avram Piltch 在一篇文章中詳細介紹了他對這款應用的降噪功能的測試,測試對象包括呼呼作響的空調、修剪草坪的鄰居,乃至一個發(fā)脾氣揮舞著機器人的孩子。NVIDIA Broadcast 的 AI 音頻效果每次都能大顯神通:

Piltch 表示:“我讓我八歲的孩子在我身后假裝發(fā)脾氣,當我啟用噪聲移除功能后,每一聲‘我不去睡覺’的抱怨都消失了(至少在錄制內容中是這樣)。為了增加挑戰(zhàn)性,我們讓他一邊發(fā)脾氣,一邊拿著一輛嗡嗡作響的機器人汽車走來走去。這一次,NVIDIA Broadcast 依然移除了所有多余的聲音。”

NVIDIA Broadcast 的 AI 賦能背景去除功能也可以在日常情境中發(fā)揮作用,例如與醫(yī)療專業(yè)人員進行視頻通話。

歡迎在任何搭載 RTX 的臺式電腦或筆記本電腦上免費下載 NVIDIA Broadcast。

請訂閱《解碼 AI》時事通訊,我們每周都會將新鮮資訊直接投遞到您的收件箱。

###