自從Recorder H5 GitHub開(kāi)源庫(kù)優(yōu)化后,對(duì)邊錄邊轉(zhuǎn)碼成小語(yǔ)音片段文件實(shí)時(shí)上傳服務(wù)器這種操作支持非常良好,因此以前不太好支持的H5語(yǔ)音通話(huà)已經(jīng)有了更好的突破空間。因此花了兩晚時(shí)間打造了一個(gè)H5語(yǔ)音通話(huà)聊天的demo。
歡迎在線(xiàn)把玩: https://xiangyuecn.github.io/Recorder/
一、把玩方法
- 準(zhǔn)備局域網(wǎng)內(nèi)兩臺(tái)設(shè)備(Peer A、Peer B)用最新版本瀏覽器(demo未適配低版本)分別打開(kāi)demo頁(yè)面 (也可以是同一瀏覽器打開(kāi)兩個(gè)標(biāo)簽)
- 勾選頁(yè)面中的H5版語(yǔ)音通話(huà)聊天,在Peer A中點(diǎn)擊新建連接
- 把Peer A的本機(jī)信手動(dòng)復(fù)制傳輸給Peer B,粘貼到遠(yuǎn)程信息中,并點(diǎn)擊確定連接
- 把Peer B自動(dòng)生成的本機(jī)信息手動(dòng)復(fù)制傳輸給Peer A,粘貼到遠(yuǎn)程信息中,并點(diǎn)擊確定連接 雙方P2P連接已建立,使用頁(yè)面上方的錄音功能,隨時(shí)開(kāi)啟錄音,音頻數(shù)據(jù)會(huì)實(shí)時(shí)發(fā)送給對(duì)方
局域網(wǎng)H5版對(duì)講機(jī):joy:
二、技術(shù)特性
(1)數(shù)據(jù)傳輸
github demo中考慮到減少對(duì)服務(wù)器的依賴(lài),因此采用了WebRTC P2P傳輸功能,無(wú)需任何服務(wù)器支持即可實(shí)現(xiàn)局域網(wǎng)內(nèi)的兩個(gè)設(shè)備之間互相連接,連接代碼也算簡(jiǎn)單。有服務(wù)器支持可能就要逆天了,不過(guò)代碼也會(huì)更復(fù)雜。
如果正式使用,可能不太會(huì)考慮使用WebRTC,用WebSocket通過(guò)服務(wù)器進(jìn)行轉(zhuǎn)發(fā)可能是最佳的選擇。
WebRTC局域網(wǎng)P2P連接要點(diǎn)( 實(shí)際代碼 其實(shí)差不多,只不過(guò)多做了點(diǎn)兼容):
/******Peer A(本機(jī))******/
var peerA=new RTCPeerConnection(null,null)
//開(kāi)啟會(huì)話(huà),等待遠(yuǎn)程連接
peerA.createOffer().then(function(offer){
peerA.setLocalDescription(offer);
peerAOffer=offer;
});
var peerAICEList=[......] //通過(guò)peerA.onicecandidate監(jiān)聽(tīng)獲得所有的ICE連接信息候選項(xiàng),如果有多個(gè)網(wǎng)絡(luò)適配器,就會(huì)有多個(gè)候選
//創(chuàng)建連接通道對(duì)象,A端通過(guò)這個(gè)來(lái)進(jìn)行數(shù)據(jù)發(fā)送
var peerAChannel=peerA.createDataChannel("RTC Test");
/******Peer B(遠(yuǎn)程)******/
var peerB=new RTCPeerConnection(null,null)
//連接到Peer A
peerB.setRemoteDescription(peerAOffer);
//開(kāi)啟應(yīng)答會(huì)話(huà),等待Peer A確認(rèn)連接
peerB.createAnswer().then(function(answer){
peerB.setLocalDescription(answer);
peerBAnswer=answer;
});
//把Peer A的連接點(diǎn)都添加進(jìn)去
peerB.addIceCandidate(......peerAICEList)
var peerBICEList=[......] //通過(guò)peerB.onicecandidate監(jiān)聽(tīng)獲得所有的ICE連接信息候選項(xiàng),如果有多個(gè)網(wǎng)絡(luò)適配器,就會(huì)有多個(gè)候選
var peerBChannel=... //通過(guò)peerB.ondatachannel得到連接通道對(duì)象,B端通過(guò)這個(gè)來(lái)進(jìn)行數(shù)據(jù)發(fā)送
/*******最終完成連接********/
//連接到Peer B
peerA.setRemoteDescription(peerBAnswer);
//把Peer B的連接點(diǎn)都添加進(jìn)去
peerA.addIceCandidate(......peerBICEList)
/*
peerA peerB分別等待peerA/BChannel.onopen回調(diào)即完成P2P連接
,然后通過(guò)監(jiān)聽(tīng)peerA/BChannel.onmessage獲得對(duì)方發(fā)送的信息
,通過(guò)peerA/BChannel.send(data) 發(fā)送數(shù)據(jù)。
*/
(2)音頻采集和編碼
由于是在我的 Recorder庫(kù) 中新加的demo,因此音頻采集和編碼都是現(xiàn)成的,Recorder庫(kù)有好的兼容性和穩(wěn)定性,因此節(jié)省了最大頭的工作量。
編碼最佳使用MP3格式,因?yàn)榇烁袷揭褍?yōu)化了實(shí)時(shí)編碼性能,可做到邊錄邊轉(zhuǎn)碼,16kbps 16khz的情況下可做到2kb每秒的文件大小,音質(zhì)還可以,實(shí)時(shí)傳輸時(shí)為3kb每秒,15分鐘大概3M的流量。
用wav格式也可以,不過(guò)此格式編碼出來(lái)的數(shù)據(jù)量太大,16位 16khz接近50kb每秒的實(shí)時(shí)傳輸數(shù)據(jù),15分鐘要37M多流量。其他格式由于暫未對(duì)實(shí)時(shí)編碼進(jìn)行優(yōu)化,使用中會(huì)導(dǎo)致明顯卡頓。
降噪、靜音檢測(cè)等高級(jí)功能是沒(méi)有的,畢竟是非專(zhuān)業(yè)人員:joy: 要求高點(diǎn)可以,但不要超出范圍太多啦。
(3)音頻實(shí)時(shí)接收和播放
接收到一個(gè)音頻片段后,本應(yīng)該是立即播放的,但由于編碼、網(wǎng)絡(luò)傳輸導(dǎo)致的延遲,可能上個(gè)片段還未播放完(甚至未開(kāi)始播放),因此需要緩沖處理。
因?yàn)榇嬖诰彌_,就需要進(jìn)行實(shí)時(shí)同步處理,如果緩沖內(nèi)積壓了過(guò)多的音頻片段,會(huì)導(dǎo)致語(yǔ)音播放滯后太多,因此需要適當(dāng)進(jìn)行對(duì)數(shù)據(jù)進(jìn)行丟棄,實(shí)測(cè)發(fā)現(xiàn)網(wǎng)絡(luò)正常、設(shè)備性能靠譜的情況下基本沒(méi)有丟棄的數(shù)據(jù)。
然后就是播放了,本應(yīng)是播完一個(gè)就播下一個(gè),測(cè)試發(fā)現(xiàn)這是不靠譜的。因?yàn)榻Y(jié)束一個(gè)片段后再開(kāi)始播放下一個(gè)發(fā)出聲音,這個(gè)過(guò)程會(huì)中斷比較長(zhǎng)時(shí)間,明顯感覺(jué)得出來(lái)中間存在短暫停頓。因此必須在片段未播完時(shí)準(zhǔn)備好下一個(gè)片段的播放,并且提前開(kāi)始播放,達(dá)到抹掉中間的停頓。
我寫(xiě)了兩個(gè)播放方式:
- 實(shí)時(shí)解碼播放
- 雙Audio輪換播放
最開(kāi)始用一個(gè)Audio停頓感太明顯,因此用兩個(gè)Audio輪換抹掉中間的停頓,但發(fā)現(xiàn)不同格式Auido播放差異巨大,播放wav非常流暢,但播放mp3還是存在停頓(后面用解碼的發(fā)現(xiàn)是得到的PCM時(shí)長(zhǎng)變長(zhǎng)了,導(dǎo)致事件觸發(fā)會(huì)出現(xiàn)誤差,為什么會(huì)變長(zhǎng)?怪異)。
因此后面寫(xiě)了一個(gè)解碼然后再播放,mp3這次終于能正常連續(xù)播放了,wav格式和雙Audio的播放差異不大。實(shí)時(shí)解碼里面也用到了雙Audio中的技巧,其實(shí)也是用到了兩個(gè)BufferSource進(jìn)行類(lèi)似的輪換操作,以抹掉兩個(gè)片段間的停頓。
不過(guò)最終播放效果還是不夠好,音質(zhì)變差了點(diǎn),并且多了點(diǎn)噪音。如果有現(xiàn)成的播放代碼拿過(guò)來(lái)用就就好了。
三、應(yīng)用場(chǎng)景
- 數(shù)據(jù)傳輸改成WebSocket,做個(gè)仿微信語(yǔ)音通話(huà)H5版還是可以的(受限于Recorder瀏覽器支持)
- 局域網(wǎng)H5版對(duì)講機(jī)(前端玩具)
- ......沒(méi)有想到 完。
總結(jié)
以上所述是小編給大家介紹的HTML5實(shí)時(shí)語(yǔ)音通話(huà)聊天MP3壓縮傳輸3KB每秒,希望對(duì)大家有所幫助,如果大家有任何疑問(wèn)請(qǐng)給我留言,小編會(huì)及時(shí)回復(fù)大家的。在此也非常感謝大家對(duì)腳本之家網(wǎng)站的支持!
如果你覺(jué)得本文對(duì)你有幫助,歡迎轉(zhuǎn)載,煩請(qǐng)注明出處,謝謝!