Loup Ventures的評測主要根據(jù)兩個指標來對每個智能語音助理評分：“它理解被問的問題嗎?”和“它給出了正確的回答嗎?”。這些問題分為五個類別，包括地點(例如:“最近的咖啡店在哪里?”)、商務(wù)(“你能幫我訂購新的紙巾嗎?”)、導(dǎo)航(“我如何坐公交到達市中心?”)、信息和命令。
關(guān)于測試的環(huán)境條件，Siri是運行IOS 11.4系統(tǒng)的iPhone版，Google Assistant是Pixel XL手機版，Alexa是IOS版本，Cortana也是IOS版。至于結(jié)果，在“命令”問題類別中Siri表現(xiàn)最出色，90%的問題都回答正確了，優(yōu)于所有競爭對手。而其他類別，“地點”問題正確率為87%、“導(dǎo)航”類別83%，“信息”類別70%，“商務(wù)交易”僅60%。
其實Siri在“命令”這一問題分類中領(lǐng)先并沒有什么奇怪的，因為IOS是蘋果自家的封閉平臺，通過Siri控制iPhone、智能家居、Apple Music等自然都能完成，而其他第三方app如Cortana和Alexa都有限制。說實話，自家平臺做好是應(yīng)該的，至少確保用戶通過Siri能夠順利控制iPhone或在HomePod上播放音樂，這的確已經(jīng)是很低的要求了。
而除了“命令”類別的問題之外，Google Assistant在所有類別中都有明顯優(yōu)勢，正確率最高。Loup Ventures稱贊谷歌語音搜索的“精選摘要”功能，因為可以通過語音讀取，關(guān)鍵是大多數(shù)情況下給出的都正好是想要的搜索結(jié)果。Alexa和Cortana在測試中表現(xiàn)不佳，畢竟IOS平臺限制了它們在iPhone上的發(fā)揮，基本僅限于app本身，無法達到Siri系統(tǒng)級別的執(zhí)行任務(wù)操作。
總的來說，在800個問題測試中，Google Assistant回答問題正確率達到了85.5%，并且理解所有的問題。Siri的回答正確率為78.5%，有11個明顯錯誤的回答。Alexa回答正確率為61.4%，13個錯誤。而Cortana是最為落后，回答正確率僅為52.4%，錯誤達到19個。
Loup Ventures表示，自2017年4月以來的15個月時間里，Siri回答問題的正確率提高了13個百分點。當(dāng)IOS 12正式推出之后，伴隨著Siri捷徑功能的出世，相信Siri將獲得更多功能上的提升。
