財聯社2月12日訊（編輯 劉蕊）在谷歌最新推出的聊天機器人(300024)Bard意外“翻車”并導致股價大跌后，美東時間周六，該公司搜索引擎高管在接受媒體采訪時表示，要警惕聊天機器人中人工智能的陷阱。

谷歌高官警告：AI有時會產生錯覺

谷歌高級副總裁兼谷歌Search負責人普拉巴卡爾?拉加萬（Prabhakar Raghavan）在接受采訪時表示：

“我們現在談論的這種人工智能，有時會導致出現某種我們所謂的錯覺（hallucination）……機器會以一種令人信服但完全編造的方式來表達自己。”

他補充說，目前人工智能行業的基本任務之一，就是將這種情況控制在最低限度。

谷歌推出的聊天機器人Bard上周的意外“翻車”，或許正是拉加萬所說的“錯覺”的最佳體現。

自去年11月以來，初創公司OpenAI開發的人工智能聊天機器人ChatGPT一經推出便爆紅全球，并帶動一眾人工智能概念股大漲。

或許是為了趕上這股熱潮，谷歌公司也在上周三舉辦“Google presents : Live from Paris””大會，以展現其開發的與ChatGPT對標的競品――人工智能聊天機器人Bard。

然而在展示會上，Bard卻意外“翻車”：在回答“如何向9歲小孩介紹詹姆斯?韋伯空間望遠鏡成果”時，提到該望遠鏡拍攝到首張地球外行星的照片，但這一成就實際上是智利甚大望遠鏡在2004年達成的。

由于在演示視頻中Bard展現了錯誤信息，谷歌股價當天直線下跌超7%，創下去年10月26日以來最大日跌幅，谷歌市值也在一夜之間蒸發了1000億美元。

聊天機器人的通病

事實上，“無法保證信息準確性”可能是當前聊天機器人普遍的弊端，哪怕是備受熱捧的ChatGPT也不能幸免。

最近在社交媒體平臺上，已經有不少人抱怨ChatGPT有時會犯一些明顯的錯誤，比如無法解決簡單的數學方程式或邏輯問題。

就連蘋果聯合創始人Steve Wozniak也警告稱，雖然ChatGPT表現令人印象深刻，但“它也會因為不了解人性而犯下可怕的錯誤”。

在“翻車”導致市值大跌后，谷歌公司已經聲稱，仍在對Bard進行用戶測試，尚未表明該款應用程序何時上市。

“我們顯然感到了緊迫性，但我們也感到了巨大的責任，”拉加萬說，“我們當然不想誤導公眾。”

標簽：