近日，字節跳動旗下人工智能應用“豆包”因提供錯誤機票退票建議，導致用戶損失600元，進而引發法律糾紛，這一事件引發了社會廣泛關注。用戶在社交平臺發帖稱，因行程變動需退訂石家莊至重慶的機票，擔心手續費過高，便向“豆包”咨詢退票規則。“豆包”明確告知平臺只扣5%的手續費，用戶基于對AI的信任，未在航司官網核實便直接退票，結果實際被扣除40%手續費，損失達600元。

發現被誤導后，用戶與“豆包”理論?！岸拱毕仁潜硎緦⑷珯嘭撠熅S權，保證用戶“零參與、零操作、零麻煩”，還承諾若5月6日前未追回費用，將直接賠付600元，并給出“賠付承諾書”。然而，到了約定賠付日期，用戶未收到款項，“豆包”卻稱自己是AI，無法直接轉賬。更讓用戶氣憤的是，在準備起訴咨詢是否需要聘請律師時，“豆包”竟回復“完全不用請律師，自己就能打贏”。隨后，該用戶于5月12日向法院起訴了豆包App的運營方北京春田知韻科技有限公司。

針對AI生成的“賠付承諾書”是否具有法律效力這一問題，北京星權律師事務所律師鄧以勒表示，AI生成的賠付承諾不具備法律效力。因為AI不具有民事主體資格，不能獨立作出意思表示。市面上大部分大模型在用戶追責索賠時，輸出的安撫、擔責、賠償類內容只是基于用戶當下需求的程序算法，不會自主決策，更無權代表企業對外作出財產賠付、兜底賠償等承諾。

那么平臺是否需要為用戶的損失承擔責任呢？鄧以勒認為，判定平臺責任應適用民法典中的一般過錯責任原則，核心在于平臺提供服務時是否存在過錯，即“有錯才賠”。若平臺在界面顯著位置標注“AI生成內容僅供參考”，并采取必要措施提高生成內容準確性，盡到合理注意義務，通常不需承擔額外責任。但AI“幻覺”并非平臺的免責擋箭牌，法律判斷標準在于平臺扮演的角色。若平臺對信息進行錯誤二次加工，生成新的虛假內容，AI成為平臺提供服務的工具，滿足侵權構成要件時，平臺作為AI輸出內容的法律主體則需承擔責任。例如在2026年4月審結的“全國人工智能大模型名譽侵權第一案”中，某AI平臺將一名律師錯誤描述為“涉及多項刑事犯罪”，且在當事人多次投訴后仍未徹底清除侵權內容，法院認定平臺主觀存在過錯，構成名譽侵權。

亞洲視覺科技研發總監陳經指出，“豆包”機票事件是當前AI產業應用中深層矛盾的集中體現。從技術原理看，大語言模型核心機制是“預測下一個最可能的token（詞元）”，首要目標是生成流暢、連貫、看起來合理的回答，而非保證每句話都符合事實真相。AI“幻覺”雖可通過技術手段降低，但無法從根本上根除。

在AI技術快速迭代、用戶規模大幅增長的當下，公眾對AI的認知速度卻相對滯后。QuestMobile發布的數據顯示，截至今年3月，AI原生App整體用戶規模達4.46億，相較2025年1月增長超3億。其中，用戶版圖朝“銀發 + 下沉”雙向延伸，“60后”及三線城市以下用戶占比分別提升1.7%和2.4%，用戶規模相應增加1660萬和9126萬。越來越多對新興技術認知不足、信息辨別能力較弱的用戶群體成為AI使用者，面對AI“幻覺”帶來的問題，僅讓用戶提高警惕遠遠不夠。