巴毛律師表示，她在網路上看見有人涉嫌詐騙、一審遭判一年十月，全案目前進入二審，但想求緩刑的被告卻沒認真請律師，反而是去找ChatGpt討論訴訟策略，而AI給的建議竟是要其請求法官給予緩刑，並連署網友證明他是好人、對社會有幫助。
不僅如此，當巴毛律師講法與ChatGPT不同時，對方竟還比較相信ChatGPT，而經實際詢問ChatGPT法律問題後，她發現AI即便會回答得頭頭是道，但仔細看很多內容根本都是錯的，且甚至還會自己捏造不存在的法條和判決，「拜託有法律問題還是諮詢律師，就算你的ChatGpt有付費也一樣！」
文章一出後，網友也感嘆：「Chatgpt的特色就是一本正經的胡說八道」、「不是只要是AI就什麼都會了好嗎」、「這種會去問AI的應該也不會去買付費服務」、「原來律師也有被AI取代的危機」、「這種事，還是要找專業」、「網友連署有用，柯文哲早就出來了」、「我跟GPT反應他法條錯了，GPT還硬拗，真的是AI無誤。」
此外，另有人認為：「基本上AI都是從蒐集的資料中去拼湊答案的，所以不僅有可能會引用錯誤敘述，還常常出現玩梗辨識不出來、污染答案的結果。而最糟糕還是就算實際上應該是資訊不足無法回答，很是常常煞有其事的捏個沒有根據的答案出來。」