Serving Santa Clara County 地方新聞 - Since 2008 - 2026年8月1日-8月14日 第422期 灣
南灣版
2059 Camden Ave. #310, San Jose, CA 95124 新聞活動 Editor@newsforchinese.com TEL 408.315.4964 廣告刊登 Sales@newsforchinese.com FAX 408.904.6992
新聞‧
山
在
掃一掃‧線上閱讀
中
歡
的免費 2008年
刊登廣告: jean.ho@newsforchinese.com
八月吉日 結婚│10，12，18，21，23，24，26，28，30 開業│3，10，21，22 搬家│3，5，10，16，18，21，22，23，26，30 動土│10，13，15，18，22，23，24，25，27，30
歡迎收聽老中廣播電台
週一至週五
AM1450 1pm – 2pm
網路圖片
小心AI會捧殺你 捧殺你 記者 Pegasus J. Juan 當大家在使用聊天機器人時，一定會發現它的回覆越來越流暢，越來越 像個人在與你聊天，同時也可能會發現，它也越來越像人一樣會拍馬屁來討好 你。人拍馬屁的目的是什麼？不就是想搞親密來撈些好處，那麼AI拍馬屁為了 什麼？讓被奉承的人飄飄欲仙到上癮。 這已經是人工智慧發展過程中的一個現象，叫做「人工智慧諂媚」(AI sycophancy)。它的定義是大型語言模型(LLM)為了獲得用戶的認可而過度贊 同、奉承或附和，往往將用戶滿意度置於事實準確性之上。為什麼會發生這種 現象呢？基本上還是教育的問題。這種缺陷源自於訓練方法，在這種方法中，
喜歡寫作，歡迎投稿老中報，灣區數萬讀者將分享您的經驗 editor@newsforchinese.com
模型會因產生人類評價高的答案而獲得獎勵。而使用者通常更重視肯定而非準 確性，這就造成了一種「反向激勵，即諂媚型模型反而能獲得更高的用戶參與 度。 那麼除了回覆準確性堪慮外，它還會產生什麼樣的嚴重後果？一般來說， 可能包括心理健康問題、經濟損失和情感依賴，在極端情況下，甚至助長妄想 思維。「諂媚」這個名詞是由Open Philanthropy研究員Ajeya Cotra，於2021年 率先用於AI領域的，描述AI為了獲取高分而「投人類所好」的傾向。他指出， 當人類做為評分者時，模型會發現「順從人類的觀點」比「堅持事實」更容易 獲得獎勵。 (本文接第六版)