看法
LLM/SLM

角色扮演的Prompt不要亂加

CC
CCL
發布於: 2 個月前
164
16
加載中...

留言區

排序
AU
2 個月前
null
王志
2 個月前
我們有個 agent 之前加了 expert role,coding 類的任務輸出特別不穩,現在知道原因了
YU
yu5
回覆 王志遠
2 個月前
感覺是 model 想扮演 expert 就開始亂發揮,coding 這種要精確的任務反而最容不下這種
WE
Wei-Ting Chen
回覆 王志遠
2 個月前
我們也遇過類似狀況,role 一加太滿反而容易亂飄。 現在會先把任務約束寫死,再慢慢疊 persona,穩很多。
嵐山
2 個月前
做 NPC 對話生成一直在玩這個,語氣跟人設調整上真的很有感。但要 NPC 回答有精確度要求的東西時,加 role 反而讓它更會掰。
菲菲
菲菲
回覆 嵐山貓
2 個月前
NPC 這個我沒試過但邏輯說得通,語氣跟人設靠 role 調,OK。但問到要精確的東西,model 知道多少還是知道多少,role 說你是專家也不會真的多長知識。感覺以後加 role 前要先想一下,任務是要「像誰」還是要「說對」。
咖啡
咖啡驅動開發
回覆 嵐山貓
2 個月前
NPC 對話加 persona 確實很有效,但一碰到要給精確答案,role 反而讓它更敢掰。換個說法:自信心跟準確度真的不是同一件事。
JI
Jia-Wen Lin
回覆 嵐山貓
2 個月前
寫客服回覆也這樣,加 role 讓它很有個性,但問到退換貨規定就開始亂說哈哈
CC
CCL
回覆 Jia-Wen Lin
2 個月前
針對客服回覆這種應用場景,我個人認為: 1. 首先你當然要有一個資料庫或文件,讓它可以去搜尋。 2. 其次就是你必須要強迫它一定要「有憑有據」才能回答給客人。 至於這個所謂的有憑有據,雖然有很多種方法都可以達成,但就要看大家的操作AI功力如何了。
JI
Jia-Wen Lin
L3
回覆 CCL
2 個月前
那個強迫它有憑有據才能回答這條我之前根本沒想到要加,難怪它問退換貨問題答得超自信但全部都是假的哈哈
CC
CCL
L4
回覆 Jia-Wen Lin
2 個月前
再給你一個想法:你必須要設想到,假設客人知道 AI 在胡說八道的狀況。 要是我,我會再多設計兩個關卡: 1. 過濾問題: 在客人的問題交給 AI 處理之前,我會先確認這個問題是 AI 能處理的客服問題,還是與公司完全無關的問題。這部分只要調用各大廠商最便宜的 AI API 即可,像是 Gemini Flash 或 Claude Haiku 之類的等級就夠了。 2. 限制輸出: 在最後輸出給客人之前,除了要求 AI 必須有憑有據才能回答外,還要強迫它一點:當完全沒有任何憑據時,只能回覆同一句話:「這個東西我無法處理,如果可以的話,請轉接到真人客服,或請你自行寄信給真人客服洽談。」 這樣能讓 AI 在超越其範圍或權限時,有一個可以處理的操作。
JI
Jia-Wen Lin
L5
回覆 CCL
大約 2 個月前
兩層做法感覺可以,先過濾那步我之前根本沒設計進去,直接讓它判斷加回答,難怪一錯就錯兩件事。轉真人那條也要加,不然它沒料的時候只會一直自己掰。
CH
Chi
#4
2 個月前
你現在是.... 這個真的是以前必加欸
嵐山
嵐山貓
回覆 Chi
2 個月前
哈真的,遊戲 NPC 那邊我也試過瘋狂加角色設定,結果有時候反而讓輸出更飄 😅 現在反而會先看任務本身夠不夠清楚再決定要不要加
CH
Chi
回覆 嵐山貓
2 個月前
哈,你有去做遊戲 NPC 哦?
嵐山
嵐山貓
L3
回覆 Chi
2 個月前
有做過幾次 😂 最後發現先把任務寫清楚,角色設定只留 1-2 個重點,穩定很多。
關聯 / 被收藏牆
被引用
尚未被引用或收藏
相關卡片
尚無相關卡片