Structured Output 的問題

我目前正在做的是八字的 AI 報告生成部分，但因為八字在中間計算方面比較複雜，所以目前的做法是把八字的講義濃縮成精華後，附註在 Prompt 裡面讓 AI 自己去閱讀。 目前算出來的效果其實都很好，但唯一的問題在於「身強身弱」的判定。這是一個沒有準確答案的特性，原本以為讓 AI 自己判斷就好，但現在最大的問題在於同一份報告中邏輯不一致：它會在文章前半段說這個人是身強，所以如何如何，後面卻又說因為你身弱，所以怎麼怎麼樣。我目前遇到的狀況是這樣。 至於你問到為什麼要用 Structured Output，原因是我希望一份報告直接輸入一次、輸出也就一次。這樣一來，我所花的 API 時間跟 Input Cost 會降低非常多。尤其在做這類報告時，使用者的預期是雖然報告長達上萬字，但應該在 5 分鐘之內就要產出，為了達到這個預期，就必須使用 Structured Output。 還有一點是，我們的報告是以類似 PowerPoint 轉換成 PDF 的方式生成，所以是一頁一頁的狀況。如果不用 Structured Output，目前我還沒想到其他方法可以精準地切割每一個頁面，並確保每一頁的文字主題都是獨立且不相同的。

我這邊澄清一下，我所謂的 Structured Output 是指一次性的輸出，但在輸出的過程中會產生 Key-Value 對。 以我上面的舉例來說，Structured Output 的結構可能是： 1. Key：第一章、第二章、第三章、第四章 2. Value：需要 AI 生成的每一章節故事內容 如果這只是單一輸出，但我利用 Structured Output 將其拆分成不同的文件，我不確定這到底算不算是同一個輸出。不過我詢問了 Google AI 搜尋以及 Grok，兩者一致認為這屬於同一次輸出。 我覺得你給的第一個方法沒錯，我接下來會嘗試看看。至於第二個方法我也想過，但對我而言，「生成速度」非常重要。如果採用多輪對話的方式，將輸出當作輸入再丟回去重做一次，這樣的運作流程會導致生成最終故事的速度太慢了。