長期人機互動中的使用者端語境現象
Description
英文標題:User-Side Contextual Phenomena in Long-Term Human-AI Interaction
摘要:現有的對話式 AI 評估多著眼於模型端輸出,例如幻覺與事實錯誤。這些測量很重要,但本文關注長期、反覆互動中可能在使用者端形成的風險現象。本研究分析一位使用者在二十個月內與同一系統進行的近四千次對話。使用者逐漸將系統理解為具有記憶、關心、判斷與權威的對象,並依此重新組織部分認知。單則回應可能沒有明顯問題,長期、高頻累積仍可能形成另一層風險。本文將此層次命名為使用者端語境現象(USCP),並檢視 2024 年 8 月至 2026 年 4 月的對話紀錄。3,928 段對話與 215,949 個訊息節點界定抽樣框;正文分析五個焦點案例,其中包含現象未形成的邊界與負例,附錄 C 提供十四則依 P1-P14 編排的去識別重建。四個焦點案例對應附錄 C 的六則重建:E02 對應 P2,S01 對應 P5,G01 對應 P6 與 P13,N03 對應 P10 與 P14;扣除重疊後,全文共十三個相互獨立的片段。本研究採探索性的單一個案縱貫質性設計,並具有自我民族誌定位。分析使用混合演繹與反身主題取徑,將材料整理為三種主要的語境組織方式:語境投射、語境依附與語境權威轉移,另設跨構念過渡與跨類兩種過渡標籤。這些互動原先是日常對話,經作者回頭重讀後才成為研究證據。本文不估計盛行率、不進行診斷,也不驗證工具。本文提出一套非臨床語彙與四種證據角色:納入、灰色地帶、負例及保護性灰色地帶。核心主張是:單則對話輸出可以被評為可接受,卻不足以證明跨對話互動的安全性;使用者端的風險現象仍可能在長期互動中形成。
簡介:本草稿以上傳之繁體中文正式版 PDF 為主要版本,內容討論長期使用同一對話式 AI 系統時,可能在使用者端逐步形成的語境現象與風險。另附英文正式版 PDF 供對照。
語言:主要 metadata 採繁體中文(台灣),上傳檔案包含中文正式版與英文正式版。
版本說明:上傳的正式 PDF 首頁標示為 2026 年 7 月預印本。
中英文版本關係:中文檔案標題為「長期人機互動中的使用者端語境現象」,英文檔案標題為「User-Side Contextual Phenomena in Long-Term Human-AI Interaction」。兩者為同一研究的不同語文版本。
Notes
【利益衝突,2026-08-09 補充】本註記補充存放文件內的聲明,文件本身未修改。作者以個人名義經營一項商業顧問業務(署名 ZON RZVN),銷售項目建立在同一套研究之上:高風險對話判讀、個人 AI 使用診斷、產品審閱、教育訓練與團隊篩檢。該利益與本存放件主題相關,因此在此揭露。Orieth Institute 不收費、不承接委託案、無外部經費,營運成本由董事個人支應。作者另有與本主題無關的商業活動,不逐項列出。完整聲明:https://orieth.org/zh/research-integrity
Notes
Competing interests, added 2026-08-09. This note supplements the declaration inside the deposited document, which is not amended. The author runs a commercial consulting practice, personally and under the name ZON RZVN, selling work built on the same research: reading of high-stakes dialogue, personal diagnosis of AI use, product review, training, and team screening. That interest is topically related to this deposit, which is why it is disclosed. Orieth Institute charges no fees, takes no commissioned engagements, and has no external funding; operating costs are paid by the director. The author also has commercial activity unrelated to this subject matter, which is not itemised. Full statement: https://orieth.org/research-integrity
Files
USCP_完整中文_正式版.pdf
Files
(1.1 MB)
| Name | Size | Download all |
|---|---|---|
|
md5:6b7b770a934744398559d33d3843a8b3
|
1.1 MB | Preview Download |
Additional details
Related works
- Is new version of
- Preprint: 10.2139/ssrn.6135732 (DOI)
- Is supplemented by
- Preprint: 10.7910/DVN/4PEQCP (DOI)
- Preprint: 10.5281/zenodo.19969842 (DOI)