← 所有專案

CASE 02 ・ 研究開發|IEEE GCCE 2024

VR × ChatGPT
AI 語音助理

規劃語音對話流程,讓 VR 裡的角色可以即時和使用者對話,協助腦力激盪,並在日本 IEEE GCCE 2024 國際研討會以英文發表。

期間2024
角色系統設計、開發整合、英文發表
發表IEEE GCCE 2024(日本)
工具Unity、Whisper、ChatGPT 4o、Amazon Polly
完成一個能在 VR 中即時語音對話的 AI NPC 系統
成果論文於 IEEE GCCE 2024 以英文發表,收錄於 IEEE Xplore
做法規劃語音對話流程(語音辨識 → ChatGPT → 語音合成),並設計總結與提供來源的互動
操作影片 → 論文連結 →
VR 場景中與 AI NPC 對話的操作畫面
VR 操作畫面|按鈕輸入語音、請 NPC 總結重點、提供參考來源

TIMELINE時間軸

階段 1

定義問題

傳統腦力激盪受限於參與者既有的知識,討論容易停滯,想用 AI NPC 當協作助手。

階段 2

設計系統架構

規劃語音輸入 → 轉文字 → AI 回應 → 語音回饋的流程,決定每一段要用的服務。

階段 3

Unity 整合與互動設計

在 VR 場景中串起整條流程,並加入總結重點、提供來源兩個按鈕。

發表

IEEE GCCE 2024

整理成論文,在日本國際研討會以英文上台報告並回答提問。

PROBLEMS遇到的問題與解法

在 VR 裡打字很不方便

問題戴著頭盔很難用鍵盤輸入,如果只能打字跟 AI 對話,腦力激盪的節奏會一直被打斷。
解法改成語音互動,VR 收音 → Whisper 轉文字 → ChatGPT 4o 產生回應 → Amazon Polly 轉成語音回饋,對話內容同時寫入資料庫保存。
結果使用者用說的就能和 NPC 討論,不用離開 VR 場景。
語音對話系統架構圖
系統架構|語音辨識 → ChatGPT 4o → 語音合成,形成即時對話迴圈

對話越長,想法越難整理

問題AI 一次會給很多點子,討論久了,使用者反而很難掌握重點。
解法設計「總結重點」「提供參考來源」兩個按鈕,需要的時候一鍵整理。
結果降低使用者組織想法的負擔,讓討論可以繼續往下走。

RESULT結果

完成可即時語音對話的 VR AI NPC,並在 IEEE GCCE 2024 以英文發表。

IEEE GCCE 2024 發表現場
IEEE GCCE 2024 發表現場

這個專案讓我練習規劃語音對話流程,也第一次在國際研討會用英文說明系統架構。